KI in Geschäftsprozessen: Chancen, Risiken und Verantwortung

Intro

Suzanne van der Cruysse: Willkommen zum DMS-Podcast.

Suzanne van der Cruysse: Der Podcast für Geschäftsführung, Digitalisierung und DMS-Strategie.

Suzanne van der Cruysse: Heute widmen wir uns einem Thema, das gleichermaßen Hoffnung und Skepsis weckt: Wo hilft künstliche Intelligenz in Geschäftsprozessen wirklich – und wo setzt sie Unternehmen unkalkulierbaren Risiken aus?

Markus Höllriegel: Guten Tag, mein Name ist Markus Höllriegel.

Markus Höllriegel: Ich freue mich, dass ich heute wieder mal Rebecca Lanz als Gesprächspartnerin habe.

Rebecca Lanz: Grüß Dich Markus und ein herzliches hallo an Sie, wo immer Sie uns auch zuhören.

Rebecca Lanz: Wir sprechen heute über KI – und zwar nicht in der Sprache der KI-Blase in den sozialen Medien, sondern so, wie Führungskräfte im Mittelstand sie erleben: zwischen Erwartungen, Pflichten und konkreten Ergebnissen.

Rebecca Lanz: Und, nachdem KI sehr vielfältig eingesetzt werden kann, beschränken wir uns den Einsatz von KI im Zusammenhang mit Dokumenten.

Markus Höllriegel: Vorab einige Klarstellungen:

Markus Höllriegel: Das Problem in diesem Kontext liegt darin, dass KI wie z.B. ChatGPT nicht denkt und auch nichts versteht.

Markus Höllriegel: Was sie liefert, sind statistische Wahrscheinlichkeiten.

Markus Höllriegel: Das bedeutet: Wenn Lücken im Ergebnis entstehen, komplettiert sie mit frei erfundenen Inhalten, die plausibel wirken, aber nicht unbedingt zutreffen.

Rebecca Lanz: Für diese Phänomene bzw. Confabulationen hat sich der Begriff Halluzinationen etabliert.

Rebecca Lanz: Im kreativen Schreiben mag das durchaus einen Unterhaltungswert haben.

Rebecca Lanz: Im Geschäftsleben ist es untragbar.

Risiko-Vertragsprüfung

Markus Höllriegel: Ein Beispiel aus der Praxis: Ein Maschinenbauunternehmen will Vertragsprüfungen mit einer frei zugänglichen KI beschleunigen.

Markus Höllriegel: Die Idee ist verlockend – Dokument hochladen, Anweisung, das heißt einen Prompt, schreiben und es gibt eine Entscheidungshilfe fast auf Knopfdruck.

Markus Höllriegel: Doch das bedeutet zugleich: sensible Verträge in eine unkontrollierte Cloud laden.

Rebecca Lanz: Damit sind nicht nur Geschäftsgeheimnisse in Gefahr, es ist gegebenenfalls auch ein Verstoß gegen die DSGVO.

Rebecca Lanz: Und schlimmer noch: Die Ergebnisse der KI sind nicht überprüfbar oder nur mit dem Überprüfen der Quellen, sofern diese angegeben werden.

Rebecca Lanz: Der Aufwand dafür ist aber meistens größer, als wenn man gleich eine andere Methode zur Überprüfung von Vertragsrisiken eingesetzt hätte.

Markus Höllriegel: Am Ende stehen die Verantwortlichen mit einer doppelten Unsicherheit da: rechtlich angreifbar und fachlich im Unklaren.

Markus Höllriegel: Das macht also keinen Sinn.

Rebecca Lanz: Denn zurück bleiben verlorene Wochen und die Erkenntnis: Ohne klare Leitplanken führt der Einsatz von KI schnell in eine Sackgasse.

Motivation und HR-Beispiel

Markus Höllriegel: Warum aber greifen Unternehmen überhaupt zu solchen Mitteln?

Rebecca Lanz: Weil der Druck hoch ist.

Rebecca Lanz: Im Einkauf, im Personalwesen, in der Buchhaltung – überall entstehen täglich große Mengen an Dokumenten.

Markus Höllriegel: Die Vorstellung, all das ließe sich mit einer intelligenten Maschine schneller und fehlerfreier bearbeiten, ist naheliegend.

Rebecca Lanz: Sie ist ja auch nicht falsch.

Rebecca Lanz: Nur braucht es die richtige Form von Intelligenz – eine, die berechenbar bleibt und bei der die Inhalte geschützt vor unautorisiertem Zugriff sind.

Markus Höllriegel: Nehmen wir den Personalbereich.

Markus Höllriegel: Bewerbungen, Arbeitsverträge, Krankmeldungen: Alles muss korrekt zugeordnet, fristgerecht bearbeitet und sicher archiviert werden.

Rebecca Lanz: Für HR-Teams bedeutet das eine Flut an Routineaufgaben.

Rebecca Lanz: Ein Dokumentenerkennungssystem kann diese Routinearbeit erheblich erleichtern, indem es die Unterlagen automatisch erkennt und verschlagwortet.

Rebecca Lanz: So entsteht Struktur, und die Personalakte ist vollständig, ohne dass jedes Dokument manuell sortiert und abgelegt werden muss.

Markus Höllriegel: Aber – und das ist entscheidend – das System darf nichts hinzudichten.

Markus Höllriegel: Es muss erkennen, was da ist, und Lücken lassen, wenn Informationen fehlen.

Markus Höllriegel: Alles andere wäre ein Risiko für Mitarbeiterrechte und Unternehmenspflichten.

Rebecca Lanz: KI kann also nützlich sein, wenn sie präzise begrenzt ist.

Rebecca Lanz: Sie ersetzt nicht die Verantwortung, sondern unterstützt sie.

Handelsbeispiel und Nutzen

Markus Höllriegel: Ein anderes Beispiel stammt aus dem Handel.

Markus Höllriegel: Bestellungen gehen auf unterschiedlichsten Wegen ein – oft im E-Mail-Postfach oder Papierstapel unter anderen Dokumenten.

Markus Höllriegel: Früher bedeutete das: Dokument öffnen, prüfen, eintippen.

Rebecca Lanz: Heute können Systeme automatisch erkennen, ob es sich um eine Bestellung, eine Reklamation oder eine Anfrage handelt.

Rebecca Lanz: Die Information fließt direkt ins DMS-System, der passende Workflow startet sofort.

Rebecca Lanz: Die Vorteile sind handfest: weniger Übertragungsfehler, kürzere Bearbeitungszeiten, zufriedene Kunden.

Vertrauen und Verantwortung

Markus Höllriegel: Damit kommen wir zu einem entscheidenden Punkt: Vertrauen.

Markus Höllriegel: Mitarbeiter akzeptieren KI nur, wenn sie erleben, dass sie zuverlässig unterstützt.

Rebecca Lanz: Ein System, das wiederholt fehlerhaft arbeitet, verliert in kürzester Zeit jede Glaubwürdigkeit.

Rebecca Lanz: Und ohne Glaubwürdigkeit wird jede Digitalisierungsbemühung ein Misserfolg.

Markus Höllriegel: Vertrauen entsteht durch Transparenz.

Markus Höllriegel: Wenn klar ist, wie die Maschine zu ihrem Ergebnis kommt, bleibt die Verantwortung in menschlicher Hand.

Rebecca Lanz: Was bedeutet das für Entscheider?

Rebecca Lanz: Es bedeutet, dass Investitionen nicht vom Schlagwort „KI“ getragen werden dürfen, sondern von einer nüchternen Abwägung.

Rebecca Lanz: Welche Prozesse sind stabil genug, um automatisiert zu werden?

Rebecca Lanz: Wo reicht es, wenn Informationen zuverlässig erkannt und sortiert werden?

Rebecca Lanz: Und wo braucht es zwingend menschliche Prüfung?

Markus Höllriegel: Die Grenze verläuft dort, wo das Verständnis der Maschine endet.

Markus Höllriegel: Und das endet manchmal viel früher, als es der KI-Hype auf Youtube, LinkedIn & Co. glauben macht.

Regulierung und Ausblick

Rebecca Lanz: Es lohnt sich, den Blick auch auf die Regulierung zu richten.

Rebecca Lanz: Der kommende EU AI Act wird bestimmte Anwendungen in Risikokategorien einordnen.

Rebecca Lanz: Das bedeutet: Je kritischer der Anwendungsfall, desto strenger die Auflagen.

Markus Höllriegel: Für Unternehmen ist das kein Grund zur Sorge, sondern eine Chance zur Klarheit.

Markus Höllriegel: Wer heute auf transparente, kontrollierte Systeme setzt, ist vorbereitet.

Rebecca Lanz: Wer dagegen auf Black-Box-Dienste vertraut, wird morgen teuer nachrüsten müssen.

Markus Höllriegel: Darum gilt: Die richtige Reihenfolge ist entscheidend.

Markus Höllriegel: Zuerst die Analyse der Prozesse, dann die Festlegung der Verantwortlichkeiten, dann die Auswahl der Technologie.

Rebecca Lanz: Und erst ganz am Schluss die Frage nach dem Produkt.

Rebecca Lanz: Denn Technologie ist ein Mittel, kein Selbstzweck.

Markus Höllriegel: Ein Produkt, das sich in diesem Rahmen bewährt hat, ist das Intelligent Document Processing, abgekürzt IDP von Natif AI, einem einhundertprozentigem Tochterunternehmen von DocuWare, das hochspezialisiert auf KI im Zusammenhang mit Dokumentenverarbeitung ist.

Markus Höllriegel: IDP kann trainiert werden, erkennt, klassifiziert und indiziert Dokumente aber großenteils auch ohne Training – und bleibt dabei nachvollziehbar. Selbst Handschriften können verarbeitet werden.

Rebecca Lanz: IDP ersetzt keine kaufmännischen Entscheidungen.

Rebecca Lanz: Die KI von IDP hilft dokumentenbasierte Prozesse noch effizienter zu machen, Fehler zu reduzieren, sie schafft Geschwindigkeit und Sicherheit.

Outro

Markus Höllriegel: Damit sind wir am Ende dieser Folge.

Rebecca Lanz: Wir haben gesehen, dass KI kein Allheilmittel ist, sondern ein Werkzeug mit klaren Grenzen.

Rebecca Lanz: Sie versteht nichts, sie rechnet Wahrscheinlichkeiten.

Rebecca Lanz: Und genau deshalb muss ihr Einsatz kontrolliert und transparent erfolgen.

Rebecca Lanz: Wer das berücksichtigt, kann Prozesse spürbar verbessern, ohne Risiken in Kauf zu nehmen.

Markus Höllriegel: Das war’s für heute im DMS-Podcast.

Markus Höllriegel: Dank an Gerhard von Sachsen Gessaphe für Script und Produktion.

Markus Höllriegel: Rebecca.

Markus Höllriegel: Hat mir heute richtig Spaß gemacht mit Dir.

Rebecca Lanz: Danke.

Rebecca Lanz: Markus.

Rebecca Lanz: Das gebe ich gerne zurück an Dich.

Rebecca Lanz: Und. Danke an Sie, dass Sie heute zugehört haben.

Rebecca Lanz: Nehmen Sie Kontakt zu uns auf und machen Sie Ihr Unternehmen durch Digitalisierung besser und resilienter.

Rebecca Lanz: Schreiben Sie an kontakt@dms-gmbh.de

Rebecca Lanz: Ich freue mich, wenn Sie beim nächsten Mal wieder dabei sind und ganz besonders über ein Abo für unseren Podcast.

Rebecca Lanz: Dann versäumen Sie auch keine Folge.

Markus Höllriegel: Der DMS-Podcast – Gespräche über Prozesse, die wirken.

Rebecca Lanz: Weil Widerstandsfähigkeit und Erfolg nicht von außen kommen – sondern von innen entstehen.

Rebecca Lanz: Und denken Sie dran: Digitalisierung ist keine Kostenfrage, sondern eine Zukunftsinvestition....

Rebecca Lanz: Servus!

Rebecca Lanz: Bis nächsten Dienstag.