Blinde Flecken beim Produktiveinsatz von KI

Ein Prompt hinein, eine flüssige Antwort zurück, und das in Sekundenschnelle: Grosse Sprachmodelle (LLMs) wie ChatGPT haben die Hürden für die KI-Nutzung in Unternehmen vermeintlich eingerissen. Doch genau diese Niederschwelligkeit verstellt häufig den Blick auf den eigentlichen Engpass.

In der Praxis scheitern KI-Projekte selten an der Wahl oder Grösse des KI-Modells. Sie scheitern daran, dass Unternehmen den versteckten Aufwand unterschätzen: die eigene Wissensbasis in eine Form zu bringen, mit der Maschinen verlässlich arbeiten können. Der wahre Kraftakt steckt im Verstehen, Strukturieren und Kontextualisieren des Wissens einer Organisation.

Der eigentliche Wert entsteht vor der Antwort

So lässt sich «Trust in AI» im Unternehmenskontext auf konkrete Fragen herunterbrechen: Kann ich den Daten trauen, auf deren Basis die KI arbeitet? Sind sie aktuell, vollständig und fachlich konsistent? Ist nachvollziehbar, warum ein Ergebnis entsteht? Wurden die relevanten Informationen überhaupt von der KI hinzugezogen – oder nur das, was zufällig leicht verfügbar war?

Genau hier stossen LLMs an ihre Grenzen. Sie können keine Ordnung in Datenbestände bringen, die widersprüchlich, lückenhaft, oder semantisch unscharf sind. Die beeindruckende Fähigkeit von LLMs, plausibel zu formulieren, wird hier eher zum Risiko – so kann über mangelhaften Input hinweg geglättet werden.

Dennoch wird KI vielerorts noch immer an der Qualität ihrer Ausgabe gemessen. Dabei entsteht für Unternehmen der Mehrwert – und der Aufwand – dort, wo Daten qualifiziert, Kontexte aufgebaut und Wissensstrukturen gepflegt werden. Diese Vorarbeit entscheidet darüber, ob KI-Ergebnisse reproduzierbar, erklärbar und messbar werden.

Das ist besonders wichtig, wenn KI-Systeme skalieren sollen. Dann geht es um Konsistenz, Nachvollziehbarkeit, quantitative Auswertung und die Fähigkeit, mit grossen Dokumentenmengen kontrolliert umzugehen. Genau in dieser Schnittmenge aus sprachlichen, fachlichen und quantitativen Aspekten stossen reine LLM-Setups regelmässig an Grenzen.

AI-Ready Data ist mehr als verfügbare Daten

Nur weil ein Unternehmen über umfangreiche Datenbestände verfügt, sind diese nicht automatisch für KI geeignet. Wer aus unverbundenen Dokumenten, Dubletten, Freitexten und Altdaten direkt belastbare Ergebnisse erwartet, verwechselt Datenzugang mit Datenqualität.

Für wiederkehrende Prozesse, automatisierte Entscheidungen oder regulatorisch sensible Kontexte braucht es einen robusten Rahmen. Sind Informationen eindeutig? Lassen sich Quellen zurückverfolgen? Gibt es Widersprüche zwischen Systemen? Fehlen entscheidende Felder? Sind Dokumente fachlich sauber verschlagwortet? Ist erkennbar, welche Inhalte veraltet, welche gültig und welche nur lokal relevant sind?

Grosse Modelle lösen keine Bedeutungsprobleme

Hinzu kommt: Dokumentenbestände wachsen in Unternehmen zumeist historisch. Begriffe wandern zwischen Abteilungen, Systemen und Dateiformaten. Dasselbe Wort kann im Baukontext etwas anderes meinen als in der Versicherung oder in der technischen Dokumentation. Menschen macht das nichts aus, weil sie «ihre» Domäne kennen. Für KI ist es ein Problem der Semantik.

Damit ein System fachlich belastbar arbeitet, reichen folglich Rohdaten nicht aus. Es braucht Metadaten, Glossare, Referenzstrukturen und semantische Einordnungen, die deutlich machen, was ein Begriff im jeweiligen Kontext tatsächlich meint. Erst dadurch entsteht ein Arbeitskontext, in dem «richtig» mehr bedeutet als sprachlich plausibel oder statistisch wahrscheinlich.

Fachwissen liegt oft dort, wo keine Maschine es sieht

Und was, wenn das relevante Wissen gar nicht in Datenform vorliegt? Ein nicht zu unterschätzender Teil des Wissensschatzes von Unternehmen liegt in Routinen, Ausnahmen, impliziten Regeln und Erfahrungswissen der Fachbereiche. Sie wissen, welche Quelle verlässlich ist, welcher Wert formal korrekt, aber praktisch irrelevant bleibt, oder welche Formulierung intern eine besondere Bedeutung trägt. Dieses Wissen wurde oft nie sauber dokumentiert, weil es im Arbeitsalltag unter Menschen stillschweigend funktioniert.

KI hingegen lebt von expliziten Signalen. Sie muss lernen, wie eine Organisation ihre Sprache verwendet, welche Kategorien üblich sind und welche Abweichungen geschäftskritisch werden. Genau deshalb greift «Human in the Loop» zu kurz, wenn Fachabteilungen KI-Ergebnisse erst am Ende prüfen. Sie müssen früher hinzugezogen werden: bei der Klärung von Begriffen, bei der Beschreibung von Regeln, bei der Bewertung von Quellen und bei der Frage, welche Kontexte für eine belastbare Antwort zwingend dazugehören.

Der schwierige Teil vieler KI-Vorhaben beginnt damit, dass Experten erklären müssen, wie sie denken. Das ist aufwendig. Es ist aber oft die Voraussetzung dafür, dass aus einem sprachgewandten System ein fachlich nutzbares wird.

Unabhängig vom gewählten LLM: KI kann verdichten, strukturieren, vorbereiten, vergleichen und beschleunigen. Sie kann große Mengen an Informationen durchdringen und Fachleuten Arbeit abnehmen, die bislang Zeit, Aufmerksamkeit und Nerven kostet. Was sie nicht leisten kann: Verantwortung übernehmen, widersprüchliche Daten stillschweigend heilen oder den vollen Organisationskontext aus dem Stand verstehen. Der Mensch bleibt deshalb im Prozess – als fachliche und organisatorische Instanz.

Zum Autor:

Heiko Beier ist Geschäftsführer von moresophy und Professor für Digitale Medienkommunikation und Künstliche Intelligenz mit über 25 Jahren Erfahrung in der KI-gestützten Datenanalyse und Automatisierung von Geschäftsprozessen. Seine Expertise umfasst die Entwicklung erklärbarer KI-Lösungen, die sich nahtlos in Unternehmensprozesse integrieren lassen. www.moresophy.com

Dieser Beitrag erschien ursprünglich auf m-q.ch - https://www.m-q.ch/de/blinde-flecken-beim-produktiveinsatz-von-ki/