Les points aveugles de l'utilisation productive de l'IA

Une invite, une réponse fluide en retour, et ce en quelques secondes : les grands modèles de langage (LLM) comme ChatGPT ont apparemment fait tomber les barrières à l'utilisation de l'IA dans les entreprises. Mais c'est justement cette facilité d'utilisation qui empêche souvent de voir le véritable goulot d'étranglement.

Dans la pratique, les projets d'IA échouent rarement en raison du choix ou de la taille du modèle d'IA. Ils échouent parce que les entreprises sous-estiment l'effort caché : transformer leur propre base de connaissances en une forme avec laquelle les machines peuvent travailler de manière fiable. Le véritable tour de force réside dans la compréhension, la structuration et la contextualisation des connaissances d'une organisation.

La valeur réelle est créée avant la réponse

Ainsi, dans le contexte de l'entreprise, «Trust in AI» peut se résumer à des questions concrètes : Puis-je faire confiance aux données sur lesquelles l'IA travaille ? Sont-elles actuelles, complètes et cohérentes sur le plan technique ? Peut-on comprendre pourquoi un résultat est obtenu ? Les informations pertinentes ont-elles été consultées par l'IA ou seulement celles qui étaient facilement disponibles par hasard ?

C'est précisément là que les LLM atteignent leurs limites. Ils ne peuvent pas mettre de l'ordre dans des données qui sont contradictoires, lacunaires ou sémantiquement floues. L'impressionnante capacité des LLM à formuler de manière plausible devient ici plutôt un risque - il est ainsi possible de lisser par-dessus des données d'entrée insuffisantes.

Pourtant, l'IA est encore souvent jugée à l'aune de la qualité de ses résultats. Pourtant, pour les entreprises, la valeur ajoutée - et l'effort - sont générés là où les données sont qualifiées, les contextes établis et les structures de connaissances gérées. C'est ce travail préparatoire qui détermine si les résultats de l'IA sont reproductibles, explicables et mesurables.

C'est particulièrement important lorsque les systèmes d'IA doivent évoluer. Il s'agit alors de cohérence, de traçabilité, d'évaluation quantitative et de capacité à traiter de manière contrôlée de grandes quantités de documents. C'est précisément à l'intersection de ces aspects linguistiques, techniques et quantitatifs que les configurations purement LLM atteignent régulièrement leurs limites.

AI-Ready Data est plus que des données disponibles

Ce n'est pas parce qu'une entreprise dispose de vastes bases de données que celles-ci sont automatiquement adaptées à l'IA. Si l'on attend des résultats directement exploitables à partir de documents non reliés, de doublons, de textes libres et d'anciennes données, on confond accès aux données et qualité des données.

Pour les processus répétitifs, les décisions automatisées ou les contextes sensibles sur le plan réglementaire, il faut un cadre robuste. Les informations sont-elles claires ? Est-il possible de retracer les sources ? Y a-t-il des contradictions entre les systèmes ? Des champs décisifs sont-ils manquants ? Les documents sont-ils correctement indexés ? Est-il possible de savoir quels contenus sont obsolètes, lesquels sont valables et lesquels ne sont pertinents que localement ?

Les grands modèles ne résolvent pas les problèmes de signification

De plus, les stocks de documents dans les entreprises augmentent la plupart du temps de manière historique. Les termes se déplacent entre les services, les systèmes et les formats de fichiers. Le même mot peut signifier autre chose dans le contexte de la construction que dans celui de l'assurance ou de la documentation technique. Cela ne dérange pas les humains, car ils connaissent «leur» domaine. Pour l'IA, c'est un problème de sémantique.

Par conséquent, pour qu'un système fonctionne de manière fiable, les données brutes ne suffisent pas. Il faut des métadonnées, des glossaires, des structures de référence et des classifications sémantiques qui montrent clairement ce qu'un terme signifie réellement dans un contexte donné. Ce n'est qu'ainsi que se crée un contexte de travail dans lequel «correct» signifie plus que plausible sur le plan linguistique ou probable sur le plan statistique.

L'expertise se trouve souvent là où aucune machine ne peut la voir

Et que se passe-t-il si les connaissances pertinentes ne sont pas du tout disponibles sous forme de données ? Une partie non négligeable du trésor de connaissances des entreprises réside dans les routines, les exceptions, les règles implicites et le savoir empirique des services spécialisés. Ils savent quelle source est fiable, quelle valeur reste formellement correcte mais pratiquement non pertinente, ou quelle formulation revêt une signification particulière en interne. Ce savoir n'a souvent jamais été documenté proprement, car il fonctionne de manière tacite entre les personnes dans le travail quotidien.

L'IA, en revanche, se nourrit de signaux explicites. Elle doit apprendre comment une organisation utilise son langage, quelles sont les catégories habituelles et quels sont les écarts qui deviennent critiques pour l'entreprise. C'est précisément pour cette raison que «Human in the Loop» ne suffit pas si les départements spécialisés ne vérifient les résultats de l'IA qu'à la fin. Ils doivent être impliqués plus tôt : lors de la clarification des termes, de la description des règles, de l'évaluation des sources et de la question de savoir quels sont les contextes indispensables pour obtenir une réponse fiable.

La partie difficile de nombreux projets d'IA commence par le fait que les experts doivent expliquer comment ils pensent. Cela demande beaucoup d'efforts. Mais c'est souvent la condition sine qua non pour qu'un système qui sait parler devienne utilisable sur le plan professionnel.

Quel que soit le LLM choisi, l'IA peut condenser, structurer, préparer, comparer et accélérer. Elle peut pénétrer de grandes quantités d'informations et soulager les professionnels d'un travail qui leur prenait jusqu'à présent du temps, de l'attention et des nerfs. Ce qu'elle ne peut pas faire : Prendre des responsabilités, guérir silencieusement des données contradictoires ou comprendre l'intégralité du contexte organisationnel au pied levé. L'homme reste donc dans le processus - en tant qu'instance professionnelle et organisationnelle.

Vers l'auteur :

Heiko Beier est directeur de moresophy et professeur de communication médiatique numérique et d'intelligence artificielle, avec plus de 25 ans d'expérience dans l'analyse de données basée sur l'IA et l'automatisation des processus commerciaux. Son expertise comprend le développement de solutions d'IA explicables qui s'intègrent parfaitement dans les processus d'entreprise. www.moresophy.com

Cet article est paru initialement sur m-q.ch - https://www.m-q.ch/de/blinde-flecken-beim-produktiveinsatz-von-ki/