Punti ciechi nell'uso produttivo dell'IA

Una richiesta, una risposta fluida e tutto in pochi secondi: i modelli linguistici di grandi dimensioni (LLM) come ChatGPT hanno presumibilmente abbattuto le barriere all'uso dell'intelligenza artificiale nelle aziende. Tuttavia, è proprio questa bassa soglia che spesso oscura il vero collo di bottiglia.

In pratica, i progetti di IA raramente falliscono a causa della scelta o delle dimensioni del modello di IA. Falliscono perché le aziende sottovalutano lo sforzo nascosto che comporta la trasformazione della propria base di conoscenze in una forma con cui le macchine possano lavorare in modo affidabile. La vera impresa sta nel comprendere, strutturare e contestualizzare la conoscenza di un'organizzazione.

Il valore effettivo si presenta prima della risposta

La fiducia nell'IA può essere suddivisa in domande specifiche nel contesto aziendale: Posso fidarmi dei dati su cui lavora l'IA? Sono aggiornati, completi e tecnicamente coerenti? È chiaro il motivo per cui viene prodotto un risultato? L'IA ha consultato tutte le informazioni pertinenti o solo quelle che sono state prontamente disponibili?

È proprio qui che i LLM raggiungono i loro limiti. Non possono mettere ordine in serie di dati contraddittori, incompleti o semanticamente confusi. L'impressionante capacità dei LLM di formulare in modo plausibile diventa in questo caso un rischio: è così che si possono smussare gli input inadeguati.

Tuttavia, in molti luoghi l'IA viene ancora misurata in base alla qualità dei suoi risultati. Per le aziende, il valore aggiunto - e lo sforzo - deriva dalla qualificazione dei dati, dalla costruzione di contesti e dalla manutenzione delle strutture di conoscenza. Questo lavoro preparatorio determina se i risultati dell'IA sono riproducibili, spiegabili e misurabili.

Questo è particolarmente importante se i sistemi di IA devono essere scalabili. Si tratta quindi di coerenza, tracciabilità, analisi quantitativa e capacità di gestire grandi volumi di documenti in modo controllato. È proprio in questa intersezione di aspetti linguistici, tecnici e quantitativi che le configurazioni di LLM puro raggiungono regolarmente i loro limiti.

I dati pronti per l'intelligenza artificiale sono più che semplici dati disponibili

Il fatto che un'azienda disponga di ampi database non li rende automaticamente adatti all'IA. Chi si aspetta risultati affidabili direttamente da documenti non collegati, duplicati, testo libero e dati vecchi confonde l'accesso ai dati con la loro qualità.

Per i processi ricorrenti, le decisioni automatizzate o i contesti sensibili alle normative è necessario un quadro solido. Le informazioni sono chiare? È possibile rintracciare le fonti? Ci sono contraddizioni tra i sistemi? Mancano campi chiave? I documenti sono classificati correttamente? È possibile riconoscere quali contenuti sono obsoleti, quali sono validi e quali sono rilevanti solo a livello locale?

I grandi modelli non risolvono i problemi di significato

Inoltre, gli inventari di documenti nelle aziende di solito crescono storicamente. I termini passano da un reparto all'altro, da un sistema all'altro e da un formato all'altro. Una stessa parola può avere un significato diverso in un contesto edilizio rispetto a quello di una documentazione assicurativa o tecnica. Le persone non se ne preoccupano perché conoscono il «loro» dominio. Per l'intelligenza artificiale è un problema di semantica.

Di conseguenza, i dati grezzi non sono sufficienti perché un sistema funzioni in modo affidabile. Sono necessari metadati, glossari, strutture di riferimento e categorizzazioni semantiche che chiariscano il significato effettivo di un termine nel rispettivo contesto. Questo è l'unico modo per creare un contesto di lavoro in cui «corretto» non significa solo linguisticamente plausibile o statisticamente probabile.

La competenza spesso si trova dove nessuna macchina può vederla

E cosa succede se le conoscenze rilevanti non sono disponibili nemmeno sotto forma di dati? Le routine, le eccezioni, le regole implicite e le conoscenze empiriche dei reparti specializzati costituiscono una parte significativa del patrimonio di conoscenze di un'azienda. Essi sanno quale fonte è affidabile, quale valore è formalmente corretto ma rimane praticamente irrilevante, o quale formulazione ha un significato particolare all'interno dell'azienda. Spesso questa conoscenza non è mai stata documentata in modo adeguato perché funziona in modo tacito tra le persone nella vita lavorativa quotidiana.

L'intelligenza artificiale, invece, si basa su segnali espliciti. Deve imparare come un'organizzazione utilizza il suo linguaggio, quali categorie sono comuni e quali deviazioni sono critiche per l'azienda. È proprio per questo che il concetto di «human in the loop» è insufficiente se i reparti specializzati controllano i risultati dell'IA solo alla fine. È necessario coinvolgerli prima: nella chiarificazione dei termini, nella descrizione delle regole, nella valutazione delle fonti e nel determinare quali contesti sono essenziali per una risposta affidabile.

La parte difficile di molti progetti di IA inizia con il fatto che gli esperti devono spiegare come pensano. Questo richiede molto tempo. Tuttavia, spesso è il prerequisito per trasformare un sistema linguisticamente abile in un sistema tecnicamente utilizzabile.

Indipendentemente dal LLM scelto, l'IA è in grado di riassumere, strutturare, preparare, confrontare e accelerare. Può analizzare grandi quantità di informazioni e sollevare gli esperti da un lavoro che prima costava tempo, attenzione e nervi. Cosa non può fare: Assumersi la responsabilità, sanare tacitamente i dati contraddittori o comprendere l'intero contesto organizzativo in modo immediato. L'essere umano rimane quindi nel processo, come autorità tecnica e organizzativa.

All'autore:

Heiko Beier è amministratore delegato di moresophy e professore di Comunicazione dei Media Digitali e Intelligenza Artificiale con oltre 25 anni di esperienza nell'analisi dei dati supportata dall'IA e nell'automazione dei processi aziendali. La sua competenza comprende lo sviluppo di soluzioni di IA spiegabili che possono essere integrate senza problemi nei processi aziendali. www.moresophy.com

Questo articolo è apparso originariamente su m-q.ch - https://www.m-q.ch/de/blinde-flecken-beim-produktiveinsatz-von-ki/