La demo funziona perché gira su un’azienda che non esiste.
Nel prototipo il processo è pulito, i dati sono selezionati a mano, la regola di decisione è scritta da qualche parte. In produzione niente di questo è vero, e non perché il modello non regga: è che quella regola l’organizzazione non l’ha mai messa nera su bianco.
È ciò che l’AI enterprise sta scoprendo, un pilota fallito dopo l’altro. Gran parte di come lavora un’azienda vive nella testa di qualcuno, in una mail del 2021, in un’eccezione che “tutti sanno”. Un dipendente nuovo la assorbe in mesi di riunioni e discorsi alla macchinetta del caffè. Un agente no: accede solo a ciò che è stato reso esplicito. Dove domina il tacito, l’agente si ferma, e con lui il progetto.
Chiamarlo “context gap” è generoso. È un problema di leggibilità: l’azienda non è comprensibile a sé stessa in una forma recuperabile.
Da qui la seconda trappola, misurare il modello. L’accuratezza di un LLM su un benchmark dice poco sulla capacità di un agente di agire dentro un processo fatto di vincoli, permessi e responsabilità. Un 92% su un test non vale nulla se l’azione compiuta non è tracciata, revocabile e attribuibile a qualcuno. L’affidabilità non è una proprietà del modello: è una proprietà del sistema in cui lo inserisci.
La conseguenza è meno comoda dello slogan “diventare AI-ready”. Prima di aggiungere intelligenza, un’azienda deve rendere espliciti processi, decisioni e confini che finora ha potuto lasciare impliciti. Lavoro di documentazione e governance, noioso, che l’AI rende di colpo non rimandabile. Il modello non ha creato il gap. L’ha solo reso impossibile da ignorare.
