Un agente che sbaglia il 5% delle volte non è il problema. Il problema è un agente che sbaglia il 5% delle volte e nessuno sa quando.
Nei workshop enterprise si ripete che “l’intelligenza senza sistemi genera caos”. Vero, e inutile: è una frase che non dice cosa fare lunedì mattina. La domanda operativa è un’altra: come si fa a sapere quando l’agente ha torto?
L’adozione non fallisce perché i modelli non ragionano abbastanza. Fallisce perché le organizzazioni mettono in produzione ragionamento che non sanno verificare. Un agente che pianifica ed esegue ma non lascia traccia, il cui output nessuno misura contro un riferimento, non è un collaboratore: è una scatola nera a cui è stato dato accesso in scrittura.
Il metodo che trasforma l’intelligenza in valore è noioso e misurabile: definire cosa significa “corretto” per quel compito, misurare l’accuracy su quel compito, rendere ogni azione tracciata e attribuibile, fissare la soglia oltre la quale il controllo torna a un umano.
La qualità del dato è il capro espiatorio comodo. Il buco più grande è un altro: quasi nessuno, prima di mettere l’agente al lavoro, ha scritto la definizione di “giusto” per il caso specifico. Senza quella, la governance è teatro: audit di un processo di cui non si conosce il tasso di errore.
