Un processo manuale inefficiente ha un effetto collaterale che nessuno mette a bilancio: è lento e scomodo, quindi quando produce un errore qualcuno lo nota.
Metti un agente sopra quello stesso processo senza toccarlo e togli entrambe le cose nello stesso momento. L’errore esce alla velocità della macchina e sparisce l’attrito che prima lo segnalava. L’automazione non fa fallire il processo difettoso: lo fa riuscire, più in fretta, più spesso, più uniforme.
Per questo “quanti agenti abbiamo messo in produzione” è un numero che non dice niente. La variabile che decide il ritorno è un’altra: quanto dell’output dell’agente arriva a valle senza che una persona lo riapra. Se ogni risultato va riverificato, il lavoro non è stato tolto, è stato spostato dal fare al controllare; e su un processo non ridisegnato il controllo costa più dell’esecuzione.
L’affidabilità non è una proprietà del modello. È una proprietà del sistema in cui l’agente opera: dati su cui può contare, regole esplicite, output che lascia una traccia leggibile a chi viene dopo. Un agente accurato dentro un processo ambiguo resta inutilizzabile, perché nessuno si fida abbastanza da non ricontrollare.
La domanda non è se l’AI sia capace. È se il terreno sotto regge il fatto che adesso le cose succedono senza la pausa in cui, prima, qualcuno correggeva.
