Un agente AI non rompe l’integrazione dei dati. La mette a nudo.
Per anni le pipeline notturne, i dati stantii e le API che non rispondono in tempo reale hanno funzionato lo stesso, perché in mezzo c’era una persona che li aggirava: sapeva che il CRM era vecchio di un giorno, apriva due sistemi, chiamava il magazzino, verificava a mano. Quel lavoro di compensazione non era scritto da nessuna parte. Era la vera integrazione.
Togli la persona, metti un agente. L’agente prende il dato per quello che dice di essere. Prenota la spedizione sull’inventario aggiornato stanotte, non su quello di adesso. Aggiorna il record fidandosi di una fonte che altri tre sistemi contraddicono. Non sbaglia il ragionamento: sbaglia perché l’input non è più vero nel momento in cui agisce.
Ecco perché l’accuratezza di un modello misurata su un benchmark dice poco su quanto sarà affidabile in produzione. L’accuratezza che conta è quella dell’azione: corretta rispetto allo stato reale del mondo in quell’istante. E quella dipende dalla freschezza del dato e dall’esistenza di una fonte di verità, non dai parametri del modello.
La domanda diagnostica non è quale modello hai scelto. È: sai indicare la singola fonte di verità per il dato critico su cui l’agente sta per agire? Se la risposta è un elenco di sistemi da confrontare a mano, non hai ancora un problema di AI. Hai un problema di infrastruttura travestito da problema di AI.
