Quasi tutti i progetti di “AI transformation” che si fermano non muoiono in produzione. Muoiono prima, nel punto in cui nessuno ha definito cosa significa “corretto” per l’agente che stanno per mettere a lavorare.
Il comitato decide la strategia. Il change manager organizza i workshop. Intanto la domanda che conta resta senza risposta: come ti accorgi che l’agente ha sbagliato, prima che lo faccia su un cliente vero?
Tre cose decidono se un agente regge, e nessuna delle tre si discute in una riunione.
I dati che l’agente legge sono raggiungibili, o sono sparsi in quindici fogli scollegati? Un modello senza contesto affidabile produce risposte plausibili e false, che è il tipo di errore più costoso da intercettare.
Il workflow sopravvive a un timeout? Un agente che riparte da zero a ogni crash non è un lavoratore, è uno script che ogni tanto chiama un LLM. La differenza tra i due si chiama esecuzione durabile, e si progetta, non si delibera.
Esiste un set di test che dica quando l’output è sbagliato? Senza una misura di accuratezza l’agente non è autonomo, è non supervisionato. La distanza tra una demo e un sistema è questa: il sistema sa quando sta fallendo.
Il budget bruciato non sta nelle slide. Sta nell’aver messo un agente a decidere senza aver mai scritto la regola che dice quando quella decisione è corretta.
