Il pilota AI funziona perché qualcuno guarda lo schermo. In produzione quel qualcuno non c’è, e lì la maggior parte dei progetti si ferma.
Nella fase pilota c’è sempre una persona che legge l’output, scarta quello sbagliato e corregge a mano prima che il risultato vada da qualche parte. Quel lavoro di controllo non compare in nessun calcolo di ROI, ma è la ragione per cui la demo sembra affidabile.
Quando si passa da dieci casi a diecimila, quella persona sparisce. Gli errori che prima venivano assorbiti in silenzio diventano costo: una risposta sbagliata mandata a un cliente, un dato classificato male che entra in un processo a valle.
Per questo il divario non si chiude aggiungendo un modello più capace. Si chiude rendendo l’output verificabile senza un umano che controlli caso per caso: una misura di quando il risultato è giusto, una soglia sotto cui non passa, una traccia di cosa ha fatto il sistema e perché.
È la differenza tra uno strumento che impressiona in riunione e uno di cui ti puoi fidare quando nessuno sta guardando. La prima la ottieni in due settimane. La seconda è il lavoro che quasi nessuno mette nel preventivo del pilota.
