Un pilot AI che funziona e un sistema AI che scala misurano due cose diverse. Il pilot misura se la demo convince. La produzione misura quanto spesso il sistema sbaglia quando nessuno lo sta guardando.
La distanza tra i due non è maturità organizzativa o governance, come di solito si racconta. È che nel pilot c’è sempre una persona che ricuce gli errori prima che arrivino a qualcuno: seleziona gli esempi, corregge l’output a mano, decide cosa mostrare. Quel pilot non ha mai misurato la propria accuratezza, perché un umano la stava tenendo in piedi.
A scala quella persona non c’è. Migliaia di esecuzioni al giorno non si curano una per una. Il sistema deve reggere da solo, e reggere significa sapere quante volte sbaglia, su quali casi, e cosa succede quando sbaglia. Se quel numero non esiste, non c’è un prodotto: c’è una dimostrazione che si è smesso di sorvegliare.
La parte che si butta via è proprio quello che un pilot fallito lascia in azienda. Non lascia niente di presentabile, ma lascia la mappa di dove il lavoro si rompe davvero: quali passaggi un modello non chiude da solo, dove serve che resti una traccia di cosa ha fatto, quale tasso di errore il processo assorbe e quale no. È l’output che conta, e di solito viene cancellato insieme al pilot per finanziare il framework di readiness successivo.
Gli investimenti non saltano perché manca una strategia di adozione. Saltano perché si paga la versione che impressiona e si toglie budget a quella che andrebbe misurata.
