Un pilot AI che funziona non dimostra che il sistema scala. A volte dimostra l’opposto.
Il pilot gira su un dataset scelto, un percorso felice, una persona che controlla ogni output. Tutte e tre le condizioni saltano in produzione: i dati arrivano sporchi, i casi limite diventano la maggioranza, nessuno sta a guardare ogni risposta.
Quello che si etichetta come ’problema di governancè spesso è più prosaico: il pilot non è mai stato messo nelle condizioni di sbagliare in modo osservabile. Nessuna soglia di accuratezza definita, nessun modo per accorgersi che ha smesso di funzionare, nessun registro di cosa ha prodotto e perché.
Scalare non significa aggiungere macchine o utenti. Significa rendere il sistema responsabile: un output riproducibile, una metrica che dice quando fidarsi e quando no, una traccia che un’altra persona o un altro sistema può leggere senza chiedere spiegazioni.
La tecnologia che regge il pilot regge anche la produzione. Quello che manca è la parte che nessuno vuole fare: definire cosa vuol dire ‘corretto’, misurarlo, e mettere il sistema a lavorare accanto agli altri invece che come demo isolata sotto sorveglianza.
