La maggior parte dei progetti AI non muore per il modello. Muore il giorno dopo la demo, quando qualcuno chiede chi risponde se l’output è sbagliato — e non c’è risposta.
Le domande che affossano un pilot sono sempre le stesse: chi lo possiede, chi lo controlla, quando interviene una persona, cosa succede quando sbaglia, come si misura se ha migliorato qualcosa. Sembrano cinque problemi diversi. Sono lo stesso: nessuno ha definito cosa significa ‘corretto’ per quel sistema, quindi nessuno può prendersene la responsabilità.
Un modello che gira in una demo è un artefatto. Un sistema che entra in un processo è un ruolo: ha compiti, confini, un punto in cui passa la mano, una traccia di cosa ha fatto e perché. Le aziende ferme al pilot trattano l’AI come una funzione da accendere. Quelle che vanno oltre la trattano come una posizione da coprire, con le pretese che avrebbero verso chiunque altro la occupi: output verificabile, errori tracciati, una soglia sotto cui non è affidabile abbastanza per lavorare da sola.
L’accuracy non è un numero da slide. È la condizione che decide se quel ruolo può esistere. Senza una definizione misurabile di quando il sistema ha ragione e quando no, ‘chi lo controlla’ resta senza risposta: non c’è niente da controllare, solo un output di cui fidarsi a occhio.
Il collo di bottiglia non è la tecnologia. È che continuiamo a comprare modelli e a non progettare ruoli.
