La maggior parte dei piloti AI non fallisce perché il modello sbaglia troppo. Fallisce perché nessuno ha mai definito quanto poteva sbagliare.
Una demo la giudichi sul caso che funziona. Un processo lo giudichi su cosa succede quando non funziona. In mezzo c’è un numero che quasi nessuno misura: con quale frequenza l’output può essere sbagliato prima che costi più di quanto fa risparmiare.
Finché quel numero non esiste, il pilota resta in un limbo. Produce risultati convincenti in riunione, ma non entra in nessun flusso dove essere sbagliato ha una conseguenza. L’integrazione nei processi core non si blocca su un problema tecnico, si blocca sulla responsabilità: nel processo c’è sempre qualcuno che risponde dell’output, e a un output che non sai verificare non affidi niente.
Mettere un agente dentro un processo vuol dire trattarlo come il resto della forza lavoro: output misurato, tasso di errore noto, tracciabilità di cosa ha fatto e su quali dati. Un collaboratore che non puoi controllare non entra in operations. Un agente nemmeno.
Il pilota che resta pilota è quasi sempre quello a cui non è stata posta l’unica domanda che conta in produzione: con quale accuratezza, e chi verifica.
