Un pilot che riesce è la parte facile. Misura se il modello è capace in un ambiente controllato: dati puliti, casi selezionati, tempo a disposizione. La produzione misura tutt’altro: se quella capacità arriva nel punto e nel secondo esatto in cui qualcuno deve decidere. Sono due variabili diverse, e vengono quasi sempre confuse.
L’AI non muore dopo il pilot perché il modello peggiora. Muore perché nel flusso reale la decisione si prende in pochi secondi, dentro uno strumento che esiste già, con informazioni parziali. Se l’output non è lì — in tempo, integrato, in una forma su cui si può agire — la capacità del modello non cambia niente.
Il numero che conta non è l’accuracy in vitro. È quante volte l’output giusto raggiunge il momento della decisione e viene davvero usato. Un sistema corretto al 95% in laboratorio che arriva al medico una volta su dieci, in ritardo, su una dashboard separata, produce zero effetto sugli esiti.
E c’è la parte che si sottovaluta: nel momento della decisione una persona si fida di un output solo se può vedere da dove viene e verificarlo. Una risposta senza tracciabilità viene scartata al primo dubbio. In sanità il dubbio è costante.
I sistemi che sopravvivono al pilot non sono i più capaci. Sono quelli che stanno dove si lavora: presenti alla decisione, dentro il workflow, con una traccia documentata che rende l’output verificabile. La capacità è un prerequisito, non la variabile che decide.
