Il Consiglio Superiore di Sanità ha pubblicato un interessante documento di indirizzo sui sistemi di IA come strumento di supporto alla diagnostica.
Il documento, cui hanno collaborato diversi esperti, introduce l’intelligenza artificiale in medicina ed esamina le diverse metodologie e tecnologie utilizzate per la diagnostica. Il testo illustra poi lo stato dell’arte dei sistemi di IA di diagnostica, le principali applicazioni e contiene considerazioni cliniche e tecniche su questi sistemi. Sono poi trattati gli aspetti etici e legali ed infine descritte una serie di proposte operative per l’impiego di questi sistemi nella pratica diagnostica.
Il documento, certamente condivisibile, è ben scritto, ricco di informazioni e citazioni, fornisce diversi spunti interessanti.
Tra i rischi che il documento evidenzia ci sono l’accuratezza diagnostica di questi sistemi e la possibilità di discriminazioni introdotte dalla programmazione degli algoritmi (bias di selezione). Riguardo il primo, ossia la convalida delle prestazioni di un algoritmo in termini di accuratezza, il documento sottolinea che questa non implica necessariamente efficacia clinica. Come Keane e Topol osservano, “un algoritmo con un AUC di 0,99 non vale molto se non è dimostrato che migliora i risultati clinici”.
Sono tutte considerazioni sensate che è lecito e opportuno porsi visto il possibile impiego di questi sistemi e l’impatto che questi potranno avere nella diagnostica medica e anche nel modo di lavorare dei professionisti che li andranno a utilizzare.
C’è però un aspetto che mi lascia perplesso e che mi sembra sia decisamente sottovalutato: va bene misurare e verificare i sistemi IA, ma i medici? Possiamo ritenere che la loro intelligenza (competenza ed esperienza), in quanto “naturale”, sia uniforme, scevra da bias e in grado di assicurare un elevato livello di accuratezza diagnostica? Certamente non è possibile generalizzare. Le competenze acquisite nel nel percorso formativo sommate all’esperienza maturata nel corso della propria vita professionale sono un unicum. Ma chi valuta i medici?
Permettetemi di fare un confronto con un ambito completamente diverso dal quale però derivano molti concetti e pratiche che riguardano la sicurezza in sanità: l’aviazione. Sono un pilota per passione e ho conseguito diversi anni fa la licenza per pilotare aerei. Quella in mio possesso mi permette di esercitare questa passione a livello privato, cioè non per fini commerciali. A parte la visita medica annuale devo, per poter pilotare il mio aereo, sottopormi ogni due anni ad un check con un istruttore e dimostrare le mie capacità di pilotaggio, di saper gestire le emergenze e di conoscere la normativa (che nel tempo varia). Se non passo il check non posso pilotare, neanche da solo, il mio aereo. L’iter per i piloti professionisti, di linea, è ancora più severo in termini di test da superare e di frequenza.
Niente di tutto ciò esiste per i medici né per i chirurghi. C’è l’obbligo della formazione continua – ECM – ma si tratta di ben altra cosa.
Ritorno allora la domanda di prima e mi interrogo sul perché non si applichino gli stessi criteri alle professionalità diagnostiche dei medici. Sia chiaro, non intendo dire che non si debbano applicare tutte le indicazioni espresse nel documento ai sistemi di IA ma, al contrario, sottoporre anche i medici a un processo di valutazione e validazione.
Per rimanere nel campo della diagnostica per immagini, ampiamente trattata nel documento, non sarebbe poi difficile immaginare un test di verifica da sottoporre ai radiologi con immagini e dati clinici da valutare.
Forse però è meglio se torno a pensare al mio aereo e al volo …