La fiducia nell’IA e la voglia di applicarla nella pratica clinica spinge spesso produttori e medici a utilizzare questi software senza che siano validati e certificati. Con possibili rischi di un effetto boomerang, oltre che di tipo legale.
Dopo aver introdotto il tema (qui) e illustrato come funzionano i modelli basati sull’apprendimento automatico (qui), è il momento di fare qualche riflessione su come introdurre questi strumenti nella pratica clinica.
I sistemi oggi più diffusi riguardano il supporto alla diagnosi e al trattamento dei pazienti. Tra i primi il settore più promettente è quello dell’imaging nel quale sono stati sviluppati sistemi dedicati al riconoscimento di patologie oncologiche, cardiologiche, polmonari e altre. Di norma questi sistemi non sono utilizzati per eseguire una diagnosi in automatico ma per scrutinare le immagini, ad esempio nell’ambito degli screening o per “rafforzare” la capacità diagnostica del radiologo. L’IA viene anche utilizzata per aiutare i medici nella formulazione della diagnosi, spesso con un processo differenziale, o per suggerire ai pazienti, partendo dai loro sintomi, la possibile patologia da cui sono affetti. Quest’ultima categoria di software prende il nome di “Symptoms Checker“. Oltre al supporto alla diagnosi ci sono diversi sistemi che suggeriscono ai medici il trattamento o la terapia più appropriata. A differenza dei sistemi di “IA classica“, basati su motori inferenziali, basi di conoscenza e algoritmi scritti a mano, di norma con logiche “if then else“, i sistemi basati sull’apprendimento automatico forniscono informazioni sulla base dell’addestramento ricevuto, così come ho spiegato nell’articolo precedente. Mentre nel primo caso l’accuratezza degli algoritmi è determinata dal controllo e la validazione degli algoritmi che operano la trasformazione della conoscenza medica in suggerimenti, azioni (potremmo chiamare questo processo “distillazione della conoscenza“), compito abbastanza semplice da realizzare, nel secondo caso l’accuratezza si misura con strumenti probabilistici senza avere la possibilità di verificare direttamente il ragionamento che il sistema compie.
In ogni caso per utilizzare un sistema, a prescindere dalle tecnologie su cui si basa, che svolge una funzione di supporto alle decisioni cliniche, è necessario che questo sia certificato come “Software as a Medical Device” (SaMD), in classe IIA, secondo il regolamento europeo sui dispostivi medici (MDR). L’IA non fa eccezione. Non basta, per evitare questo requisito, affermare che si sta sperimentando il software. La sperimentazione, che è un passo necessario per ottenere la certificazione, deve essere svolta con tutti i crismi, a partire dal Comitato Etico dell’azienda sanitaria, l’analisi sulla privacy, l’adozione di criteri e metodologie scientifiche per valutare i risultati. In altre parole, voglio essere più chiaro, non si può “giocare” e provare a vedere come si comporta un software che rientra nel concetto di dispositivo medico senza utilizzare un approccio rigoroso, scientifico.
Comprendo l’entusiasmo e la curiosità di provare le tecnologie di cui tutti parlano, sia da parte dei tecnici, sia dei medici, ma non esistono scorciatoie. Questo discorso vale anche per altre tipologie di sistemi basati sull’IA. Vedo, ad esempio, molti produttori di software che stanno utilizzando tool di IA generativa per estrarre contenuti e classificare i contenuti di referti medici in forma di testo, magari inserendo poi questi contenuti nel Clinical Data Repository o eseguendo delle elaborazioni per stilare dei riassunti e delle spiegazioni per i pazienti. Capisco la comodità di utilizzare un tool piuttosto che selezionare e validare i contenuti per poi legarli logicamente al contesto, ma questa scorciatoia non ci solleva dall’obbligo, quando previsto, di certificare il software e dall’obbligo morale di domandarci se i contenuti che andiamo a offrire siano esatti e pertinenti. Non possiamo, in altre parole, combattere il dr. Google che i pazienti utilizzano navigando nel web con il prof. ChatGPT, Copilot, Gemini etc.. fornito da un’istituzione sanitaria. Quale valore aggiunto diamo facendo una cosa che i pazienti stessi possono fare utilizzando gli stessi strumenti?
Credo che tutti coloro che operano in questo settore debbano ragionare attentamente su come utilizzare queste tecnologie che, è bene ricordarlo, non sono perfette né prive di errori, seguendo tutti i passi e osservando tutte le normative che regolano l’utilizzo del software quando questo ha finalità mediche. Siamo appena agli inizi della rivoluzione dell’IA, vediamo di non “bruciare” le aspettative che ci sono, valutando con spirito critico ma costruttivo le attuali capacità e i rischi che ne derivano. La fretta non ha mai giovato all’innovazione.
3 – Fine