L’IA generativa permette, in teoria, di rispondere all’esigenza dei pazienti di essere informati e compredere gli aspetti più importanti della propria salute. Ci sono però diverse riflessioni da fare riguardo la privacy e la certificazione MDR.
Continuiamo con questo articolo alcune riflessioni sulle implicazioni sull’uso dell’intelligenza artificiale – IA – in medicina (trovate il primo articolo qui). Dopo aver ragionato sui visualizzatori clinici potenziati dall’IA, vediamo ora come i modelli linguistici su larga scala – LLM – possono contribuire all’empowerment del paziente fornendo contenuti per la tutela e la gestione della propria salute. Si tratta di una pratica già ampiamente utilizzata dalle persone che sottopongono ai più diffusi sistemi di IA quesiti sui propri problemi di salute – diagnosi, terapie, prognosi – la naturale evoluzione dal dr. Google al prof. GPT.
La disponibilità di tool che sono in grado di generare, con il minimo sforzo di formulare una domanda pertinente, contenuti di buona qualità, rappresenta una forte tentazione per le aziende sanitarie che possono, in questo modo, rispondere all’esigenza dei pazienti di essere informati e comprendere gli aspetti più importanti della propria salute. C’è tuttavia da osservare che si poteva e si può soddisfare questa legittima aspirazione anche senza l’IA dal momento che esistono tanti contenuti pensati per i pazienti – si veda ad esempio il portale ISS Salute – che possono essere veicolati in diversi modi (app, portali, link tramite QR code sui referti, etc..).
Tornando però all’IA e ai modelli linguistici su larga scala, questi possono essere utilizzati per generare delle lettere di dimissione per i pazienti, visionate e confermate dai medici, contenuti per informarsi e comprendere le patologie di cui si è affetti (patient education), promemoria per la preparazione agli esami diagnostici, note per l’uso dei farmaci e dei possibili effetti che questi possono provocare, spiegazioni sui referti diagnostici, consigli e informazioni per il decorso post-ricovero. Diverse applicazioni che hanno in comune la generazione di contenuti a partire da un quesito più o meno articolato.
Quest’ultimo aspetto può avere importanti implicazioni sulla privacy. Un quesito molto dettagliato, ricco di informazioni sul paziente, anche senza riportare dati identificativi, può configurarsi come un data set pseudo-anonimizzato e, come tale, soggetto al GDPR. Se i dati sono trasferiti e magari memorizzati all’esterno dell’azienda sanitaria è necessario prestare molta attenzione e attenersi alle regole che sono previste e che non sono facili da rispettare con sistemi di AI commerciali.
Ulteriori riflessioni vanno formulate per ciò che riguarda la certificazione MDR. Come vanno classificate queste applicazioni? I pareri, in merito, sono discordi. Secondo alcuni come classe 1 (autocertificazione), per altri trattandosi di contenuti non è necessaria alcuna certificazione. Se le applicazioni diventano degli strumenti a supporto delle cure è difficile sostenere quest’ultima affermazione. Per ciò che riguarda il livello di rischio può essere valutato come basso e quindi rientrare nella classe 1.
Certificazione a parte, però, c’è il problema della correttezza delle informazioni che vengono proposte e la loro coerenza con le finalità del Servizio Sanitario Nazionale o di quelle di un’azienda sanitaria privata. Quanto i contenuti generati sono affidabili? Esiste un bias verso il consumismo sanitario o, peggio, a credenze o pratiche che non sono riconosciute dal mondo scientifico? Utilizzare i contenuti come sono generati espone a rischi difficile da misurare e da intercettare. Viceversa usare l’IA generativa come supporto per preparare contenuti che poi vengono validati da medici riduce i vantaggi di questi strumenti e introduce un carico di lavoro che può essere difficile da gestire.
Sono tutti aspetti che richiedono un’attenta valutazione che potrebbe spegnere, almeno in parte, l’entusiamo e le aspetttative che l’IA generativa ha sollevato nella medicina.
2 – Continua