Salute Digitale

La qualità e l’accuratezza dei contenuti possono lasciare a desiderare, con gravi rischi. Il caso di Wikipedia e la sua posizione sui contenuti generati con l’AI.

Tra le possibili applicazioni dell’intelligenza artificiale generativa in sanità, il fornire informazioni e raccomandazioni sulle cure è una delle più gettonate al momento. Sono infatti molti gli ospedali e gli enti sanitari che stanno sperimentando se non iniziando a utilizzare tool di AI generativa per soddisfare la legittima curiosità dei pazienti e la loro voglia di saperne di più sulla propria salute e le patologie di cui sono affetti.

Piuttosto che impegnarsi a produrre contenuti, lavoro lungo e faticoso, è infatti molto più semplice affidare questo compito all’intelligenza artificiale che, grazie alla quantità di documenti e informazioni processate, è in teoria in grado di svolgere egregiamente questo compito. Una comoda ed economica scorciatoia in grado di dare una risposta, finalmente, ai pazienti fai da te che navigano sul web per trovare ciò che vogliono sapere.

Devo confessare che, come credo tutti gli addetti ai lavori, ho provato anche io a mettere alla prova alcuni di questi tool, con risultati diversi ma mai affidabili al 100%. Del resto sono algoritmi che selezionano i contenuti su base probabilistica e sulla base di ciò che “hanno imparato”. Paradossalmente, se nell’utilizzo dell’AI nella formulazione di diagnosi per i medici un piccolo margine di errore è accettabile anche perché anche i medici a volte sbagliano, quando si tratta di fornire informazioni ai pazienti, magari senza alcun ulteriore filtro, il discorso si fa più serio e pericoloso.

Quello dell’attendibilità dei contenuti è un tema al centro dell’attenzione da tempo che non riguarda soltanto la sanità. Mi ha colpito leggere della decisione di Wikipedia di ritenere il sito di informazione tecnologica CNET non più una “fonte affidabile”. La posizione è stata presa dopo un lungo dibattito tra i redattori dell’enciclopedia collaborativa nato all’inizio dello scorso anno, a seguito delle preoccupazioni nate quando è emerso che CNET aveva iniziato a pubblicare una serie di articoli scritti dall’intelligenza artificiale a partire dal mese di novembre 2022 realizzati da un’IA generativa, firmati da un generico “CNET Money Staff” e senza esplicitare si trattasse di articoli scritti dall’IA. Gli articoli, però, erano zeppi di errori e imprecisioni, costringendo lo staff della redazione ad eseguire numerose revisioni e correzioni, fino alla sospensione dell’iniziativa dopo che il fatto è diventato di pubblico dominio. Dopo un dibattito tra gli editor di Wikipedia è scaturita la decisione che CNET non possa più essere considerata una fonte affidabile.

La decisione di Wikipedia deve, a mio avviso, far riflettere anche perché, in fondo, CNET tratta di innovazione tecnologica e non di sanità (anche se una una sezione wellness). L’AI ha davvero grandi potenzialità ma non bisogna lasciarsi prendere dai facili entusiasmi né dalla comodità delle scorciatoie. L’informazione e l’educazione sanitaria sono una cosa seria.