Riflessioni su un interessante evento dedicato all’uso dell’intelligenza artificiale con la presenza di diversi attori e differenti punti di vista.
L’occasione era davvero ghiotta: partecipare ad evento che ha visto alcune centinaia di medici, infermieri, tecnici IT, società in-house, solution provider, funzionari regionali, direttori di aziende sanitarie, esperti di privacy e di aspetti legali incontrarsi nella meravigliosa cornice di Villa Manin a Codroipo, per parlare di AI.
La prima considerazione che condivido è l’alto livello di aspettative che c’è sull’AI, sia pur con la consapevolezza che questa non sia una sorta di “bacchetta magica” ma certamente un potente strumento per affrontare i temi più importanti della sanità come le liste di attesa e l’appropriatezza prescrittiva, le priorità dei pronto soccorso, la carenza di medici ed infermieri attraverso l’aumento della loro efficienza, la conoscenza sull’evoluzione della domanda, la pianificazione delle risorse. Non c’è insomma aspetto – governo, prevenzione, cura – che non possa beneficiare dell’AI.
C’è quindi il rischio concreto che l’AI, se non utilizzata in modo serio e professionale, possa, passata la fase di infatuazione, rivelarsi una delusione per tutti coloro che si aspettano da essa un contributo rilevante alla soluzione dei problemi della sanità, conseguenza di una sopravvalutazione che traspare dall’entusiasmo e dalla semplificazione di alcuni aspetti che possono rappresentare un ostacolo alla sua diffusione.
Se da un lato mi fa molto piacere osservare come, nel caso dell’AI, ci sia la volontà di creare con l’innovazione tecnologica valore – chi legge questo blog sa quanto io promuova l’innovazione di valore – devo però osservare che anche senza l’AI è possibile fare ciò, magari con più fatica. Non è un problema di tecnologie ma di mentalità su come utilizzare l’IT per affrontare i problemi della sanità creando “soluzioni di valore” e non soltanto dei grandi contenitori di dati.
Non mancano però le preoccupazioni sui possibili ostacoli che frenano l’AI a cominciare dalla privacy e dai regolamenti specifici (europei e non). C’è la consapevolezza, diffusa, che bisogna tenere conto di questi aspetti ma c’è molto timore su come affrontarli in un contesto, l’AI, nuovo per tutti. Tra i timori ci sono poi quelli relativi alla proprietà intellettuale delle soluzioni che si basano su algoritmi addestrati su dati e contenuti che potrebbero essere di proprietà di terzi e quello della responsabilità in caso di errori e danni provocati dall’AI.
C’è molta voglia di sperimentare -in qualche caso direi di “giocare” – e sono già tanti i progetti pilota che spaziano dal governo sanitario, la prevenzione, la diagnostica, la pratica clinica. La disponibilità di tool e modelli linguistici su larga scala rendono relativamente semplice utilizzare l’AI per vedere l’effetto che fa.
Non sempre però c’è piena consapevolezza sui vincoli che bisogna rispettare, a partire dal regolamento europeo sui dispositivi medici (MDR) che riguarda anche le soluzioni basate sull’AI. È un tema che pochi hanno menzionato, l’atteggiamento prevalente sembra essere quello di “sperimentiamo e poi vediamo“. Altro tema molto scottante ma poco toccato è quello della “sostenibilità dell’AI” sul quale mi sembra ci sia poca consapevolezza. Sostenibilità che si declina in quattro ambiti:
- infrastrutture, ossia la disponibilità di server in grado di addestrare e far funzionare gli algoritmi di AI. Come hanno fatto notare tutte le in-house, i data center regionali non sono strutturati per l’AI ed occorrerebbero forti investimenti per acquistare le risorse necessarie che, costo a parte, sono difficili da reperire
- privacy, spostare enormi quantità di dati, in forma psuedo o anonimizzata – c’è però da chiedersi quanto sia possibile avere un dato realmente anonimo – in data center esterni può non essere fattibile e corretto dal punto di vista della privacy. La soluzione di “portare gli algoritmi ai dati” e non viceversa implica le considerazioni sulla sostenibilità infrastrutturale fatte al punto precedente
- costi, i modelli di pricing dei principali tool oggi disponibili sono poco compatibili con il loro uso su larga scala. Il costo in caso di utilizzo massivo può diventare davvero elevato. Ma quanti di coloro che oggi stanno sperimentando modelli di AI generativa si stanno ponendo seriamente questo problema?
- ambiente, l’AI è fortemente energivora e tutt’altro che green. Tra gli aspetti che andrebbero valutati c’è quindi l’analisi costi (ambientali) – benefici che mi sembra nessuno stia prendendo in considerazione. Impiegare tanta energia per benefici poco rilevanti o magari assenti è un atteggiamento poco etico
L’AI è dunque complessa e ha tante implicazioni. Deve essere affrontata in modo serio e professionale, senza ricorrere a finte scorciatoie che nella realtà non esistono.