L’intelligenza artificiale non è solo ChatGPT (e simili) o strumenti per la creazione di immagini virtuali ma iperrealistiche. Le sue applicazioni possono riguardare qualsiasi aspetto della vita. Arrivate quasi d’improvviso sui nostri computer e sui nostri smartphone, lasciandoci increduli per quanto riescono a fare già al momento, hanno un potenziale che, se correttamente sfruttato nei prossimi anni, potrà aprire tante porte che, ad oggi, neanche sappiamo esistere. Traslando questo discorso in ambito sanitario, le AI avranno un ruolo determinante nel migliorare il lavoro degli operatori sanitari e le speranze di salute dei pazienti.
L’intelligenza artificiale migliora le performance in terapia intensiva
I ricercatori della TU Wien (Università tecnica di Vienna), in collaborazione con l’Università di Medicina di Vienna, hanno sviluppato un sistema che dà indicazioni per il trattamento delle persone che, a causa della sepsi (o setticemia), hanno bisogno di essere ricoverate in terapia intensiva. Secondo Clemens Heitzinger della TU Wien, non si tratta di un “semplice classificatore che separa, per esempio, immagini di tumore da quelle che non lo sono, ma è un sistema che lavora in progressione, prevedendo l’andamento della patologia del paziente”.
Questo sistema prende decisioni e viene “ricompensato” se l’esito risulta positivo. Viceversa, se il risultato non è quello sperato si procede ad una sorta di “punizione”. Si tratta dunque di “una forma di apprendimento automatico” e il programma “ha il compito di massimizzare la ricompensa virtuale attraverso le sue azioni”. Il sistema si è dimostrato efficace nel far crescere i tassi di guarigione fino al 3%. Gli autori dello studio sottolineano però che “questo non vuol dire che la decisione debba essere lasciata solo al sistema, ma l’intelligenza artificiale può funzionare come un dispositivo aggiuntivo e il personale medico può consultare il sistema e confrontare la sua valutazione”.
Oms: “AI grande opportunità ma attenti ai rischi”
Lo sviluppo repentino di queste nuove tecnologie ha spinto l’Organizzazione mondiale della sanità a prendere posizione, in particolare sull’utilizzo di strumenti di modelli linguistici di grandi dimensioni (chiamati LLM, ovvero “Large Language Model”) che vengono generati proprio dall’intelligenza artificiale. L’Oms si ritiene “entusiasta dell'uso appropriato delle tecnologie, compresi i LLM, per supportare gli operatori sanitari, i pazienti, i ricercatori e gli scienziati”, ma è preoccupata che “la cautela che normalmente verrebbe esercitata per qualsiasi nuova tecnologia non venga esercitata in modo coerente con i LLM”.
“La loro fulminea diffusione pubblica – sottolinea l’Oms – e il crescente uso sperimentale per scopi legati alla salute sta generando un notevole entusiasmo per il potenziale di supportare i bisogni di salute delle persone”. Anche per questo motivo “è imperativo che i rischi siano esaminati attentamente quando si utilizzano i LLM per migliorare l'accesso alle informazioni sulla salute, come strumento di supporto decisionale o anche per migliorare la capacità diagnostica in contesti con risorse insufficienti per proteggere la salute delle persone e ridurre le disuguaglianze”.
L'adozione precipitosa di sistemi non testati, insomma, potrebbe portare a “errori da parte degli operatori sanitari, causare danni ai pazienti, erodere la fiducia nell'IA e quindi minare (o ritardare) i potenziali benefici e gli usi a lungo termine di tali tecnologie in tutto il mondo”.
La guida sull’etica e la governance dell’intelligenza artificiale applicata alla salute
Già due anni fa l’Organizzazione mondiale della sanità era intervenuta sul tema dell’intelligenza artificiale redigendo una guida sull’etica e la governance che contiene sei principi fondamentali da applicare proprio in questo ambito: proteggere l'autonomia umana; promuovere il benessere e la sicurezza delle persone e l'interesse pubblico; garantire trasparenza, spiegabilità e intelligibilità; promuovere responsabilità (responsability) e responsabilizzazione; garantire inclusività ed equità; promuovere un'AI reattiva e sostenibile. L’Oms ribadisce che questi principi valgono ancora oggi e vanno assolutamente seguiti.
Intelligenza artificiale in sanità, i rischi concreti secondo l’Oms
L’Organizzazione mondiale della sanità ha stilato un elenco delle principali criticità cui potremmo andare incontro se l’utilizzo delle intelligenze artificiali dovessero “sfuggirci di mano”. Innanzitutto, i dati utilizzati per addestrare l'AI possono essere distorti, generando informazioni fuorvianti o imprecise che potrebbero comportare rischi per la salute, l'equità e l'inclusione. I Large Language Model generano risposte che possono apparire autorevoli e plausibili a un utente finale ma potrebbero essere sbagliate o contenere gravi errori, soprattutto per le risposte relative alla salute. Possono inoltre essere addestrati su dati per i quali il consenso potrebbe non essere stato fornito in precedenza per questo specifico scopo e potrebbero non proteggere i dati sensibili (inclusi ovviamente quelli sanitari) che un utente fornisce a un'applicazione per generare una risposta. Infine, I LLM possono essere utilizzati in modo improprio per generare e diffondere disinformazione altamente convincente sotto forma di contenuti testuali, audio o video difficili da distinguere per il pubblico da contenuti sanitari affidabili.