L’AI in medicina, la macchina non deve pensare al posto del medico

“Se pensa al posto tuo, è lì che iniziano i problemi”. È il principio cardine con cui Francesco Vaccarino, matematico e docente del Politecnico di Torino, sintetizza i rischi legati a un utilizzo passivo e acritico dell’intelligenza artificiale. Intervenuto al Festival di Salute di Repubblica a Padova per fare il punto sull’impatto dei grandi modelli linguistici (i cosiddetti Large Language Models, o Llm) insieme a Giorgio Parisi, premio Nobel per la Fisica 2021, il professore ha messo in guardia dall’entusiasmo cieco che spesso accompagna le nuove rivoluzioni tecnologiche: un atteggiamento che ricorda il celebre monito pronunciato dal matematico Ian Malcolm nel film Jurassic Park, secondo cui gli scienziati erano talmente preoccupati di capire se potevano fare qualcosa da non fermarsi a riflettere se dovevano farla.

I medici e la responsabilità

Se governata con consapevolezza, l’intelligenza artificiale offre vantaggi enormi in moltissimi ambiti, a partire proprio dalla medicina. Questa tecnologia ha infatti un grande potenziale nello snellire le pratiche burocratiche ospedaliere, nell’automatizzare processi standardizzati a basso rischio, come l’analisi routinaria di alcuni esami del sangue, e nell’affiancare i clinici durante il percorso diagnostico e operativo. Tuttavia, ha avvertito Vaccarino, non sarà mai possibile delegare il controllo totale agli algoritmi. Oltre al piano clinico, c’è infatti un ostacolo giuridico ed etico insuperabile: un sistema informatico è un’entità inanimata e non può rispondere legalmente delle proprie scelte. La responsabilità finale dell’atto medico, soprattutto in caso di errore o malfunzionamento, non può che restare in capo al professionista umano, rendendo l’alleanza tra intelligenza umana e artificiale molto più efficace rispetto all’uso isolato della macchina.

Un tutor, non un sostituto

Il rischio della delega cognitiva emerge con forza anche nel mondo della scuola e dell’università. A questo proposito Vaccarino ha citato uno studio del 2024 condotto all’Università diagnostica e di ricerca di Berkeley, in California, da cui emerge come circa due terzi degli studenti utilizzino ormai l’intelligenza artificiale, e oltre metà di loro lo faccia abitualmente.

I ricercatori hanno osservato un fenomeno a doppia velocità a partire dal 2022: se nelle prove in cui era consentito sfruttare l’IA si sono registrati un netto miglioramento dei risultati e una riduzione dei tempi di risposta, nei compiti complessi che non potevano essere risolti tramite i chatbot si è assistito invece a un progressivo calo del rendimento umano.

Per evitare questo impoverimento delle capacità critiche, l’intelligenza artificiale deve essere impiegata come un “tutor” o un assistente per le mansioni meccaniche e ripetitive (dall’organizzazione quotidiana fino a servizi semplici come un drive-through) ma mai come un sostituto del ragionamento umano.

La sfida europea

Come garantire, allora, che lo sviluppo tecnologico resti al servizio dell’essere umano? La risposta passa dalla regolamentazione e dagli investimenti pubblici nella ricerca. L’Unione Europea, che già nel 2016 aveva fatto da apripista nella tutela dei dati personali approvando il regolamento Gdpr (General Data Protection Regulation), ha scelto di recente la via delle regole e della comprensione scientifica per indirizzare l’evoluzione dell’intelligenza artificiale. Ma le sole norme non bastano: secondo Vaccarino, l’Europa deve urgentemente conquistare una propria indipendenza sulle tecnologie strategiche — dalle infrastrutture di calcolo fino ai sistemi satellitari — per non restare dipendente dalle decisioni di grandi potenze come Stati Uniti e Cina, dove oggi si concentrano i principali sviluppatori globali. Senza linee guida e senza una visione autonoma, conclude il docente, il rischio dell’intelligenza artificiale generativa è quello di avvitarsi su se stessa: “È come un videogioco che nasce per rappresentare la realtà e finisce per rappresentare solo se stesso”.

*Gli autori dell’articolo sono studenti che hanno partecipato al laboratorio di giornalismo del Festival di Salute di Padova: Alessandro Valentini (Liceo Alvise Cornaro), Sara Cruz Reyes e Anna Girardi (Liceo Concetto Marchesi).