Perché un’intelligenza artificiale troppo intelligente rischia di farci schiantare al volante

Un’intelligenza artificiale troppo intelligente ci farà “addormentare al volante”? E magari – aggiungiamo noi – schiantare? L’allarmante metafora è contenuta in uno studio di Fabrizio Dell’Acqua, ricercatore italiano della Harvard Business School. L’immagine che dà il titolo al suo lavoro viene dal mondo della guida autonoma, uno dei primi in cui gli algoritmi intelligenti sono arrivati sul mercato, e dove è capitato che l’abilità dell’AI al volante spingesse gli autisti a distrarsi o appisolarsi, ignorando l’obbligo di essere sempre pronti a riprendere il volante in caso di errori o emergenze. Ma l’obiettivo del suo studio è mostrare che la stessa deriva, l’uomo che smette di impegnarsi e si affida alla macchina, può verificarsi anche negli altri ambiti di applicazione dell’Intelligenza artificiale, a cominciare dalla selezione del personale. Chiedendo a una serie di professionisti di scegliere il profilo migliore tra una serie di curriculum, e offrendo loro l’assistenza di diverse AI, più o meno capaci, Dell’Acqua ha rilevato che i reclutatori più esperti che avevano a disposizione gli algoritmi migliori hanno fatto scelte meno accurate – cioè selezionato persone meno qualificate – di quelli meno esperti a cui erano stati forniti strumenti peggiori. “Se l’intelligenza artificiale funziona troppo bene può indurre le persone che la utilizzano a seguire i suoi consigli senza pensarci”, dice Dall’Acqua. “E questo ha impatto soprattutto sui più abili, che con la loro esperienza avrebbero maggiore capacità di decidere quando seguirla e quando no”.

AI e uomo, un’interazione complessa

Lo studio tratta un tema che da qui ai prossimi anni diventerà fondamentale: quello dell’interazione tra l’intelligenza artificiale, destinata a entrare in ambiti sempre più disparati della nostra esistenza, e gli uomini. Mostrando che concentrarsi solo sulle capacità dell’AI, senza considerare il modo in cui interagiscono con quelle dei Sapiens, rischia di produrre effetti controintuitivi. E pericolosi. Il punto di vista da cui Dall’Acqua affronta il problema è quello delle aziende che cercando di aumentare la loro produttività, concludendo che se un’impresa vuole massimizzare l’efficienza del binomio uomo-algoritmo non sempre la scelta migliore è quella di massimizzare la sola intelligenza della macchina. Nelle attività dove si vuole o deve mantenere un lavoratore in carne ed ossa al comando del processo può essere preferibile fornirgli algoritmi meno sviluppati, in modo da non rischiare che il suo livello di impegno si abbassi. Che resti sveglio.

Un uomo al comando

Ma il problema dell’interazione tra uomini e macchine, come suggerisce l’analogia con la guida autonoma, va ben oltre il campo dell’economia aziendale. Perché nel grande dibattito in corso su come regolare gli algoritmi, uno dei (pochi) punti condivisi è la necessità di mantenere un “umano nel loop” per evitare il rischio che gli algoritmi lasciati a loro stessi possano avere delle allucinazioni, commettere discriminazioni o essere ingannati. In particolare in settori come l’istruzione, la sanità e – appunto – le risorse umane, che toccano i diritti fondamentali degli individui. Ma se questo principio dovesse imporsi, come effettivamente sembra, bisognerà assicurarsi che l’interazione tra l’algoritmo e l’uomo sia virtuosa, per evitare il fenomeno del totale affidamento ma anche quello – opposto e anche più noto – dell’avversione. Proprio la guida autonoma ha mostrato che calibrare questo rapporto è difficilissimo. Si è capito che gli incidenti, spesso dopo che erano già avvenuti, si originano soprattutto nelle situazioni di semi-autonomia, quando uomo e macchina devono collaborare alla guida: quando l’uomo dovrebbe intervenire, ma non lo fa, o quando dovrebbe intervenire, ma lo fa. Senza contare l’interazione tra l’auto a guida autonoma e le altre “tradizionali”, guidate dagli uomini, che popolano la strada.

Migliorare i rapporti

Se tenere l’uomo in controllo della macchina serve ad evitare dei rischi, insomma, ne pone di nuovi. Nel caso delle automobili l’industria ha capito che le situazioni ibride vanno limitate: meglio una guida tutta autonoma nelle aree che lo consentono (come le autostrade) e una prevalentemente umana in quelle che non lo consentono (come le città). Ma come detto il principio che sta passando per le nuove applicazioni dell’AI è che la decisioni finali non devono essere lasciate agli algoritmi. Servono soluzioni, dunque, per rendere positiva l’interazione con gli uomini. Abbassare il livello di intelligenza dell’AI per tenere svegli gli uomini, magari, come Dell’Acqua suggerisce di fare alle aziende. Oppure lavorare sulla trasparenza e sull’interfaccia delle applicazioni, in modo che sollecitino l'attenzione, l'impegno e il coinvolgimento dell’uomo.

Europa contro Usa

Tutte frontiere su cui bisognerà procedere per tentativi. Un ulteriore problema per i regolatori: se il modo in cui una AI e gli uomini interagiscono è così importante, perfino più importante del funzionamento dell’AI presa di per sè, come si potrà sperimentare la sicurezza di un’applicazione senza prima esporla a dei rapporti con uomini in carne ed ossa? E basterà un’interazione con un piccolo gruppo di persone, per così dire in laboratorio, a simulare l’effetto che avrebbe una volta lanciata sul mercato globale? Dalla risposta a queste domande passa la differenza tra due approcci. Quello dell’AI Act europeo, che vorrebbe “certificare” le AI prima che arrivino sul mercato, un po’ come dei farmaci, e quello americano, che lascia libere le società come OpenAI di rilasciare ChatGPT al mondo, per vedere l’effetto che fa. Con il rischio che qualcuno si schianti al volante.