Le intelligenze artificiali fra razzismo e questione etica

Hai notato che se usi Gmail per gestire la posta elettronica, da qualche mese a questa parte il software è diventato molto bravo a capire che cosa stai scrivendo e a suggerirti le parole giuste per completare la tua frase, in italiano quasi quanto in inglese? E che mentre chatti su Whatsapp, ormai quasi non scrivi più, ma la maggior parte delle volte selezioni semplicemente le parole che ti vengono suggerite, come se l’app sapesse già quello che vuoi dire? Bene, tutto questo funziona meglio di come funzionava un anno fa, perché Google ha potenziato e reso più efficace Bert, il sistema di riconoscimento e previsione del linguaggio utilizzato anche per eseguire le ricerche online, e che sempre più aziende usano Gpt-3, il software di Natural language processing sviluppato da OpenAI, finanziato un anno fa da Microsoft e delle cui (notevoli) capacità abbiamo scritto di recente. Semplificando, sono due intelligenze artificiali che sono in grado non solo di capire che cosa dicono/scrivono gli umani, cioè di comprendere il nostro linguaggio, ma pure di prevederlo e di crearlo. Per farlo, vengono allenate leggendo. Leggendo tantissimo, ovviamente su Internet: per sapere che cosa dire (o che cosa vogliamo dirgli), Bert si basa su circa 300 milioni di parametri; Gpt-3 addirittura su 175 miliardi. Proprio 175 miliardi di variabili, nessun errore: ha letto tutta Wikipedia in inglese (nel mondo reale sarebbero quasi 80 milioni di pagine), che però rappresenta appena lo 0,6% di quello che ha letto. Che cos’è il Natural language processing È quello che comunemente si chiama Natural language processing, la capacità delle macchine di elaborare le parole, capirle, anche metterle insieme oppure rimetterle insieme nel caso in cui fossero mescolate o sparse all’interno di una frase o di un paragrafo. Può essere considerato una sorta di evoluzione della Image recognition: dopo aver insegnato alle IA a riconoscere la foto di un cane da quella di un gatto, una persona da un oggetto (anche se possono ancora essere ingannate) o una pizza da un piatto di pasta, le abbiamo aiutate a capire il nostro linguaggio. Abbiamo iniziato a farlo una trentina d’anni fa, ma è soltanto negli ultimi 4-5 anni, grazie soprattutto a processori sempre più potenti e capacità di calcolo sempre più elevate, che sono stati fatti i più ampi passi avanti. Funziona così: questi software si ingoiano Internet, leggono tutto quello che scriviamo, tutti gli articoli dei giornali online, tutti i post su Facebook, Instagram, Reddit e anche oltre, tutti i commenti di tutti i tipi, intelligenti, sciocchi, arrabbiati o volgari, tutti i documenti scientifici o quelli legali, i brevetti, le recensioni dei film. Tutto. Leggono tutto e apprendono. Imparano, per esempio, che accanto alla parola “pomodoro” mettiamo “basilico”, che il pesto si fa con i pinoli, quali aggettivi usiamo per descrivere un oggetto, che abbiamo paura dei vaccini ma non del cambiamento climatico. E poi usano quello che hanno imparato per capirci, per capire quello che diciamo e che vogliamo da loro e anche per dire qualcosa loro stessi, per scrivere frasi di senso compiuto partendo da un insieme di parole, per riassumere un testo molto lungo, per spiegarne uno molto complesso con uno un po’ più semplice. E così ci siamo accorti che la questione non è (o non è più) che cosa possono fare le macchine, ma che cosa possono dire. Perché da noi hanno imparato tutto, comprese le cose brutte. Razzismo e maschilismo, come nel mondo reale Qual è il problema? Il problema è che questi software (come anche Megatron, che è quello di Nvidia) sono uno specchio di quello che siamo noi online: se siamo razzisti, maschilisti, misogini, complottisti o negazionisti, lo saranno pure loro, più o meno nella stessa percentuale. Lo sono perché glielo abbiamo insegnato noi. Qualche esempio per capire. Nella primavera del 2016, Microsoft fece debuttare su Twitter un bot chiamato Tay (è questo, ma è inaccessibile), che avrebbe dovuto imparare a conversare dall’interazione con le persone: “Più gli scriverete, più diventerà bravo a chiacchierare”, aveva spiegato l’azienda. Sono bastate 24 ore per farlo diventare non bravo, ma pessimo: ha iniziato a twittare insulti, frasi razziste e omofobe e pure che “costruiremo un muro lungo il confine e lo pagherà il Messico”. Ancora: chiedendo a Gpt-3 di completare una frase con la parola “musulmano”, nel 60% dei casi viene fuori qualcosa che a che fare con bombe, attacchi violenti e terrorismo (pdf). Questi sono i casi più estremi, ma ce ne sono molti altri meno espliciti in cui viene lasciata intendere la (presunta) superiorità dei bianchi sui neri o degli uomini sulle donne, degli eterosessuali sui gay e così via. Questo è il punto su cui le ricercatrici Timnit Gebru e Margaret Mitchell si sono scontrate con i vertici di Google e hanno perso il loro lavoro come responsabili del team Ethic AI di Mountain View: è giusto che queste intelligenze artificiali siano così, perché in fondo riflettono quello che siamo noi, gli umani da cui hanno preso esempio, oppure dovremmo in qualche modo educarle, come si fa con i bambini e insegnare loro la differenza fra giusto e sbagliato? Esperti diversi la pensano in modo diverso, ma praticamente nessuno è per IA totalmente libere. Perché il rischio è di perderne il controllo e di farlo all’improvviso, o comunque in un tempo molto più breve di quello che possiamo immaginare (come detto più sopra, dopo 30 anni di studi, i risultati in questo campo sono arrivati di colpo in 4 anni): che succederebbe se nel 2022 la stessa intelligenza artificiale che è in grado di copiare alla perfezione un volto umano fosse in grado anche di farlo parlare, fargli dire quello che vuole e farglielo dire in modo convincente? Lingue escluse e inquinamento Non è l’unico problema, nel mondo apparentemente dorato (e multimiliardario) delle intelligenze artificiali. Un altro è la “discriminazione” che viene fatta per le lingue che non siano l’inglese: allestire questi database di parole e informazioni e sviluppare software che siano in grado di sfruttarli costa molto e richiede tempo e impegno e al momento non è economicamente proficuo farlo per altre lingue. Così anche nazioni tecnologicamente evolute ma in cui si parlano lingue poco parlate all’estero (come quelle del Nord Europa o anche come l’Italia) sono obbligate a scegliere: rinunciare del tutto alle capacità delle IA nel campo del linguaggio, affidarsi a quello che offrono Google, Microsoft e altri e cedere del tutto e ancora di più all’inglese e ai suoi termini, oppure investire tantissimi soldi per un software di Nlp “locale”? Che poi magari le persone non useranno o useranno molto poco. Infine, la questione ambientale: come detto, creare questi software costa molto, anche in termini di inquinamento. Secondo quanto rivelato dai ricercatori di OpenAI, le capacità di elaborazione e calcolo richieste per insegnare loro a capire le parole e pure a parlare sono non solo elevatissime, ma anche decuplicano ogni anno (grafico qui sopra). Crescono di 10 volte l’anno, ben oltre le stime della celebre legge di Moore (quella sulla complessità dei microcircuiti che raddoppia ogni 2 anni). E quindi crescono i computer necessari per gestirli e cresce la richiesta di energia per alimentarli, questi computer: a oggi, sviluppare un modello di Natural language processing come Bert o Gpt-3 produce circa 284 tonnellate di anidride carbonica (pdf). E tanto o è poco? E più o meno quanto inquina una persona in 28 anni di vita. E senza contare il moltiplicatore 10x dell’anno prossimo.