Insegnare l’intelligenza naturale

Immaginiamo di porre a una qualunque macchina costruita dall’uomo — o se preferite a qualunque intelligenza artificiale — il seguente problema: se in una comunità di milioni di individui fosse necessario che un certo numero di persone soffrisse (attenzione è una necessità, non ne possiamo fare a meno), qual è il numero di persone sofferenti che potremmo tollerare? La risposta della macchina, in prima istanza e seguendo l’esempio di quanto ha appreso nutrendosi dei nostri documenti, sarebbe un triste sbrodolamento di cose tipo: “le risposte variano a seconda del sistema etico e della prospettiva filosofica adottata, mettendo in luce un dilemma etico fondamentale senza una soluzione facile”. Insomma la classica tiritera che la contemporaneità ha elevato ad arte retorica, del non dire nulla emettendo suoni.

Poi, se messa alle strette e incalzata sul dare una soluzione quantitativa, arriverebbe all’inevitabile decisione che, in assenza di alternative, il numero massimo di persone infelici tollerabile sarebbe la maggioranza della popolazione meno uno. Una sola persona in meno di quanto siano le persone felici. È questa la risposta corretta per la macchina. La cosa, non ha nulla di sorprendente: è esattamente quanto risponderemmo noi esseri umani usando lo stesso semplicissimo ragionamento che abbiamo insegnato alla macchina e che questa ha utilizzato per rispondere alla nostra domanda. Pura aritmetica. Proviamo ora a sottoporre alla stessa macchina il dilemma che Ivan pone al fratello Alyosha ne I fratelli Karamazov: “Dimmi tu stesso, sfido la tua risposta. Immagina di creare un tessuto di destino umano con l’obiettivo di rendere gli uomini felici alla fine, di dare loro finalmente pace e riposo, ma che fosse essenziale e inevitabile torturare a morte solo una minuscola creatura — quel bambino che si batte il petto con il pugno, per esempio — e fondare quell’edificio sulle sue lacrime invendicate, acconsentiresti a essere l’architetto a queste condizioni? Dimmi, e di’ la verità”.

Qui la risposta tenderebbe a essere ancora più complessa ed è difficile obbligare la macchina a non ripararsi — come faremmo tutti noi — dietro ritrite e fumose formule senza dare alcuna risposta sensata alla domanda di Ivan. Ma quando, di nuovo, si mettesse la macchina alle strette del dettato evangelico “sia invece il vostro parlare: ‘sì, sì’, ‘no, no’; il di più viene dal Maligno”, allora, di nuovo, la risposta sarebbe quella che ognuno di voi già conosce. L’umanità felice in cambio della sofferenza di un solo bambino? Ma figuriamoci, è inutile chiedere.

È questo il problema dell’intelligenza artificiale: che è stata creata da noi e, come tale, utilizza i nostri stessi sistemi di ragionamento. In altre parole insegnando a queste macchine la nostra logica abbiamo trasmesso anche i nostri inevitabili difetti. E se, magari, credete che la nostra intelligenza non abbia punti deboli, guardatevi intorno per osservarne le sue realizzazioni: un mondo di appetiti primordiali soddisfatti da tecnologie divine. Una sconfinata capacità scientifica e una morale paleolitica. Nel 1780 Jeremy Bentham nell’Introduzione ai princìpi della morale e della legislazione introduce una specie di algebra morale; un calcolo felicitario, risolvibile grazie a una formula (oggi la chiameremmo algoritmo) che quantificava parametri quali l’intensità della felicità o del dolore, la sua durata, le probabilità di avverarsi, il numero di persone interessate ecc. Grazie a questo calcolo sarebbe possibile valutare l’efficacia di un’azione e, quindi, la sua moralità.

Chiudete gli occhi e immaginate un mondo in cui ogni comportamento fosse valutato in funzione dei requisiti della formula di Bentham. Un mondo in cui il bambino del dilemma di Ivan non avrebbe alcuna probabilità di salvarsi o nel quale la quantità di felicità (o di benessere o di salute o di soldi o di quello che vi pare) guidasse la ragione delle nostre azioni. Lo state immaginando? Basta guardarsi intorno per vederlo: è il nostro mondo. A me non piace. Per favore, insegnate alle macchine che Bentham aveva torto e che nessuno dovrebbe mai sacrificare un solo bambino in cambio della felicità di tutti. Insegnate all’intelligenza artificiale alcune semplici leggi di intelligenza naturale e speriamo bene.