L’IA e i rischi del potere

Non è la prima volta che l’umanità si trova tra le mani uno strumento che può causarne la fine. Siamo preoccupati, e ne abbiamo ben donde: ma non è la prima volta. Non sappiamo fin dove potrà spingersi l’IA, e leggiamo previsioni che, pur sparate a casaccio, non spaventano di meno: nel 2030, fra meno di dieci anni, nel 2050, o non so quando. La singolarità è vicina, la creatura si ribellerà al creatore, la Superintelligenza sopravanzerà l’uomo, sottometterà l’uomo, si sbarazzerà dell’uomo. Tutto sta cambiando, ed è per sempre. Irrevocabilmente, irreversibilmente. D’accordo, ma non è la prima volta. Per esempio: siamo seduti su una polveriera atomica, e ci siamo persino abituati. Anche se quello di Putin era un bluff, anche se le sue minacce di un uso tattico del nucleare non hanno avuto seguito e sono servite solo ad alimentare il partito pacifista che in Occidente vorrebbe mollare Kiev al suo destino, non resta meno vero che gli arsenali sono ancora lì. Anche se abbiamo dimenticato le angosce degli anni Cinquanta – la corsa incontrollata agli armamenti, i missili a lungo raggio, le decine di migliaia di testate nucleari, la bomba H – non dovremmo anche noi ritenere, come Bertrand Russell e Albert Eintstein, nel ’55, che «gli scienziati dovrebbero riunirsi in un congresso per valutare i pericoli che sono sorti come conseguenza dello sviluppo dell’IA» (ho messo IA al posto di: armi di distruzione di massa, che è nell’originale)?

Ma io vorrei fare un passo ancora più indietro. La più potente arma che l’uomo abbia mai avuto tra le mani, che è stata almeno concausa di tutte le guerre che l’umanità ha combattuto nel corso della sua storia, la più difficile da controllare, anche, la più terrificante tecnologia che abbia plasmato l’umanità, rendendosi insostituibile, è il linguaggio, la parola. Non starò qui a difendere l’idea che il linguaggio è per l’appunto una tecnologia, che noi siamo parlati, a volte, più di quanto parliamo (a proposito di controllo), e soprattutto non starò a discutere se le macchine linguistiche artificiali, i Large Language Models, non manchino in realtà dell’intelligenza che noi invece esercitiamo, e di una consapevolezza che noi invece abbiamo (come se sapessimo in cosa mai consista una simile consapevolezza). Mi limiterò piuttosto a ricordare che, intanto, Thomas Hobbes – quello dell’homo homini lupus, della guerra di tutti contro tutti – replicava seccamente alla tesi di Aristotele, secondo il quale l’uomo è naturalmente un animale politico, come le api e le formiche, dicendo che no, non è la stessa cosa, e non lo è perché l’uomo parla, perché possiede, grazie alla parola, l’arte «per la quale rappresentare ciò che è bene sotto l’aspetto del male e ciò che è male sotto l’aspetto del bene, ed aumentare o diminuire l’apparente grandezza del bene e del male, scontentando gli uomini e turbando la loro pace a loro piacimento». Se c’è la parola, diceva insomma Hobbes, c’è la possibilità di turbare la pace, e di muovere guerra. Se c’è la parola, allora, se si vuole la pace, ci vuole un potere che la governi.

La soluzione di Hobbes era abbastanza drastica: in certo modo, consegnando tutto il potere a uno, togliere la parola a tutti gli altri. Ma, riconsiderandola, ha sicuramente il merito di mettere in campo tutti i termini dell’equazione che dobbiamo provare a risolvere: tecnica, umanità, potere. La questione è meno se gli algoritmi ci sfuggano di mano che non invece in quali mani finiscano, chi li maneggia, quali spazi ci sono per una piena e trasparente accountability: chi ne è responsabile e innanzi a chi ne risponde. Quel che inquieta della denuncia di Jacob Coxon, l’informatico che ha mollato Anthropic denunciando i rischi dell’IA, è forse il fatto che sia uno a farlo, che ci appaia solo, impotente, che non sembri poter interloquire gran che, che neppure lo possiamo noialtri, le società e i Parlamenti. Ci inquieta non il potere della macchina, ma la macchina del potere. Ci inquieta la soluzione hobbesiana, la tentazione monopolistica, il momento straussiano di Peter Thiel, la sovrapposizione, in nome della sicurezza, del potere digitale alla sovranità nazionale, e l’irrilevanza in cui viene sempre più ridotto il controllo democratico. Può dunque darsi che vacillino davvero le tre leggi della robotica di Asimov, quelle che alle macchine impongono, in breve, di non nuocere agli umani: si vedrà. Nel frattempo, però, non facciamo che vacillino e vengano calpestate le altre leggi, quelle per gli uomini, su cui si fonda tuttora la nostra libertà.