Un account sospeso, un prestito negato da un algoritmo, uno sportello pubblico che richiede una prenotazione online. In tutti e tre i casi i diritti dipendono sempre più da regole digitali difficili da conoscere e contestare. È da qui che parte Sudditi digitali. Dialoghi sulla sovranità cognitiva, il libro di Stefano Epifani e Mauro Minenna, in libreria dal 23 ottobre per Digital Transformation Institute.
Il tema riguarda tutti ed entra nel cuore del nostro essere cittadini e, più in generale, individui pensanti. Possiamo considerarci cittadini sovrani – padroni delle nostre scelte o persino pensieri - se altri stabiliscono, attraverso sistemi opachi, ciò che vediamo, sappiamo e possiamo fare? Questi altri sono, sempre più, le big tech. Ossia i padroni degli algoritmi, che fino a pochi anni fa erano perlopiù soltanto social media e motori di ricerca; adesso, in primis si parla del potere dell’intelligenza artificiale.
Epifani, presidente della Fondazione per la Sostenibilità Digitale, e Minenna, direttore generale di Aci Informatica, già a capo della trasformazione digitale a Palazzo Chigi, descrivono il potere accumulato dalle piattaforme. Hanno ampliato l'accesso a informazioni e servizi, ma decidono anche quali notizie raggiungono ciascuno di noi e con quali criteri veniamo valutati. Scelte che incidono sulla vita quotidiana pur sfuggendo spesso al confronto democratico.
Il libro distingue tre livelli. La sovranità tecnologica riguarda il controllo su reti, chip e data center; quella dei dati riguarda chi può raccoglierli e utilizzarli. La sovranità cognitiva, cuore del saggio, è invece la possibilità di capire e discutere come i sistemi trasformino quelle informazioni in consigli, classifiche, giudizi e decisioni.
Sui social ad esempio ignoriamo perché il nostro schermo mostra una notizia e ne nasconde un'altra. L'algoritmo seleziona le opzioni prima che scegliamo che cosa leggere. Analogamente, i modelli usati per valutare un cliente o una candidatura a un posto di lavoro possono incidere sulle opportunità delle persone. La questione è nota alle istituzioni, anche se una soluzione ancora non è chiara: le norme europee prevedono tutele particolari quando un algoritmo può decidere sulla vita di una persona, attraverso ad esempio il sistema giudiziario, del welfare o l’ambito lavorativo.
Gli autori scelgono di affrontare la questione attraverso undici dialoghi di ispirazione platonica. Otto personaggi dai nomi antichi discutono casi contemporanei: Dedalo è il tecnico, Solone il giurista, Ipazia la filosofa, Creonte il politico, Filemone e Bauci i cittadini. Si incontrano in cucine e uffici, perché è lì che le conseguenze delle scelte informatiche diventano concrete.
Due figure rendono più interessante il confronto. Trasimaco, voce della piattaforma, rivendica benefici concreti: ha connesso persone e abbattuto barriere informative. Tutto vero; questo non è un libro contro il digitale, come affermano gli autori con chiarezza. Il punto è un altro. Il valore dei servizi non è sufficiente a legittimare il potere di fissarne unilateralmente le regole. Alcibiade è invece l'utente sedotto che conosce i rischi e accetta lo stesso di usare quei servizi. Rinunciare a una piattaforma può significare perdere contatti, lavoro, visibilità.
Dai dialoghi nasce la Carta dei diritti cognitivi del cittadino, dieci articoli aperti dalla frase “La sovranità digitale appartiene al popolo”. Il primo chiede di rimuovere gli ostacoli economici, culturali e tecnici all'accesso: un servizio pubblico disponibile solo online rischia di escludere proprio chi ne ha bisogno. Altri difendono il pluralismo informativo, la riservatezza dello spazio mentale e la trasparenza dei criteri con cui le piattaforme selezionano ciò che vediamo. Ciò che una macchina di propone incide sulle nostre opinioni, commerciali o politiche. Il tema è già al centro del dibattito politico americano. Non a caso quattro parlamentari democratici americani il 20 ottobre hanno scritto ai vertici di 25 aziende tecnologiche, tra cui OpenAI, Google, Meta e Anthropic, chiedendo maggiore trasparenza e controlli sulle informazioni elettorali fornite dai chatbot AI. In vista delle elezioni di metà mandato del 3 novembre, il timore è che gli assistenti AI, diventati strumenti per informarsi su candidati e procedure di voto, possano influenzare la partecipazione democratica attraverso informazioni inesatte o distorte
La Carta entra anche nel rapporto diretto con l'intelligenza artificiale. Il diritto – per altro riconosciuto di recente anche dalle norme europee - se stiamo parlando con una macchina e per conto di chi agisce; riconoscere l'origine artificiale di un video o di un audio; ricevere spiegazioni comprensibili sulle decisioni automatiche che ci riguardano. Se incidono significativamente sulla nostra vita, queste decisioni dovrebbero poter essere riesaminate da una persona con il potere effettivo di correggerle (come previsto dalle norme Ue).
C'è poi l'”habeas corpus digitale”: come la garanzia giuridica contro le detenzioni arbitrarie, dovrebbe proteggere dalla cancellazione immotivata della nostra presenza online. Un account può contenere lavoro, relazioni, reputazione. Chi lo perde dovrebbe conoscere le ragioni della sospensione e poter presentare un ricorso in tempo utile, prima che il danno diventi irreparabile. Anche questo è diritto previsto dalle norme europee.
Un altro articolo rivendica il diritto a non essere prigionieri del proprio profilo statistico. Un modello costruito sui comportamenti passati può attribuirci poche probabilità di cambiare mestiere o condizione economica. Se quella previsione determina da sola le occasioni future, rischia di consolidare le disuguaglianze. Essere liberi significa anche poter cambiare rispetto a ciò che i dati raccontano di noi.
Gli autori presentano la Carta come una bozza da discutere, non come un progetto di legge compiuto. Ed è qui che si apre il problema più impegnativo: come trasformare principi condivisibili in garanzie effettive? Sapere perché un algoritmo ha prodotto un risultato è il primo passo; ottenere che una decisione ingiusta venga corretta richiede responsabilità individuabili, controlli e strumenti di ricorso realmente accessibili.
C'è infine un dettaglio rivelatore: gli autori raccontano di aver usato diversi sistemi di AI per discutere e rielaborare il testo. La tecnologia messa sotto esame diventa uno strumento del confronto. Non si tratta di rinunciare alle macchine, ma di capirne le scelte, contestarle e decidere quando affidarsi a loro. Perché la differenza tra cittadino e suddito comincia proprio dalla possibilità di chiedere conto del potere che ci governa.
