Taddeo, docente a Oxford: “Con l’IA proteggersi è ancora più vitale, l’Europa da arbitro diventi giocatore”

«Io non ho visto la “schermata blu della morte”, per una volta ieri non ero connessa. Ma l’ho vista dalle foto che mi hanno mandato colleghi e studenti, e — a rischio di sembrare arrogante — non mi ha sorpreso». Mariarosaria Taddeo, filosofa, insegna Etica del digitale e Tecnologie per la difesa all’Università di Oxford.

Si aspettava un blackout digitale di quelle proporzioni?

«A chi lavora nel settore è chiaro che abbiamo sviluppato un mondo sempre più interconnesso ma le infrastrutture e i servizi che lo reggono sono pochissimi, una sorta di monopolio: quando uno dei nodi viene meno può crollare tutto».

Il nostro mondo digitale è fragile?

«Quello che è accaduto ieri deve essere una lezione relativamente a basso costo — anche perché frutto di un errore e non di un cyberattacco — sul fatto che un sistema digitale è per essenza vulnerabile e che una società digitale deve rendere più resilienti le proprie infrastrutture, diversificandole e creando ridondanze. Con l’Intelligenza Artificiale mitigare le fragilità sarà ancora più importante perché questa nuova infrastruttura è iper-vulnerabile, spesso non prevedibile nei risultati e ancora più attaccabile».

Le esigenze di diversificare e regolare si scontrano con il fatto che i nodi del digitale, dal cloud alla stessa IA, sono dominati da un ristretto numero di enormi società. Aver permesso tanta concentrazione ci rende ancora più vulnerabili?

«Un’idea di deregolamentazione ha fatto sì che lo sviluppo fosse lasciato a pochissimi attori: bisogna invertire la rotta. Ma questo non può avvenire “contro”, richiede comunque un coordinamento con chi la tecnologia la fa: il regolatore può ridurre la tendenza al monopolio, ma poi deve supportare il mercato perché crei concorrenti e alternative».

Di recente l’Europa ha varato regole stringenti sull’Intelligenza artificiale, l’Ai Act. Negli Stati Uniti prevale l’idea che Big Tech debba autoregolarsi. Chi ha ragione?

«L’Europa. Gli americani hanno lasciato fin troppo a lungo che il digitale non fosse regolato, penso che tutto il mondo se ne stia rendendo conto. Dopodiché è necessario che l’Europa non sia solo arbitro ma anche giocatore, che sviluppai queste tecnologie, altrimenti rischia di essere dipendente».

L’obiezione di Big Tech è che il loro gigantismo è frutto dell’innovazione e che la scala è necessaria per continuare a innovare, mentre i paletti soffocano la tecnologia.

«Non regge. In realtà la regolazione — se fatta bene — facilita l’innovazione. Penso alla scelta su dove indirizzare i fondi della ricerca, a misure per far crescere i talenti, ma anche alla definizione dei rischi e degli standard per spingere il mercato a sviluppare prodotti più sicuri. Con la governance del digitale, i governi devono dare una strategia per mitigare i rischi e cogliere le opportunità. Questo si fa sia ponendo dei limiti sia definendo misure che supportino l’innovazione».

Non c’è una sproporzione strutturale di risorse e competenze tra aziende e governi? L’impressione, ad esempio nell’IA, è che questi ultimi inseguano con affanno un’innovazione esponenziale.

«Mi pare che l’Europa abbia dimostrato di essere in grado di imporre regole “con i denti”. È un dilemma di scuola: se regoli troppo presto puoi regolare la cosa sbagliata, se aspetti troppo rischi che gli usi problematici abbiano già creato danni. L’errore è pensare che l’innovazione proceda in maniera lineare e che le regole siano un punto su questa linea: l’innovazione è ciclica e la governance deve accompagnarla in tutte le fasi, dalla progettazione, allo sviluppo, all’applicazione. L’adozione dell’IA non è così spasmodica come sembra, abbiamo tempo, anche se in certi settori siamo già indietro».

Per esempio?

«La difesa, dove l’IA è già utilizzata e la guerra in Ucraina è stata un acceleratore. Perfino la nuova legge europea esclude dal suo ambito gli usi per la difesa, anche se pongono enormi problemi di cybersicurezza e di rispetto dei principi alla base delle leggi di guerra e del diritto internazionale: distinzione e proporzionalità».

Se ci limitiamo, replicano i governi, i regimi autoritari arriveranno prima.

«Approccio miope. Dal punto di vista etico, perché se per difendere le nostre società democratiche usiamo strumenti che violano i diritti tanto vale allearci con i regimi. Ma anche dal punto di vista pragmatico: la difesa non è più nazionale, bensì coordinata, e sono regole e standard a rendere il coordinamento possibile».