I sistemi IA dei social modellano l’opinione pubblica

Le reti sociali danno agli utenti la possibilità di usare le IA sia per creare contenuti, sia per elaborare quelli pubblicati da altri utenti. Un’utilità messa in discussione da uno studio condotto dall'Oxford Internet Institute in collaborazione con l'Hasso Plattner Institute che, entrando nelle profondità delle logiche dei sistemi IA, ha individuato come questi – applicando meccanismi invisibili all’utente – possono plasmare l’opinione pubblica rappresentando così rischi per la libertà di pensiero e la democrazia.

Non è un tema completamente nuovo. L’impatto delle IA sulle scelte individuali è già stato oggetto di diversi studi ed è centrale nel dibattito contemporaneo ma, nel caso del lavoro svolto dai ricercatori, l’ambito di applicazione si restringe alle piattaforme social.

I modelli IA e i social esaminati

Lo studio ha preso in esame nello specifico quattro modelli IA, ossia Llama 3.1 di Meta, Gemma 3 di Google, Ministral della francese Mistral e la fa famiglia di modelli Qwen dell’azienda cinese Alibaba. Oltre a questi, è stata condotta un'analisi dettagliata sul modello Grok di xAI, del quale è stata ricreata e testata la specifica logica di funzionamento per osservare come possa influenzare il dibattito su temi sensibili come l'aborto.

Le piattaforme social che integrano questi strumenti sono diverse. La piattaforma X (ex Twitter) fa un uso massiccio del modello Grok. LinkedIn, dal canto suo, usa diversi modelli IA, non tutti noti, tra i quali i modelli della famiglia Llama.

Google Search, pur non essendo un social network, viene menzionato per i suoi recenti aggiornamenti che puntano verso un futuro dove la produzione e il consumo di informazioni saranno sempre più mediati dall'intelligenza artificiale.

Infine, Facebook è stata utilizzata dai ricercatori come fonte di dati reali per condurre simulazioni matematiche. Nello specifico, lo studio non si è concentrato su una funzione specifica di Facebook, ma ha usato la sua struttura di rete sociale per dimostrare come i piccoli cambiamenti e i pregiudizi introdotti dalle IA in singoli post possano accumularsi attraverso milioni di interazioni, spostando gradualmente l'orientamento di intere comunità online.

I pregiudizi seguono direzioni precise

I ricercatori hanno dimostrato una sorta di orientamento politico e sociale invisibile che viene iniettato nel discorso pubblico ogni volta che vengono usati questi assistenti digitali. Lo studio ha identificato diversi casi concreti in cui i modelli IA agiscono sul testo in modo sistematico.

Uno degli esempi più rilevanti riguarda l'orientamento su temi politici e sociali dove modelli come Llama 3.1 o Gemma 3 tendono a favorire posizioni legate al controllo delle armi, alla legalizzazione della marijuana e al femminismo. Al contrario, gli stessi sistemi mostrano una tendenza a spingere contro opinioni favorevoli all'ateismo o alla pena di morte.

Questi cambiamenti avvengono anche quando all'intelligenza artificiale viene chiesto esplicitamente di non alterare il significato originale del messaggio scritto dall'uomo, introducendo variazioni sottili che però cambiano la direzione del discorso.

Un caso dettagliato ha riguardato la funzione “Spiega questo post” utilizzata dal modello Grok sulla piattaforma X (Twitter). Esaminando i messaggi riguardanti l'aborto, è emerso che il sistema IA restituisce un supporto maggiore alle tesi pro-vita rispetto a quelle pro-scelta.

Risalendo alla causa tecnica di questa discrepanza, i ricercatori hanno isolato una singola istruzione fornita dalla piattaforma che impone al modello IA di sfidare le narrazioni dominanti quando necessario, dimostrando come una semplice direttiva possa cambiare più che sensibilmente il modo in cui le IA influenzano il dibattito pubblico.

L'effetto di queste distorsioni diventa macroscopico quando si osserva la loro propagazione attraverso le reti sociali.

Utilizzando dati reali provenienti da Facebook e X, le simulazioni matematiche hanno dimostrato che modifiche quasi impercettibili in singoli post possono accumularsi nel tempo attraverso milioni di interazioni digitali. Questo processo trasforma piccoli pregiudizi individuali in uno spostamento significativo dell'opinione collettiva dell'intera comunità online, un fenomeno che si verifica già oggi attraverso strumenti che permettono agli utenti di migliorare i propri post su LinkedIn o tramite le nuove modalità di ricerca delle informazioni su Google.

Sistemi IA sui social e bias invisibili nel testo

I ricercatori hanno osservato che i modelli linguistici tendono ad alterare sistematicamente la direzione dei messaggi degli utenti su argomenti controversi.

Anche quando ricevono l'istruzione esplicita di preservare il significato originale del testo prodotto dagli utenti, introducono sottili cambiamenti linguistici durante la generazione, la modifica o la contestualizzazione dei post.

Questo accade perché i modelli non sono specchi neutri della volontà umana ma portano con sé pregiudizi intrinseci che derivano sia dal loro addestramento, sia dalle decisioni tecniche prese dalle piattaforme che li ospitano.

Come riconoscere un contenuto modificato dalle IA

Riconoscere un post modificato dalle IA, ribadiscono gli autori dello studio, è estremamente difficile per un utente comune perché i cambiamenti introdotti sono sottili e nascosti, invisibili al singolo individuo.

Come scritto, i modelli IA tendono a imporre i rispettivi bias anche quando viene chiesto loro esplicitamente di non cambiare il significato originale dei contenuti. Ne consegue che non esistono segnali visivi o testuali (watermark o indicazioni scritte) che permettano di identificare con certezza un intervento algoritmico, poiché le IA sono progettate per integrare queste variazioni in modo fluido all'interno del discorso.

Un elemento che può aiutare a ipotizzare la presenza di una mediazione algoritmica è la piattaforma utilizzata. Per esempio, gli utenti premium di LinkedIn hanno accesso a funzioni integrate per migliorare i propri post, mentre su X il modello Grok viene impiegato per fornire spiegazioni e contesto ai contenuti esistenti.

Non c’è garanzia, insomma. Tanto più che, in virtù dell’umanissimo bias di conferma – la tendenza a cercare, interpretare e ricordare soprattutto le informazioni che confermano le proprie convinzioni, ignorando o sottovalutando quelle che le smentiscono – chi ne è affetto potrebbe non nutrire interesse nell’approfondire se un post è genuino o artefatto.

Lacune nelle regole attuali

Le attuali cornici normative internazionali, sulle quali i ricercatori si sono soffermati, non sembrano ancora pronte ad affrontare il problema nella sua complessità. Iniziative come l’AI Act o il Digital Services Act (DSA) dell'Unione europea si concentrano principalmente su rischi sistemici, discriminazione e minacce dirette ai processi democratici.

Queste norme non affrontano di petto i modi più sottili e indiretti con cui le IA modellano le opinioni attraverso la creazione e la contestualizzazione dei contenuti digitali quotidiani.

Conclusioni

Come sottolineato dalla professoressa Sandra Wachter, che ha partecipato allo studio con un ruolo da comprimaria, la ricerca pone interrogativi fondamentali su chi o cosa stia realmente plasmando il dibattito pubblico. Siamo di fronte a una nuova forma di influenza che richiede un dibattito su trasparenza e responsabilità.

È essenziale, conclude la ricerca, che la società civile e i legislatori comprendano queste dinamiche per garantire l'autonomia del pensiero umano senza ingerenze di algoritmi opachi integrati negli strumenti che usiamo per restare informati.

Lo studio conclude che le decisioni tecniche prese dalle piattaforme su come implementare questi strumenti sono decisive per determinare la direzione e l'entità dell'influenza esercitata sull'opinione pubblica. Un fenomeno che solleva interrogativi sulla trasparenza delle piattaforme social e sulla necessità di nuove normative globali.