La Commissione europea ha concluso in via preliminare che TikTok ha violato il Digital Services Act per il funzionamento del suo sistema di raccomandazione.
L’accusa riguarda il feed “Per te”, che secondo Bruxelles può spingere gli utenti dentro sequenze sempre più concentrate sullo stesso tipo di contenuti, comprese quelle dedicate a salute mentale, dimagrimento, peso e percezione del proprio corpo.
L’accusa riguarda due obblighi centrali previsti dal Digital Services Act: la capacità di TikTok di valutare correttamente i rischi generati dal proprio algoritmo e l’efficacia delle misure introdotte per ridurli.
Il procedimento fa parte dell’indagine formale aperta dalla Commissione a febbraio 2024.
Bruxelles descrive il fenomeno con l’espressione “rabbit hole effect”, che in italiano può essere resa come una spirale di raccomandazioni: più una persona guarda o apprezza video su un determinato argomento, più l’algoritmo interpreta quel comportamento come un segnale di interesse e propone altri contenuti simili.
Il feed - vale a dire il flusso di contenuti che scorrono ininterrottamente sullo schermo - può così restringersi progressivamente intorno a un solo tema. Nel caso di video sulla perdita di peso, sulla tristezza, sull’isolamento o sull’insoddisfazione per il proprio aspetto fisico, questa esposizione ripetuta può diventare particolarmente problematica per minori e persone vulnerabili.
Tra le possibili conseguenze citate dalla Commissione Ue compaiono maggiore ansia o tristezza, riduzione dell’autostima e un possibile peggioramento di disturbi alimentari o condizioni psicologiche già esistenti.
Il procedimento contro TikTok resta aperto e le conclusioni della Commissione non costituiscono ancora una decisione definitiva.
Come nasce un “rabbit hole” su TikTok
Il feed “Per te” è costruito per adattarsi continuamente al comportamento della persona che lo utilizza.
TikTok osserva segnali come i video guardati, il tempo trascorso davanti a ciascun contenuto e le interazioni esplicite, per esempio i like.
Queste informazioni vengono utilizzate dall’algoritmo per stimare quali altri video potrebbero interessare all’utente.
Il modo in cui sono progettati gli algoritmi rispecchia il modello di business della piattaforma. Un feed capace di trattenere gli utenti più a lungo aumenta il numero di video visualizzati e, con essi, le occasioni di mostrare pubblicità. Più il sistema riesce a prevedere ciò che cattura l’attenzione di una persona, più cresce il valore commerciale del tempo trascorso nell’app e la possibilità per gli inserzionisti di raggiungere gli utenti con annunci mirati.
Il meccanismo diventa più delicato quando riguarda contenuti potenzialmente problematici.
Una persona può soffermarsi ripetutamente su video potenzialmente dannosi per ragioni diverse: curiosità, preoccupazione oppure semplice interesse momentaneo. Il sistema può però interpretare quel comportamento come un segnale positivo e continuare ad aumentare la quantità di contenuti dello stesso genere.
La Commissione ritiene che TikTok non abbia valutato in maniera adeguata la possibilità che questa dinamica conduca gli utenti verso contenuti sempre più omogenei, nei quali determinati temi finiscono per ripetersi continuamente.
Il rischio nasce quindi dall’interazione tra una caratteristica normale di un algoritmo di raccomandazione - imparare dalle attività dell’utente - e contenuti che possono incidere sullo stato psicologico di chi li guarda.
Quando la personalizzazione funziona bene, TikTok diventa rapidamente capace di capire quali video trattengono una persona davanti allo schermo. Se quella stessa capacità viene applicata a contenuti sulla depressione o sui disturbi alimentari, la ripetizione può amplificare una condizione di vulnerabilità.
Bruxelles contesta la valutazione dei rischi
Il Digital Services Act impone alle piattaforme digitali più grandi di analizzare i rischi sistemici prodotti dai propri servizi e di dimostrare di avere introdotto misure adeguate per limitarli.
Secondo le conclusioni preliminari della Commissione, TikTok non avrebbe valutato abbastanza attentamente il ruolo svolto dal proprio algoritmo nella formazione dei “rabbit hole”.
L’indagine è stata particolarmente ampia. Bruxelles ha analizzato le valutazioni del rischio preparate dalla società, documenti e dati interni, le risposte di TikTok a diverse richieste di informazioni e la letteratura scientifica disponibile sul tema.
La Commissione ha inoltre ascoltato esperti di sistemi di raccomandazione, psicologia e psichiatria. All’indagine ha collaborato anche Coimisiún na Meán, l’autorità irlandese che svolge il ruolo di coordinatore nazionale per il Digital Services Act. L’Irlanda ha una funzione particolarmente rilevante nella regolazione delle piattaforme tecnologiche europee perché molte grandi aziende americane hanno in questo Paese la propria sede comunitaria.
Da questo lavoro emerge una valutazione piuttosto netta sul funzionamento del “Per te”: quando l’algoritmo interpreta il tempo di visualizzazione come interesse, può continuare a rafforzare una determinata direzione del feed anche quando l’utente sta cercando di segnalarne una preferenza diversa.
Il tasto “Non mi interessa” e il tempo di visione
La seconda parte della contestazione europea riguarda gli strumenti messi a disposizione degli utenti.
TikTok ha già adottato alcune misure per diversificare ciò che compare nel feed e permette alle persone di segnalare che un determinato video non interessa. Secondo la Commissione, queste protezioni non riescono ancora a contrastare efficacemente la ripetizione di contenuti simili.
Il caso del pulsante “Non mi interessa” è emblematico.
Un utente può chiedere esplicitamente a TikTok di vedere meno contenuti di un certo tipo. L’algoritmo può però attribuire maggiore importanza al tempo trascorso davanti a quei video rispetto alla preferenza espressa direttamente dalla persona.
Se qualcuno guarda a lungo un contenuto sulla perdita di peso e successivamente segnala di non essere interessato, il tempo di visione può continuare a influenzare in maniera significativa le raccomandazioni successive.
Secondo la Commissione, gli strumenti di controllo devono dare agli utenti una capacità più concreta di modificare il proprio feed.
Anche le misure utilizzate da TikTok per introdurre maggiore varietà tra i video consigliati sarebbero insufficienti a ridurre la frequenza con cui ricompaiono contenuti legati alla salute mentale e all’immagine corporea.
L’Ue chiede di cambiare il “Per te”
Secondo la valutazione preliminare della Commissione, TikTok dovrebbe modificare il funzionamento del feed “Per te” dando maggiore peso alle preferenze espresse direttamente dagli utenti.
Bruxelles indica anche una possibilità che stravolgerebbe gli algoritmi e forse anche il business delle piattaforme: eliminare il tempo di visualizzazione come segnale utilizzato per raccomandare determinati contenuti.
La Commissione chiede inoltre controlli più accessibili e semplici da utilizzare e test regolari sul comportamento dell’algoritmo, in modo da verificare se il sistema continui a produrre sequenze potenzialmente dannose.
TikTok può ancora difendersi
La procedura prevista dal Digital Services Act concede ora a TikTok la possibilità di esaminare i documenti contenuti nel fascicolo della Commissione e rispondere per iscritto alle accuse.
“La Commissione ha rilasciato una serie di dichiarazioni che sono sostanzialmente inesatte e travisano l’architettura della nostra piattaforma e il nostro impegno per la sicurezza degli utenti – ha detto un portavoce della piattaforma social -. Abbiamo un solido track record nella tutela della nostra community, garantendo al contempo agli utenti un controllo diretto e intuitivo sulla loro esperienza di fruizione dei contenuti”.
Nel frattempo verrà consultato anche lo European Board for Digital Services, l’organismo che riunisce i coordinatori nazionali incaricati dell’applicazione del regolamento nei diversi Paesi dell’Unione.
Se la Commissione dovesse confermare la violazione, potrebbe adottare una decisione di non conformità e imporre una sanzione calibrata sulla gravità, sulla durata e sull’eventuale reiterazione dell’infrazione. Il Digital Services Act consente multe fino al 6% del fatturato mondiale annuo del fornitore.