Un ecosistema nascosto ma vasto, dove immagini private di donne circolano senza autorizzazione. È quanto emerge da un’indagine che punta i riflettori su Telegram e sulle sue falle nella moderazione dei contenuti. A ricostruire la portata del fenomeno è l’Ong AI Forensics, che ha monitorato per sei settimane una rete di 16 gruppi e canali attivi tra Italia e Spagna.
Gli utenti coinvolti
Quasi 25mila gli utenti coinvolti e una circolazione di oltre 80mila file tra immagini, video e audio. Una parte consistente di questi contenuti è a carattere sessualmente esplicito e, in alcuni casi, realizzata o manipolata con strumenti di intelligenza artificiale.
Molestie e reati nei gruppi
Secondo i ricercatori, però, la condivisione di materiale intimo è solo una parte del problema. All’interno di questi spazi digitali si sviluppano dinamiche ancora più gravi, che includono la diffusione di dati personali delle vittime, forme di molestia organizzata e persino contenuti che incitano alla violenza s…
Un ecosistema nascosto ma vasto, dove immagini private di donne circolano senza autorizzazione. È quanto emerge da un’indagine che punta i riflettori su Telegram e sulle sue falle nella moderazione dei contenuti. A ricostruire la portata del fenomeno è l’Ong AI Forensics, che ha monitorato per sei settimane una rete di 16 gruppi e canali attivi tra Italia e Spagna.
Gli utenti coinvolti
Quasi 25mila gli utenti coinvolti e una circolazione di oltre 80mila file tra immagini, video e audio. Una parte consistente di questi contenuti è a carattere sessualmente esplicito e, in alcuni casi, realizzata o manipolata con strumenti di intelligenza artificiale.
Molestie e reati nei gruppi
Secondo i ricercatori, però, la condivisione di materiale intimo è solo una parte del problema. All’interno di questi spazi digitali si sviluppano dinamiche ancora più gravi, che includono la diffusione di dati personali delle vittime, forme di molestia organizzata e persino contenuti che incitano alla violenza sessuale. Lo studio segnala anche la presenza di materiale illegale che coinvolgerebbe minori, delineando un contesto che va ben oltre la semplice violazione della privacy.
Il ruolo delle altre piattaforme
Molti dei contenuti non vengono creati direttamente su Telegram, ma arrivano da altri social network. Piattaforme come TikTok, Instagram e Snapchat rappresentano spesso la fonte originaria delle immagini, che vengono poi estratte, archiviate e redistribuite. Telegram, in questo schema, funziona come un nodo centrale di smistamento, dove il materiale viene raccolto e rilanciato verso un pubblico più ampio.
Gruppi chiusi e riaperti
Uno degli aspetti più critici messi in evidenza riguarda la capacità della piattaforma di intervenire in modo efficace. Durante il periodo di osservazione, diversi gruppi sono stati rimossi per violazioni delle regole, ma sono tornati online nel giro di poche ore, spesso con gli stessi nomi e le stesse modalità operative. Per AI Forensics questo indica una fragilità nei sistemi di moderazione, incapaci di impedire la rapida ricostituzione delle reti.
Privacy e anonimato
Alla base della persistenza di questi fenomeni ci sarebbero anche alcune caratteristiche strutturali della piattaforma. Telegram offre infatti strumenti di comunicazione protetti da crittografia, la possibilità di utilizzare identità non verificabili e canali in grado di raggiungere un numero elevato di utenti, anche attraverso modelli a pagamento. Secondo gli autori dello studio, questa combinazione crea un ambiente favorevole alla diffusione di contenuti abusivi e rende più difficile individuare i responsabili.
Più controlli a livello europeo
Per questo l’Ong propone di includere Telegram tra le grandi piattaforme soggette alle regole più stringenti del Digital Services Act europeo. Una classificazione che comporterebbe obblighi più severi in termini di trasparenza, prevenzione dei rischi e responsabilità nella gestione dei contenuti.
La replica di Telegram
Dal canto suo, Telegram respinge le accuse e sostiene che i propri sistemi siano già efficaci nel limitare la diffusione di materiale dannoso su larga scala. L’azienda ribadisce inoltre che la condivisione di contenuti intimi non consensuali, inclusi i deepfake pornografici, è espressamente vietata. Allo stesso tempo, riconosce che la moderazione di questo tipo di contenuti rappresenta una sfida complessa e comune a tutte le piattaforme digitali.
Il precedente giudiziario
Il tema si inserisce in un contesto già sensibile. Nell’agosto 2024 il fondatore della piattaforma, Pavel Durov, è stato incriminato in Francia con l’accusa di non aver contrastato adeguatamente la diffusione di contenuti illegali sul servizio di messaggistica.