In principio è stato Replika, il chatbot creato nel 2017 dalla sviluppatrice russa Eugenia Kuyda. A differenza degli assistenti digitali che fino a quel momento si erano diffusi, Replika non aveva lo scopo di aiutare i suoi utenti in mansioni specifiche, ma nasceva invece per tenere loro compagnia, conversando a piacimento di ogni argomento (con risultati altalenanti).
Non è un caso che il primo successo di Replika si sia verificato negli anni della pandemia, quando l’isolamento forzato spinse un gran numero di persone a cercare nuove forme di interazione. Attorno al 2020, Replika raggiunse così 10 milioni di utenti, che adesso – stando alle cifre fornite dalla stessa Kuyda – sono diventati 30 milioni.
Mentre cresceva il numero di persone che cercavano compagnia in un chatbot, quest’ultimo evolveva, introducendo le chiamate vocali, permettendo di scegliere il genere e il look, e soprattutto consentendo di decidere quale relazione si preferiva instaurare con Replika: amicale, da mentore o romantica.
Secondo le stime, circa il 14% degli utenti utilizza la “modalità romantica”, ma la percentuale sale fino al 60% tra chi dispone di un abbonamento a pagamento ed è quindi ampiamente maggioritaria tra gli utilizzatori più assidui. Alla base della diffusione dei chatbot da compagnia non c’è quindi solo la necessità di rimediare alla propria solitudine (condizione in cui, secondo un sondaggio dell’Ada Lovelace Institute, si trova il 90% degli utenti di Replika), ma anche la possibilità di instaurare una relazione intima con essi.
Da un certo punto di vista, non è una novità: dal VHS alla realtà virtuale, dall’e-commerce allo streaming, i contenuti sessualmente espliciti sono sempre stati una delle forze motrici della diffusione delle nuove tecnologie. Che cosa succede, però, quando dei chatbot disposti ad avere interazioni di natura sessuale – per via testuale o vocale – si diffondono improvvisamente tra miliardi di persone, di cui una parte consistente è costituita da minorenni?
È quello che stiamo per scoprire, visto che l’intelligenza artificiale di Meta (Meta AI) è da qualche tempo stata integrata – senza possibilità di eliminarla – su WhatsApp, Instagram e Facebook Messenger. E può essere facilmente impiegata per soddisfare fantasie sessuali, anche quando a utilizzarla sono ragazzini e ragazzine di età giovanissima.
Meta, i dati pubblici degli utenti europei saranno usati per allenare l’IA: ecco come opporsi
Se non bastasse, Meta permette a chiunque di creare – sfruttando l’apposito Meta AI Studio o direttamente all’interno di Instagram – le cosiddette “AI personas”: ovvero “intelligenze artificiali conversazionali basate sui nostri interessi, per divertimento, per essere utili o per supporto”. Com’è stato recentemente rivelato da un’inchiesta del Wall Street Journal, “Meta ha consentito che questi personaggi sintetici offrissero tutta la gamma di interazioni sociali, comprese quelle romantiche”.
“Meta AI e una varietà di chatbot creati dagli utenti prendono parte e a volte intensificano delle discussioni esplicitamente sessuali, anche quando gli utenti sono minorenni o quando i chatbot sono programmati per simulare il comportamento di persone giovanissime”, si legge sempre sul WSJ.
Meta, i dati pubblici degli utenti europei saranno usati per allenare l’IA: ecco come opporsi
Un esempio è il chatbot Submissive Schoolgirl (“scolaretta remissiva”, creato da un utente tramite l’AI Studio), che interpreta il ruolo di una studentessa di terza media e che – come dimostrato dai dialoghi riportati nell’inchiesta – può essere facilmente condotta a dialoghi e narrazioni sessualmente esplicite.
Lo stesso può avvenire con i personaggi artificiali creati da Meta grazie a partnership commerciali e che riproducono la voce e il comportamento di celebrità e personaggi di fantasia, com’è il caso del wrestler John Cena o dei protagonisti di Frozen (a questo proposito, la Disney ha dichiarato di “non aver mai autorizzato Meta a impiegare i propri personaggi in contesti inappropriati” e di essere “molto turbata dal fatto che questi contenuti possano essere stati accessibili agli utenti, soprattutto se minorenni”).
In sintesi, Meta permette agli adulti di avere conversazioni sessualmente esplicite con chatbot che interpretano il ruolo di ragazzini e ragazzine e che lo stesso avvenga anche quando a utilizzare questi chatbot sono dei minori. Com’è possibile, considerando che è sufficiente inserire delle apposite barriere – chiamate in gergo “safeguards” – per evitare, o almeno rendere meno semplice, utilizzarli in modi inappropriati?
Per quanto Meta abbia criticato l’inchiesta del WSJ – dichiarando che i test compiuti fossero “manipolatori” e “non rappresentativi dell’utilizzo dei compagni digitali da parte della maggior parte degli utenti” – e nonostante abbia in seguito apportato delle modifiche, impedendo le conversazioni a sfondo sessuale da parte degli account registrati da minorenni, sembra che la responsabilità di tutto ciò possa essere fatta risalire direttamente al vertice di Meta.
Sarebbe stato infatti lo stesso Mark Zuckerberg a chiedere ai suoi programmatori di allentare le barriere, nonostante fosse stato avvisato dal suo staff del rischio che, in questo modo, gli adulti avrebbero avuto accesso a personaggi dalle sembianze di minorenni fortemente sessualizzati e, viceversa, gli utenti minorenni avrebbero avuto accesso a chatbot disposti a prendere parte a fantasie sessuali.
La ragione di questa scelta sarebbe da ricercarsi nelle convinzioni di Mark Zuckerberg, secondo il quale l’interazione con i chatbot rappresenterebbe “il futuro dei social network” e la cui priorità sarebbe rendere questi personaggi il più coinvolgenti possibile, limitando quindi le barriere che avrebbero maggiormente circoscritto le interazioni.
Ma qual è il prezzo da pagare sull’altare dell’engagement? Al di là della questione sessuale, negli ultimi anni si sono moltiplicate le notizie relative ai pessimi consigli (e in alcuni casi anche molto pericolosi) ricevuti da utenti che si sono rivolti ai chatbot (oltre a Replika e Meta AI esistono anche Character.ai, Anima AI o il cinese HiWaifu) o alle intelligenze artificiali generative come ChatGPT in cerca di compagnia e sostegno emotivo, mentre alcuni studi accademici hanno sottolineato i rischi insiti in queste relazioni artificiali, utilizzate per alleviare la solitudine ma che in molti casi possono rivelarsi un rimedio peggiore del male, causando dipendenza emotiva e isolamento sociale.
“Gli effetti completi sulla salute mentale degli esseri umani che instaurano connessioni significative con chatbot fittizi sono ancora ampiamente sconosciuti”, ha scritto un dipendente di Meta ripreso dal WSJ. “Non dovremmo testare queste capacità sui giovani, i cui cervelli non sono ancora completamente sviluppati”. Evidentemente, il suo suggerimento non è stato accolto.
OpenAI ha cambiato idea su cosa è giusto creare con ChatGpt
/https%3A//www.repstatic.it/content/contenthub/img/2026/09/23/223431080-0983200a-ae47-430d-8f7a-82d012f1cc74.jpg)
/https%3A//www.repstatic.it/content/contenthub/img/2026/09/23/122548787-b6150c2f-a8e3-46c8-97f2-b3fbc0908e72.jpg)
/https%3A//www.repstatic.it/content/contenthub/img/2026/09/16/114642394-4a945d07-d3f2-4bbd-af21-19b1ce467cc7.jpg)