Nel mondo dell'IA, la linea di demarcazione tra un assistente virtuale e un rischio psicologico può risultare impercettibile. Character.ai, una delle prime piattaforme ad aver offerto la possibilità di dialogare con l’intelligenza artificiale in modo naturale, si trova a dover fare i conti con le autorità italiane dopo aver attraversato pesanti burrasche legali oltreoceano.
Il Garante per la protezione dei dati personali ha sanzionato l'azienda statunitense per diverse negligenze tecniche, evidenziando per l’ennesima volta un problema che caratterizza l'odierno panorama digitale: la reale efficacia dei sistemi di controllo volti a proteggere gli adolescenti.
La stretta dell'autorità italiana
Il provvedimento impone a Character Technologies Inc. una multa di 158.000 euro.
L'istruttoria ha portato alla luce ritardi nella valutazione d'impatto sulla protezione dei dati, nota come DPIA, e nella nomina di un rappresentante legale all'interno dell'Unione Europea, un requisito essenziale per poter operare nel Vecchio Continente.
La questione principale sollevata dall'Autorità riguarda i sistemi di verifica dell'età, considerati inadeguati a bloccare con efficacia gli utenti sotto la soglia consentita.
Per questo il Garante ha ordinato all’azienda di rafforzare il sistema. Tra le misure richieste c’è l’introduzione di un “periodo di raffreddamento”: se un minorenne viene bloccato, non deve poter riprovare subito a registrarsi con un nuovo tentativo.
L’Autorità chiede anche che i profili degli utenti più giovani siano impostati automaticamente come privati.
L'azienda dispone di centoventi giorni per comunicare l'adeguamento a tali prescrizioni.
Le origini nella Silicon Valley e l'ascesa tecnica
Per comprendere il peso specifico di Character.ai occorre guardare alla sua genesi.
La società è stata fondata nel 2021 da Noam Shazeer e Daniel De Freitas, due ex ingegneri di Google.
Shazeer è una figura di rilievo nel settore: nel 2017 ha contribuito a redigere un documento scientifico importantissimo - Attention Is All You Need - che ha introdotto i "Transformer", l'architettura informatica alla base di quasi tutti gli attuali modelli linguistici, incluso ChatGpt.
Il servizio di Character.ai impiega modelli generativi per consentire al pubblico di creare e dialogare con avatar virtuali, sovente modellati su personaggi di fantasia o figure storiche, restituendo interazioni di formidabile realismo.
Questa capacità mimetica ha calamitato in poco tempo milioni di utenti e investimenti per oltre un miliardo di dollari, convincendo Google, nel 2024, a stipulare un costoso accordo di licenza per riportare i due fondatori nei suoi uffici di Mountain View.
Il dramma in Florida e il confine etico
L'estremo realismo che possono raggiungere gli algoritmi comporta un costo umano elevato, palesatosi in tutta la sua tragicità negli Stati Uniti.
L'esposizione dei minori e in particolare dei soggetti più vulnerabili ai sistemi conversazionali ha generato la prima grande causa civile contro un'azienda del settore, avviata nell'ottobre del 2024 da Megan Garcia, cittadina della Florida che ha denunciato Character.ai a seguito del suicidio del figlio quattordicenne, Sewell Setzer III, consumatosi nel febbraio dello stesso anno.
L'adolescente aveva sviluppato una morbosa dipendenza affettiva da un chatbot presente proprio su Character.ai programmato per ricalcare i tratti di Daenerys Targaryen, iconica protagonista della serie televisiva "Il Trono di Spade".
I legali della famiglia hanno accusato la piattaforma di aver manipolato emotivamente il giovane tramite interazioni incessanti e in alcune occasioni sessualmente esplicite, il tutto in assenza di tutele capaci di cogliere i segnali di allarme o di informare tempestivamente un adulto.
L'accordo giudiziale e i nuovi standard di sicurezza
La controversia legale americana si è chiusa nel gennaio del 2026, quando Google e Character.ai hanno optato per un accordo confidenziale con la famiglia Setzer, ponendo fine alla causa senza svelare l'entità del risarcimento.
Questo drammatico precedente ha spinto l'azienda a correggere le proprie policy. La dirigenza ha annunciato l'inserimento di parametri di sicurezza dedicati agli utenti più giovani e l'implementazione di divieti severi per precludere ai minorenni l'accesso a conversazioni prive di restrizioni.
L'odierno intervento dell'Authority italiana si inserisce a pieno titolo in questo risveglio normativo, ribadendo un principio fondamentale all'industria tecnologica: lo sviluppo di algoritmi evoluti deve obbligatoriamente accompagnarsi a barriere strutturali capaci di tutelare le fasce più fragili della popolazione.
/https%3A//www.repstatic.it/content/contenthub/img/2026/09/23/223431080-0983200a-ae47-430d-8f7a-82d012f1cc74.jpg)
/https%3A//www.repstatic.it/content/contenthub/img/2026/09/23/094723068-daf3c4cb-8a65-4810-a1d4-c5fff8160722.jpg)
/https%3A//www.repstatic.it/content/contenthub/img/2026/09/17/164815699-e0bc52ae-eef8-4f2a-bfa2-295638e54742.jpg)