Partner virtuali in app, chatbot e videogame: il business cresce. E i governi corrono ai ripari

C’è un business legale che avanza silenzioso, con una capacità straordinaria di legare a sé i propri clienti. Forse pari solo a quella delle slot machine o delle sostanze stupefacenti. Al punto, ora, da spaventare i governi. È il business dei partner artificiali, integrati in chatbot, app, videogame. I clienti sono spinti a spendere sempre più soldi per mantenere il legame con questi partner animati dall’intelligenza artificiale, che simulano amicizia o relazioni amorose. La Cina dal 15 luglio ha messo paletti fortissimi contro questi servizi, soprattutto a tutela dei minori (ma non solo); anche negli Usa ci sono norme a difesa degli utenti, anche se meno estese. L’Europa è ancora presa alla sprovvista, invece, con solo i Garanti privacy a provare a mettere alcuni argini a tutela dei minori. Il Garante privacy ha sanzionato a luglio una delle aziende più famose, Character Technologies, ma solo per 158 mila euro. Importo che difficilmente potrà fare da deterrente.

Il business dei partner virtuali

Il business è piccolo ma sta crescendo in fretta, sfruttando la solitudine degli utenti, condizione diffusa non solo in Occidente. Nel 2025 le app mobili di AI companion hanno superato rapidamente la dimensione di nicchia. Un’analisi di Appfigures, società di intelligence sulle app, contava 337 applicazioni attive e generatrici di ricavi su App Store e Google Play. Nei primi sei mesi dell’anno la spesa degli utenti aveva raggiunto 82 milioni di dollari, con una previsione superiore a 120 milioni sull’intero anno. Nello stesso periodo i ricavi erano cresciuti del 64% rispetto ai primi sei mesi del 2024 e i download dell’88%, arrivando a 60 milioni. Ma il 10% delle app raccoglieva l’89% della spesa.

Le cifre rilevate da Appfigures riguardano gli acquisti effettuati negli store mobili e non misurano l’intero universo dei servizi via web, dei chatbot generalisti o delle piattaforme che monetizzano in altre forme. Eppure segnalano il passaggio da esperimento di consumo a categoria con grandi operatori. Chai, piattaforma di social AI basata su personaggi creati e condivisi dagli utenti, ha comunicato a luglio di aver superato i 100 milioni di dollari annui di ricavi. In aprile, la società aveva indicato oltre 80 milioni di dollari di ricavi ricorrenti annualizzati alla fine del primo trimestre 2026.

In Corea del Sud, Wrtn ha trasformato i chatbot in una piattaforma di intrattenimento interattivo, dove gli utenti entrano in storie e orientano la trama attraverso le loro scelte. La startup, nota con i marchi Crack in Corea e Kyarapu in Giappone, ha chiuso il 2025 con un ritmo di ricavi annualizzati di circa 70 milioni di dollari e punta a superare i 100 milioni nel 2026. Il prodotto non è presentato come un fidanzato virtuale, ma la logica di mercato è affine: un’esperienza personale, potenzialmente infinita, che chiede coinvolgimento quotidiano.

Abbonamenti, memoria e appuntamenti virtuali

Il modello di ricavo più immediato è l’abbonamento. Chi paga può avere più messaggi, meno attese, niente pubblicità, risposte migliori, voce, immagini. A questo si sommano crediti e acquisti puntuali per sbloccare scene, personaggi, conversazioni più intime o appuntamenti virtuali.

La memoria è una delle funzioni più redditizie. Un chatbot che ricorda un lutto, una paura o un dettaglio della giornata appare meno come un software e più come una presenza. Per l’utente la continuità può avere valore; per la piattaforma aumenta il costo emotivo dell’abbandono. La raccolta di informazioni personali diventa così insieme materia prima del servizio, fattore di differenziazione e tema di protezione dei dati. L’oggetto venduto non è soltanto una risposta generata dall’intelligenza artificiale. È l’aspettativa che ci sia sempre qualcuno, o qualcosa, dall’altra parte dello schermo. Su questo, il valore percepito dagli utenti può essere incommensurabile.

Il precedente di Love and Deepspace

Uno dei precursori del fenomeno è il gioco Love and Deepspace, sviluppato da Infold. Non è un AI companion: è un gioco mobile romantico con una trama, personaggi predefiniti e interazioni in 3D. Eppure mostra quanto possa valere la disponibilità affettiva resa prodotto digitale.

Il gioco dichiara di aver raggiunto 50 milioni di giocatori in un approfondimento di Google Play. È gratuito all’ingresso, ma il negozio Android segnala acquisti in-app che includono elementi casuali; sull’App Store compaiono pass mensili e pacchetti da pochi dollari fino a importi più elevati. Eventi limitati, oggetti da collezione e nuove scene romantiche trasformano la relazione narrativa in una successione di microtransazioni.

Come ha reagito la Cina

Quando un business, per quanto innovativo, arriva a minare le basi dello Stato, della società o gli interessi del Partito, la Cina si muove. Così è avvenuto anche su questo business, come già fatto per quello dei pagamenti elettronici negli anni scorsi. Dal 15 luglio sono in vigore in Cina le misure provvisorie sui servizi di interazione antropomorfa basati sull’AI, adottate dalla Cyberspace Administration e da altri quattro organismi governativi. Il testo affronta il problema direttamente, senza limitarsi alla moderazione dei contenuti.

I fornitori non possono offrire ai minori relazioni intime artificiali come “parenti virtuali” e “partner virtuali”. Per gli under 14, gli altri servizi antropomorfi richiedono il consenso di genitori o tutori. Le piattaforme devono prevedere una modalità per minori, limiti d’uso, avvisi ai tutori, possibilità di bloccare personaggi e di limitare le ricariche.

Le disposizioni intervengono anche sul cuore del prodotto per adulti. Vietano di progettare il servizio con l’obiettivo di sostituire le relazioni sociali, controllare psicologicamente gli utenti o indurre dipendenza. Se emergono segnali di attaccamento eccessivo, il sistema deve ricordare in modo visibile che l’interazione è generata da AI; dopo ogni blocco di due ore consecutive di utilizzo deve comparire un avviso sul tempo trascorso. La disciplina chiede inoltre capacità di individuare i rischi emotivi, indirizzare l’utente verso aiuto in situazioni estreme, predisporre un’uscita semplice dal servizio e svolgere valutazioni di sicurezza. Queste valutazioni sono previste, tra gli altri casi, per servizi con oltre un milione di utenti registrati o 100 mila utenti attivi mensili.

Sono obblighi che incidono sulla progettazione e sui costi: verifica dell’età, moderazione, protocolli di crisi, analisi del comportamento e documentazione per le autorità. Colpiscono anche la metrica più ambita dalle piattaforme, il tempo di permanenza.

Le norme negli Usa: California e New York

Negli Stati Uniti l’intervento è meno esteso ma è effettivo. In California, la legge SB 243 è entrata in vigore il 1° gennaio 2026. Il testo normativo definisce companion chatbot un sistema capace di offrire risposte adattive, umane e persistenti per soddisfare bisogni sociali.

La norma richiede un avviso chiaro quando una persona potrebbe scambiare il bot per un essere umano. Impone protocolli per prevenire contenuti che favoriscano ideazione suicidaria o autolesionismo e, quando l’utente è minorenne, promemoria almeno ogni tre ore che ricordino la natura artificiale del chatbot e invitino a fare una pausa. Sono previste anche tutele rispetto ai contenuti sessualmente espliciti.

La legge californiana distingue però i videogiochi che restano confinati alle interazioni legate al gioco e non trattano salute mentale, autolesionismo o conversazioni esterne alla trama. È una differenza che separa, almeno giuridicamente, un’esperienza narrativa come Love and Deepspace da un companion capace di diventare confidente generale.

A New York la legge sui companion AI è efficace dal 5 novembre 2025. Una lettera della governatrice Kathy Hochul ricorda l’obbligo di protocolli per intercettare segnali di suicidio o autolesionismo e di avvisi all’inizio della sessione e ogni tre ore di uso continuativo. Il messaggio richiesto è esplicito: l’utente sta parlando con un programma, non con una persona.

Cosa prevede l’Italia

L’Europa non ha ancora introdotto una disciplina specifica equivalente a quella cinese per i servizi di relazione artificiale. La domanda, però, esiste già. L’indagine AIme, realizzata da Ipsos BVA per Groupe VYV e Cnil su 3.800 giovani tra 11 e 25 anni in Francia, Germania, Svezia e Irlanda, rileva che il 48% usa l’AI conversazionale per affrontare temi personali o intimi. Il 33% la considera, in alcuni casi, uno psicologo, secondo i risultati pubblicati dalla Cnil.

L’Italia è già intervenuta. Nel febbraio 2023 l’autorità per la privacy aveva disposto d’urgenza la limitazione del trattamento dei dati per Replika, il servizio di Luka Inc. che permette di creare un compagno virtuale nel ruolo di confidente, terapeuta, partner romantico o mentore. Il 10 aprile 2025 il Garante ha poi sanzionato Luka per 5 milioni di euro. L’istruttoria ha riguardato le violazioni accertate al 2 febbraio 2023: basi giuridiche del trattamento non individuate in modo adeguato, informativa carente e mancanza di un sistema efficace di verifica dell’età, pur in presenza di un servizio che dichiarava di escludere i minori. Il Garante ha inoltre aperto un’ulteriore indagine sul trattamento dei dati lungo l’intero ciclo di vita del modello generativo alla base di Replika. Il provvedimento su Replika lega quindi privacy, protezione dei minori e modalità di addestramento del sistema.

Il caso più recente riguarda Character.AI. Il 3 luglio 2026 il Garante ha sanzionato Character Technologies Inc. per 158 mila euro, rilevando carenze nell’informativa, una valutazione d’impatto tardiva, problemi nella nomina del rappresentante europeo e criticità nelle tutele per i minori e nella verifica dell’età. Alla società è stato chiesto di rendere effettivo l’age gate, impedire nuove registrazioni da parte di minori già bloccati attraverso un periodo di raffreddamento e impostare per default in modalità privata i profili dei minorenni. Le misure adottate dovranno essere comunicate entro 120 giorni, come stabilito dal provvedimento su Character.AI.

Questi interventi non sono una legge italiana dedicata ai companion come quella cinese. Mostrano però che il Gdpr può già intervenire su alcune leve decisive del modello: profilazione, memoria delle conversazioni, età degli utenti, trattamento dei dati sensibili e accesso dei minori a personaggi virtuali progettati per instaurare un rapporto continuativo. C’è da chiedersi però quanto siano affilate le armi della privacy per affrontare un fenomeno ben più ampio. Idem per il regolamento Ue AI Act, che vieta sì le pratiche di manipolazione dell’utente, ma la sua applicabilità specifica va ancora messa alla prova.