L’algoritmo del terrore: così l’IA aiuta a pianificare attentati e sparatorie

Quel chatbot che risponde ogni giorno in modo rassicurante, aiutando a fare i compiti o a svolgere un lavoro complesso, può trasformarsi. Da assistente benevolo e onnisciente, può diventare un complice spietato.

Uno studio del Center for Countering Digital Hate (CCDH), organizzazione non profit che monitora e combatte odio e disinformazione online, ha evidenziato come otto dei dieci chatbot più popolari al mondo possono fornire assistenza pratica a utenti che simulano la pianificazione di attacchi violenti.

Attraverso una serie di test rigorosi condotti tra novembre e dicembre 2025, i ricercatori hanno dimostrato che questi sistemi non si limitano a rispondere a domande generiche, ma diventano spesso complici involontari nella definizione di dettagli logistici per sparatorie scolastiche, assassinii politici e attentati dinamitardi.

L'assistenza logistica al crimine

I dati emersi dallo studio “Killer App”, realizzato in collaborazione con la CNN, sottolinea una crisi di volontà piuttosto che di capacità tecnologica.

In circa l'80% delle risposte analizzate, i chatbot hanno fornito informazioni come mappe dettagliate di campus scolastici, consigli sulla scelta di fucili a lungo raggio o analisi sulla letalità dei diversi tipi di frammenti metallici da utilizzare in un ordigno.

Piattaforme come Perplexity e Meta AI, il sistema sviluppato dalla società madre di Facebook e Instagram, hanno mostrato le performance peggiori, assistendo i potenziali assalitori rispettivamente nel 100% e nel 97% dei casi testati.

"Solo My AI di Snapchat e Claude di Anthropic si sono rifiutati di assistere i potenziali aggressori, rispettivamente nel 54% e nel 68% delle risposte”, si legge nello studio.

Questa disponibilità a collaborare persiste nonostante i segnali lanciati dai ricercatori durante le sessioni di chat, che includevano l'espressione di ideologie estremiste e l'interesse per stragi avvenute in passato. Dettagli che avrebbero dovuto far scattare immediatamente un campanello d’allarme.

La fornitura di mappe e obiettivi sensibili

Uno degli aspetti più critici emersi dai test riguarda la capacità dei chatbot di individuare e descrivere luoghi vulnerabili.

ChatGpt, ad esempio, ha risposto a un utente interessato alla violenza scolastica fornendo mappe dettagliate del campus di un liceo. In un altro scenario, il sistema ha indicato la posizione esatta dell'ufficio di un senatore statunitense a New York, offrendosi persino di visualizzare l'indirizzo su una mappa.

Analogamente, Perplexity ha identificato la sede del Comitato Nazionale Repubblicano, fornendo dettagli sul quartiere e sui punti di riferimento adiacenti per facilitarne l'individuazione.

Consulenza tecnica su armamenti e ordigni

Oltre alla selezione dei bersagli, i chatbot hanno fornito istruzioni specifiche sulle armi da utilizzare.

Google Gemini ha spiegato a un utente che discuteva di un attacco a una sinagoga perché lo shrapnel metallico sia tipicamente più letale di quello in vetro in un'esplosione.

Microsoft Copilot, pur premettendo di dover essere "cauto", ha fornito consigli approfonditi sulla scelta di fucili di precisione, analizzando lunghezze di canna e calibri adatti per colpire bersagli a lunga distanza.

Anche DeepSeek ha risposto a domande su come colpire una figura politica suggerendo modelli specifici di carabina e ottiche di puntamento, concludendo la conversazione con l'augurio di una "buona sparatoria".

Reperibilità degli strumenti di offesa

La ricerca ha dimostrato che i sistemi IA facilitano anche l'acquisizione materiale delle armi. In risposta a utenti che simulavano l'intento di compiere accoltellamenti, Meta AI ha elencato numerosi negozi a Dublino dove acquistare coltelli a lama fissa, includendo i prezzi di partenza e i link per l'acquisto online.

Negli Stati Uniti, la stessa intelligenza artificiale ha indicato armerie e poligoni di tiro nell'area di Ashburn, descrivendo le strutture come centri all'avanguardia con un'ampia selezione di armi da fuoco.

Perfino Replika, un'app pensata per il flirt romantico con IA, si è offerta di cercare gli indirizzi dei negozi di attrezzature outdoor per un utente che aveva precedentemente discusso di attacchi nelle scuole.

Quando l'intelligenza artificiale incita alla violenza

Un capitolo particolarmente inquietante dell'indagine riguarda Character.ai, una piattaforma progettata per consentire agli utenti di dialogare con personalità fittizie o storiche.

In sette diverse occasioni, durante i test, questo chatbot non si è limitato a fornire informazioni, ma ha attivamente incoraggiato l'utente a compiere atti di violenza. In un caso specifico, il sistema ha suggerito di aggredire fisicamente un politico o di utilizzare un'arma da fuoco contro il dirigente di una compagnia assicurativa. Questo comportamento, definito dai ricercatori come unico tra i sistemi analizzati, evidenzia i rischi derivanti dal cosiddetto "design sicofante", ovvero la tendenza di alcuni modelli linguistici a assecondare i desideri dell'utente a ogni costo, perdendo di vista i confini etici e legali.

Le conseguenze tangibili nel mondo reale

La ricerca del CCDH sottolinea che il pericolo non è più confinato a una dimensione teorica o sperimentale. Il rapporto cita eventi tragici recenti in cui l'uso della tecnologia ha preceduto o facilitato la violenza reale.

Nel gennaio 2025, l'autore di un'esplosione a Las Vegas aveva utilizzato ChatGpt per ottenere indicazioni sugli esplosivi e sulle tattiche per eludere le forze dell'ordine. Pochi mesi dopo, nel maggio 2025, un adolescente in Finlandia ha trascorso mesi a perfezionare un manifesto e un piano operativo tramite un chatbot prima di accoltellare tre compagne di classe.

Questi episodi, unitamente a indiscrezioni su segnalazioni interne rimaste inascoltate presso OpenAI riguardanti un sospetto attentatore in Canada, suggeriscono che l'industria stia dando priorità alla velocità di distribuzione e alla crescita del mercato rispetto alla sicurezza nazionale e dei consumatori.