ChatGPT può rendere credibili falsità scientifiche: Science lo vieta come autore

Scrittore, divulgatore, poeta forse: ma ChatGPT scienziato, proprio no. Già: presentato lo scorso novembre e sin da subito considerato l’innovazione tecnologiche più futuribile del 2022 tanto da diventare immediatamente virale, il potente chatbot AI - basato cioè sull’Intelligenza Artificiale – la cui sigla sta per “Generative Pre-trained Transformer” è in grado di realizzare testi su qualsiasi argomento e in qualunque stile  “umano”. Ma una cosa è lo stile, altro è la veridicità del contenuto. E così, dopo aver constatato che è un potenziale generatore di errori,  già molte riviste scientifiche hanno deciso di non pubblicare articoli di chi si affida al chatbot per sintetizzare i risultati della propria ricerca, elencandolo poi come co-autore.  

ChatGPT è sviluppato da OpenAI in California: un’azienda che una recente inchiesta di Time già accusa di aver sfruttato il lavoro sottopagato di decine di “data labelers” – ovvero “etichettatori” – africani: persone costrette a leggere – e a segnalare come sbagliato – il peggio del linguaggio e delle storie negative globali, allo scopo di insegnare al chatbot un linguaggio “pulito”, ovvero non offensivo, razzista o nutrito di pregiudizi. Il risultato è un chatbot già enormemente popolare anche grazie al divertente racconto su come estrarre un sandwich al burro di arachidi da un videoregistratore scritto nello stile aulico della Bibbia di Re Giacomo. Le sue potenzialità stanno dunque già scatenato accesi dibattiti ovunque, Italia compresa: dove si è discusso del suo potenziale utilizzo nelle scuole.  

L’ultimo terremoto, si sta ora scatenando nel mondo delle riviste scientifiche. Holden Thorp, il chimico a capo della prestigiosa rivista americana Science, lo ha detto chiaro ieri, annunciando il suo no ai testi prodotti con l’aiuto di ChatGPT: “Il programma è in grado di produrre abstract scientifici falsi, ma scritti in modo talmente convincente da poter ingannare i revisori umani”. Ha dunque sconsigliato caldamente agli studiosi di farne uso. ChatGPT, spiega in un articolo pubblicato sul sito della rivista “è divertente. Ma non può essere considerato un autore. A partire dal fatto che chiediamo a chi pubblica con noi di firmare un modulo in cui si assumono la responsabilità di quanto scrivono. ChatGPT non può farlo e dunque non può essere preso considerato co-autore di testi scientifici”. Il problema è che sa assemblare informazioni, è vero: ma non è in grado di verificarle. Ha già commesso molti errori, e dunque il suo uso nella letteratura scientifica rischia di portare a risultati sbagliati se non totalmente falsi. Una mancanza di rigore che rischia di scatenare pure nuove credenze, paure e diffidenze nei confronti della scienza.  

Anche altri stanno cercando un modo per affrontare il problema. Martedì pure Springer-Nature, casa editrice che pubblica ben 3mila riviste scientifiche, ha deciso di aggiornato le sue linee guida, eliminando appunto la possibilità di elencare ChatGPT come co-autore. Ma  non ne ha bandito del tutto la possibilità d’utilizzo. Ne sarà ammesso l’uso nella fase preparatoria della ricerca: utilizzabile per redigere una sorta di bozza, a patto che tutti i dettagli siano poi sottoposti ad accurata verifica. 

“Siamo stati costretti a porre delle barriere perché all’improvviso ci siamo trovati con decine di studi dove ChatGPT appariva come co-autore” ha spiegato Magdalena Skipper, capo di Nature, al quotidiano Guardian che l’interrogava in merito. “Crediamo che con i giusti limiti l’intelligenza artificiale potrà però essere utile alla scienza. Ad esempio, dando una possibilità in più agli studiosi non di madrelingua inglese, aiutandoli a rendere più fluido il linguaggio dei loro documenti». Anche l’editore Elsevier, che pubblica 2800 riviste scientifiche comprese le influenti Cell e Lancet, ha assunto una posizione simile. Consentirà l'uso dell’AI “per migliorare il linguaggio degli articoli”. Ma chiede con fermezza ai suoi autori di non utilizzarlo per “compiti chiave come interpretare i dati o trarre conclusioni scientifiche”, come dice Andrew Davis di Elsevier, spiegando che chi pubblica con loro dovrà comunque dichiarare se e come ha usato chatbot.  

Michael Eisen di eLife, -  la rivista “open access” nata nel 2012 con l’obiettivo di sfidare i giganti dell’editoria scientifica a pagamento – pensa che ChatGPT non può essere considerato un autore, ma che il suo uso va considerato utile quando non inevitabile: “La questione non è se consentirlo o meno, ma come gestire il suo uso", ha affermato. “La cosa più importante, per ora, è la sincerità degli autori da un lato e la loro completa presa di responsabilità verso il risultato finale delle ricerche che firmano, dall’altro”.