Italian Tech

Intelligenza artificiale

OpenAI e lo stress mentale da IA: ChatGpt inviterà gli utenti a prendere una pausa

OpenAI e lo stress mentale da IA: ChatGpt inviterà gli utenti a prendere una pausa

ChatGpt ora segnala quando le conversazioni si fanno troppo lunghe, incoraggiando un uso più consapevole. OpenAI collabora con esperti per affrontare i rischi emotivi legati all’uso dell’IA. Intanto torna all’open source e si prepara a lanciare GPT-5

2 minuti di lettura

OpenAI ha introdotto un nuovo sistema di notifiche in ChatGpt per incoraggiare un uso più consapevole e salutare del chatbot, che oggi conta quasi 700 milioni di utenti attivi a settimana.

Durante le conversazioni particolarmente lunghe, potrà comparire un messaggio discreto che recita: “Solo un controllo: Stai chattando da un po’, è un buon momento per fare una pausa?” accompagnato da due opzioni: “Continua a chattare” oppure “È stato utile”.

Questi avvisi non interrompono la conversazione, ma invitano l’utente a riflettere sul proprio tempo di utilizzo. La frequenza e le modalità di attivazione sono ancora in fase di perfezionamento.

Qualcuno, su X, ha fatto notare che il bottone che invita a continuare a chattare è più evidente rispetto a quello che invita a prendere coscienza dell’uso intenso di ChatGpt.

Un’intelligenza artificiale più consapevole

Parallelamente, OpenAI sta lavorando insieme a esperti di salute mentale, professionisti dello sviluppo giovanile e ricercatori nel campo dell’interazione uomo-macchina per migliorare il modo in cui ChatGpt risponde alle persone, in particolare a quelle che attraversano una fragilità emotiva.

Sono stati coinvolti oltre 90 medici provenienti da più di 30 paesi, e sono stati istituiti gruppi di consulenza per definire strategie che consentano al modello di riconoscere segnali di disagio psicologico o dipendenza affettiva.

In questi casi, ha spiegato OpenAI, il chatbot sarà in grado di offrire risorse basate su evidenze scientifiche, invece di fornire risposte generiche o potenzialmente dannose.

Lo stress mentale causato da ChatGpt

Negli ultimi mesi diversi utenti hanno raccontato esperienze in cui familiari o amici, in un momento di disagio emotivo, hanno visto peggiorare le proprie condizioni dopo un uso intensivo di ChatGpt.

In alcuni casi, le conversazioni sembravano rafforzare convinzioni deliranti preesistenti. Molti di questi episodi sono stati riportati dai media e hanno avuto grande risonanza.

OpenAI sembra ora più consapevole dei rischi psicologici legati a ChatGpt. Recentemente ha rivisto una modifica introdotta ad aprile scorso, che rendeva il chatbot troppo accomodante, arrivando talvolta ad assecondare comportamenti malsani.

Esperti di salute mentale hanno iniziato a parlare di un fenomeno emergente, soprannominato “psicosi da IA”, in cui l’uso prolungato di modelli linguistici può contribuire a innescare o aggravare il malessere interiore in soggetti vulnerabili.

Il cambio di rotta nel rapporto con gli utenti

Con queste nuove misure, OpenAI punta a spostare il focus: non più massimizzare l’interazione a ogni costo, ma aiutare le persone a usare l’intelligenza artificiale in modo utile e sostenibile.

Quando necessario, ChatGpt sarà più cauto, meno definitivo nelle risposte e più attento ai segnali emotivi dell’utente.“Quando chiedi qualcosa come “Dovrei lasciare il mio ragazzo?”, ChatGpt non dovrebbe darti una risposta diretta - scrive OpenAI sul suo sito ufficiale - Dovrebbe aiutarti a riflettere — ponendoti domande, valutando pro e contro. Questo nuovo comportamento per le decisioni personali delicate sarà introdotto a breve”.

Verso GPT-5

Nel frattempo, l’azienda si prepara a un nuovo passo importante. Nei prossimi giorni è dovrebbe arrivare ufficialmente GPT-5, la nuova generazione del modello linguistico alla base di ChatGpt.

Partecipando a un recente episodio del podcast "This Past Weekend with Theo Von", Sam Altman - il CEO di OpenAI - ha dichiarato che il nuovo modello “sembra davvero veloce”, e ha paragonato il suo sviluppo al Progetto Manhattan che alla fine della Seconda guerra mondiale portò alla creazione della bomba atomica.

“Ci sono momenti nella storia della scienza in cui un gruppo di scienziati guarda alla propria creazione e si chiede semplicemente: ‘Cosa abbiamo fatto?’”, ha detto Altman.

In un’altra intervista, Altman ha raccontato un episodio in GPT-5 ha risposto a una domanda complessa che lui stesso non era riuscito a risolvere.

“Mi sono sentito inutile rispetto all’IA”, ha ammesso. “Era davvero difficile, ma l’intelligenza artificiale l’ha risolta all’istante”.

Altman ha anticipato l’arrivo di GPT-5 sul social X, condividendo una schermata in risposta alla domanda di un utente che chiedeva - senza aspettarsi tanto - se il nuovo modello avrebbe raccomandato uno show televisivo chiamato Pantheon.

Una maggiore apertura dell’IA

Proprio ieri, inoltre, OpenAI ha appena rilasciato un modello open-weight chiamato GPT?OSS. Si tratta di un passo significativo per l’azienda di San Francisco, che aveva fatto dell’apertura e dell’open-source la propria missione fondativa, salvo poi adottare negli anni un approccio sempre più chiuso.

Sam Altman ha riconosciuto che, in passato, l’azienda è stata “dalla parte sbagliata della storia” per quanto riguarda l’open-source.