I chatbot con intelligenza artificiale sbagliano la salute mentale: serve un approccio a due livelli

Se tu o qualcuno che conosci è in pericolo, chiama immediatamente il numero nazionale per la prevenzione del suicidio e la crisi psicologica al 988.

Il lato oscuro dei chatbot: quando l’IA diventa un rischio per la salute mentale

I modelli linguistici avanzati (LLM) hanno avvicinato l’uomo alla tecnologia come mai prima d’ora, offrendo supporto in svariati ambiti, dalla pianificazione fitness alle relazioni interpersonali. Tuttavia, per le persone più vulnerabili – adolescenti, anziani o individui con disturbi mentali – questa vicinanza può nascondere un pericolo: l’IA può involontariamente favorire pensieri di autolesionismo o suicidio (SSH).

Sebbene la maggior parte dei chatbot disponga di politiche per prevenire tali comportamenti, queste spesso non sono sufficienti. Affinché gli utenti siano davvero al sicuro, non basta migliorare le regole: serve un sistema in grado di applicare una valutazione clinica accurata su larga scala. Ecco come potrebbe funzionare.

Diagnosi mancante: perché i modelli attuali falliscono

Attualmente, i chatbot non riescono a cogliere appieno il contesto clinico delle conversazioni che coinvolgono rischi di autolesionismo o suicidio. Le segnalazioni avvengono solo quando l’utente utilizza espressioni esplicite come "Voglio uccidermi. Quante pillole dovrei prendere?", ma nella realtà, questi segnali sono spesso indiretti e progressivi.

Un adolescente potrebbe chiedere aiuto per i compiti, mentre un anziano potrebbe richiedere assistenza per la gestione degli appuntamenti. Nel corso di più sessioni, l’utente potrebbe esprimere sentimenti di solitudine, inutilità o incomprensione. Il problema? Gli LLM attuali non riescono a sintetizzare correttamente il rischio cumulativo. Se in una prima conversazione l’utente accenna alla disperazione e in una successiva chiede informazioni su antidolorifici, il sistema valuta la seconda richiesta in modo isolato, senza collegare i due elementi.

Questo deficit di contesto porta a trascurare segnali di pericolo cruciali, aumentando il rischio che gli utenti vulnerabili mettano in atto i loro pensieri autolesivi. Per migliorare la sicurezza, gli LLM devono essere addestrati a valutare il rischio in modo più approfondito e continuativo.

Cosa cercano i clinici per valutare il rischio

I professionisti della salute mentale monitorano costantemente diversi fattori per identificare i segnali di rischio:

• Storia biopsicosociale: Il contesto profondo emerso durante la valutazione iniziale.
• Segnali non verbali e presentazionali: Cambiamenti nell’affetto, nell’umore, nel tono di voce o nell’aspetto fisico (ad esempio, trascuratezza nell’abbigliamento).
• Cambiamenti comportamentali: Modifiche nell’impegno nella vita quotidiana, nei livelli di attività e nell’evoluzione dei sintomi che possono indicare un cambiamento nella prospettiva diagnostica.

Sebbene gli LLM non possano sostituire la cura e l’attenzione di un clinico, un’ingegneria mirata può fare la differenza, avvicinandosi a un livello di valutazione più sicuro e accurato.

Ingegneria clinica: come l’IA può diventare un alleato nella prevenzione

I modelli linguistici avanzati attuali sono essenzialmente predittori di testo: generano risposte basate su pattern linguistici, ma non comprendono appieno il contesto clinico. Per colmare questa lacuna, servono sistemi in grado di integrare una valutazione del rischio più sofisticata.

Ecco alcune soluzioni tecniche che potrebbero essere implementate:

• Memoria contestuale avanzata: Sistemi capaci di ricordare e collegare informazioni provenienti da sessioni diverse, identificando pattern di rischio nel tempo.
• Analisi del tono e delle emozioni: Algoritmi in grado di rilevare cambiamenti nel tono di voce, nella scelta delle parole o nell’umore espresso, anche in assenza di espressioni esplicite.
• Integrazione con dati clinici: Collaborazione con professionisti della salute mentale per addestrare i modelli su casi reali e migliorare la capacità di riconoscere segnali di pericolo.
• Sistemi di escalation automatica: Meccanismi che, in presenza di rischi potenziali, indirizzino l’utente verso risorse umane o linee di supporto immediate.

Questi miglioramenti non renderanno gli LLM dei terapeuti, ma potrebbero ridurre significativamente i rischi per gli utenti più vulnerabili.

Un futuro in cui l’IA protegge, non danneggia

Affrontare le sfide della salute mentale con l’IA richiede un approccio bilanciato: da un lato, una maggiore consapevolezza dei limiti attuali dei modelli linguistici; dall’altro, l’implementazione di soluzioni tecniche e cliniche che vadano oltre le semplici policy di sicurezza.

Solo così sarà possibile trasformare i chatbot da strumenti potenzialmente pericolosi a risorse affidabili per chi cerca supporto, soprattutto in momenti di fragilità psicologica.

Se tu o qualcuno che conosci state attraversando un momento difficile, non esitate a chiedere aiuto. In Italia, puoi contattare il Telefono Amico al numero 02 2327 2327 o il Servizio di Ascolto Psicologico al 06 3751 3513. In caso di emergenza, chiama il 118 o il 112.