Google står under ökad press att ta större ansvar för hur dess artificiella intelligens påverkar människors psykiska hälsa. I detta sammanhang lyfter företagets kliniska direktör, Megan Jones Bell, fram AI som en möjlig räddningsbrygga för personer som söker hjälp via chatbotten Gemini.

"Det kan ibland verka som att stänga av något är det bästa sättet att förebygga skada," säger Jones Bell till STAT. "Men vi tror att det är mer effektivt att göra vår produkt säkrare och mer hjälpsam, samt att stärka den här bryggan till stöd. På så sätt kan vi nå fler människor och verkligen bidra till deras psykiska hälsa."

Google har nyligen genomfört uppdateringar i sin Gemini-app. Nu visas länkar till krishjälplinjer mer tydligt när AI:n identifierar att en användare riskerar att skada sig själv. Under samtal om psykisk ohälsa hänvisar chatbotten ofta till externa resurser – men den avbryter inte samtalet. Istället påminner den användaren om att "jag finns här för att lyssna".

Källa: STAT News