米グーグルは、自社のAI製品が精神衛生に及ぼす影響についての責任をより強く求められる中、同社の臨床責任者メーガン・ジョーンズ・ベル氏が、AIを活用した支援の重要性を強調した。
ジョーンズ・ベル氏はSTATの取材に対し、「時にはサービスを停止することが害を防ぐ手段に見えるかもしれません。しかし、私たちが目指すのは、製品体験をより安全で有益なものにし、支援への橋渡しを強化することです。これにより、より多くの人々の精神衛生を支えることができると信じています」と語った。
これを受け、グーグルはGeminiアプリのアップデートを実施。自傷のリスクが検知された際には、危機ホットラインへの接続をより目立つ形で表示する機能を追加した。また、精神衛生に関する会話では、外部リソースへの案内を積極的に行う一方で、チャットボットは対話を継続し、「私はあなたの話を聞いています」とユーザーを励ます仕組みを導入した。
出典:
STAT News