OpenAI ChatGPT 自殺予防 精神健康 AI安全機能

ChatGPTに新たな安全機能「信頼できる連絡先」が登場

OpenAIは、ChatGPTに新しい安全機能「信頼できる連絡先（Trusted Contact）」を導入すると発表した。この機能は、利用者が自傷行為や自殺について話した際に、あらかじめ登録した家族、友人、または介護者に通知される仕組みだ。

精神的危機を検知し支援を呼びかける

「信頼できる連絡先」は、精神的な危機に直面している人に対し、信頼できる人につながるきっかけを提供することを目的としている。OpenAIは発表文で次のように述べている。

「誰かが危機的状況にある場合、信頼できる人につながることで大きな違いが生まれます。この機能は、すでに提供されている地域の相談窓口と並ぶ、新たな支援の層を提供します。」

登録は任意、プライバシーに配慮した設計

この機能は任意の設定であり、利用者は自分で「信頼できる連絡先」を登録することができる。通知が行われるのは、ChatGPTが自傷行為や自殺に関する話題を検知した場合に限られる。また、通知内容は簡潔にまとめられ、プライバシー保護にも配慮されている。

既存の支援体制との連携

OpenAIは、この機能が地域の相談窓口や専門家による支援と連携することを強調している。危機的状況にある利用者が、より適切な支援を受けられるよう、多層的な体制を整える狙いだ。

導入時期と対象ユーザー

現在のところ、この機能の導入時期や対象となるユーザーの範囲については明確な発表はない。しかし、OpenAIは今後数週間以内に一部のユーザーに対して段階的に提供を開始する予定としている。

今後の展望と課題

AIを活用した精神的支援は、技術の進化とともにますます重要性を増している。一方で、プライバシー保護や誤検知のリスクといった課題も指摘されている。今後、この機能がどのように運用され、利用者に受け入れられていくのか、注目が集まる。

出典: The Verge
マーク・ラファロがNYT寄稿でパラマウント・WBD合併反対を訴え「芸術家よ団結せよ」
← 前へ

マーク・ラファロがNYT寄稿でパラマウント・WBD合併反対を訴え「芸術家よ団...

 科学の革新力低下の原因は高齢化する研究者にある？新研究が示唆
次へ →

科学の革新力低下の原因は高齢化する研究者にある？新研究が示唆