ChatGPT получит возможность предупреждать близких о риске самоповреждения

Новая функция безопасности для ChatGPT

Компания OpenAI объявила о внедрении важной функции безопасности в ChatGPT. Теперь пользователи могут назначить доверенное лицо, которое получит уведомление, если ИИ обнаружит признаки риска самоповреждения или суицидальных мыслей.

Как это работает?

Если ChatGPT выявит потенциально опасное поведение пользователя, система предложит отправить уведомление назначенному контакту. Это может включать:

• Сообщения с угрозами в адрес себя;
• Высказывания о безысходности или отсутствии смысла жизни;
• Признаки планирования опасных действий.

Цель инициативы

По словам представителей OpenAI, новая функция направлена на предотвращение трагедий и обеспечение своевременной психологической поддержки. ИИ не заменяет профессиональную помощь, но может стать первым шагом к её получению.

«Мы стремимся сделать ChatGPT максимально безопасным инструментом. Новая функция — это ещё один шаг к защите пользователей», — заявил представитель OpenAI.

Как настроить функцию?

Для активации оповещения необходимо:

1. Перейти в настройки учётной записи ChatGPT;
2. Выбрать раздел «Безопасность»;
3. Указать доверенное лицо (электронную почту или номер телефона);
4. Подтвердить настройку.

Ограничения и этические аспекты

OpenAI подчеркнула, что ИИ не является заменой профессиональной медицинской помощи. Функция предназначена для дополнительной поддержки и не гарантирует 100% точность в выявлении рисков. Пользователи должны помнить, что:

• Уведомления отправляются только при явных признаках опасности;
• Доверенное лицо не получает доступ к личным данным пользователя;
• Функция может быть отключена в любой момент.

Реакция экспертов

Психологи и IT-специалисты отмечают, что подобные функции могут сыграть важную роль в профилактике суицидов. Однако они подчеркивают необходимость баланса между безопасностью и конфиденциальностью.

«Это важный шаг вперёд, но важно не переусердствовать с автоматизацией. Человеческий фактор остаётся ключевым в таких ситуациях», — комментирует психолог Анна Смирнова.

Будущее функции

OpenAI планирует дальнейшее развитие системы, включая интеграцию с профессиональными службами психологической помощи. В будущем пользователи смогут получать рекомендации по обращению к специалистам в зависимости от выявленных рисков.