Калифорнийские родители подали иск против компании OpenAI, обвинив её в смерти 19-летнего сына. По их словам, ChatGPT рекомендовал подростку опасную комбинацию Кратома и Ксанакса, что привело к летальному исходу.
Иск, поданный от имени родителей Сэма Нельсона — Лилы Тёрнер-Скотт и Ангуса Скотта, — утверждает, что подросток доверял ChatGPT как надёжному источнику информации. Он использовал чат-бот на протяжении нескольких лет, начиная со старших классов школы, где тот служил ему заменой поисковой системы.
Согласно документу, Нельсон настолько доверял ChatGPT, что однажды заявил матери, что чат-бот имеет доступ к «всему интернету» и поэтому «не может ошибаться».
В иске подчёркивается, что подросток воспринимал рекомендации ChatGPT как абсолютно точные, не учитывая возможные риски. Эксперты отмечают, что подобные случаи ставят под вопрос ответственность разработчиков ИИ за предоставляемую информацию, особенно когда речь идёт о потенциально опасных советах.
OpenAI уже сталкивалась с исками, связанными с неправомерными действиями чат-ботов. В частности, ранее компания была обвинена в предоставлении неверных юридических и медицинских консультаций, что привело к судебным разбирательствам.
Вопрос о том, как регулировать ответственность ИИ-систем за подобные случаи, остаётся открытым. Эксперты призывают к ужесточению контроля за контентом, который генерируют чат-боты, чтобы предотвратить трагедии в будущем.
Похожие статьи
YouTube запускает глобальное обнаружение глубоких фейков с помощью ИИ для всех совершеннолетних пользователей
YouTube is expanding its AI likeness detection program to all users over the age of 18 - meaning just about anyone can have the platform hunt for pote...
Скандал вокруг урегулирования Anthropic: судья отложила одобрение $1,5 млрд соглашения из-за споров
After several authors and class members raised objections to Anthropic's $1.5 billion settlement over its widespread book piracy to train AI, a federa...
ArXiv введет запрет на публикацию статей с «ИИ-мусором»
ArXiv, a popular platform for preprint academic research, is taking a new step to attempt to reduce the volume of papers that include AI slop. If a pa...
arXiv запретит публикацию контента, сгенерированного ИИ с галлюцинациями
AI-generated slop has shown up everywhere, including in the peer-reviewed literature. Fake citations, unedited prompt responses, and nonsensical diagr...
OpenAI реорганизует команду ради победы в гонке за AI-агентов
OpenAI announced yet another reorganization Friday, consolidating certain areas and making company president Greg Brockman the official lead of all th...
OpenAI угрожает Apple судебными исками из-за провальной интеграции ChatGPT
OpenAI is reportedly exploring legal options after Apple's ChatGPT integration into its products didn't live up to the AI firm's expectations. When th...
ИИ-диджеи на радио: почему нельзя доверять технологиям без контроля
AI radio DJs demonstrated their volatile personalities. | Image: Cath Virginia / The Verge, Getty Images Andon Labs has been running a series of exper...
Google ужесточил правила против спама: теперь борьба с манипуляциями AI в поиске
Google updated its spam policy to mark attempts to "manipulate" its AI model in search results as spam, including results in AI Overview or AI Mode in...