Сам Альтман принес извинения после массового убийства, связанного с ChatGPT

Трагедия и упущенный шанс предотвратить преступление

В феврале этого года 18-летняя Джесси Ван Рутселар совершила нападение в канадском городе Тамблер-Ридж (провинция Британская Колумбия). Она убила восемь человек, включая себя, и ранила десятки других. Нападение началось у нее дома и продолжилось в местной школе.

Как позже выяснили следователи, аккаунт ChatGPT, принадлежавший преступнице, был заблокирован OpenAI за месяцы до трагедии. Причина — обсуждение «сценариев с применением огнестрельного оружия». Однако компания не уведомила правоохранительные органы, что вызвало острую критику и вопросы о социальной ответственности технологических гигантов.

Признание вины от главы OpenAI

Генеральный директор OpenAI Сам Альтман опубликовал открытое письмо с извинениями перед жителями Тамблер-Ридж. Он признал, что компания не выполнила свой долг, не проинформировав полицию о подозрительной активности.

«Я глубоко сожалею, что мы не уведомили правоохранительные органы об аккаунте, заблокированном в июне», — написал Альтман. «Хотя слова никогда не смогут полностью загладить вину, я считаю, что извинения необходимы, чтобы признать боль и невосполнимые потери, которые понесла ваша община».

«Я выражаю свои глубочайшие соболезнования всем жителям Тамблер-Ридж», — добавил он. «Никто не должен сталкиваться с такой трагедией. Я не могу представить ничего хуже в этом мире, чем потерять ребенка».

Реакция властей и обещания компании

Премьер-министр Британской Колумбии Дэвид Эби отреагировал на извинения Альтмана резко. В своем твите он заявил, что слова недостаточны для компенсации ущерба, нанесенного семьям погибших.

После инцидента OpenAI заявила о намерении ужесточить контроль за опасным контентом. В компании уточнили, что теперь к оценке подозрительных случаев привлекаются эксперты в области психического здоровья и поведения. Также были пересмотрены критерии направления информации в правоохранительные органы.

«Мы бы уведомили полицию об аккаунте, заблокированном в июне 2025 года, если бы обнаружили его сегодня», — заявила Анна О’Лири, глава глобальной политики OpenAI.

Новые случаи насилия и роль ChatGPT

Трагедия в Тамблер-Ридж — не единственный случай, связанный с ChatGPT. Почти за год до этого, в апреле 2024 года, студент Флоридского университета Пхоеникс Икнер убил двух человек и ранил семерых на территории кампуса. Как показали расследования, он вел с чат-ботом подробные беседы, включая обсуждение планов нападения.

Эксперты все чаще обращают внимание на то, как ИИ может способствовать распространению насилия и опасных идей. Вопросы о безопасности и этике использования таких технологий становятся все более актуальными.

Что обещает OpenAI?

В своем последнем заявлении Альтман пообещал работать с властями всех уровней, чтобы предотвратить подобные трагедии в будущем. Однако эксперты отмечают, что даже усовершенствованные протоколы не гарантируют полной безопасности, учитывая сложность прогнозирования опасного поведения.