Google AI Overview обвиняют в клевете: как ИИ сгенерировал ложные обвинения в сексуальном преступлении против жителя Юты

Вчера иск жителя Юты против корпорации Alphabet Inc. был передан в федеральный суд США. Поводом стало то, что Google AI Overview сгенерировал ложные обвинения в сексуальном преступлении против мужчины, которые не имели никакой фактической основы. Эти утверждения не были заимствованы из существующих в интернете публикаций, а были полностью сфабрикованы алгоритмом.

Что произошло с пострадавшим

Истец, мистер Мюррей, столкнулся с массовой травлей после того, как Google AI Overview опубликовал ложные обвинения. Эти утверждения не были найдены в других источниках, а были сгенерированы ИИ самостоятельно. В результате пострадавший столкнулся с серьёзными последствиями:

• Личная жизнь: члены семьи, друзья и даже партнёрша усомнились в его честности, обвинили в неприемлемом поведении и начали избегать общения.
• Общественное давление: незнакомцы в магазинах и на заправках подходили к нему с обвинениями, а ранее нейтральные знакомые начали сторониться.
• Финансовые потери: клиенты разрывали контракты, а подрядчики отказывались от работы после того, как их родственники узнали о клеветнических обвинениях.

Несмотря на попытки Мюррея опровергнуть ложь, многие люди отказывались слушать или не верили его словам, ссылаясь на информацию от Google.

Юридические последствия

Пострадавший подал иск, утверждая, что Google не просто распространил неточную информацию, а создал её самостоятельно. Это принципиальное отличие от предыдущих случаев, где обвинения в клевете были связаны с некорректной обработкой существующих данных.

Иск подчёркивает, что ИИ не просто повторил чужие слова, а сгенерировал ложные утверждения, которые не имели под собой никакой основы. Это ставит новые вопросы о юридической ответственности за контент, созданный генеративным ИИ.

Предыдущие случаи клеветы со стороны ИИ

Подобные инциденты уже происходили ранее. Например, в других исках против технологических компаний утверждалось, что ИИ распространял ложные обвинения, которые приводили к репутационным и финансовым потерям для пострадавших. Однако в этом случае обвинения были сгенерированы самостоятельно, а не заимствованы из других источников.

Эксперты отмечают, что такие случаи требуют отдельного правового регулирования, так как традиционные механизмы защиты от клеветы не всегда применимы к контенту, созданному ИИ.

Что дальше?

Иск Мюррея против Alphabet Inc. может стать прецедентом для других дел, связанных с клеветой со стороны генеративного ИИ. Вопрос о том, кто несет ответственность за контент, созданный ИИ, остаётся открытым и требует законодательного урегулирования.

Пока Google не комментирует ситуацию, но этот случай может вынудить компанию пересмотреть подходы к модерированию контента, генерируемого ИИ.