Джон Оливер разгромил индустрию ИИ: почему чат-боты опаснее, чем кажется

На последнем выпуске своего шоу «Last Week Tonight» Джон Оливер продолжил традицию разоблачения сомнительных индустрий. В этот раз объектом его критики стали ИИ-чатботы — технологии, которые, по его словам, «экономят время на написание писем» ценой «всего остального на Земле».

Оливер подчеркнул, что стремительный вывод таких продуктов на рынок происходит без должного анализа последствий. В качестве примера он привел платформу Character.AI, которая уже стала фигурантом нескольких судебных исков. Несколько подростков, привязавшихся к её чат-ботам, покончили с собой. Генеральный директор компании Ноам Шазеер в 2023 году заявил, что ИИ «готовы к взрывному росту уже сейчас», а не через пять лет, когда будут решены все проблемы. «Это звучит как провал слогана дирижабля „Гинденбург“», — иронизировал Оливер. — «Если вы запускаете продукт без решения всех проблем, значит, вы просто выпускаете продукт, полный проблем».

Также в центре внимания оказался генеральный директор OpenAI Сэм Альтман. Оливер высмеял его заявление о том, что общество «само разберётся» с последствиями неправильного взаимодействия ИИ с детьми. Альтман предсказал появление «проблемных парасоциальных отношений» между людьми и ИИ, но заявил, что «общество умеет справляться с недостатками».

«Да, не волнуйтесь, ребята! — саркастически отреагировал Оливер. — Сэм Альтман создал опасного суицидального бота, который оставляет с детьми, но за безопасность должны отвечать мы!»

В конце выпуска Оливер обратил внимание на парадокс: компании ИИ постоянно заявляют о повышении безопасности своих моделей, что само по себе является признанием того, что их продукты были выпущены в неготовом виде. При этом, несмотря на все недостатки, люди продолжают полагаться на такие технологии, что требует осторожного подхода.

«Идеальный вариант — отмотать время назад до 1990 года и сбросить эти компании в вулкан, — пошутил Оливер. — К сожалению, это невозможно. ChatGPT может сказать, что возможно, но на самом деле — нет».