В OpenAI обсуждали план по разжиганию гонки вооружений между странами — сотрудники в шоке

Внутренние документы и свидетельства сотрудников OpenAI раскрывают шокирующие подробности того, как высшее руководство компании, включая CEO Сэма Альтмана и его заместителя Грега Брокмана, обсуждало план по разжиганию геополитической напряженности между ведущими мировыми державами. По словам инсайдеров, идея заключалась в том, чтобы искусственно создать конкуренцию между странами за доступ к передовым технологиям ИИ, тем самым обеспечив OpenAI финансовую выгоду и влияние.

Как сообщает The New Yorker, в 2017 году Брокман предложил так называемый «план стран», который предполагал манипулирование отношениями между Китаем, Россией и США. Вместо создания международных механизмов контроля за безопасностью ИИ, как предлагал этический консультант компании, Брокман предлагал разыграть великие державы друг против друга, например, инициировав гонку за технологиями. «Если это сработало для ядерного оружия, почему бы не использовать такой подход для ИИ?» — заявил он, по словам этического консультанта Пейдж Хедли.

«Основной посыл, который они не отрицали, звучал так: „Речь идет о потенциально самой разрушительной технологии в истории — что, если мы продадим её Путину?“» — рассказала Хедли в интервью изданию. Джэк Кларк, бывший директор по политике OpenAI, назвал эту стратегию «дилеммой заключённого», где все страны будут вынуждены финансировать компанию, чтобы избежать риска конфликта.

Один из младших исследователей, присутствовавший на совещании, где обсуждался этот план, заявил, что идея казалась ему «совершенно безумной». В конце концов, план был отложен после того, как часть сотрудников угрожала уволиться.

Хедли также отметила, что для Альтмана мнение сотрудников имело меньший вес, чем опасность потенциального конфликта между великими державами: «Это всегда было чем-то, что имело большее значение в его расчётах, чем „Это плохой план, потому что может спровоцировать войну“».

Кроме того, Альтман пытался манипулировать и американскими властями. С 2017 года он неоднократно заявлял представителям американских спецслужб, что Китай якобы запустил «Манхэттенский проект» по созданию искусственного общего интеллекта (AGI). По его словам, OpenAI и США должны получить миллиарды долларов государственных инвестиций, чтобы не отстать от Китая. Когда чиновники просили предоставить доказательства, Альтман отвечал уклончиво: «Я слышал разные вещи».

Один из чиновников, проверивший эти утверждения, пришёл к выводу, что Альтман просто использовал их в качестве «торгового предложения». Как отмечает издание, Альтман позиционировал себя как фигуру, подобную Дж. Роберту Оппенгеймеру — человеку, который использовал страх перед нацизмом, чтобы убедить учёных работать над атомной бомбой. Однако, в отличие от Оппенгеймера, Альтман эксплуатировал не гуманитарные, а геополитические страхи, чтобы продвигать свои интересы.