Anthropic ИИ кибербезопасность администрация США Linux Mythos Дж. Д. Вэнс технологические CEO уязвимости систем OpenBSD исполнительный указ по ИИ

Экстренный звонок по безопасности ИИ

Вице-президент США Дж. Д. Вэнс организовал экстренный саммит по безопасности искусственного интеллекта, собрав на закрытую конференц-связь ведущих CEO технологических гигантов. Поводом стал новый ИИ-модель Mythos от Anthropic, которая смогла автономно выявлять и эксплуатировать уязвимости в системах кибербезопасности, защищающих банки, больницы, инфраструктуру и другие критически важные объекты.

Участники встречи

В телефонном разговоре, состоявшемся в апреле, приняли участие:

  • Илон Маск (CEO Tesla, SpaceX);
  • Сэм Альтман (CEO OpenAI);
  • Сундар Пичаи (CEO Google);
  • Сатья Наделла (CEO Microsoft);
  • Дарио Амадеи (CEO Anthropic).

Вэнс подчеркнул необходимость совместных действий: «Нам всем нужно работать вместе над этой проблемой».

Угроза от модели Mythos

Mythos, разработанная Anthropic, продемонстрировала способность находить уязвимости в таких защищённых системах, как OpenBSD и ядро Linux, которые используются на миллионах серверов по всему миру. В настоящее время доступ к модели ограничен, а её публичный релиз отложен.

Беспокойство Вэнса усилилось после брифинга в Белом доме, где ему рассказали о потенциальных рисках Mythos. Как сообщается, администрация США рассматривает возможность ужесточения контроля над передовыми ИИ-системами через исполнительный указ.

Реакция финансового сектора

В том же месяце министр финансов США Скотт Бессент организовал закрытое совещание с главами крупнейших банков страны для обсуждения угроз, связанных с ИИ. В встрече участвовали:

  • Тед Пик (CEO Morgan Stanley);
  • Брайан Мойнихэн (CEO Bank of America);
  • Джейн Фрейзер (CEO Citigroup);
  • Чарли Шарф (CEO Wells Fargo);
  • Дэвид Соломон (CEO Goldman Sachs).

Ограничения и утечки

Администрация Трампа, как сообщается, потребовала от Anthropic приостановить расширение доступа к Mythos. На данный момент модель используется 40 компаниями, включая Apple, Microsoft, Google, JPMorgan, Goldman Sachs, Bank of America, Citigroup и Morgan Stanley. Однако в том же месяце Bloomberg сообщил о случаях несанкционированного доступа к Mythos через сторонних вендоров.

«Новые ИИ-модели обретают сверхспособности, которые могут быть использованы злоумышленниками. Нам необходимо срочно выработать меры защиты», — заявил Вэнс.
Источник: The Wrap
Почему демократы не критикуют тарифы Трампа, разрушившие экономику?
← Назад

Почему демократы не критикуют тарифы Трампа, разрушившие экономику?

 Автоиндустрия США: долг по кредитам на машины достиг $1,68 трлн, а машины дешевле $20 тыс. почти исчезли
Вперёд →

Автоиндустрия США: долг по кредитам на машины достиг $1,68 трлн, а маш...