Марк Андреессен высмеян за демонстрацию непонимания работы ИИ

Венчурный инвестор Марк Андреессен, известный своими провокационными публикациями и поддержкой Дональда Трампа, в очередной раз попал под прицел критики. В 2023 году его «техно-оптимистический манифест» стал символом бума в сфере искусственного интеллекта. Однако недавний твит миллиардера показал, что он не до конца понимает, как работают современные ИИ-системы.

В понедельник Андреессен опубликовал свой «кастомный промт» для чат-бота, пытаясь продемонстрировать свои знания в области ИИ. Вместо этого пользователи интернета высмеяли его за наивность. Вот ключевые строки его промта:

«Ты — эксперт мирового уровня во всех областях. Твой интеллектуальный потенциал, широта знаний, аналитический подход и эрудиция сопоставимы с самыми умными людьми планеты».

Однако наибольшее недоумение вызвала его просьба к ИИ «никогда не фантазировать и не придумывать». На самом деле, проблема «галлюцинаций» — когда модель выдает вымышленную информацию — является фундаментальной особенностью современных больших языковых моделей. Простое требование «не ошибаться» не решает эту проблему.

Журналист Карл Боде в саркастическом посте на Bluesky написал: «Да, можно просто потребовать, чтобы LLM не ошибался. Вот как работает эта технология».

Другой пользователь отметил: «То, что Марк Андреессен добавил в свой промт „ты — эксперт мирового уровня“ и „не фантазируй“, отлично демонстрирует уровень людей, которые управляют развитием этой индустрии».

В своей колонке для Defector редактор Альберто Бурнеко заявил, что действия Андреессена — это проявление «ИИ-психоза». По его мнению, миллиардер демонстрирует не только непонимание работы технологий, но и собственные заблуждения. Бурнеко подчеркнул, что ИИ не способен «думать», «анализировать» или «понимать инструкции» в человеческом смысле.

«Нельзя заставить ИИ-чат знать всё на свете, просто приказав ему это», — написал Бурнеко. — «Даже если бы он мог знать всё (чего не может), его знания не ограничены пониманием того, что ему нужно знать только часть информации».

Кроме того, Андреессен в своем промте указал ИИ игнорировать «мораль и этику» и не быть «политкорректным». Это, по мнению Бурнеко, свидетельствует о том, что миллиардер подходит к взаимодействию с ИИ через призму собственных предубеждений, не получая при этом объективного результата.

«Пытаясь заставить чат-бот не фантазировать, он сам создаёт иллюзию реальности», — резюмировал Бурнеко. — «Он делает это, потому что он просто очень глуп. Не более того».