Философ Ник Бостром: риск вымирания человечества — цена за развитие сверхразумного ИИ

Философ и футуролог Ник Бостром, известный как автор гипотезы симуляции, продолжает оставаться в центре дискуссий о будущем человечества. В 2003 году он опубликовал влиятельную статью «Живёте ли вы в компьютерной симуляции?», где выдвинул предположение, что развитые цивилизации способны создавать сложные симуляции реальности, в которых существуют их виртуальные потомки. По его мнению, с течением времени количество таких слоёв симуляции растёт, и вероятность того, что мы живём в «базовой» реальности, крайне мала.

Идея Бострома вызвала бурные споры: одни, включая Илона Маска, поддержали её, другие сочли спекулятивной. В последние годы учёный сместил фокус на другую глобальную угрозу — искусственный интеллект. В 2019 году он предупреждал, что ИИ представляет для человечества большую опасность, чем изменение климата. Однако его взгляды эволюционировали, и теперь он рассматривает риски и перспективы развития сверхразумного ИИ с новой позиции.

В недавней рабочей статье Бостром утверждает, что создание сверхразумного ИИ может привести к вымиранию человечества. Тем не менее, он считает, что потенциальные преимущества такого прорыва — например, радикальное улучшение качества жизни и расширение возможностей цивилизации — стоят того, чтобы пойти на этот риск.

«Я называю себя тревожным оптимистом», — заявил Бостром в интервью изданию Wired. «Я в восторге от потенциала радикального улучшения жизни и раскрытия новых возможностей для цивилизации. Это сочетается с реальной вероятностью того, что всё пойдёт не так».

Эксперт не обошел стороной критику в свой адрес со стороны «катастрофистов», таких как Элиезер Юдковски, автор книги «Если кто-то создаст ИИ, все умрут». Бостром парировал: «Если мы не создадим ИИ, человечество обречено на вымирание в долгосрочной перспективе. За последние сотни тысяч лет это уже происходило».

Журналист Стивен Леви, представляющий Wired, возразил, что в сценарии катастрофы все умрут, и новые поколения не появятся. Бостром ответил: «Я, конечно, обеспокоен этим. Но в своей новой работе я рассматриваю другой вопрос: что будет лучше для ныне живущих людей — нас с вами, наши семьи и жители Бангладеш? Кажется, что развитие ИИ повысит нашу продолжительность жизни, даже если это сопряжено с рисками».

Эти слова звучат особенно парадоксально на фоне убеждённости Бострома в том, что мы, скорее всего, уже живём в симуляции. Таким образом, его позиция сводится к следующему: даже если риск глобальной катастрофы реален, отказ от прогресса может оказаться ещё более губительным.