Le philosophe Nick Bostrom alerte : l'IA pourrait mener à l'extinction humaine — mais le jeu en vaudrait la chandelle

Nick Bostrom, philosophe suédois et professeur à l’Université d’Oxford, n’est plus seulement l’auteur de la théorie controversée de la simulation. Il s’est tourné vers un autre débat brûlant : les dangers de l’intelligence artificielle.

En 2003, Bostrom avait marqué les esprits avec son article « Êtes-vous vivant dans une simulation informatique ? », où il développait l’idée que des civilisations avancées pourraient créer des simulations de leurs ancêtres, et que ces simulations en généreraient d’autres à l’infini. Selon lui, il est statistiquement peu probable que nous vivions dans la réalité « de base ». Cette hypothèse a suscité des décennies de débats, avec des soutiens comme Elon Musk et des critiques acerbes.

Ces dernières années, Bostrom a recentré ses travaux sur l’IA. En 2019, il avait déjà alerté sur les risques bien plus graves que ceux du changement climatique. Aujourd’hui, dans un nouveau document de travail, il va plus loin : le développement de l’IA pourrait entraîner l’extinction de l’humanité. Pourtant, il estime que le jeu en vaut la chandelle, car les bénéfices d’une superintelligence pourraient être immenses.

Un « optimiste inquiet » face aux scénarios apocalyptiques

Dans une interview accordée à Wired, Bostrom se décrit comme un « optimiste inquiet ». Il reconnaît à la fois l’enthousiasme pour les possibilités offertes par l’IA et la crainte d’un effondrement civilisationnel.

Il critique ouvertement les « catastrophistes » de l’IA, comme Eliezer Yudkowsky, auteur du livre « Si quelqu’un le construit, tout le monde meurt ». Pour Bostrom, cette vision est réductrice : ne pas développer l’IA pourrait aussi condamner l’humanité. « Depuis des centaines de milliers d’années, l’humanité survit sans progrès technologique majeur. Mais si personne ne construit l’IA, nous restons vulnérables aux crises existentielles », explique-t-il.

Face à l’argument selon lequel un scénario catastrophique signifierait la fin de toute vie future, Bostrom répond : « Oui, mais que faire pour les générations actuelles ? » Selon lui, même avec des risques élevés, l’IA pourrait augmenter l’espérance de vie et améliorer les conditions de vie, malgré les dangers encourus.

Une position qui divise

Cette prise de position audacieuse ne fait pas l’unanimité. Certains experts, comme Yudkowsky, estiment que les risques d’une IA incontrôlable sont trop élevés pour être pris. D’autres, en revanche, saluent l’approche pragmatique de Bostrom, qui cherche à équilibrer innovation et précaution.

Quoi qu’il en soit, ses travaux continuent de nourrir les débats sur l’avenir de l’humanité et de la technologie. Une chose est sûre : Nick Bostrom ne laisse personne indifférent.