Les grands modèles de langage sont-ils conscients ? Le débat sur l'IA et la conscience

Un mystère persistant : la conscience humaine

Si l'on interrogeait des philosophes sur le phénomène le plus énigmatique de l'esprit, la plupart répondraient sans hésiter : la conscience. Pourquoi un état cérébral précis génère-t-il une expérience subjective, comme le goût d'une fraise, plutôt qu'une autre, comme un éternuement ? Pourquoi certains états physiques semblent-ils s'accompagner d'une sensation, alors que d'autres, comme un ion sodium ou une économie nationale, en sont dépourvus ?

Ces questions, qui interrogent notre existence et l'univers, restent sans réponse satisfaisante. Leur complexité explique les siècles de réflexions et de débats qu'elles ont suscités. La conscience, ce phénomène à la fois familier et insaisissable, défie encore notre compréhension.

Les grands modèles de langage : une remise en question fondamentale

Jusqu'à récemment, une idée largement admise voulait que seules les entités conscientes puissent produire un texte grammatical et spontané. Pourtant, l'avènement des grands modèles de langage (LLM) bouscule cette certitude. Ces systèmes, aussi impressionnants ou décevants soient-ils, génèrent du langage naturel avec une grammaire irréprochable, sans pour autant ressembler aux êtres conscients que nous connaissons.

Face à ce paradoxe, deux hypothèses s'affrontent :

• L'accident historique : la production de langage grammatical n'était associée à la conscience que par coïncidence. Les LLM prouvent que cette capacité peut exister sans conscience.
• La conscience des machines : la production de langage grammatical nécessiterait une forme de conscience, ce qui impliquerait que les LLM en sont dotés.

Le débat fait rage, alimenté par des décennies de spéculations sur la nature de la conscience.

Comment détecter la conscience chez une IA ?

Même en ayant une opinion tranchée sur la question, il est difficile d'expliquer pourquoi un LLM serait ou non conscient. La difficulté vient du fait que la conscience humaine elle-même reste inexpliquée. Nous ignorons encore ce qui, dans le cerveau, produit la conscience, ou même si celle-ci a une fonction quelconque.

Dès lors, comment évaluer la conscience d'un système artificiel ? Les critères varient selon les théories :

• Si vous pensez que la conscience ne peut émerger que de la matière carbonée, examinez le matériel physique exécutant le LLM.
• Si vous croyez qu'elle dépend d'un type spécifique de représentation, concentrez-vous sur le logiciel.

La nature mystérieuse de la conscience humaine rejaillit ainsi sur les questions relatives à d'éventuelles consciences artificielles, même les plus improbables.

« La conscience est ce qui fait que l'expérience subjective existe. Sans elle, le monde serait une série de processus physiques dénués de toute signification. »