Principaux renseignements
- La conscience artificielle se heurte à des objections liées à des limites computationnelles, algorithmiques et physiques.
- Les chercheurs classent leurs arguments en trois catégories en fonction de leur force de persuasion : points à améliorer, obstacles pratiques dans la technologie actuelle et impossibilités fondamentales.
- Ce cadre clarifie le débat sur la conscience de l’IA et fournit une feuille de route pour la recherche future, l’éthique et l’élaboration de politiques dans le domaine de l’intelligence artificielle (IA).
La question de savoir si l’intelligence artificielle (IA) peut atteindre la conscience fait depuis longtemps l’objet d’un débat intense entre scientifiques, philosophes et technologues. Une étude récente, intitulée « Consciousness in Artificial Intelligence? A Framework for Classifying Objections and Constraints », tente de clarifier cette discussion complexe en développant un modèle structuré pour catégoriser les différentes objections concernant la conscience numérique.
Types d’objections
L’étude reconnaît que les arguments contre la conscience IA se recoupent souvent ou sont mal ciblés. Certaines objections découlent de la conviction que la conscience ne peut s’expliquer par de simples processus computationnels, tandis que d’autres acceptent le principe de la conscience computationnelle, mais affirment que les systèmes numériques actuels ne disposent pas de l’architecture nécessaire. D’autres arguments rejettent la possibilité d’une conscience numérique sur la base de connaissances issues de la physique ou de la biologie, plutôt que de la théorie de l’informatique.
Structure analytique à trois niveaux
Pour aborder cette complexité, les auteurs proposent un cadre analytique à trois niveaux, inspiré du modèle scientifique cognitif de David Marr. Le premier niveau se concentre sur la conscience en tant que correspondance entre les entrées et les sorties, guidée par des fonctions calculables. Le deuxième niveau traite des algorithmes, architectures et structures de représentation spécifiques nécessaires à la réalisation de la conscience. Le troisième niveau se concentre sur les objections selon lesquelles le substrat physique lui-même est essentiel à l’expérience consciente.
Ce cadre permet aux chercheurs, aux décideurs politiques et aux philosophes d’identifier les similitudes et les différences, en distinguant clairement les arguments contre le fonctionnalisme computationnel et les arguments contre la conscience numérique.
Fonctions non calculables
Certains critiques affirment que la conscience implique des processus non calculables qui dépassent les capacités des machines de Turing, tandis que d’autres soutiennent que tout modèle computationnel de la conscience serait trop complexe pour être mis en œuvre à grande échelle. L’étude souligne également l’importance du couplage dynamique et suggère que la conscience pourrait nécessiter une interaction en temps réel avec les environnements, ce que les systèmes numériques ont du mal à imiter.
Organisation algorithmique
Au niveau algorithmique, le débat porte sur l’organisation des algorithmes. Les théories examinent si les architectures symboliques, les réseaux neuronaux ou les systèmes hybrides sont capables de générer des états conscients. Certains soulignent la nécessité de processus analogiques avec des valeurs continues, que les systèmes numériques ne peuvent pas entièrement émuler. D’autres mettent l’accent sur la synchronisation et les formes de représentation qui sont essentielles à l’expérience subjective, mais qui font défaut dans les architectures numériques actuelles.
Ce niveau comprend également des discussions sur l’incarnation et l’énactivisme, qui affirment que la conscience provient exclusivement de corps agissant dans un environnement. Selon ce point de vue, malgré leur intelligence apparente, les grands modèles linguistiques peuvent ne pas posséder les propriétés interactives essentielles aux états conscients.
Substrat physique
Les objections relatives au substrat physique imposent les restrictions les plus strictes. Ces arguments se concentrent sur les propriétés uniques du cerveau biologique que le matériel numérique ne peut reproduire. Les théories de cette catégorie affirment que la conscience dépend des informations intégrées dans les réseaux biologiques, de la dynamique des champs électromagnétiques dans le cerveau, voire des processus quantiques.
Selon ces objections, les systèmes d’IA numériques sont fondamentalement incapables d’atteindre la conscience en raison du rôle crucial du substrat physique. La recherche souligne que ces affirmations relèvent davantage du domaine de la physique et de la biologie que de celui de l’informatique, pour lequel des preuves empiriques sont encore nécessaires sur la manière dont la conscience émerge dans les systèmes naturels.
Système d’évaluation à trois niveaux
Pour mieux préciser la force de chaque objection, l’étude utilise un système d’évaluation à trois niveaux. Certaines objections suggèrent simplement que la conscience de la machine est possible, mais qu’elle nécessite des capacités ou des architectures spécifiques. D’autres décrivent les obstacles pratiques qui rendent l’IA consciente improbable avec la technologie actuelle. Les objections les plus fortes affirment que les systèmes numériques ne pourront jamais être conscients, quelles que soient les avancées technologiques.
Ce système de classement permet de distinguer les objections conceptuelles, technologiques et métaphysiques. Il met également en évidence les domaines dans lesquels la recherche empirique pourrait résoudre les désaccords et ceux qui nécessitent une exploration philosophique plus approfondie.
Cadre pour la gouvernance, l’éthique et le développement de l’IA
L’étude se termine par une discussion sur les implications pratiques du cadre pour la gouvernance, l’éthique et le développement de l’IA. À l’heure où les modèles d’IA influencent de plus en plus souvent des décisions cruciales et interagissent de manière sophistiquée avec les humains, il est essentiel de comprendre tout l’éventail des arguments relatifs à la conscience numérique. La classification proposée peut aider les décideurs politiques à élaborer une réglementation réfléchie, à établir des lignes directrices éthiques et à aider les développeurs d’IA à se prononcer de manière responsable sur les capacités de leurs systèmes. (fc)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici!