Artificialité et familiarité dans la conscience

L’une des choses qui rend l’intelligence artificielle (IA) « artificielle » est qu’il y a de bonnes raisons de croire que les agents de l’IA ne connaîtront jamais la conscience, même s’ils deviennent extrêmement intelligents (Haladjian et Montemayor, 2016). Ce n’est pas une nouvelle idée. Ce type d’artificialité a été abordé par rapport aux robots et aux monstres (comme les zombies). Dans cet article, nous retraçons quelques exemples de ce thème dans la littérature et le cinéma. Dans les prochains articles, nous développerons l’idée d’intelligence inconnue en tant qu’intelligence inconsciente.

La possibilité de transcender, de modifier, d’augmenter et finalement de rétrograder l’intelligence humaine telle que nous la connaissons – à savoir l’intelligence consciente – est longuement abordée dans la littérature. Quelques exemples récents sont utiles pour illustrer la variété des enjeux de l’attribution du renseignement, mais bien sûr, la littérature sur ce thème est riche, de Mary Shelley Frankenstein à Isaac Asimov je robot et bien entre les deux, une littérature qui mérite des volumes d’analyse.

Le message des exemples évalués ici est que l’intelligence ne relève pas d’une seule catégorie d’analyse. Les choses deviennent toujours trop compliquées à cause de cela, et le grand « créateur » de génie se transforme rapidement en méchant, et vice versa. C’est en grande partie parce que, le long du chemin vers le dépassement de nos vies limitées basées sur le carbone, des aspects cruciaux de qui nous sommes peuvent se perdre. La difficulté majeure est qu’il est très difficile d’arrêter le processus d’auto-annihilation ou même de comprendre où exactement les choses ont mal tourné. Une partie du problème est que l’intelligence humaine ne peut pas être comprise dans une dimension, par exemple, comme une résolution optimale des problèmes. Fondamentalement, à mesure que nous nous dirigeons vers des formes transcendantales d’intelligence, notre vie cognitive devient inconnue.

Dans le film Ex Machina, on retrouve l’histoire classique du scientifique voyou, sur une trajectoire allant de la célébrité internationale à la menace existentielle. Cette trajectoire du dangereux génie (également esquissée de main de maître dans Frankenstein) est ici présenté dans le contexte de l’intelligence artificielle, avec une nouvelle tournure sur le thème d’admirer ou de détester ses propres créations. Jouer à Dieu, dans ce cas, tourne mal à cause de problèmes sentimentaux (et viscéralement chargés) plutôt que strictement intellectuels, et contrairement aux histoires précédentes où l’on tombe amoureux d’une statue ou d’un personnage, la situation est moins asymétrique. Le Golem ou l’artefact tient bon en tant que créature émotionnelle. Il n’y a pas d’illusion ou d’illusion sur la projection de sentiments, mais plutôt un engagement authentique, au moins de la part des humains, avec ce qui semble être des machines authentiquement émotionnelles. Mais les choses sont assez inconnues et étranges.

Le travail d’Alan Turing occupe une place centrale dans le film. En théorie Ava, le robot super-intelligent du film, est capable de passer le test de Turing oral, en toutes circonstances, et cela justifie qu’elle soit traitée comme une source légitime d’émotions et d’intelligence humaine complexe. Cela nous confronte à des limites floues concernant le traitement éthique de ces « espèces » essentiellement nouvelles d’agents cognitifs.

Dans la pratique, Nathan (le dieu-milliardaire et créateur masculin de ces robots) et Caleb (son employé masculin et geek) traitent Ava soit comme un jouet sexuel sans émotion ou du moins non autonome, soit comme une source de fascination divertissante. Nathan juge littéralement ces robots comme des objets, et comme ils sont attrayants de manière assez réaliste, il les considère clairement comme des jouets sexuels féminins super sophistiqués (plutôt que des agents super intelligents). Il s’agit d’un comportement particulier de la part du leader mondial des concepteurs d’IA, qui semble avoir perdu une composante éthique de lui-même liée à l’empathie.

Caleb ne partage pas cette opinion et tombe « innocemment » amoureux d’Ava, qui « passe » le test émotionnel de Turing en faisant activement ressentir à Caleb de fortes émotions d’attachement sexuel et personnel envers elle. Les attitudes divergentes de Nathan et Caleb envers Ava révèlent quelque chose d’important sur la façon de concevoir le test de Turing, à savoir, « réussir » le test d’un point de vue d’intelligence n’est pas du tout la même chose que de le réussir d’un point de vue moral et émotionnel. Pour les deux, cependant, Ava est fascinante en raison de son caractère artificiel et de sa grande intelligence qui semblent montrer la motivation autonome des organismes vivants.

Le résultat malheureux de faire d’une femme fatale-bot ultra-sexy le lieu d’un merveilleux type d’intelligence consciente (ou semi-consciente) est qu’il n’est pas clair qu’Ava réussisse à passer tous les tests qu’elle subit de manière humiliante à cause de son intelligence. seul. Comme l’écrit Angela Watercutter : « Ava s’avère être la créature la plus intelligente à l’écran, mais le message qui nous reste à la fin de Ex Machina est toujours que le meilleur moyen pour une créature miraculeusement intelligente d’obtenir ce qu’elle veut est de flirter de manière manipulatrice. (Et pourquoi ne le ferait-elle pas ? Toutes ses informations sur les interactions humaines proviennent de son créateur effrayant et d’Internet.) Pourquoi Chappie n’a-t-elle pas à supporter ces conneries ? (Wired, 2015) Pourquoi, en effet ? Un imprésario blanc conçoit le premier robot super-intelligent, dépeint comme une femme-bot ultra-sophistiqué, et la meilleure stratégie que ce robot super-intelligent propose est d’être sexuellement manipulateur ? Peut-être qu’elle comprend trop bien les préférences humaines et qu’elle essaie simplement de plaire au client (voir Russell, 2019 sur l’alignement des valeurs basé sur les préférences et l’asservissement de l’IA), mais cela peut difficilement passer pour une « super-intelligence ». Ici, l’étrange rencontre l’effrayant, et l’intelligence manipulatrice contraste avec l’émotion véritablement ressentie (Halpern et al. 2021).

Ava est intelligente, et à la fin du film, la suggestion est qu’elle fusionne avec toutes sortes d’intelligence (y compris l’intelligence apparemment émotionnelle), transcendant toute intelligence particulière. Mais au sein d’Ava, deux types d’artificialité se confondent de manière moralement et politiquement peu recommandable : d’une part, elle est artificiellement intelligente ; d’autre part, elle est artificiellement émotionnelle, ainsi que biologiquement/sexuellement artificielle. Son intelligence est admirable, mais son caractère artificiel en tant que « bot sexy » et simulant émotionnellement est un peu troublant (pour Caleb, un peu trop irrésistible).

L’émotion artificielle crée des risques indépendants de l’intelligence artificielle, qui peut être grossièrement définie comme la résolution de problèmes. L’émotion artificielle ne peut être qu’une simulation, et la simulation de l’émotion est manipulatrice parce qu’elle nous semble inconnue et parce que nous la ressentons comme étrangère à notre nature (voir Bezzubova, 2020, pour savoir comment la réalité virtuelle induit un certain type de dépersonnalisation qui s’étend aux médias sociaux et intelligence artificielle). Cette situation est tout autre en ce qui concerne l’intelligence : la simulation de l’intelligence reste l’intelligence (du moins dans la mesure où elle résout des problèmes). Dans le cas d Ex Machina, ce problème est malheureusement associé à des préjugés hollywoodiens contre le succès des femmes comme étant toujours basé sur leurs prouesses de séduction.

Ex Machina sexualise la super-intelligence. En revanche, le film Arrivée l’aliène, littéralement. Les humains sont surpris par la visite d’une civilisation ultra-intelligente. Dans leurs rencontres avec les humains, les membres de cette civilisation ressemblent à des calmars très gros, minces et intimidants. Mais le film laisse entendre qu’ils ne sont pas faits des mêmes ingrédients biologiques que nous et, au contraire, que ces créatures et leur vaisseau sont faits d’un matériel que les humains ne peuvent pas classer. La héroïne du film, le professeur Louise Banks, sauve l’humanité en traduisant les motifs géométriques extrêmement complexes qui constituent le langage des extraterrestres. La séduction sexuelle est ici infructueuse en partie parce que les extraterrestres n’ont pas de genre clair et en partie parce qu’ils sont des extraterrestres, divergeant de la familiarité de l’expérience humaine. Ce qui est clair, c’est que ces extraterrestres sont beaucoup plus intelligents, tolérants et attentionnés que les humains. Cette conclusion peut être tirée malgré le fait que le spectateur se demande s’il est conscient ou non.

Les questions que nous explorerons plus en détail concernent la manière dont l’intelligence non humaine peut être considérée comme vraiment intelligente (comme dans le cas des robots et même des animaux) et comment cela contraste avec d’autres aspects de l’expérience humaine qui peuvent être simulés, tels que les émotions et l’empathie. . De tels sujets sont tous cruciaux pour comprendre la possibilité (ou l’impossibilité) d’une conscience artificielle.