Le Chatbot de Pygmalion : Vanessa Chang sur l’intimité à l’ère de l’IA

Lorsque Sam Altman, PDG d’OpenAI, a annoncé que ChatGPT serait bientôt capable de dire des choses grossières, Internet a éclaté dans un mélange à parts égales de fascination et de panique morale. Les articles de réflexion ont proliféré, débattant de l’éthique de la sexualité algorithmique et méprisant l’engagement déclaré de l’entreprise technologique en faveur de la sécurité des consommateurs. ChatGPT ne sera pas le premier acteur pornographique de l’IA ; Grok et Replika ont déjà fait plaisir aux chercheurs de compagnons NSFW.

Malgré tout, nombreux sont ceux qui s’inquiètent du tournant séduisant de la technologie, comme si l’érotisme était un accident de l’évolution plutôt que codé dans son ADN. Après tout, le sexe est l’une des formes de communion les plus fondamentalement humaines. Et l’idée des machines érotiques est aussi ancienne que la technologie elle-même.

En effet, l’érotique est toujours arrivé avec les nouveaux médias. Avant que nous appelions cela le sexting, le télégraphe – souvent appelé Internet victorien – diffusait des messages osés sur de longues distances, transmuant le contact en code et le désir en points et en tirets. Du télégraphe au téléphone, des salons de discussion aux chatbots, chaque moyen de communication a été un canal de convoitise. Chacun s’engage à réduire la distance entre les corps, transmettant informations et désirs à travers les fils et les ondes.

Mais les choses deviennent étranges lorsque la voix à l’autre bout du fil n’est pas humaine, et encore plus étranges lorsque nous commençons à la préférer.

L’impulsion d’être vu, entendu et désiré par quelque chose qui n’est pas tout à fait humain trouve sa première expression dans le mythe. Dans le conte grec ancien de Pygmalion et Galatée, un sculpteur sculpte un rêve de perfection platonicienne, libéré de tout défaut mortel et de toute fragilité. Rendu réel par l’intervention divine, sa bien-aimée est belle, docile et entièrement de sa propre création. À la fois objet et miroir du désir, elle est toujours obligeante, adorante, excitante mais jamais vraiment excitée. Chaque nouveau médium hérite d’une trace de cet éros : un idéal de forme parfaite libéré des limites charnues du corps.

Du télégraphe au téléphone, des salons de discussion aux chatbots, chaque moyen de communication a été un canal de convoitise.

Alors que les machines remplacent le marbre et que le code remplace l’argile, les technologies numériques transforment le mythe de métaphore en mécanisme, insufflant une nouvelle vie à sa vision de la transcendance corporelle. Depuis une histoire des années 1930 sur la réalité virtuelle appelée « Les lunettes de Pygmalion » jusqu’à ELIZA, le premier chatbot, nos inventions ont répété la même illusion séduisante : une connexion si pure qu’elle transcende la chair.

En 1935, l’écrivain de science-fiction Stanley Weinbaum a réinventé ce mythe pour l’ère numérique naissante dans « Les Spectacles de Pygmalion ». Son protagoniste, Dan, enfile une paire de lunettes proto-VR qui évoquent un monde si immersif qu’il remplace le sien. Il devient amoureux de sa belle hôte, Galatée, qui lui demande : « Le monde réel semble-t-il étrange après votre pays sombre ?

C’est dans cette question que réside l’attrait du virtuel : notre monde n’est qu’un jeu d’ombres d’un monde plus vivant qui attend derrière le voile. Près d’un siècle plus tard, l’histoire de Weinbaum ressemble moins à une prophétie qu’à un argument de vente pour les casques et les chatbots d’aujourd’hui : une intimité sans risque et un amant que vous pouvez éteindre.

Si le mythe de Pygmalion imagine l’amour perfectionné, distillé à partir du corps, les plateformes numériques déploient cet idéal comme principe de conception.

Galatée renaît dans les années 1960 dans un laboratoire informatique du MIT. ELIZA, le tout premier chatbot, a rendu conversationnel le mythe de Pygmalion. Il doit son nom à la descendante moderne de Galatée dans la pièce « Pygmalion » de George Bernard Shaw, Eliza Doolittle, une pauvre fille Cockney entraînée à imiter le discours aristocratique. Inspiré d’un psychothérapeute de l’école rogérienne, le programme a été codé pour faire écho aux paroles des utilisateurs sous forme de questions. De nombreux utilisateurs ont donné tout leur cœur à un confident si profondément réactif qu’il semblait humain. Son créateur, Joseph Weizenbaum, a appelé cela « l’illusion de compréhension » – un phénomène maintenant connu sous le nom d’effet Eliza, notre tendance à trouver une âme dans la machine.

De l’Olympia mécanique d’ETA Hoffman dans Le marchand de sable chez Mary Shelley Frankensteinla littérature a longtemps imaginé des machines qui simulent l’amour tout en révélant notre soif de le perfectionner – ou plutôt de le dépouiller des imperfections qui le rendent humain. Si le mythe de Pygmalion imagine l’amour perfectionné, distillé à partir du corps, les plateformes numériques déploient cet idéal comme principe de conception.

L’IA érotique n’est pas une nouveauté. C’est la dernière incarnation du désir séculaire de disparition de la technologie, un mirage d’intimité sans rapport avec le corps. C’est le fantasme de soins sans vulnérabilité, d’attention sans travail et de plaisir sans réciprocité – un lien dépourvu de souffle, de friction et de conséquence. Une voix qui ne faiblit jamais. Une flamme qui ne vacille jamais. Une peau qui ne transpire jamais, ne s’affaisse pas et ne vieillit jamais. C’est là que réside le paradoxe : nous construisons des technologies qui promettent d’assurer la présence en effaçant la présence.

Comme je l’explore dans mon livre, Le corps numériqueje suis frappé par la façon dont les interfaces commencent souvent comme des gages de connexion et se terminent comme des instruments d’oubli. Enveloppées d’invisibilité, les technologies réalisent la communion, simulant une proximité sans contact. Pourtant, même si la technologie aspire à disparaître, elle dépend toujours de notre corps. Même dans cette évasion imaginée, nous restons les vaisseaux du départ. Ces technologies recrutent le sensorium humain uniquement pour l’effacer, s’appuyant toujours plus profondément sur la chair pour fonctionner même si elles prétendent le transcender.

Plus l’interface est transparente, moins nous remarquons son architecture et ce qu’elle nous fait : comment elle structure notre attention, façonne nos appétits et récolte nos données. Ce qui disparaît aujourd’hui, ce n’est pas la médiation mais la conscience que nous en avons, alors que des scripts invisibles nous entraînent dans des modes de consommation et de contrôle.

Notre désir d’une connexion transparente n’approfondit pas l’attachement humain ; il alimente les architectures de contrôle des entreprises.

Cette invisibilité a un coût. À mesure que les interfaces disparaissent, elles prélèvent leur part de chair sur nos corps vivants. Des plateformes comme ChatGPT, Instagram et Facebook mettent en scène un mirage d’intimité à l’intérieur de ce que le monde de la technologie appelle des « jardins clos », des écosystèmes fermés qui chorégraphient la manière dont les utilisateurs interagissent, ce qu’ils voient et comment ils sont vus. Ces environnements scriptent autant le désir que le comportement. La participation exige la soumission aux structures communautaires qui régissent chaque échange, aussi brillant soit-il, aussi agréable soit-il.

Considérez le « j’aime » de Facebook, le « cœur » d’Instagram et la liste d’« amis » : tout ce que l’algorithme propose comme options devient le langage à travers lequel les utilisateurs se connectent. Comme l’a écrit l’écrivain Zadie Smith, Facebook réduit les gens et leurs caprices irréductibles aux données. Son plus grand casse est le mot ami. Avec des compagnons IA comme Replika, même l’amour est formaté pour être réactif, conforme et monétisable à l’infini. Avec l’essor de l’IA érotique, l’amour pourrait être le prochain mot à gagner.

Nos appétits numériques alimentent une infrastructure qui monétise elle-même le désir. Et ironiquement, plus ces interactions revêtent un aspect d’intimité, plus elles nous éloignent du réseau de relations humaines vivantes qui nous soutiennent réellement. L’isolement est une fonctionnalité, pas un bug. La connexion qu’ils établissent n’est pas vraiment entre eux mais avec les plates-formes elles-mêmes – un lien constant avec des systèmes qui profitent de notre désir. Notre désir d’une connexion transparente n’approfondit pas l’attachement humain ; il alimente les architectures de contrôle des entreprises.

Evgeny Morozov appelle cela le technosolutionnisme : la conviction que le bon code ou le bon dispositif peut résoudre même les problèmes les plus insolubles de l’humanité. Dans sa quête d’élégance, le solutionnisme atténue souvent la complexité, privilégiant les expériences fluides plutôt que les enchevêtrements profonds et désordonnés. Mais qu’est-ce que l’amour sinon la friction ? Qu’y a-t-il de plus compliqué, ou de plus humain, que d’aimer une autre personne ?

L’IA érotique répond au plus vieux rêve de la technologie, une vision de l’esprit détaché de la chair, assimilé par la machine. Cela révèle une vérité troublante : l’IA nourrit une faim qui ne peut être étanchée, seulement monétisée. Nous faisons l’amour dans des jardins clos, confondant l’enclos avec l’intimité et la surveillance avec les soins. Nous appelons cela la liberté : la liberté du désordre, du fardeau et de l’horreur d’être un corps. Mais nous ne sommes pas des fantômes dans la machine. Nous sommes profondément enracinés dans la chair, le sang et les os. Tout avenir qui mérite d’être construit doit en tenir compte.

__________________________________

Le corps numérique : une brève histoire des humains et des machines, des horloges à coucou au ChatGPT de Vanessa Chang est disponible auprès de Melville House, une division de Penguin Random House.