Critique de livre : « Théorie littéraire pour les robots », par Dennis Yi Tenen

Dans « Théorie littéraire pour les robots », le nouveau livre ludique de Dennis Yi Tenen sur l’intelligence artificielle et la façon dont les ordinateurs ont appris à écrire, l’un de ses exemples les plus puissants se présente sous la forme d’une petite erreur.

Tenen établit des liens entre les chatbots modernes, les générateurs d’intrigues de pulp-fiction, les dictionnaires à l’ancienne et les roues de prophéties médiévales. Les deux utopistes (les robots nous sauveront !) et les prophètes de malheur (les robots vont nous détruire !) se trompent, affirme-t-il. Il y aura toujours un aspect irréductiblement humain dans le langage et l’apprentissage – un noyau crucial de sens qui émerge non seulement de la syntaxe mais aussi de l’expérience. Sans cela, on n’obtient que le bavardage des perroquets qui, « selon Descartes dans ses ‘Médiations’, se contentent de répéter sans comprendre », écrit Tenen.

Mais Descartes n’a pas écrit « Médiations » ; Tenen devait vouloir dire « Méditations » – le « t » manquant échapperait à tout programme de vérification orthographique car les deux mots sont parfaitement légitimes. (L’index du livre répertorie correctement le titre.) Cette minuscule faute de frappe n’a aucune incidence sur l’argument de Tenen ; au contraire, cela renforce le cas qu’il veut faire valoir. Les machines deviennent plus puissantes et plus intelligentes, mais c’est toujours nous qui décidons de ce qui a du sens. Un humain a écrit ce livre. Et, malgré les robots dans le titre, il est destiné à être lu par d’autres humains.

Tenen, aujourd’hui professeur d’anglais et de littérature comparée à Columbia, était ingénieur logiciel chez Microsoft. Il met à profit ses compétences disparates dans un livre surprenant, drôle et résolument peu intimidant, même s’il aborde clandestinement de grandes questions sur l’art, l’intelligence, la technologie et l’avenir du travail. Je soupçonne que la petite taille du livre – il fait moins de 160 pages – fait partie du problème. Les gens ne sont pas des machines infatigables, ingérant sans relâche d’énormes volumes sur des sujets énormes. Tenen a compris comment présenter un réseau d’idées complexes à l’échelle humaine.

À cette fin, il raconte des histoires, en commençant par l’érudit arabe du XIVe siècle Ibn Khaldun, qui a fait la chronique de l’utilisation de la roue des prophéties, et en terminant par un chapitre sur le mathématicien russe du XXe siècle Andrey Markov, dont l’analyse probabiliste des séquences de lettres dans « Eugène Onéguine » de Pouchkine constituait un élément fondamental de l’IA générative (les joueurs réguliers du jeu Wordle ont tout le temps l’intuition de telles probabilités.) Tenen écrit en connaissance de cause sur les obstacles technologiques qui ont contrecarré les modèles antérieurs d’apprentissage informatique, avant « la force brute nécessaire pour traiter presque tout ce qui est publié en langue anglaise » était si facilement disponible. Il nous invite à être vigilants. Il nous exhorte également à ne pas paniquer.

« L’intelligence évolue sur un spectre allant de « l’assistance partielle » à « l’automatisation complète » », écrit Tenen, donnant l’exemple d’une transmission automatique dans une voiture. Conduire une boîte automatique dans les années 1960 devait être époustouflant pour les personnes habituées aux transmissions manuelles. Une boîte automatique fonctionnait en automatisant les décisions clés, en rétrogradant dans les pentes et en envoyant moins de puissance aux roues en cas de mauvais temps. Il a supprimé la possibilité de caler ou de rectifier vos engrenages. C’était « artificiellement intelligent », même si personne n’utilisait ces mots pour le qualifier. Les conducteurs américains tiennent désormais sa magie pour acquise. Cela a été démystifié.

Quant aux débats actuels sur l’IA, ce livre tente également de les démystifier. Au lieu de parler de l’IA comme si elle avait son propre esprit, Tenen parle du travail collaboratif qui a permis de la construire. « Nous utilisons un raccourci cognitif-linguistique en condensant et en attribuant une action à la technologie elle-même », écrit-il. « C’est plus facile de dire : »Le téléphone complète mes messages’ au lieu de ‘L’équipe d’ingénierie derrière le logiciel d’écriture de l’outil d’auto-complétion basé sur la douzaine d’articles de recherche suivants complète mes messages.’

Nos métaphores courantes sur l’IA sont donc trompeuses. Tenen dit que nous devrions « nous méfier de toutes les métaphores attribuant des aspects cognitifs humains familiers à l’intelligence artificielle. La machine pense, parle, explique, comprend, écrit, ressent, etc., par analogie uniquement. C’est pourquoi une grande partie de son livre tourne autour des questions de langage. La langue nous permet de communiquer et de nous comprendre. Mais cela permet aussi la tromperie et l’incompréhension. Tenen souhaite que nous « dénouions la métaphore » de l’IA – une proposition qui pourrait ressembler à première vue au cheval de bataille d’un professeur d’anglais, mais qui s’avère tout à fait pertinente. Une métaphore trop générale peut nous rendre complaisant. Notre sentiment de possibilité est façonné par les métaphores que nous choisissons.

Les générateurs de texte, qu’ils soient sous la forme de chatbots du 21e siècle ou de « lettres magiques » du 14e siècle, ont toujours été confrontés au problème de la « validation externe », écrit Tenen. « Un texte généré de manière procédurale peut avoir un sens grammatical, mais n’a pas toujours un sens. sens sens. » Prenons le célèbre exemple de Noam Chomsky : « Les idées vertes et incolores dorment furieusement. » Quiconque a vécu dans le monde physique sait que cette phrase syntaxiquement impeccable est un non-sens. Tenen ne cesse de faire référence à l’importance de « l’expérience vécue » parce qu’elle décrit notre condition.

Tenen ne nie pas que l’IA menace une grande partie de ce que nous appelons le « travail du savoir ». Il ne nie pas non plus que l’automatisation d’une chose la dévalorise. Mais il l’exprime également autrement : « L’automatisation réduit les barrières à l’entrée, augmentant ainsi l’offre de biens pour tous. » L’apprentissage coûte désormais moins cher, et disposer d’un vaste vocabulaire ou d’un vaste répertoire de faits mémorisés n’est plus l’avantage concurrentiel qu’il était autrefois. « Les scribes et les érudits d’aujourd’hui peuvent se mettre au défi en accomplissant des tâches plus créatives », suggère-t-il. « Les tâches fastidieuses ont été sous-traitées aux machines. »

Je comprends son point de vue, même si cette perspective me semble toujours mauvaise, avec une part de plus en plus réduite de la population qui doit accomplir un travail créatif et stimulant tandis qu’un écosystème autrefois florissant s’effondre. Mais Tenen soutient également que nous, en tant qu’êtres sociaux, avons un pouvoir d’action, si seulement nous nous permettons d’accepter la responsabilité qui en découle. « Les IA individuelles représentent un réel danger, étant donné leur capacité à regrouper leur puissance pour atteindre un objectif », concède-t-il. Mais le véritable danger vient « de notre incapacité à tenir les créateurs de technologies responsables de leurs actes ». Et si quelqu’un voulait attacher un moteur à réaction à une voiture et voir comment il se comportait dans les rues d’une ville surpeuplée ? Tenen dit que la réponse est évidente : « Ne fais pas ça. »

Pourquoi « Ne faites pas cela » peut sembler facile dans un domaine mais pas dans un autre, cela nécessite plus de réflexion, plus de précision, plus d’examen minutieux – autant de qualités qui sont laissées de côté lorsque nous nous recroquevillons devant l’IA, traitant la technologie comme un dieu singulier au lieu d’un multiplicité de machines construites par une multiplicité d’humains. Tenen montre l’exemple, mettant son intelligence humaine au service de l’intelligence artificielle. En réfléchissant à nos habitudes collectives de pensée, il propose une méditation qui lui est propre.