Pourquoi le pape Léon a cité Gandalf dans sa réponse à l’essor de l’IA.

Dans un message émouvant ce week-end, le pape Léon XIV s’est prononcé contre la vague montante de l’IA et a exhorté ses partisans à réaffirmer leur engagement en faveur d’un humanisme radical.

Le message, délivré sous la forme d’une lettre encyclique périodique destinée aux papes, appelle à « sauvegarder la personne humaine à l’heure de l’intelligence artificielle ». Décomposée en cinq chapitres clairs, la lettre plaide contre un avenir robotique et en faveur d’un avenir socialement juste.

Même si je suis l’un des païens les plus déchus que vous puissiez rencontrer, ce document semble radical – à plus d’un titre. Il y a d’abord un courage politique sans faille. Contrairement à de nombreux papes précédents, ce Siège n’a pas peur de peser sur les pouvoirs déséquilibrés accordés à la classe milliardaire ou à un État non démocratique.

Prenez cet extrait savoureux :

Dans le passé, c’était en grande partie à l’État d’orienter et d’orienter l’innovation. Aujourd’hui, cependant, les principaux moteurs du développement sont des acteurs privés, souvent transnationaux, dotés de ressources et d’une capacité d’intervention dépassant celles de nombreux gouvernements. Le pouvoir technologique revêt ainsi un aspect inédit, à prédominance « privée », qui rend encore plus difficile la discernement, la gouvernance et l’orientation de ce pouvoir vers le bien commun.

Leo poursuit en appelant à une considération holistique de l’IA, notant que les défis que la technologie soulève ne sont pas « purement techniques… lorsque (l’IA) entre dans des processus qui affectent la vie des gens, elle touche aux droits, aux opportunités, au statut et à la liberté. Des décisions importantes et sensibles – concernant l’emploi, le crédit, l’accès aux services publics ou même la réputation d’une personne – risquent d’être entièrement déléguées à des systèmes automatisés qui ne connaissent pas « la compassion, la miséricorde, le pardon, et… peuvent donc donner lieu à de nouvelles formes de exclusion. » Il est ferme sur le titre ici : « Nous ne pouvons pas considérer l’IA comme moralement neutre. »

Poursuivant en comparant l’IA à la tour de Babel, le pontife du peuple décompose nos conditions sociales actuelles dans un langage que l’on serait plus susceptible de trouver dans un séminaire de Benjamin.

Il aborde les conditions sociales de l’espoir et les principes de solidarité et de justice sociale. Liant expressément ces choses à la doctrine sociale de l’Église, il exhorte enfin son auditoire à éviter « l’idolâtrie du profit qui sacrifie les faibles ».

Les gauchistes en ligne craquent. Pendant ce temps, le Concave de ma grand-mère jamais.

Mais peut-être mon épanouissement préféré ? Le pontife du peuple a fait appel à une certaine influence (sans doute) laïque pour faire valoir son point de vue émotionnel. Plus précisément, une citation de Gandalf tirée du livre de JRR Tolkien Le retour du roi.

L’auteur catholique du XXe siècle JRR Tolkien, selon les mots d’un protagoniste de l’un de ses romans, a décrit ainsi notre responsabilité : « Il ne nous appartient pas de maîtriser toutes les marées du monde, mais de faire ce qui est en nous pour le secours (sic) de ces années dans lesquelles nous sommes, en déracinant le mal dans les champs que nous connaissons, afin que ceux qui vivront après aient une terre propre à cultiver. »

IYKYK bien sûr, mais Gandalf abandonne cette sagesse au milieu d’une avant-dernière confrontation, alors que tout semble sombre pour le monde des hommes. Ce qui fait de cette citation littéraire vieille de plusieurs décennies une citation terriblement à propos pour notre époque.

Pour paraphraser deux hommes sages en robe : tout ce que nous pouvons décider, c’est quoi faire du temps qui nous est donné. Et, vous savez : à bas l’industrie irréfléchie.