Pourquoi les éditeurs humains ne peuvent-ils pas identifier l’IA ?

Dernièrement, il y a eu une série de révélations sur des utilisateurs d’IA qui ont esquivé le travail assisté par des éditeurs humains.

Il y avait d’abord Fille timidele roman d’horreur sorti par son éditeur une fois qu’ils ont réalisé qu’il avait été en grande partie généré par l’IA. Les rédacteurs n’ont pas vu la pente et de nombreux lecteurs ont également été trompés. Emily Hughes, auteur de Horreur pour les Weeniesa publié une excellente réflexion sur les problèmes plus profonds en jeu, ainsi que sur l’embarras personnel de se laisser prendre au piège. Mais il est probable que nous ayons tous été trompés à un moment donné, et ce n’est pas seulement parce que le logiciel s’améliore. Comme l’a écrit Hughes, « rappelez-vous que Les LLM écrivent comme ça parce que les gens écrivent comme ça. En d’autres termes, les slops viennent de l’intérieur de la maison.

Ensuite, il y a eu davantage de discussions autour Washington Post l’aveu de la chroniqueuse Megan McArdle sur X selon laquelle elle s’appuie fréquemment sur des logiciels d’IA dans son processus d’écriture. L’utilisation de McArdle a frappé beaucoup (moi y compris) comme étant bien au-delà de ce qui est acceptable pour un écrivain professionnel. L’IA a été intégrée dans tellement de processus numériques qu’il peut s’avérer impossible de maintenir une écriture parfaitement propre. Et même les sceptiques de l’IA donneront leur accord pour utiliser des logiciels pour certaines de nos tâches les plus ingrates. Mais McArdle va bien plus loin que cela, en utilisant des outils numériques pour « générer des réactions sur ma thèse, suggérer des coupes lorsque j’ai dépassé mon nombre de mots, affiner les questions d’entretien en podcast et effectuer une vérification finale des faits sur les chroniques et les éditoriaux ». Elle affirme que cela n’interfère pas avec « le travail principal : lire, réfléchir et écrire », mais je pense qu’il est raisonnable de rétorquer que chaque étape de la lecture, de la rédaction et de la réécriture constitue une réflexion – une écriture. est la réflexion, et permettre à un logiciel génératif de prendre en charge n’importe quelle partie du processus d’écriture le compromet. j’imagine Le Washington Post Je ne considérerai pas cela comme un problème, puisque McArdle et le Poste ont été de fréquents boosters d’IA.

Et l’autre jour, Le New York Times ont annoncé qu’ils ne travailleraient plus avec le pigiste Alex Preston après qu’il ait été surpris en train d’utiliser un LLM pour rédiger une critique de livre, selon The Wrap. Après qu’un lecteur ait signalé que les écrits de Preston copiaient le langage d’un Tuteur critique, Preston « a admis qu’il avait utilisé un outil d’IA pour aider à rédiger la pièce et qu’il n’avait pas réussi à saisir le Tuteur matériel avant que le journal publie la revue. Le FoisLe personnel de l’a également manqué.

Dans chacun de ces cas, une entreprise technologique a déjoué un humain – ou plusieurs – soit en produisant un texte suffisamment convaincant pour passer le test olfactif, soit en créant et en commercialisant un service qui a convaincu un écrivain de se décharger d’une partie de son travail. Pour sortir de cette impasse, nous devrons tous mieux repérer les résultats de l’IA et continuer à faire honte à ceux qui se font prendre au clavier rouge.

J’admets que je surestime peut-être mes propres capacités à repérer l’écriture de l’IA, car bon nombre de mes interactions avec la technologie ont été très décevantes. Même la recherche basée sur l’IA – ce que j’entends le plus souvent vanter par les utilisateurs et les apologistes – n’est pas bonne du tout. À titre expérimental, et pour avoir une idée de ce que d’autres personnes pourraient entendre sur moi grâce aux LLM, j’ai posé à Gemini cette question simple : « Qui est James Folta ? Les réponses qu’il a crachées étaient incroyablement fausses. J’ai essayé plusieurs fois avec des formulations différentes, et à chaque fois il y avait des erreurs majeures. Les grandes lignes étaient généralement proches et l’IA me flattait en tant que « leader d’opinion » ou « écrivain éminent », mais le modèle ignorait mon site Web personnel, hallucinait les articles, m’attribuait à tort les écrits d’autres personnes et omettait complètement n’importe lequel de mon travail pour Lit Hub. (Il est intéressant de noter qu’il a accordé beaucoup d’attention à une chose : « Le point de vue de James Folta sur l’IA est une critique acerbe et virulente, en particulier en ce qui concerne son impact sur la créativité, l’éducation aux médias et le travail humain… il a beaucoup écrit sur les effets « dégradants » de l’IA générative sur Internet et les arts. » C’est vrai, et je continuerai à discuter avec les robots.)

J’en parle parce que la solution que j’entends si souvent est de contrer l’IA avec d’autres logiciels capables de la détecter, une course aux armements folle qui me rappelle la Les Simpson gag sur « un type fabuleux de gorille qui se nourrit de viande de serpent ». Mais bien entendu, ces programmes de détection sont aussi peu fiable et ne s’améliorera peut-être jamais. Il est frustrant de constater que tous ces allers-retours, parades et ripostes entre IA et anti-IA ne feront que consolider davantage ces systèmes et enrichir les entreprises technologiques en nous rendant redevables envers elles des deux côtés du débat.

Je dois croire que si nous nous unissons et nous organisons, nous pourrons trouver des moyens de riposter. J’ai participé à des conversations passionnantes avec mes pairs sur la manière de défendre nos intérêts et notre travail, et j’ai été inspiré par les syndicats et autres groupes syndicaux qui s’organisent et militent contre la portée excessive de l’IA. Comme toujours, la solidarité est la voie à suivre.

Mais en attendant, si les rédacteurs surmenés n’ont pas le temps de vérifier chaque texte, si les pigistes pressés se tournent désespérément vers des outils pour gagner leur vie, et si les correctifs numériques ne sont pas fiables, nous sommes dans une situation difficile.