Grammarly a retiré son étrange fonctionnalité d’IA se faisant passer pour des écrivains sans autorisation.
Grammarly a rapidement annulé une fonctionnalité logicielle controversée après d’intenses réactions négatives. La fonctionnalité de courte durée s’appelait « Expert Review » et offrait des conseils d’écriture générés par l’IA, fournis via des versions de marionnettes chaussettes d’écrivains vivants et morts, tous créés sans leur autorisation. La colère suscitée par ces « Experts » a contraint l’entreprise à faire marche arrière cette semaine.
Grammarly était autrefois une sorte de correcteur orthographique omniprésent qui vous suivait dans votre navigateur Web, mais a récemment été beaucoup plus investi dans l’ajout de tonnes de produits d’IA pour faciliter l’écriture. Comme l’écrivait Miles Klee dans Filaireles nouvelles fonctionnalités incluent un « chatbot qui répondra à des questions spécifiques lorsque vous rédigez un brouillon, une fonctionnalité de « paraphrase » qui suggère des changements de style, un « humaniseur » qui révise en fonction d’une voix sélectionnée, un évaluateur IA qui prédit la façon dont votre document serait noté en tant que cours universitaire, et même des outils pour signaler et peaufiner les expressions couramment produites par les grands modèles de langage.
Cela équivaut à une flotte complètement écrasante de robots intrusifs, comme si un groupe de Microsoft Clippys obtenait des pouvoirs à Keanu Reeves pour manipuler la Matrice, puis les utilisait pour entrer dans vos documents Google et supprimer tous vos adverbes.
Les « avis d’experts » étaient le plus spécifique de ces outils, conçus comme des coachs en rédaction sur mesure. Jen Dakin, responsable des communications chez Superhuman, la société mère de Grammarly, a décrit les « experts » comme un processus par lequel leur logiciel analyse votre écriture « et exploite notre LLM sous-jacent pour faire apparaître un contenu expert qui peut aider l’auteur du document à façonner son travail ». Ce logiciel ne « revendique pas l’approbation ou la participation directe de ces experts », a-t-elle déclaré, mais plutôt « il fournit des suggestions inspirées par les travaux d’experts et oriente les utilisateurs vers des voix influentes dont ils peuvent ensuite explorer plus en profondeur ». Je ne crois pas que Grammarly essaie d’amener les écrivains à cliquer loin de leur plate-forme pour se connecter à d’autres écrits, mais d’accord.
Grammarly n’a jamais obtenu la permission des personnes qu’ils ont choisi de suspendre aux fils de leurs marionnettes. Leurs avatars experts comprenaient des écrivains vivants et morts comme Stephen King, Neil deGrasse Tyson et Carl Sagan, mais leur grattage était d’une portée incroyablement large et aspirait bien plus que les grands noms. The Verge a rapporté qu’un certain nombre de rédacteurs de leur titre étaient apparus sans autorisation et, plus déprimant encore, Vanessa Heggie, professeur à l’Université de Birmingham, a posté sur Linkedin comment son collègue universitaire David Abulafia avait également été inclus. Ce que Heggie a trouvé « obscène », c’est qu’Abulafia est décédé en janvier, ce qui n’a pas empêché Grammarly d’utiliser son travail, son nom et sa réputation pour « créer de petits LLM ».
Les entreprises d’IA travaillent de plus en plus sur un modèle de non-consentement. Leur hypothèse est que tout ce qui existe peut être déchiqueté et introduit dans leur logiciel, ce qui nous oblige à agir en tant que régulateurs non rémunérés.
Et il y a quelque chose d’offensivement sordide dans le fait que tout cela sert simplement à extraire une rente. Rien n’est créé ici. J’étais enfant quand le plus cool qu’une personne pouvait être était de porter du American Apparel sur scène à côté de l’ordinateur portable de Girl Talk, donc j’ai l’attrait du remix. Mais une entreprise privée qui attire plus de 100 millions de dollars de chèques de capital-risque et les utilise pour piller les œuvres et les portraits d’écrivains et d’universitaires publics n’est pas un pastiche post-moderne cool, c’est une arnaque.
