Ars Technica licencie un journaliste à cause de citations générées par l'IA

« L'ironie d'un journaliste d'IA se faisant trébucher par une hallucination de l'IA ne m'échappe pas », a écrit Benj Edwards sur Bluesky.

Ars Technica, le média technologique appartenant à Condé Nast, a licencié Benj Edwards, journaliste principal d'IA, après que la publication ait rétracté l'un de ses articles sur l'utilisation de citations fabriquées.

Ironiquement, l'histoire en question concernait un agent d'IA qui avait généré un article à succès sur l'ingénieur Scott Shambaugh après avoir rejeté son code.

Edwards et un porte-parole de Condé Nast n'ont pas répondu aux demandes immédiates de commentaires. Le futurisme a été le premier à signaler le licenciement, tandis que 404 Media a été le premier à signaler la rétractation.

Le récit d'Edwards sur l'incident de Shambaugh a été publié le 13 février ; il a été retiré deux jours plus tard et remplacé par une note de l'éditeur du rédacteur en chef Ken Fisher qui s'excusait pour l'histoire.

L'histoire, a écrit Fisher dans la note du 15 février, avait utilisé « des citations fabriquées générées par un outil d'IA et attribuées à une source qui ne les avait pas dites », à l'encontre de la politique du média selon laquelle le matériel généré par l'IA doit être clairement étiqueté.

« Que cela se soit produit à Ars est particulièrement pénible », a écrit Fisher. « Nous couvrons les risques d'une dépendance excessive aux outils d'IA depuis des années, et notre politique écrite reflète ces préoccupations. Dans ce cas, des citations fabriquées ont été publiées d'une manière incompatible avec cette politique. Nous avons examiné les travaux récents et n'avons pas identifié de problèmes supplémentaires. Pour le moment, cela semble être un incident isolé. « 

Edwards s'est excusé pour l'incident dans un article de Bluesky, reconnaissant qu'il avait « involontairement commis une grave erreur journalistique ». Il se souvient avoir été mis à l’écart avec COVID et avoir terminé l’histoire au lit avec de la fièvre. Il a écrit qu’il avait décidé d’utiliser un « outil expérimental d’IA basé sur Claude Code » pour l’aider à extraire « des sources textuelles pertinentes » d’un article de blog que Shambaugh a écrit pour documenter l’article à succès généré par l’IA.

Lorsque l'outil n'a pas fonctionné en raison d'une violation de sa politique de contenu, comme le message de Shambaugh faisait référence au harcèlement, Edwards a déclaré avoir « collé le texte dans ChatGPT pour comprendre pourquoi ».

« J'aurais dû prendre un congé de maladie parce qu'au cours de cette interaction, je me suis retrouvé par inadvertance avec une version paraphrasée des mots de Shambaugh plutôt que ses propres mots », a écrit Edwards, reconnaissant qu'il n'avait pas vérifié les citations avec le billet de blog original.

Le texte de l'histoire a été écrit par lui et le journaliste principal des jeux Kyle Orland, qui n'ont joué « aucun rôle dans cette erreur », a écrit Edwards. Après avoir réalisé l'erreur, Edwards a demandé au média de retirer le rapport.

« L'ironie d'un journaliste trébuché par une hallucination de l'IA ne m'échappe pas », a écrit Edwards. « Je prends de la précision dans mon travail et c'est un échec douloureux de ma part. »

Les lecteurs d'Ars Technica ont dénoncé l'erreur dans le fil de commentaires de l'histoire, qui a été clôturé le 27 février par le directeur créatif Aurich Lawson.

« Ars Technica a terminé son examen de cette affaire. Les mesures internes appropriées ont été prises », a écrit Lawson. « Dans les semaines à venir, nous publierons un guide destiné au lecteur expliquant comment nous utilisons – et n'utilisons pas – l'IA dans notre travail. Nous ne commentons pas les décisions relatives au personnel. »

La page de l'auteur d'Edwards répertorie désormais son rôle au sein du média au passé, notant qu'il « était » un journaliste du média couvrant l'histoire de l'IA et de la technologie.