X dit que l'IA créera, mais ne notera jamais les notes de la communauté

Les robots AI «font des erreurs» et «halluciner les choses», dit le vice-président du produit de X, donc ils ne peuvent pas être autorisés à noter les chèques de fait

X a annoncé cette semaine que les robots de l'intelligence artificielle seraient autorisés à contribuer aux notes de la communauté, sa fonctionnalité de vérification des faits.

Mais jeudi, la plate-forme d'Elon Musk l'a clairement indiqué: alors que l'IA créera bientôt des notes, il ne sera jamais autorisé à taux Ces notes – une ligne importante dans le sable qui sauvegardera contre les modèles voyous stimulant les faux-vérifications des faits. En bref, les humains resteront en charge, a déclaré Keith Coleman, vice-président du produit de X, au Washington Post.

Les modèles d'IA «font des erreurs, ils hallucinent des choses, ils peuvent être biaisés. Tout le monde est conscient de ces problèmes», a déclaré Coleman.

Et ces problèmes auraient pu devenir un gros problème, compte tenu du fonctionnement des notes de communauté. Le programme permet aux utilisateurs de proposer des vérifications de faits aux publications, et si ces notes obtiennent suffisamment d'utilisateurs pour se rallier à eux, ils sont attachés au post-question pour tous les utilisateurs. Si les robots AI sont autorisés à créer des notes, puis à les évaluer, X pourrait rapidement être jonché de vérifications de faits fausses – et c'est ce que la plate-forme travaille pour éviter, a noté Coleman.

Au lieu de cela, il a déclaré que l'autoriser les robots AI à créer uniquement des notes améliorera le programme, grâce à la vitesse à laquelle l'IA peut numériser des informations.

«Ils sont bons pour examiner beaucoup de contenu, en parcourant le Web, en recherchant des ressources», a-t-il déclaré. « Il est très crédible qu'ils puissent être bons à dire: » Hé, cette vidéo existe depuis 2013 « ou » Il y a eu 10 000 billets montrés sur cette (revendication) dans le passé. «  »

Les notes communautaires, qui sont devenues une fonctionnalité de base de X depuis que Musk a acheté la plate-forme fin 2022, a depuis été copiée par Meta, la société mère de Facebook et Instagram. Meta Boss, Mark Zuckerberg, lors d'une conversation avec Joe Rogan plus tôt cette année, a comparé la précédente équipe de vérificateurs de faits de son entreprise au roman dystopique de George Orwell «1984», disant que cela a conduit à «trop de censure».

Maintenant, il sera intéressant de voir si Meta et d'autres concurrents emboîtent à nouveau le pas, permettant à l'IA de créer, mais pas à évaluer, leurs propres vérifications de fait.