OpenAI suspend les représentations de Martin Luther King Jr. dans Sora 2 après la circulation de vidéos racistes
Le géant de l’IA affirme qu’il « renforcera les garde-fous » pour les personnages historiques
OpenAI a suspendu la capacité de générer des représentations de Martin Luther King Jr. dans son application de conversion texte-vidéo Sora 2 après que des vidéos « irrespectueuses » ont commencé à circuler dans lesquelles le leader des droits civiques prononçait un langage raciste, a annoncé vendredi la société dans une déclaration conjointe avec la succession King.
Cette décision est intervenue seulement après que la succession du Dr King a demandé que des mesures soient prises pour arrêter les vidéos.
« La succession de Martin Luther King, Jr., Inc. (King, Inc.) et OpenAI ont travaillé ensemble pour déterminer comment l'image du Dr Martin Luther King Jr. est représentée dans les générations Sora », indique le communiqué. « Certains utilisateurs ont généré des représentations irrespectueuses de l'image du Dr King. Ainsi, à la demande de King, Inc., OpenAI a suspendu les générations représentant le Dr King car elle renforce les garde-fous pour les personnages historiques. «
Les utilisateurs de Sora 2 réalisaient des vidéos dans lesquelles le Dr King tenait un langage raciste et vulgaire.
La déclaration d'OpenAI poursuit : « Bien qu'il existe de forts intérêts en matière de liberté d'expression dans la représentation de personnages historiques, OpenAI estime que les personnalités publiques et leurs familles devraient en fin de compte avoir le contrôle sur la manière dont leur image est utilisée. Les représentants autorisés ou les propriétaires fonciers peuvent demander que leur image ne soit pas utilisée dans les camées Sora. «
C'est le dernier casse-tête apporté par Sora 2, qui permet aux utilisateurs de générer des vidéos basées sur du texte. Mais contrairement à la première itération de Sora, OpenAI a lancé cette nouvelle application sans barrières IP strictes, permettant ainsi à tout le monde, de Bob l'éponge à Michael Jackson, d'être à la disposition des utilisateurs. Sans surprise, un flot de vidéos inappropriées a commencé à circuler.
Comme Jolie Bobine l’a précédemment signalé, les grands studios et domaines prennent des mesures. Warner Bros. Discovery a déjà signalé à OpenAI que son adresse IP était utilisée malgré les garde-fous en matière de droits d'auteur, notant que les personnages de « Rick & Morty » sont sur la plate-forme, selon une personne proche de la société. Disney a envoyé une lettre à la société lui demandant d'exclure toute propriété intellectuelle Disney de Sora.
Plus tôt ce mois-ci, la Motion Picture Association a appelé OpenAI à prendre « des mesures immédiates et décisives » pour lutter contre les violations du droit d'auteur découlant du nouveau service vidéo AI.
