OpenAI met en pause les vidéos Sora AI de Martin Luther King Jr. car des Deepfakes « inappropriés » inondent l’application

OpenAI ne permettra plus à ses utilisateurs de créer des deepfakes d’IA du révérend Martin Luther King Jr. dans son application de médias sociaux Sora AI. Cette décision met en lumière le conflit intense entre les sociétés d’IA et les détenteurs de droits, tels que les domaines des célébrités, les studios de cinéma et les agences artistiques, ainsi que la manière dont la technologie de l’IA générative continue d’éroder la réalité pour nous tous.

Sora, une nouvelle application sœur de ChatGPT, permet aux utilisateurs de créer et partager des vidéos générées par l’intelligence artificielle. Il a été lancé en grande pompe il y a trois semaines et a été recherché par les passionnés d’IA. codes d’appel. Mais Sora est unique parmi les générateurs vidéo IA et les applications de médias sociaux ; vous permet d’utiliser les images capturées par d’autres personnes pour les insérer dans presque toutes les vidéos IA. C’était, au mieux, bizarre et drôle – et au pire, un rouleau sans fin de contrefaçons profondes qui sont presque impossibles à distinguer de la réalité.

OpenAI a mis en place des garde-fous pour empêcher la création de vidéos de personnages célèbres : il a rejeté ma demande de recherche d’images de Taylor Swift sur scène, par exemple. Mais ces garde-fous ne sont pas parfaits, comme nous l’avons vu cette semaine avec la tendance croissante des personnes à réaliser des vidéos avec King. Ils allaient de parodies étranges et profondes à propos de lui rappant et luttant à la WWE à du contenu ouvertement raciste.

Ne manquez aucun de nos contenus techniques impartiaux et de nos analyses de laboratoire. Ajouter CNET comme source Google préférée.

Un flot de « points de vue irrespectueux », comme les qualifie OpenAI dans la déclarationC’est en partie pourquoi la société a suspendu la possibilité de réaliser des vidéos avec King.

Bernice A. King, la fille du défunt leader des droits civiques, a publiquement demandé la semaine dernière aux gens de cesser de lui envoyer des vidéos de son père générées par l’IA. Elle était écho La fille du comédien Robin Williams, Zelda, qui a qualifié ces vidéos de « dégoûtantes ».

OpenAI a déclaré dans un communiqué qu’il “estime que les personnalités publiques et leurs familles devraient en fin de compte avoir le contrôle sur la manière dont leurs portraits sont utilisés” et que les “représentants autorisés” des personnalités publiques et de leurs successions peuvent demander que leurs portraits ne soient pas inclus dans Sora.

Ce n’est pas la première fois qu’OpenAI s’appuie sur d’autres pour passer ces appels. Avant le lancement de Sora, la société aurait déclaré à un certain nombre d’agences artistiques hollywoodiennes qu’elles pourraient refuser d’inclure leur propriété intellectuelle dans Sora. Dans ce cas, la succession de King est l’entité chargée de choisir comment utiliser sa personnalité.

L’approche d’OpenAI n’est pas conforme à des décennies de lois sur le droit d’auteur (les entreprises doivent généralement obtenir une licence pour le contenu protégé par le droit d’auteur avant de l’utiliser) et OpenAI a inversé sa position quelques jours plus tard. C’est un exemple de la façon dont les entreprises et les créateurs d’intelligence artificielle conflit de droits d’auteury compris à travers procès très médiatisés.

(Divulgation : Ziff Davis, la société mère de CNET, a intenté une action en justice contre OpenAI en avril, alléguant qu’elle avait violé les droits d’auteur de Ziff Davis dans la formation et l’exploitation de ses systèmes d’IA.)