À mesure que le contenu généré par l’IA devient de plus en plus sophistiqué, YouTube a dévoilé un nouvel outil de détection des deepfakes par IA visant à identifier et à signaler les imitations générées par l’IA de créateurs, d’artistes et de célébrités. Les artistes et célébrités préoccupés par les deepfakes générés par l’IA qui les imitent peuvent trouver un certain réconfort auprès de YouTube, qui a commencé à déployer un outil de détection pour les contrefaçons générées par l’IA.
La plateforme de streaming vidéo développe cet outil en partenariat avec Creative Artists Agency (CAA), ce qui suggère que l’une de ses fonctions sera éventuellement de reconnaître les deepfakes de célébrités.
Cependant, pour l’instant, l’outil est limité à un ensemble spécifique de créateurs avec des chaînes YouTube et sera déployé auprès de tous les créateurs du YouTube Partner Program dans les mois à venir, PC Mag a rapporté.
YouTube a notifié les créateurs sélectionnés du déploiement par e-mail mardi (21 octobre), selon The Verge. Pour utiliser cet outil, les créateurs devront fournir une pièce d’identité avec photo et une courte vidéo d’eux-mêmes. Plusieurs jours après s’être inscrits, les créateurs devraient commencer à voir les vidéos signalées dans l’onglet « Détection de contenu », où ils auront des options pour répondre, notamment en déposant une demande de suppression, en déposant une réclamation en vertu du droit d’auteur ou en ne prenant aucune mesure.
Dans l’annonce vidéo, YouTube a souligné l’objectif de l’outil : protéger la réputation et les intérêts commerciaux des créateurs sur sa plateforme. L’outil permettra aux créateurs de « protéger vos spectateurs en empêchant le public d’être trompé sur ce que vous soutenez et ce que vous ne soutenez pas », a déclaré YouTube.
« Vous pourrez envoyer une demande de suppression pour révision en vertu des directives de confidentialité de YouTube et protéger vos spectateurs en empêchant votre audience d’être trompée sur ce que vous soutenez et ce que vous ne soutenez pas. » — YouTube
YOUTUBE a ajouté :
« Il est possible que vous ne voyiez pas de correspondances si le contenu altéré ou synthétique avec votre visage est rarement ou jamais téléchargé sur YouTube. C’est tout à fait normal et indique que nous n’avons pas détecté d’utilisation non autorisée de votre ressemblance visuelle sur la plateforme. Et nous espérons que cela vous rassurera. »
L’outil fonctionne de manière similaire au système Content ID de YouTube, qui analyse la plateforme pour les contenus protégeables par le droit d’auteur afin de rémunérer les titulaires de droits. Ce nouveau système de détection des deepfakes applique le même principe, mais au lieu des droits sur la musique ou les vidéos, il identifie les visages reconnaissables utilisés sans permission.
YouTube n’a pas divulgué si ou quand elle prévoit d’étendre l’outil au-delà des créateurs sur la plateforme. Cependant, c’est l’attente, étant donné que YouTube s’est associée à CAA l’année dernière, donnant à certaines personnes de haut profil la possibilité de « fournir des commentaires critiques pour nous aider à construire nos systèmes de détection », a déclaré YouTube à l’époque.
L’outil de détection est l’une des plusieurs mesures récentes que YouTube a prises pour atténuer les risques liés à l’IA générative. L’année dernière, la plateforme a mis à jour ses politiques de confidentialité pour permettre aux membres du public de déposer des demandes de suppression pour les vidéos qui imitent leur voix ou leur apparence. Elle a également introduit un système permettant aux titulaires de droits de demander la suppression de vidéos qu’ils croient « imiter la voix de chant ou de rap unique d’un artiste ».
En même temps, YouTube et sa société mère Google ont été parmi les acteurs les plus actifs dans le développement de la technologie de l’IA. Plus tôt cette année, YouTube a lancé un outil de musique par IA capable de générer des bandes sonores sans droits d’auteur pour les créateurs et a commencé à tester un animateur musical basé sur l’IA pour rivaliser avec le DJ IA de Spotify.
En 2023, YouTube a signé un accord avec Universal Music Group (UMG) pour développer des outils d’IA avec des protections intégrées pour les titulaires de droits. Selon un rapport 2024 du Financial Times, YouTube était également en pourparlers avec les grandes maisons de disques pour obtenir une licence de leur musique pour la formation par IA, bien que les progrès aient été ralentis par un manque d’artistes disposés.
