A medida que el contenido generado por IA se vuelve cada vez más sofisticado, YouTube ha presentado una nueva herramienta de detección de similitud por IA diseñada para identificar y señalar deepfakes de creadores, artistas y celebridades. Los artistas y celebridades preocupados por deepfakes generados por IA pueden encontrar cierto consuelo en YouTube, que ha comenzado a implementar una herramienta de detección para similitudes generadas por IA de personas.
La plataforma de transmisión de vídeo ha estado desarrollando la herramienta en asociación con Creative Artists Agency (CAA), lo que sugiere que una de sus funciones eventualmente será reconocer deepfakes de celebridades.
Sin embargo, por ahora, la herramienta se limita a un conjunto específico de creadores con canales de YouTube y se implementará en todos los creadores del Programa de Asociados de YouTube en los próximos meses, según reportó PC Mag.
YouTube notificó a creadores seleccionados sobre el lanzamiento por correo electrónico el martes (21 de octubre), según The Verge. Para usar la herramienta, los creadores deberán proporcionar una foto de su identificación y un video corto de sí mismos. Varios días después de registrarse, los creadores deberían comenzar a ver videos señalados en la pestaña “Detección de contenido”, donde tendrán opciones para responder, incluida la presentación de una solicitud de eliminación, presentar un reclamo de infracción de derechos de autor o no tomar medidas.
En el anuncio de vídeo, YouTube enfatizó el propósito de la herramienta: proteger la reputación e intereses comerciales de los creadores en su plataforma. La herramienta permitirá a los creadores “proteger a tus espectadores evitando que la audiencia sea engañada sobre qué apoyas y qué no,” dijo YouTube.
“Podrás enviar una solicitud de eliminación para revisión de conformidad con las directrices de privacidad de YouTube y proteger a tus espectadores evitando que tu audiencia sea engañada sobre qué apoyas y qué no.” — YouTube
YOUTUBE agregó:
“Existe la posibilidad de que no veas coincidencias si contenido alterado o sintético con tu cara se carga raramente o nunca en YouTube. Esto es completamente normal e indica que no hemos detectado uso no autorizado de tu similitud visual en la plataforma. Y esperamos que te brinde tranquilidad.”
La herramienta funciona de manera similar al sistema Content ID de YouTube, que escanea la plataforma para detectar contenido protegido por derechos de autor y compensar a los titulares de derechos. Este nuevo sistema de detección de deepfakes aplica el mismo principio, pero en lugar de derechos de música o vídeo, identifica rostros reconocibles utilizados sin permiso.
YouTube no ha revelado si o cuándo planea expandir la herramienta más allá de creadores en la plataforma. Sin embargo, esa es la expectativa, dado que YouTube se asoció con CAA en diciembre pasado, dando a ciertas personas prominentes la capacidad de “proporcionar comentarios críticos para ayudarnos a construir nuestros sistemas de detección,” dijo YouTube en ese momento.
La herramienta de detección es uno de varios pasos recientes que YouTube ha tomado para mitigar los riesgos relacionados con la IA generativa. El año pasado, la plataforma actualizó sus políticas de privacidad para permitir que miembros del público presenten solicitudes de eliminación de videos que imitan su voz o similitud. También introdujo un sistema que permite a los titulares de derechos solicitar la retirada de videos que crean que “imitan la voz única de un artista al cantar o hacer rap.”
Al mismo tiempo, YouTube y su empresa matriz Google han estado entre los jugadores más activos en el desarrollo de tecnología de IA. Anteriormente este año, YouTube lanzó una herramienta de música con IA capaz de generar bandas sonoras libres de derechos de autor para creadores y comenzó a probar un presentador de música con IA para rivalizar con Spotify’s AI DJ.
En 2023, YouTube firmó un acuerdo con Universal Music Group (UMG) para desarrollar herramientas de IA con protecciones integradas para titulares de derechos. Según un informe de 2024 de Financial Times, YouTube también estaba en conversaciones con grandes compañías discográficas para licenciar su música para entrenamiento de IA, aunque el progreso fue reportado como lentificado por la falta de artistas dispuestos.
