YouTube ahora exige a los creadores que revelen a los espectadores cuándo se creó contenido realista con IA, la compañía Anunciado los lunes. La plataforma está introduciendo una nueva herramienta en Creator Studio que requerirá que los creadores revelen cuándo se creó contenido que los espectadores podrían confundir con una persona, lugar o evento real con medios alterados o sintéticos, incluida la IA generativa.
Las nuevas revelaciones tienen como objetivo evitar que los usuarios sean engañados haciéndoles creer que un video creado sintéticamente es real, ya que las nuevas herramientas de inteligencia artificial generativa hacen que sea más difícil diferenciar entre lo que es real y lo que es falso. El lanzamiento se produce como Los expertos han advertido que la IA y los deepfakes representarán un riesgo notable durante las próximas elecciones presidenciales de Estados Unidos.
El anuncio de hoy se produce cuando YouTube anunció en noviembre que iba a implementar la actualización como parte de una introducción más amplia de nuevas políticas de IA.
YouTube dice que la nueva política no requiere que los creadores revelen contenido que sea claramente poco realista o animado, como alguien montando un unicornio a través de un mundo fantástico. Tampoco exige que los creadores revelen contenido que utilizó IA generativa para asistencia en la producción, como generar guiones o subtítulos automáticos.
En cambio, YouTube apunta a videos que utilizan la imagen de una persona realista. Por ejemplo, los creadores tendrán que revelar cuándo han alterado digitalmente el contenido para “reemplazar el rostro de un individuo por el de otro o generar sintéticamente la voz de una persona para narrar un video”, dice YouTube.
También tendrán que revelar contenido que altere las imágenes de eventos o lugares reales, como hacer que parezca que un edificio real se incendió. Los creadores también tendrán que revelar cuándo han generado escenas realistas de eventos ficticios importantes, como un tornado que avanza hacia una ciudad real.
YouTube dice que la mayoría de los videos tendrán una etiqueta en la descripción ampliada, pero para los videos que tocan temas más delicados como salud o noticias, la compañía mostrará una etiqueta más destacada en el video.
Los espectadores comenzarán a ver las etiquetas en todos los formatos de YouTube en las próximas semanas, comenzando con la aplicación móvil de YouTube y pronto en computadoras de escritorio y TV.
YouTube planea considerar medidas coercitivas para los creadores que constantemente optan por no utilizar las etiquetas. La compañía dice que agregará etiquetas en algunos casos cuando un creador no haya agregado una, especialmente si el contenido tiene el potencial de confundir o engañar a las personas.