Twitch actualiza las reglas sobre el contenido deepfake

Twitch ha publicado una actualización de sus Pautas de la comunidad con respecto al contenido deepfake solo unas semanas después de que Atrioc mostrara algo en su stream.

En enero, el streamer de Twitch Atrioc se volvió viral con su disculpa después de pagar por y mostrar imágenes deepfake de varias creadoras de contenido durante su stream.

Después de la reacción violenta de las creadoras afectadas, Atrioc anunció una pausa en su actividad y la salida de la agencia OFFBRAND de Ludwig.

Twitch actualizó sus Pautas de la comunidad con respecto al contenido deepfake como resultado de la controversia, dejando en claro que ese tipo de contenido no es bienvenido en la plataforma.

¿Qué es el contenido deepfake?

Traducida como ultrafalso, esta expresión se refiere a las imágenes falsas realizadas a través de deep learning o aprendizaje profundo. Una inteligencia artificial genera vídeos o locuciones utilizando la voz o el rostro de una persona en imágenes ya existentes.

Si bien hemos podido ver este tipo de tecnología con un buen uso en el cine (la aparición de Leia en Rogue One), a menudo se utiliza con fines más problemáticos. Es el caso de Atrioc mostrando imágenes NSFW con el rostro de creadoras de contenido conocidas.

Twitch actualiza las reglas sobre contenido deepfake

En una publicación de blog del 7 de marzo de 2023, Twitch explicó que el contenido falso profundo no es bienvenido en la plataforma y que están publicando una actualización de las Pautas de la comunidad.

Twitch también reveló que aprendieron al hablar con expertos en el campo que las imágenes falsas llamadas deepfake son más conocidas como “imágenes de explotación no consentidas sintéticas (NCEI)” y se refieren a ellas como tales a lo largo de las pautas.

Estas son las actualizaciones de políticas que Twitch implementará en un futuro cercano:

• Promocionar, crear o compartir intencionalmente NCEI sintético en la plataforma puede resultar en una suspensión indefinida.
• La política de desnudez de adultos se actualizará para incluir NCEI sintético, incluso cuando se muestre solo brevemente. Se eliminará y dará lugar a su ban.

También dijeron: “Cuando [se usa la IA] para crear NCEI sintético… la creación, promoción o visualización de este contenido no es bienvenida en Twitch”.