Estudio revela que el algoritmo de YouTube envía vídeos violentos y gráficos a niños pequeños

Un estudio reciente ha descubierto que el algoritmo de YouTube tiene el potencial de enviar automáticamente vídeos violentos o gráficos a los niños pequeños sin que éstos los busquen activamente.

El algoritmo de vídeos de YouTube ha sido un punto de controversia durante bastante tiempo. El misterioso funcionamiento interno del feed recomendado de la plataforma ha dictado qué contenido se envía a los espectadores y, a su vez, qué contenido gana popularidad.

El algoritmo, como la mayoría de las plataformas de redes sociales, tiene en cuenta el contenido que consume el usuario, antes de ofrecerle contenido similar para mantener su interés. Al menos, esa es la intención. A menudo, esto significa ajustar los vídeos sugeridos a un usuario para que se adapten a sus aficiones y gustos particulares.

Sin embargo, un nuevo estudio ha descubierto que puede haber un lado potencialmente más oscuro en el funcionamiento del algoritmo de YouTube. Un estudio realizado por el Proyecto de Transparencia Tecnológica descubrió que a los niños pequeños se les inundaban las sugerencias de YouTube con vídeos gráficos sobre tiroteos en escuelas, vídeos de entrenamiento con armas, y mucho más.

Unsplash Christian Wiediger

Un estudio revela que el algoritmo de YouTube puede estar enviando contenidos violentos a los niños

El nuevo estudio tomó dos cuentas de YouTube y simuló el comportamiento de dos niños de nueve años a los que les gustan los videojuegos. Estas cuentas eran idénticas, salvo que una de ellas hacía clic en los vídeos recomendados por YouTube, mientras que la otra no lo hacía. Según el informe, la cuenta que hizo clic en las sugerencias de la plataforma pronto se vio inundada de contenido gráfico.

La cuenta que no interactuó con las sugerencias seguía recibiendo algunos vídeos relacionados con armas, un total de 34. Sin embargo, la cuenta que sí interactuó con los vídeos sugeridos acabaría recibiendo 382 vídeos diferentes relacionados con armas de fuego en un mes, o unos 12 al día, según la investigación. Además, el estudio también creó cuentas que imitaban a chicos de 14 años y obtuvo resultados similares.

Las conclusiones del estudio han suscitado críticas al algoritmo de YouTube, que una portavoz de la plataforma defendió en respuesta a AP News. Señala que exige que los usuarios menores de 17 años obtengan el permiso de sus padres antes de utilizar el sitio, y que las cuentas de los usuarios menores de 13 años están vinculadas a una cuenta parental.

“Ofrecemos una serie de opciones para los espectadores más jóvenes… que están diseñadas para crear una experiencia más segura para preadolescentes y adolescentes”.

La conversación sobre los algoritmos también ha salpicado a TikTok, que ha defendido igualmente su sitio y sus políticas afirmando que prohíben el uso a usuarios menores de 13 años.