Reportaje del New York Times destapa que sistema de recomendaciones de YouTube incentiva la pedofilia

Un reportaje publicado por The New York Times reveló que el algoritmo del sistema automatizado de recomendaciones de YouTube fomenta videos de niños prepúberes a usuarios que buscan temáticas sexuales.

El artículo describe que los usuarios no necesariamente buscan videos de niños para verlos, sino que la misma plataforma los dirige a través de una progresión de videos sugeridos. Por ejemplo, si un usuario mira videos eróticos, recibe recomendaciones de mujeres que sospechosamente son más jóvenes, o bien usan ropa de niños de manera provocativa.

Al seguir avanzando, algunos usuarios recibirán videos de niñas que tienen entre 5 y 6 años, que visten traje de baño, se están cambiando ropa o abriéndose de piernas. Estas imágenes podrían ser perfectamente inocentes, incluso videos caseros.

En febrero, medios de comunicación estadounidenses como Wired reportaron que depredadores sexuales usaban la sección de comentarios de la plataforma de videos donde aparecen niños para guiar a otros pedófilos. En aquella ocasión, YouTube actuó deshabilitando los comentarios, sin embargo, el sistema de recomendaciones se mantiene en funcionamiento y ha reunido decenas de dichos videos en un nuevo depósito, de fácil acceso para su vasta audiencia.

Jonas Kaiser, investigador del Centro para Internet y Sociedad Berkman Klein de la Universidad de Harvard, explica que “es el algoritmo de YouTube lo que conecta estos canales (…) eso es lo atemorizante“, ya que su sistema automatizado logró que siguieran apareciendo estas recomendaciones “inquietantemente precisas”.

Según la propia compañía, su sistema de recomendaciones funciona por inteligencia artificial, la que constantemente está aprendiendo cómo mejorar sus sugerencias. Algunos investigadores han denominado esto como Efecto Madriguera, donde la propia plataforma lleva a los espectadores a videos o temas cada vez más extremos. Por ejemplo, si buscas videos de ciclismo, YouTube te sugiere choques impactantes en carreras de bicicleta.

Kaiser y otros dos científicos examinaron este efecto en Brasil y lograron trazar algo parecido a un mapa del metro sobre cómo la plataforma dirige a los usuarios. Cuando siguieron recomendaciones de videos con temática sexual, les perturbó que las imágenes se volvieran cada vez más extrañas, extremas y dieran más énfasis a la juventud.

The New York Times alertó a YouTube de esta situación y la compañía retiró algunos de dichos videos, sin embargo, aún permanecen varios de ellos en la plataforma, incluso algunos aparentemente subidos por cuentas falsas.