Escándalo de YouTube por algoritmo que facilita a los pedófilos encontrar más videos de niños

Escándalo de YouTube por algoritmo que facilita a los pedófilos encontrar más videos de niños

Así lo asegura un reporte de The New York Times en base a una investigación.

YouTube cuenta con un algoritmo que hace recomendaciones de videos dependiendo de los gustos de los usuarios para incentivarlos a que sigan en la plataforma, pero ahora tenemos que ese sistema los coloca en medio de un escándalo que involucra el complicado tema de la pedofilia.

Resulta que un equipo de investigadores del Centro Berkman Klein para Internet y Sociedad de Harvard descubrió que el comentado algoritmo le recomienda a los pedófilos más videos de niños en traje de baño o parcialmente vestidos al detectar que han visualizado videos similares (vía MIT).

El reporte de The New York Times incluye algunos ejemplos que llaman la atención, como el caso de una mujer en Brasil que se sorprendió al descubrir que un video que publicó su hija de 10 años había conseguido más de 400,000 visitas, sobre todo porque se trata de un simple video donde la pequeña y una amiga están en traje de baño jugando en una alberca en el patio de su casa.

La respuesta de YouTube

Después de que se detectó que algunos pedófilos comentaban en videos de niños, el pasado mes de febrero YouTube decidió deshabilitar la sección de comentarios en muchos videos de pequeños, además de que tienen algunas medidas para intentar prevenir la situación como no permitir que menores de 13 años puedan abrir cuentas en el sitio.

Aún así hay muchas críticas para la plataforma de video debido a que no planean modificar el algoritmo para que se eviten ese tipo de recomendaciones ya que consideran que podría causar impacto negativo en algunos vloggers familiares que tienen millones de seguidores.

Pero respondiendo directamente al artículo de The New York Times, YouTube publicó una respuesta donde señalan que limitarán las recomendaciones en algunos videos que pudieran poner en riesgo a los niños.

Además, han tomado otras medidas como seguir eliminando videos que violen las políticas y solicitar que los menores estén acompañados de un adulto al realizar transmisiones en vivo.

En el pasado ya se ha hablado sobre la inteligencia artificial que recomienda los videos, de hecho también hubo algo de polémica con los videos de teorías conspiratorias y contenidos extremistas, pero hay que tener en cuenta que las sugerencias generan el 70% de las visitas a la plataforma.

Ya veremos cómo evoluciona esta complicada situación en torno a las medidas tomadas por YouTube.