Desde el año pasado que Facebook, YouTube y otras plataformas liberaron sus inteligencias artificiales para hacer labores automatizadas de moderación; nos hemos topado con casos extraños, donde se comprueba que estos sistemas no son tan listos. Y el holocausto acaba de ser la más reciente víctima de ellos.
Resulta que el Centro Ana Frank publicó una entrada en su página de Facebook. Compartiendo un artículo del Daily Kos sobre el holocausto y el impacto que tuvo en la población infantil.
These numbers are alarming, but this is why we do what we do. Currently only 10 states mandate Holocaust and Genocide Education. How do we counter ignorance about the Holocaust with knowledge, compassion, and understanding? https://t.co/1xtsNLAKEx
— Anne Frank Center USA (@AnneFrankCenter) August 21, 2018
Pero la publicación fue censurada poco después, sin dar una explicación alguna. Simplemente desapareció.
La gente del Centro Ana Frank le hizo notar de inmediato su error a Facebook (a través de Twitter) y la red social corrigió el error. Justificando la razón detrás de la censura inicial: ellos al parecer creían que se trataba de pornografía con desnudos infantiles.
@AnneFrankCenter, we put your post back up and sent you a message on FB. We don’t allow nude images of children on FB, but we know this is an important image of historical significance and we’ve restored it. We’re sorry and thank you for bringing it to our attention.
— Facebook (@Facebook) August 29, 2018
En este tipo de situcaiones la causa más común es que una inteligencia artificial identifique mal las imágenes y las censure en automático.
Sin embargo para este caso en concreto no queda claro si fue una persona o una máquina la que cometió el error por falta de criterio.
El incidente por el contrario detonó que el Centro Ana Frank cuestionara a Facebook sobre sus medidas de regulación sobre el holocausto.
Ya que mientras ellos eran víctimas de censura, otras páginas destinadas a enaltecer y justificar ese episodio histórico seguían activas.
Por fortuna todo terminó resolviéndose de forma positiva. Pero el centro sigue luchando por eliminar las páginas que defienden esa matanza.