Google desarrolla un software gratuito para detectar abuso sexual infantil en internet

Google desarrolla un software gratuito para detectar abuso sexual infantil en internet

La inteligencia artificial de Google ayudaría a los moderadores humanos a ser exponencialmente más efectivos a la hora de borrar contenido sexual de niños.

Imagina que tu trabajo consiste en eliminar de internet cualquier contenido que tenga que ver con abuso sexual infantil. Para ello, verificas por la red todo tipo de archivos que te encuentres, deseando no tener que toparte más con el horror que conlleva este tipo de material. Sin embargo, lo haces; y cuando lo eliminas, te das cuenta que se deben estar subiendo en ese momento millones de archivos similares. Pensando en eso, Google desarrolló un software que ayudara a agilizar el proceso de eliminación del material.

El Material de Abuso Sexual Infantil (CSAM) es mucho más común de lo que creemos. Seguramente se encuentra en algún lugar de la deep web, transitando entre las manos de distintos pedófilos. Ante esto, existen organizaciones dedicadas a eliminar este tipo de contenidos como Internet Watch Foundation. No obstante, el esfuerzo se hace realmente difícil por la gran cantidad de material que está allí afuera.

Teniendo todo esto en cuenta, Google anunció que lanzará un software que ayude a detectar con mayor facilidad el CSAM. Este será completamente gratuito y será compartido a varias ONG y proveedores de internet interesados en luchar contra la pornografía infantil.

Google Abuso sexual

¿Cómo funcionará?

El software con esta capacidad ya existía con anterioridad pero era algo limitado. Tecnología como 'PhotoDNA' de Microsoft permite dar alertas sobre fotos y videos que ya hayan sido identificados antes. No obstante, se requería que un moderador humano previamente haya catalogado un material como CSAM para que la IA lo identificara. Como resultado, todo el contenido que no ha sido marcado antes como ilegal queda por fuera de su alcance.

Google plantea una solución más efectiva. La compañía pretende usar redes neuronales para escanear en poco tiempo una gran cantidad de imágenes. Así, en su criterio podrá marcar el material con mayor prioridad de revisión. Esto le ayudará a los moderadores humanos a dar un veredicto más rápido y eliminar el contenido de manera ágil en caso de ser CSAM. En otras palabras: menos tiempo, más material que los moderadores pueden marcar y eliminar.

Esto será posible gracias a la compleja implementación de machine learning de Google. A partir de haber analizado miles de imágenes, la IA será capaz de diferenciar una de otra. Según la empresa, los moderadores aumentarán su eficiencia en un 700%.

Google aclaró que el software estará disponible a través de su kit de programación de seguridad de contenido:

Estamos poniendo esto a disposición de las ONG y los socios de la industria de forma gratuita a través de nuestra API de seguridad de contenido, un conjunto de herramientas para aumentar la capacidad de revisar el contenido de una manera que requiere que menos personas estén expuestas a él".