Recientemente un equipo de trabajadores de Google creo una serie de parches con los que engañan fácilmente a los softwares para el reconocimiento de imágenes. Basándose en una tostadora como ejemplo, el equipo utilizó una computadora para producir coloridos patrones de apariencia psicodélica para engañar a los softwares.
PUBLICIDAD
Las redes neuronales artificiales, detrás de estas tecnologías, son modelos computacionales basados en unidades de cálculo que trabajan en conjunto para encontrar parámetros y obtener resultados. Las mismas, pueden ser entrenadas para apuntar a mayores grados de efectividad. A pesar de ser tener un rendimiento excepcional en muchos casos, pueden ser vulneradas en otras ocasiones.
Las siguientes imágenes muestran como con un sticker se logra engañar al software de reconocimiento incluso con una forma que en apariencia parece cualquier cosa menos una tostadora.
Aunque estos programas ya habían sido vulnerados anteriormente y su efectividad no es total, el mecanismo destaca por ser sencillo y práctico de usar. Así lo mencionan los investigadores Tom B. Brown, Dandelion Mané, Aurko Roy, Martín Abadi y Justin Gilmer, en el paper publicado:
Los parches son universales y se pueden utilizar para atacar cualquier escena. Son robustos y funcionan bajo una amplia variedad de transformaciones. Los parches contradictorios se pueden imprimir y agregar fácilmente. Incluso cuando son pequeños, pueden causar que los clasificadores ignoren elementos.