Chelsea Manning: “Los programadores debiesen tener códigos de ética más firmes”

Manning criticó duramente el rol de los programadores en materia de Inteligencia Artificial durante el evento South by Southwest. La ex soldado dijo que se deberían tener códigos de ética más duros a la hora de crear algoritmos.

Chelsea Manning se ha convertido en un referente para muchos luego de las filtraciones que hizo a WikiLeaks. Tras haber estado apresada y posteriormente indultada por Obama, se encuentra en una candidatura parlamentaria por el estado de Maryland.

En una conversación con Sally Singer recogida por The Verge, Manning se refirió a su trabajo de análisis predictivo en el Ejército hace una década y a la forma en que los programadores modernos se han acercado a la inteligencia artificial.

Nosotros, como tecnólogos y desarrolladores, especialmente aquellos que trabajamos en sistemas que afectan a millones de personas (sí, estoy hablando de los algoritmos de Twitter y Google, así como de la vigilancia predictiva), debemos estar al tanto de las consecuencias de lo que estamos haciendo.

Los algoritmos en sí mismos no son imparciales. Ponemos nuestros sesgos allí cuando lo escribimos. Y también le proporcionamos datos que podrían estar sesgados, para empezar (…) Al igual que los médicos tienen un código de ética, los desarrolladores de software debiesen tener uno también.

La postura de Manning hizo eco de los sistemas de inteligencia artificial, particularmente de los orientados al reconocimiento facial (entrenados en su mayoría en caras blancas) y a la información predictiva policial, a su juicio, sesgada por los departamentos para controlar ciertos barrios. Manning pidió un marco ético que regiría el desarrollo de software y también cuestionó la información que el público entrega gratuitamente.

Opero a niveles de paranoia en seguridad. Lo que más le aconsejo a la gente es que sea consciente de la información que está publicando. Nuestra complacencia es lo que es peligroso. La gente sabe que la vigilancia es mala, y que está sucediendo a gran escala. Sabemos que es un problema, pero creo que todos esperan que alguien más haga algo al respecto.