El presidente de Microsoft, Brad Smith, recordó sobre la importancia de poder desactivar la tecnología en casos de emergencia.
La tecnología nos ha traído sistemas que cada vez funcionan de forma más autónoma. La inteligencia artificial ha llegado a tal punto de que como sociedad estamos dependiendo en gran medida de ella, inclusive en nuestros propios hogares. Sin embargo, para personas como el presidente de Microsoft, hay que empezar a replantearse esta dependencia. (Vía: Geekwire).
Es curioso que una de las cabezas de Microsoft esté haciendo un planteamiento de este tipo. Esto se hizo público en la cumbre GeekWire 2019 en Seattle esta semana, donde líderes de numerosas empresas tecnologías compartieron su punto de vista sobre el sector. La intervención de Brad Smith fue llamativa, pues tocó una llaga que todavía no se ha cerrado: los accidentes de los Boeing 737 Max de este año.
Si no recuerdas qué pasó, este resultó ser un escándalo ocurrido a principios de este año. El hecho involucraba un software autónomo implementado en la cabina de modelos Boeing 737 Max. Este lo que hacía era bajar el morro del avión cuando detectaba una inclinación muy pronunciada. Sin embargo, en dos ocasiones este movimiento bajó más de la cuenta, poniendo el peligro el vuelo. La peor parte es que los tripulantes no pudieron desactivarlo, causando un desastre. Los dos accidentes dejaron 346 personas fallecidas.
Las indemnizaciones de Boeing han ascendido a los 8.000 millones de dólares. Por eso, Smith introdujo el tema con una pregunta "¿Cuál es el mayor problema relacionado con el software que afecta hoy en día sobre la economía local?" Muchos supieron la respuesta en seguida.
Los Boeing 737 Max se podrían haber salvado: medidas de seguridad ya existían y eran "opcionales"
La compañía aeronáutica vende los sensores e indicadores como "extras" y ninguna autoridad los exige de manera obligatoria.
La necesidad de poder apagar la tecnología
Smith señaló que de este trágico hecho deben quedar enseñanzas en torno a la creación de software. En general, se trató de una reflexión dirigida a tanto a creadores, como a los consumidores de tecnología:
Es una lección que todos los sectores de la sociedad deberán recordar: debemos ser capaces de crear buena tecnología… y de poder desactivarla".
Smith insistió en la importancia que tiene reflexionar sobre los peligros de la inteligencia artificial. Después de todo, una IA incontrolable puede causar estragos, como ocurrió con Boeing. Además, habló de las decisiones que van a empezar a tomar las máquinas debido al machine learning:
Somos la primera generación que decidirá cómo las máquinas tomarán estas decisiones, y qué tipo de principios éticos guiarán su toma de decisiones".
