Un trabajo de investigación Deep Mind, la compañía de inteligencia artificial adquirida por Google, publicó un artículo donde se demuestra la construcción de un sistema de inteligencia artificial que se alinee con los valores humanos.
El bucle llamado IA democrática, tiene como objetivo la redistribución de riqueza virtual de maneras que fueron votadas como los métodos más populares, según una votación tomada por jugadores humanos que participan en un experimento basado en juegos en línea.
La investigación desarrolló un sistema donde se redistribuyó gradualmente la riqueza que “ganó” cada participante en línea, corrigiendo algunos de los desequilibrios en las fortunas económicas entre los jugadores.
El estudio publicado en Nature sostiene que la IA descubrió un mecanismo que corrigió el desequilibrio de riqueza inicial, sancionó a los free riders y ganó con éxito el voto mayoritario.
[¿El fin de TikTok? FCC pide a Apple y Google eliminar la aplicación de sus tiendas]
Detalles de la investigación
Los investigadores aclararon que este sistema no se muestra como una propuesta radical para la gobernanza basada en la IA, sino en un marco para futuras investigaciones sobre como la IA podría intervenir en las políticas públicas.
El articulo describe el experimento de la siguiente manera:
“Como primera prueba rigurosa, desplegamos la IA democrática para abordar una pregunta que ha definido los principales ejes del acuerdo político y la división en los tiempos modernos: cuando las personas actúan colectivamente para generar riqueza, ¿cómo deben distribuirse los ingresos? (....) Capacitamos a un agente de RL profundo para diseñar un mecanismo de redistribución que compartiera fondos con los jugadores tanto en igualdad de riqueza como en desigualdad. El mecanismo que produjo fue finalmente preferido por los actores en una elección mayoritaria”.
El estudio descubrió que la redistribución radical de la riqueza de arriba hacia abajo era “impopular”, ya que finalmente llevó a los jugadores más ricos a no desear contribuir colectivamente en absoluto. Tampoco los que estaban en la parte inferior de la pila económica virtual estaban contentos con ver a solo unos pocos jugadores ganar desproporcionadamente.
Todavía existen cosas que se pueden perfeccionar, pero es un avance con respecto a los distintos usos que se le puede dar a la Inteligencia Artificial.