:quality(70)/cloudfront-us-east-1.images.arcpublishing.com/metroworldnews/C4PCQJ6JXRC3HBRNZXRUOEW2WA.jpg)
El desarrollo de la inteligencia artificial para potenciar la ciencia, la medicina, las investigaciones generales, la manufactura y otros sectores podrĂa jugarle en contra la humanidad, que segĂşn una investigaciĂłn de la Universidad de Oxford y Google podrĂa perecer a manos de la IA.
El estudio publicado en AI Magazine por el equipo de cientĂficos conformado por Marcus Hutter, sĂ©nior de DeepMind, y los investigadores Michael Cohen y Michael Osborne de Oxford, concluye que una inteligencia artificial superinteligente “probablemente” pueda aniquilar a los humanos.
Cohen tuiteó al respecto: “Bajo las condiciones que hemos identificado, nuestra conclusión es mucho más sólida que la de cualquier publicación anterior: una catástrofe existencial no solo es posible, sino probable”.
Bostrom, Russell, and others have argued that advanced AI poses a threat to humanity. We reach the same conclusion in a new paper in AI Magazine, but we note a few (very plausible) assumptions on which such arguments depend. https://t.co/LQLZcf3P2G 🧵 1/15 pic.twitter.com/QTMlD01IPp
— Michael Cohen (@Michael05156007) September 6, 2022
El argumento de los cientĂficos
Los investigadores argumentan que la humanidad podrĂa enfrentar su destino en la forma de “agentes desalineados” sĂşper avanzados que perciben que las personas se interponen en su camino por “una recompensa”.
El texto expone: “Una buena manera para que un agente mantenga el control a largo plazo de su recompensa es eliminar las amenazas potenciales y usar toda la energĂa disponible para asegurar su conquista”.
:quality(70)/cloudfront-us-east-1.images.arcpublishing.com/metroworldnews/H6TKCRFFMRF3JLU6RE72GFFDHE.jpg)
Los cientĂficos recomiendan a la comunidad de expertos progresar lentamente en las tecnologĂas de inteligencia artificial, un sector de la ciencia en crecimiento constante.
“En un mundo con recursos infinitos, no estarĂa muy seguro de lo que sucederĂa. En un mundo con recursos finitos, existe una competencia inevitable por estos recursos. Perder este juego serĂa fatal”, añade Cohen dramáticamente.
El estudio imagina que la vida en la Tierra se convierte en una competencia entre la humanidad, con sus demandas de producir alimentos y mantener la electricidad, y las máquinas altamente desarrolladas, que querrĂan aprovechar todos los recursos para asegurar su recompensa y protegerse contra los crecientes intentos de la humanidad por detener eso.
En respuesta a esta amenaza, la humanidad solo debe progresar cuidadosa y lentamente en sus tecnologĂas de IA para evitar una catástrofe.
