:quality(70)/cloudfront-us-east-1.images.arcpublishing.com/metroworldnews/C7KDMRHZLNH7XPDEWQYSNPY32I.jpg)
Uno de los confundadores de OpenAI advirtió que la superinteligencia podría salirse de control y causar la extinción humana.
OpenAI: “El poder de la superinteligencia también podría ser muy peligroso”
“La superinteligencia será la tecnología más impactante que la humanidad jamás haya inventado y podría ayudarnos a resolver muchos de los problemas más importantes del mundo. Pero el vasto poder de la superinteligencia también podría ser muy peligroso y podría conducir a la pérdida de poder de la humanidad o incluso a la extinción humana. “, escribieron Ilya Sutskever y Jan Leike, mediante una publicación este martes.
🚨 Just In:
— Aadit Sheth (@aaditsh) July 6, 2023
OpenAI's New Team — Superalignment
Their goal is to solve the core technical challenges of controlling superintelligent AI over the next four years.
Details:
• This team will be co-led by Ilya Sutskever, OpenAI’s chief scientist and Jan Leike, one of OpenAI's… pic.twitter.com/comuD010U6
La Inteligencia Artificial debe seguir la “intención humana”
Agregaron también que los mismos avances podrían ser vistos dentro de una década y que para gestionar los riesgos deben crearse instituciones de gobernanza para que la IA “sigan la intención humana”.
“Actualmente, no tenemos una solución para dirigir o controlar una IA potencialmente superinteligente y evitar que se vuelva deshonesta. Nuestras técnicas actuales para alinear la IA, como el aprendizaje de refuerzo a partir de la retroalimentación humana, se basan en la capacidad de los humanos para supervisar la IA. Pero los humanos no podrán supervisar de manera confiable los sistemas de inteligencia artificial mucho más inteligentes que nosotros, por lo que nuestras técnicas de alineación actuales no se escalarán a la superinteligencia”, escribieron. “Necesitamos nuevos avances científicos y técnicos”.
🚀 OpenAI is stepping up its efforts to address the risks associated with superintelligent AI systems. With a dedicated team led by Ilya Sutskever and Jan Leike, they're allocating 20% of computing power to this crucial task. #AI #Superintelligence pic.twitter.com/iLrip5jJCt
— Zuko (@ZukoVentures) July 6, 2023
Lee también: Mega Millions: ¿Cuánto acumula el premio mayor de este 7 de julio?
Alinear la IA con la intención humana
“Si bien este es un objetivo increíblemente ambicioso y no tenemos garantizado el éxito, somos optimistas de que un esfuerzo concentrado y concertado puede resolver este problema”, agregaron.
Con el objetivo de mejorar los modelos de OpenAI, como ChatGPT, el nuevo enfoque debe estar dirigido a los desafíos para alinear la Inteligencia Artificial con la intención humana y la superinteligencia.
