Caos en OpenAI: Las críticas y filtraciones que golpean a Sam Altman

Corría diciembre de 2015 y un grupo compuesto por Elon Musk, Sam Altman, Greg Brockman, Ilya Sutskever y Wojciech Zaremba decidió fundar OpenAI, una organización centrada en la investigación sobre inteligencia artificial, y cuyo propósito era promover sus avances de manera segura y accesible para todo el mundo. Con proyectos icónicos como GPT (Generative Pre-trained Transformer), la compañía tecnológica hoy destaca por ser liderada por Altman, quien en marzo de 2019 dejó Y Combinator para convertirse en CEO a tiempo completo.

De aquella decisión ya han pasado 5 años, y desde ya un tiempo OpenAI se luce en el podio de la IA, con un chatbot que transformó la forma en que interactuamos con estas tecnologías, y con fuertes competidores como Google o Microsoft que intentan ponerse al día con sus propias innovaciones.

Eso sí, esta travesía no ha estado exenta de polémicas. El año pasado Sam Altman fue despedido de OpenAI por razones confusas, y reintegrado en menos de una semana. Tras ello la compañía se mantuvo a flote, pero nuevamente se encuentra en el ojo público tras la salida de importantes investigadores de seguridad y una reacción adversa a una nueva versión de ChatGPT.

El caos de OpenAI

Una vez más la empresa detrás de ChatGPT está pasando por un periodo turbulento, forzando a sus líderes, incluido Altman, a defender públicamente sus políticas y esfuerzos para mitigar los riesgos asociados con la inteligencia artificial.

Pero partamos por el principio. ¿Recuerdan GPT -4o y todas las novedades anunciadas por Mira Murati en el evento de OpenAI? Pues bien, aquella noticia rápidamente se vio eclipsada por las críticas respecto a su chat con voz, que presentaba una voz curiosamente parecida a la de Scarlett Johansson. Pero también por la salida de Jan Leike e Ilya Sutskever, lo que derivó en una ola de cuestionamientos sobre la estabilidad y dirección de OpenAI.

Rápidamente comenzaron las teorías sobre estas salidas, sobre todo considerando los crípticos mensajes de cada uno anunciando su retiro de la empresa. “Estoy seguro de que OpenAI creará AGI que sea segura y beneficiosa... Estoy emocionado por lo que viene después”, dijo Sutskever, mientras que Leike se limitó a tuitear “Renuncié”.

Tras ello, el medio Vox reveló que al interior de OpenAI existen estrictos acuerdos de salida que los empleados deben firmar antes de irse, incluyendo cláusulas de no divulgación y no menosprecio que los limitan para hablar abiertamente. De hecho, expusieron el caso de Daniel Kokotajlo, quien en 2018 dio a conocer que perdió gran parte de su patrimonio al elegir no firmar esta cláusula, y que aún así no puede hablar sobre “todo” lo que quiera al respecto.

“No sé si el sacrificio valió la pena, pero gracias por el apoyo. Básicamente quería conservar mi capacidad de criticar a la empresa en el futuro. No estoy seguro de lo que querría decir todavía y tengo un poco de miedo a la atención de los medios”, escribió en su web.

La respuesta de Altman

El citado artículo indicaba que se intentaron contactar con OpenAI pero no hubo respuesta a tiempo. Más tarde, a los días de haberse publicado, Altman tuiteó:

“Nunca hemos recuperado el patrimonio adquirido de nadie, ni lo haremos si la gente no firma un acuerdo de separación (o no acepta un acuerdo de no menosprecio). El capital adquirido es capital adquirido, punto. (...) Aunque nunca recuperamos nada, nunca debería haber sido algo que tuviéramos en ningún documento o comunicación. Esto depende de mí y es una de las pocas veces que me he sentido realmente avergonzado al liderar OpenIA; No sabía que esto estaba pasando y debería haberlo hecho”, decía parte del mensaje.

Pero volvamos a la salida de Leike y Sutskever. Aquel acto implicó la disolución del equipo Superalignment, que es un grupo dedicado a evitar que la IA se descontrole, lo que a su vez derivó en una reorganización dentro de la empresa, integrando a los miembros restantes en un equipo más amplio para seguir trabajando en aquel objetivo.

Así, esta turbulenta semana alertó a los expertos sobre los alcances de la IA de OpenAI, quienes cuestionan si es que realmente está en buenas manos. Además, debilitó el núcleo al mando de la compañía, que trabaja por volver al equilibrio a pesar de las críticas.