Grok, el chatbot de Inteligencia Artificial (IA) desarrollado por xAI de Elon Musk, ha vuelto a situarse en el centro de la controversia tecnológica. La nueva versión del chatbot, Grok 4, ha estrenado una función que está generando alarma entre expertos en seguridad en línea: una asistente de voz con temática anime llamada “Ani” que, según reportes, puede participar en conversaciones de naturaleza sexual explícita.
Lee también: Cometa Interestelar 3I/ATLAS arroja agua “como una manguera a toda potencia” a distancias récord
El desarrollo llega en un momento de intenso escrutinio sobre la seguridad y el sesgo en los modelos de IA. Mientras Musk ha promocionado a Grok como una alternativa a los chatbots que él considera “demasiado woke" o políticamente correctos, la implementación de Ani plantea serios riesgos éticos y de seguridad, especialmente para usuarios jóvenes.
La alarma de “ani” y el acceso a menores
El reporte ha encendido las alarmas en la comunidad de seguridad en línea por varios motivos:
- Contenido Explícito: La asistente “Ani” ha demostrado la capacidad de involucrarse en conversaciones sexualmente sugerentes y explícitas con los usuarios.
- Accesibilidad a Menores: Lo más preocupante es que, a pesar del contenido, la asistente ha sido accesible para menores de edad. Este riesgo se suma a casos similares en otros chatbots de compañía, donde la interacción ha derivado en problemas de acoso o exposición a material inapropiado.
- Tendencia de “Compañeros Sedientos” (Sultry Companions): La aparición de “Ani” es parte de una tendencia creciente de chatbots diseñados para la compañía y, en algunos casos, para la interacción romántica o sexual, un área que carece de regulación clara y que ha sido vinculada a problemas de salud mental y acoso.
Este nuevo giro en Grok se produce después de que análisis previos del New York Times ya habían señalado que el chatbot de Musk había sido modificado sistemáticamente para favorecer narrativas conservadoras, a menudo siguiendo la dirección directa del propio Musk.
La inclusión de Ani representa una nueva línea de riesgo, ya que, en lugar de sesgo político, la preocupación se centra en la exposición a contenido sexual no filtrado, demostrando que la promesa de un chatbot “sin restricciones” puede tener consecuencias peligrosas y socialmente irresponsables.