Internet

Galactica, la inteligencia artificial racista de Meta que difunde fake news y que solo duró 72 horas

Con razón duró tan poco.

Getty Images

Estrenada el 15 de noviembre y acaba tres días después. Poco duró Galactica, una demo del modelo de lenguaje más grande de Meta, que estaba diseñada para ayudar a científicos y que terminó siendo una inteligencia artificial (IA) que acabó creando textos falsos y esterotipos dañinos.

De acuerdo con el reporte publicado en el sitio web de El Comercio, esta IA solo duró 72 horas luego de recibir duras críticas éticas, señalada por ser racista y por difundir fake news.

Meta desarrolló Galactica para “almacenar, combinar y razonar sobre el conocimiento científico”, pero los usuarios comprobaron que esta tecnología no distinguía falsedades de datos verdaderos.

Básicamente, la compañía buscaba que esta inteligencia artificial replicara modelos de lenguaje como el GPT-3 de OpenAI: que fuera capaz de escribir textos científicos tras estudiar millones de ejemplos y enlazando datos estadísticos, exactamente más de 48 millones de artículos, libros, apuntes de conferencias, enciclopedias y sitios web científicos.

¿Qué ocurrió con Galactica?

Cuando la demo fue probada, los expertos notaron que Galactica creaba textos científicos con disparates irreales. Por ejemplo, llegó a crear un artículo falso titulado “Los beneficios de comer vidrio triturado” y otro sobre la presencia de osos en el espacio.

Galactica

Michael Black, director del Instituto Max Planck para Sistemas Inteligentes, quien probó la demo, advirtió sobre el potencial riesgo de esta inteligencia artificial: “En todos los casos, estaba mal o sesgado, pero sonaba correcto y autoritario. Creo que es peligroso”.

Lo más extraño es que la Ia utilizaba referencias reales, pero inventaba información sin sentido. Por otro lado, los usuarios también notaron que la IA también podía ser utilizada con fines poco éticos y que cualquier persona puede ingresar indicaciones racistas u ofensivas.

Otros errores que llevaron a Galactica al fracaso era inventar cifras, fechas y nombres de animales. Su rechazo la llevó a un temprano retiro en solo tres días.

Tags

Lo Último


Te recomendamos