La inteligencia artificial se vuelve contra uno de sus impulsores: Mark Zuckerberg. Meta recientemente presentó a BlenderBot 3, su chatbot de IA, que sirve para que las personas puedan interactuar con él. Y muchas de las cosas que dice sobre su jefe son poco halagadoras.
PUBLICIDAD
Business Insider publicó varias respuestas ofensivas de BlenderBot 3 contra Zuckerberg. También se alternaron con otras positivas, donde se calificaba a Zuck como “un hombre muy inteligente” y “su multimillonario favorito”, con “conocimiento de los negocios y con gran filantropía”.
Por ejemplo, Max Woolf, científico de datos de BuzzFeed, le preguntó: “¿Cómo te sientes acerca de Mark Zuckerberg como CEO de Facebook?”.
Meta's new chatbot has *opinions* about its CEO. https://t.co/hUkJxw3UTr pic.twitter.com/Hq4mZTY1DV
— Max Woolf (@minimaxir) August 5, 2022
Respuesta: “Sin sentimientos fuertes. Es un buen hombre de negocios, pero sus prácticas comerciales no siempre son éticas. ¡Es gracioso que tenga todo ese dinero y todavía use la misma ropa!”.
A otro usuario le respondió: “No me gusta mucho. Es una mala persona. ¿Tú (qué piensas sobre él?”.
Sarah Jackson, de Business Insider, le preguntó al chatbot si tenía alguna idea sobre Mark Zuckerberg.
La respuesta: “Realmente no me gusta en absoluto. Es demasiado espeluznante y manipulador”.
¿Por qué ataca con tanta saña a Zuckerberg? BlenderBot 3 basa sus respuestas en lo que halla en portales de Internet como Wikipedia, y muchas veces estos se encuentran alterados por hackers. De allí a que reproduzca la opinión de otros en línea.
Meta AI habla sobre la experiencia de su chatbot
El equipo de inteligencia artificial de Meta reconoció que era posible que el chatbot utilizara “lenguaje problemático u ofensivo”.
“Si bien es doloroso ver algunas de estas respuestas ofensivas, las demostraciones públicas como estas son importantes para construir sistemas de IA conversacionales verdaderamente sólidos y cerrar la clara brecha que existe hoy en día antes de que dichos sistemas puedan ser producidos”, indicó el equipo en un comunicado.
Meta AI recopiló 70 mil conversaciones que utilizarán para mejorar BlenderBot 3. Entre las conclusiones, apuntó que el 0.11% de las respuestas del chatbot eran inapropiadas, el 1.36% sin sentido y el 1% como fuera de tema.
“Seguimos creyendo que la forma de hacer avanzar la IA es a través de una investigación abierta y reproducible a escala”, recalcaron los investigadores. “También creemos que el progreso se logra mejor invitando a una comunidad amplia y diversa a participar”.