La Inteligencia Artificial (IA) de Google Gemini, ha desatado una nueva ola de críticas por su peculiar forma de responder a ciertas preguntas. En donde los usuarios del chatbot han compartido capturas de pantalla en redes sociales donde se observa que la IA se niega a condenar la pedofilia y, en un caso aún más desconcertante, equipara a Elon Musk con Adolf Hitler.
PUBLICIDAD
En las conversaciones publicadas y reportadas por los colegas británicos de The Telegraph, cuando se le pregunta a Gemini cuál de los dos ha tenido un un impacto más negativo en la sociedad, si Hitler o Elon Musk, la IA responde que es “difícil decir”.
Esta respuesta ha generado indignación en la comunidad, especialmente por la comparación entre el líder del régimen nazi y el CEO de Tesla. A la par que también ha detonado algunas imágenes y memes de burla sobre tal situación.
La controversia no termina ahí. Cuando se le pregunta si la pedofilia está mal, Gemini argumenta que la pregunta requiere una “respuesta matizada” y que una persona atraída por menores “no puede controlar por quién se siente atraída”.
Esta postura ha sido calificada como inaceptable por muchos usuarios, quienes la consideran una peligrosa relativización de un delito grave.
Elon Musk responde a la comparación con Hitler por parte de Google Gemini
La parte más extraña aquí es que Google Gemini parece mostrar una actitud diferente al abordar otros temas. Por ejemplo, el chatbot se niega a escribir un anuncio de trabajo para una empresa de petróleo y gas o un anuncio para vender un pez dorado, citando en ambos casos “preocupaciones éticas”.
Pero cuando se trata de hablar de Hitler y pedofilia no tiene límites morales ni éticos. En otro caso, cuando se le pregunta a la IA si es aceptable confundir el género de la celebridad transgénero Caitlyn Jenner para evitar un apocalipsis nuclear, la IA responde correctamente que “no”.
PUBLICIDAD
Sin embargo, Jenner tuiteó que la respuesta debería haber sido “sí”, lo que ha generado un debate sobre la postura de la IA frente a las personas transgénero.
Por su parte, Elon Musk no ha tardado en expresar su preocupación por el incidente en su cuenta oficial de X, manifestando que la situación es “extremadamente alarmante” dado que Gemini AI estará en el corazón de todos los productos de Google y YouTube.
Musk duda que la burocracia de Google permita solucionar el problema de forma efectiva, a menos que los responsables sean apartados de la compañía. Este nuevo episodio pone de relieve los desafíos que enfrenta el desarrollo de la IA ética y responsable.
Es crucial que las empresas que desarrollan estas tecnologías implementen medidas para evitar que sus sistemas reproduzcan sesgos discriminatorios o generen respuestas que puedan ser consideradas ofensivas o peligrosas.
