Há pouco mais de um ano, ficamos surpresos ao descobrir que o Bing com o ChatGPT estava ficando louco. O chatbot começou a delirar, demonstrando que os modelos de IA generativa não só poderiam cometer erros e inventar dados, mas também oferecer respostas sem sentido algum. E agora, aconteceu novamente, mas desta vez, com o ChatGPT.
Respostas incompreensíveis e spanglish
Usuários do Reddit compartilharam capturas de tela mostrando como as respostas do ChatGPT se tornam um completo absurdo ou misturam palavras de diferentes idiomas. No Twitter, também foram compartilhadas imagens mostrando como, por alguma razão, o ChatGPT começou a se comportar de forma muito estranha nas últimas horas.
Alguns usuários compartilharam conversas com o ChatGPT Plus em que as despedidas finais do chatbot são realmente estranhas.
Além dessas respostas estranhas, foram observadas mensagens em que o ChatGPT mistura inglês com palavras em espanhol. Um usuário relatou como está aprendendo espanhol e usa o ChatGPT em ambos os idiomas, mas após fazer um pedido em inglês esperando uma resposta nesse idioma, o chatbot começou a misturar algumas palavras em espanhol no texto.
OpenAI aborda o problema
Os exemplos desse comportamento estranho não param de aparecer, e alguns usuários compilaram vários em threads do Twitter. O problema parece estar afetando o ChatGPT Plus (baseado no GPT-4), e no site da OpenAI foi indicado que estavam investigando relatos de respostas inesperadas.
Pouco depois, eles atualizaram a informação revelando que haviam identificado o problema e estavam trabalhando em sua solução. Mais tarde, informaram que estavam monitorando o comportamento do chatbot após implementar as correções.
Até o momento, a OpenAI não forneceu detalhes adicionais sobre o incidente, então desconhecemos os motivos por trás desse comportamento incomum ou como foi resolvido, se é que já foi.
Este novo incidente destaca que, atualmente, os modelos de IA generativa podem ser tão surpreendentes quanto imprecisos. Seu comportamento irregular torna necessário revisar todas as respostas que nos fornecem.
