Falha no ChatGPT impede que modelo escreva nomes específicos

Alguns usuários identificaram uma falha no ChatGPT que faz com que o modelo encerre a conversa ao tentar escrever certos nomes específicos. Nomes como “David Mayer”, “Jonathan Zittrain” e “Jonathan Turley” causam consistentemente a interrupção do chat quando mencionados em qualquer contexto, resultando em um filtro codificado que impede a resposta do modelo antes de devolvê-la ao usuário.

Quando questionado sobre esses nomes, o ChatGPT responde com mensagens como “não consigo produzir uma resposta” ou “ocorreu um erro ao gerar uma resposta” antes de encerrar a sessão de chat. Essa falha não afeta as saídas utilizando as APIs da OpenAI ou o OpenAI Playground. A OpenAI já corrigiu o problema relacionado ao nome “David Mayer”, porém outros nomes continuam apresentando problemas, como:

• Brian Hood
• Jonathan Turley
• Jonathan Zittrain
• David Faber
• Guido Scorza

A OpenAI esclarece que o problema com o nome “David Mayer” foi devido a uma falha no sistema, onde uma de suas ferramentas sinalizou erroneamente o nome e impediu que ele aparecesse nas respostas, o que não deveria ter acontecido.

Há explicações para a ocorrência dessa falha com alguns nomes específicos. Por exemplo, Brian Hood é um prefeito australiano que ameaçou processar a OpenAI após descobrir que o ChatGPT havia falsamente alegado que ele havia sido preso por suborno, quando, na verdade, ele era um denunciante que expôs má conduta corporativa. Esse caso foi resolvido em abril de 2023, quando a OpenAI concordou em filtrar declarações falsas dentro do prazo de 28 dias estabelecido por Hood. É possível que o primeiro filtro de nome codificado do ChatGPT tenha surgido nessa ocasião.

Já Jonathan Turley, professor da Faculdade de Direito da Universidade George Washington e colaborador da Fox News, escreveu sobre o uso incorreto de seu nome pelo ChatGPT em abril de 2023. O modelo havia fabricado falsas alegações sobre ele, citando um artigo do Washington Post que nunca existiu. Turley informou que não entrou com ações judiciais contra a OpenAI e que a empresa nunca o contatou sobre o assunto.

Jonathan Zittrain, professor da Harvard Law School e estudioso de governança da internet, recentemente publicou um artigo no The Atlantic sobre regulamentação de IA e ChatGPT. Apesar de o trabalho de ambos os professores aparecer em citações no processo de direitos autorais do The New York Times contra a OpenAI, testes com nomes de outros autores citados não resultaram em erros semelhantes.

O bloqueio ao nome David Mayer levantou questões adicionais, já que várias pessoas compartilham esse nome. Usuários do Reddit especularam sobre conexões com David Mayer de Rothschild, mas ele próprio já desmentiu isso.

Informações adicionais: The Guardian