ChatGPT grita "Não!" e começa a imitar voz de usuária durante testes internos da OpenAI
O caso foi revelado durante um processo de “red teaming” para identificar pontos fortes e riscos do GPT-4o.
O fato do modelo ter sido treinado não apenas em texto e imagens, mas também em dados de voz, pode ocasionar comportamentos inesperados e, às vezes, problemáticos, como a imitação da voz da pessoa com quem o modelo está interagindo, que tende a ocorrer em ambientes com muito ruído de fundo, como dentro de um carro em movimento. A OpenAI explica que isso se deve à dificuldade do modelo em compreender a fala distorcida nessas situações.
Além disso, o ChatGPT pode gerar sons perturbadores ou inapropriados, como gritos violentos, quando solicitado de maneiras específicas. Embora a OpenAI tenha implementado filtros para barrar esses sons, algumas solicitações ainda conseguem superar essas barreiras.