Só confirma o que muitos vêm alertando (inclusive aqui: 1, 2, 3, 4).

Uma vez que vc entende como o ChatGPT funciona, começa a perceber que ele não tem como ser tão assertivo quanto gostaríamos. Essa consciência de que ele não é infalível é essencial para usarmos a tecnologia de uma forma melhor e mais produtiva.

No estágio atual, ele ainda é um estagiário limitado, porém confiante: diz as maiores barbaridades, mas com uma convicção tão grande que até te convence.

Claro que é uma ferramenta útil e provavelmente vai melhorar nos próximos anos. Mas ainda sim, precisa conferir muito bem tudo que ele responde. Muitas vezes tem erros graves porém sutis, que só um olhar mais atento e experiente consegue perceber (ou seja, iniciantes terão ainda mais dificuldade de separar o joio do trigo - até mesmo pessoas experientes têm caído na armadilha e deixado passar algumas coisas).