O problema é que o ChatGPT muitas vezes dá respostas erradas.

Pior ainda, muitas vezes a resposta é meio certa. Ela parece correta pra um iniciante, mas qualquer um que conheça um pouco mais do assunto já percebe que está cheio de problemas.

Esse é o problema de iniciantes usarem sem critério, achando que ele está sempre certo. Muitas vezes ele não está.