Também tenho a mesma experiência com o ChatGPT, utilizo para tentar entender melhor alguns assuntos, mas muitas vezes responde coisas erradas e como se tivesse totalmente certo. Quando corrigimos ele pede desculpa e algumas vezes altera o que foi dito.
Realmente temos que tomar muito cuidado, mas talvez no futuro seja uma ferramenta que vamos usar muito.
Se parar pra pensar o Google tb é assim. Temos que saber pesquisar e utilizar a informação, pois tb tem muita informação falsa.