Ah, ele está adivinhando o que o usuário quer de verdade, então tá. E eu achando que ele só consegue pegar um texto e criar outro, em geral errando muito o que obriga um ser humano sempre revisar e interpretar para não aceitar um erro que pode trazer mais problemas, e que assim dá mais trabalho que não usá-lo.
Não se pode confiar em algo inconfiável. Imagina por isso em um carro e mandar sair na ruas. A maior parte do tgempo ele faz tudo direito, só cada 5 minutos ele atropela uma pessoa.
Um dia vou querer ver resuultados bons, até agora tudo o que eu vi publicamente são pessoas ficando deslumbradas com resultados que são visivelmente ruins. Esse é o nível de histeria que eu falo.
O que pode acontecer é o que falam de IA criando música e coisas afins. Ela cria música muito ruim, mas é melhor que muitas criadas por humano que fazem sucesso hoje em dia. Então aí é bem útil, a comparação é com um nível abaixo da crítica.
Eu vi resultados bons em coisas extremamente simples como fazer uma tradução, uma correção de texto, mesmo isso dá algum trabalho, mas tende compensar. Um resumo ele já costuma dar um resultado ruim e não sabe pegar o que realmente é importante e descarta o que não deve.
Eu até diria que eu sou muito burro para conseguir resultados bons, mas aí ficaria sem explicação porque as outras pessoas também não conseguem esses resultados realmente bons.