Alguns pesquisadores não acreditam que será possível resolver problema de “alucinação” do ChatGPT

O sistema foi apenas projetado como um modelo estatístico que prevê uma palavra após a outra, sendo inevitável que, em algum momento, a geração de texto seja imprecisa ou simplesmente falsa. O problema, na verdade, estaria na inerente incompatibilidade entre a tecnologia e os casos de uso propostos, como conselhos médicos, por exemplo.