Não use o ChatGPT para fazer cálculos
O chatGPT, assim como diversas outras LLMs (Large Language Models), é uma excelente ferramenta para identificar padrões (seja em textos ou em bases de dados quaisquer) e, principalmente, para dar respostas de forma "humanizada".
Ou seja: faça uma pergunta e tenha uma resposta parecida com algo que uma pessoa lhe diria.
Contudo, conforme alguém já disse, são apenas "papagaios estocásticos". Não sabem, de fato e não tem qualquer tipo de raciocínio.
Por isso, qualquer cálculo matemático apresentado ao chatGPT (pode ser o Gemini ou o LLmana, tanto faz) traz respostas ridículas.
Claro que o pessoal da OpenAI, Google,... estão trabalhando para melhorar isso mas, de fato, o que está "rolando" para que as LLMs apresentem respostas de cálculos corretos é a boa e velha programação.
Algo como "if (alguém perguntou sobre um cálculo matemático) then (chamar função de cálculos matemáticos)".
Enfim: a mensagem é que devemos usar a ferramenta (que é excelente) para a função certa e da forma certa. Não adianta querer que uma chave de fenda funcione como martelo.