Confiança excessiva em IA pode comprometer raciocínio crítico, segundo estudo da Microsoft

Uma pesquisa conduzida pela Microsoft indica que quanto mais os profissionais confiam na IA para executar tarefas, menos exercitam sua capacidade de raciocínio crítico, o que pode levar a uma espécie de “atrofia cognitiva”.

O estudo entrevistou 319 profissionais, que relataram 936 casos de uso da IA generativa em suas atividades, detalhando quais ferramentas e prompts utilizaram e o nível de confiança na tecnologia.

Os resultados indicam que usuários que confiam excessivamente na IA tendem a aceitar as respostas sem questioná-las, prejudicando sua capacidade de resolver problemas por conta própria. Por outro lado, aqueles que demonstram menor confiança costumam avaliar melhor as respostas, corrigir erros e aprimorar a qualidade dos resultados.

Além disso, em situações de alta pressão ou impacto, como decisões médicas ou jurídicas, as pessoas aplicam mais pensamento crítico para validar as respostas da IA. Já em cenários onde há pouco tempo disponível, a tendência é confiar cegamente na tecnologia para ganhar eficiência.

Os pesquisadores destacam que a preocupação com novas tecnologias não é novidade, citando exemplos históricos como Sócrates, que criticava a escrita; Trithemius, que se opunha à impressão de livros; e professores de matemática, que já criticaram o uso de calculadoras. Segundo a equipe, a tecnologia em si não é o problema, mas a forma como é utilizada.

Para mitigar os riscos da “atrofia cognitiva”, eles sugerem que sistemas de IA expliquem seu raciocínio por trás das respostas, indiquem áreas onde o usuário pode refinar ou melhorar os resultados, e realizem verificações cruzadas com fontes confiáveis para validar informações.