Apple Intelligence reescreve mensagens fraudulentas e as faz parecerem legítimas

Segundo relatos, o sistema, que pode resumir múltiplas notificações em uma única mensagem, está marcando mensagens fraudulentas como prioritárias e criando resumos que as tornam aparentemente legítimas. Um caso citado envolveu um alerta priorizado sobre uma falsa declaração de imposto para o Australian Tax Office (ATO), dizendo: “Imposto de Renda de 751,23 dólares australianos para o período de novembro a dezembro de 2024 está pendente para preparação”.

Os resumos gerados pela IA podem omitir detalhes importantes que ajudariam a identificar golpes, dificultando a distinção entre mensagens fraudulentas e legítimas. Com a reputação da Apple e o entusiasmo em torno da tecnologia de IA, muitos usuários podem confiar cegamente nos resumos fornecidos, aumentando a vulnerabilidade a fraudes. Um professor destaca que, em 2023, pessoas na Austrália perderam 2,7 bilhões de dólares para golpes, e funcionalidades como essa podem agravar o problema.

O professor também critica a tendência de empresas lançarem ferramentas de IA de maneira apressada, sem avaliar adequadamente os impactos na experiência do usuário, e corrigirem os problemas posteriormente. Ele defende que novos recursos de IA deveriam ser implementados gradualmente, permitindo que os usuários se adaptem.

A Apple planeja atualizar a funcionalidade para incluir uma indicação clara de que o texto exibido é um resumo gerado pela Apple Intelligence.