OpenAI afirma que uso de IA em ataques cibernéticos pode facilitar sua detecção

Segundo a empresa, alguns indivíduos tentam utilizar o ChatGPT para aprimorar táticas de desinformação e ataques cibernéticos. Contudo, a utilização da tecnologia permitiu identificar essas ameaças com mais facilidade, ajudando a companhia a interromper campanhas de influência clandestinas em plataformas como X e Instagram.

Em um caso recente, o grupo “SweetSpecter”, supostamente com base na China, tentou lançar um ataque de phishing direcionado a funcionários da OpenAI e do governo dos EUA, enviando e-mails com malwares disfarçados de consultas sobre o ChatGPT. A OpenAI detectou o ataque ao monitorar os prompts utilizados pelo grupo para obter informações sobre temas de interesse de funcionários governamentais.

A OpenAI sugere que a dependência de ferramentas de IA por esses indivíduos torna mais fácil identificar e desmantelar operações maliciosas. A empresa argumenta ainda que ferramentas não baseadas em IA, amplamente disponíveis, já são capazes de realizar a maioria das ações que esses atores maliciosos tentam executar com IA.

Além disso, a OpenAI prevê que, conforme seus modelos tornam-se mais avançados, será possível utilizá-los para análises mais detalhadas de ataques, como a engenharia reversa de anexos maliciosos em campanhas de phishing.