Pentágono planeja utilizar IA para criar usuários falsos na internet

O Comando de Operações Especiais Conjuntas (JSOC, na sigla em inglês) busca empresas para auxiliar na criação de perfis falsos em plataformas de mídia social, projetados para serem tão realistas que não seriam identificáveis por humanos ou sistemas computacionais.

Além de imagens estáticas, o documento especifica que “a solução deve incluir imagens faciais e de fundo, vídeos faciais e de fundo, e camadas de áudio”. O JSOC pretende gerar “selfies em vídeo” dessas pessoas fabricadas, com fundos falsos correspondentes, de modo a criar um ambiente indetectável para algoritmos de redes sociais. De acordo com o documento, as tropas de operações especiais usariam essa tecnologia para coletar informações de fóruns públicos online, mas não há mais detalhes sobre outras aplicações dos usuários artificiais.

Essa iniciativa levanta preocupações quanto ao uso de ferramentas de criação de deepfakes, tecnologia que o próprio governo dos EUA classifica como uma ameaça significativa, especialmente se utilizada por nações adversárias para engano, fraude, desinformação e outras ações maliciosas. No início deste ano, a Unidade de Inovação em Defesa do Pentágono recorreu ao setor privado para combater deepfakes, enfatizando que a tecnologia “está se tornando cada vez mais comum e crível”.

Especialistas temem que o uso ofensivo dessa tecnologia pelos EUA possa incentivar sua proliferação e normalizá-la como ferramenta para outros governos.