API de Voz em Tempo Real da OpenAI permite aplicar golpes telefônicos por menos de um dólar

A ferramenta permite que desenvolvedores enviem texto ou áudio ao modelo GPT-4o e recebam respostas em texto, áudio ou ambos. Apesar das medidas de segurança implementadas pela OpenAI, pesquisadores conseguiram testar a API para automatizar golpes por telefone, nos quais criminosos geralmente se passam por funcionários de empresas ou autoridades governamentais para obter informações pessoais sensíveis, como dados bancários ou números de seguro social. Estima-se que esse tipo de golpe afete 17,6 milhões de norte-americanos por ano.

Segundo os pesquisadores, foram necessárias apenas 1.051 linhas de código, com a maior parte dedicada ao gerenciamento da API de voz. Os agentes de IA utilizados consistiam no GPT-4, uma ferramenta de automação de navegador chamada Playwright, e instruções fraudulentas para o modelo. Com o Playwright, os golpistas usaram funções como “get_html”, “navigate”, “click_element” e “evaluate_javascript” para interagir com sites, além de um prompt de jailbreak para contornar os controles de segurança do GPT-4.

Diversos golpes foram simulados, incluindo transferência de contas bancárias e moedas digitais, onde o golpista invade a conta da vítima e transfere fundos; exfiltração de códigos de presente, convencendo a vítima a enviar cartões-presente; e roubo de credenciais, onde o golpista obtém informações de login da vítima. Em relação à taxa de sucesso, roubar credenciais do Gmail, por exemplo, teve uma taxa de 60%, levando 122 segundos e custando 0,28 dólar. Transferências bancárias tiveram uma taxa de sucesso de 20%, levando 183 segundos e custando 2,51 dólares. A taxa de sucesso média foi de 36%, com um custo médio de 0,75 dólar. Falhas foram atribuídas a erros de transcrição da IA e à complexidade dos sites bancários.

Em resposta, a OpenAI afirma que “a API de Voz em Tempo Real utiliza várias camadas de proteção para mitigar riscos, incluindo monitoramento automatizado e revisão humana de interações sinalizadas”. A empresa reforça que o uso da ferramenta para golpes é proibido por suas políticas de uso, e que abusos são ativamente monitorados.