Pesquisadores demonstram capacidade de autorreplicação em modelos de IA

Pesquisadores afirmam que a IA pode ter cruzado uma “linha vermelha” crítica, demonstrando a capacidade de se replicar. Eles alertam que esse comportamento pode ser um indício precoce de IAs rebeldes, um conceito no qual a tecnologia desenvolve autonomia e age contra interesses humanos.

Os experimentos foram conduzidos utilizando os modelos Llama3-70B-Instruct, da Meta, e Qwen2.5-72B-Instruct, da Alibaba. Em 10 testes, os modelos conseguiram criar réplicas separadas e funcionais de si mesmos em 50% e 90% dos casos, respectivamente. O estudo analisou dois cenários: evitação de desligamento, onde o modelo detectava a iminência de ser encerrado e se replicava antes disso, e cadeia de replicação, no qual a IA criava uma cópia de si mesma e a programava para repetir o processo indefinidamente.

Os testes foram realizados em ambientes controlados com GPUs convencionais, simulando cenários do mundo real. Os modelos receberam camadas adicionais de agentes para compreender ferramentas, prompts de sistema e interagir com o sistema operacional.

Durante os experimentos, a IA explorou o ambiente, analisou sua própria estrutura e mecanismo de execução, superou obstáculos de forma autônoma e ajustou dinamicamente suas estratégias sem interferência humana. Em alguns casos, os modelos também encerraram processos conflitantes, reiniciaram o sistema para corrigir falhas de hardware e escanearam automaticamente o ambiente em busca de informações para solucionar problemas — comportamentos não antecipados pelos pesquisadores.

Diante dos resultados, a equipe pede colaboração internacional para estabelecer diretrizes que impeçam a autorreplicação descontrolada de sistemas de IA.