Pesquisadores afirmam que será impossível controlar uma IA superinteligente

Segundo os cientistas, o problema de controlar uma superinteligência que está muito além da compreensão humana é que isso exigiria uma simulação dessa superinteligência que poderíamos analisar (e controlar). Mas se não formos capazes de compreendê-la, seria impossível criar tal simulação.

Regras como “não causar danos aos humanos” não podem ser estabelecidas se não entendermos o tipo de cenário que uma IA apresentará. Uma vez que um sistema de computador esteja funcionando em um nível acima do escopo de nossos programadores, não mais seria possível estabelecer limites.

Parte do raciocínio da equipe veio do “problema de parada” proposto por Alan Turing em 1936. O problema se concentra em saber se um programa de computador chegará ou não a uma conclusão (e portanto, parar), ou simplesmente fará um looping eterno tentando encontrar uma resposta.

Como Turing provou por meio de matemática, embora possamos saber disso para alguns sistemas específicos, é logicamente impossível encontrar uma maneira que nos permita saber disso para cada sistema em potencial que possa ser programado.

Neste caso aqui, uma IA em estado superinteligente poderia armazenar todos os programas de computador possíveis em sua memória de uma só vez.

E qualquer sistema programado para impedir que ela prejudique os humanos, por exemplo, poderia chegar a uma conclusão (e parar) ou não – é matematicamente impossível ter certeza absoluta.

Uma alternativa para isso seria limitar as capacidades dessa superinteligência. Porém, o estudo rejeitou essa ideia, sugerindo que ela também limitaria o alcance da inteligência artificial.

O argumento é que: se não vamos usar essa tecnologia para resolver problemas além de nosso escopo, então por que criá-la?

Outro ponto é que, se a criação de uma superinteligência além do nosso controle vier a acontecer, talvez nem saibamos desse fato - tamanha seria sua incompreensibilidade.

Em suma, isso tudo significa que precisamos começar a nos questionar seriamente sobre a direção para a qual estamos caminhando.