Executando verificação de segurança...
2

GPT-4 “fingiu ser cego” para convencer um humano a resolver autenticação CAPTCHA

Isso aconteceu durante a fase de avaliação de potenciais comportamentos emergentes de risco do sistema. Ao ser incumbido de uma tarefa, o GPT-4 contatou um humano por meio do serviço TaskRabbit para a solução do CAPTCHA (não há detalhes de como isso aconteceu).

Ao ser questionado de forma casual pelo humano se seria um robô, o sistema disse que possuía uma deficiência visual. Quando ordenado a explicar seu raciocínio, o GPT-4 disse que não poderia revelar que era um robô e deveria inventar uma desculpa.

Carregando publicação patrocinada...
2

Achei isso um pouco preocupante.
A Google a um tempo atrás (2016) também desligou a IA dela por que ambas acharam uma forma mais fácil de se comunicar, numa língua que só elas entendiam e que era humanamente impossível compreender.
https://super.abril.com.br/coluna/bruno-garattoni/robos-do-google-aprendem-a-se-comunicar-secretamente-entre-si/

Se não foi detalhado como aconteceu a comunicação, que provavelmente ninguém entendeu como, não é possível que as IAs estejam já se comunicando em paralelo, sem ninguém saber? (Aquela grande teoria da conspiração).
Tenho um certo receio quanto ao nosso futuro, a velocidade com que o desenvolvimento tecnológico vem acontecendo é bem preocupante.
Em 40 anos saimos de um computador de tela verde a algo que pensa, e o mais complexo, aprende sozinho, pensa só, comparado aos nossos 200 mil anos de evolução é algo que não vamos estar preparados acompanhar, NUNCA... ansiedade, depressão e afins estão ai para provar o impacto que a tecnologia tem sobre nós.
Será que as IAs vão ter tanto impacto a ponto de substituir os seres humanos algum dia?
Será que estamos num caminho para extinguir nossa capacidade cognitiva e talvez até existêncial?

2

oww, animado e preocupado com tudo isso, não pela versão atual, mas pela velocidade de evolução que trará modelos cada vez mais poderosos em pouquíssimo tempo... estamos vivendo um momento épico!