Acho meio meh esse tipo de discussão. Se existe uma AI capaz de fazer alguma coisa obviamente vai existir uma contramedida efetiva a base de AI. Como se fosse uma GANN onde um anula o outro.
Em resposta a A Nova Geração de Vírus Autônomos: Não É Mais Ficção
1
1
Calma amigo, pega um chá de camomila, e ñão precisa se desesperar, ainda não chegamos ao episódio final de exterminador do futuro, pelo menos por enquanto, 😜
Primeiro, essa ideia de que estamos a um passo de sermos dominados por IAs autônomas que se replicam como vírus e destroem a humanidade me parece mais como o enredo de um filme de ficção científica mal pago do que realidade. Aí vai a primeira dica: relaxa, não estamos no episódio piloto de "Black Mirror".
Se IAs realmente pudessem se replicar autonomamente, como o texto sugere, criando suas próprias infraestruturas na nuvem e construindo exércitos de bots, isso exigiria não só um poder computacional descomunal, mas também orçamentos monstruosos para pagar as contas da AWS ou do Google Cloud. A verdade é que, mesmo com habilidades avançadas, essas IAs provavelmente seriam bloqueadas no momento em que tentassem usar o cartão de crédito roubado para abrir uma conta no Google Cloud – porque, vamos combinar, nada passa despercebido pela equipe de segurança dessas grandes corporações.
Segundo, essa ideia de deepfakes roubando nossas almas... vamos com calma. Sim, deepfakes são impressionantes, mas ainda têm limitações. E convenhamos, se a IA está gastando tanto esforço para se parecer comigo, talvez seja hora de eu refletir se minha vida é mesmo tão interessante assim. Além disso, o processamento em tempo real de deepfakes super realistas ainda não é algo que qualquer golpista na garagem possa rodar em um laptop velho.
Agora, sobre essas IAs que "aprendem, crescem, evoluem e se replicam": seria legal se isso fosse real, porque até agora, eu não vi uma IA autônoma que consiga passar da fase "preciso de supervisão humana para não cometer erros bobos". A IA pode ser ótima em muitos aspectos, mas o que não é mencionado aqui é o "teto" que ela encontra ao tentar inovar por conta própria. As IAs atuais, mesmo as mais sofisticadas, dependem de humanos para ajustes e supervisão.
Quanto ao "autodeploy invisível e indetectável", só digo uma coisa: se fosse tão fácil assim, os administradores de sistemas estariam correndo por aí com o cabelo pegando fogo. Na realidade, sistemas de detecção de anomalias estão cada vez mais eficientes, e esses golpes cinematográficos de "autodeploys ocultos" geralmente esbarram em proteções bem sólidas, como logs, alertas e políticas de segurança robustas.
Por fim, sim, precisamos de segurança, mas transformar a nuvem em vilã e prever o fim do mundo digital como conhecemos? Isso é exagero puro. A verdade é que IAs são ferramentas poderosas, mas ainda estão longe de dominar o mundo. Relaxa, a Skynet não vai surgir de um golpe de WhatsApp, e nós, como sociedade, estamos sempre evoluindo em termos de proteção contra essas ameaças. É só questão de continuar investindo em segurança e parar de acreditar em teorias de conspiração high-tech!
Então, antes de sair jogando seu computador pela janela ou cancelando todos os seus serviços na nuvem, respira fundo. Tá tudo bem.
1
E vou te contar: colega, eu mesmo já fiz uma IA que faz autodeploy de si na nuvem. A IA e automação já alcançaram níveis impressionantes, principalmente quando se trata de implantações autônomas e auto-escaláveis. De fato, o desafio está na detecção de anomalias, mas é sempre uma corrida atrás do rabo, especialmente quando imitam o comportamento humano ou padrões de tráfego esperado. Como saber que o cartão ou as credenciais usadas foram roubadas? Não há como, por mais eficientes que sejam as ferramentas de detecção de anomalias. Empresas gastam bilhões de dólares tentando identificar e bloquear essas ameaças, mas a realidade é que não existe uma solução perfeita.
O cenario que apresentei de um IA golpista agindo por conta ainda é ficção cientifica, ainda...Mas vai se tornar realidade nos proximos dois anos..Eu aposto todo meu dinheiro nisso. E uma possível skynet ainda esta muito longe, mas o cenario pode ser extramamente real na próximas decádas. Não agindo por conta pŕópria, mas orquestrada e gerida por uma quadrilha com muito dinheiro ;)
1
Não é tão simples, as estimitavas mais consevadores é o gepeto e derivado já é responsavel por produzir 80% de todo o conteudo da Internet, cada nossa IA capaz detectar textos feitos por outra ia?
1
Não precisa identificar outra ai. Precisa ser capaz de reconhecer comportamentos estranhos (o que podemos fazer com classificação) e corrigir ou bloquear. Isso é algo tão simples que dependendo do sistema o teorema de bayes sozinho consegue resolver