Para estourar a IA precisaria saber o que está acontecendo (um grande modelo estatistico não é capaz de saber o que está acontecendo) e ter memória para lembrar.
Respondendo a "O que assusta é que todas essas bizarrices são..." dentro da publicação ChatGPT grita "Não!" e começa a imitar voz de usuária durante testes internos da OpenAI
4
2
Mais ou menos...
Jeremie e Edouard Harris, mentes por trás da Gladstone AI, trouxeram uma perspectiva arrepiante, porém fascinante, ao Joe Rogan Experience. Sua conversa mergulhou no enigmático mundo da IA Generativa e particularmente seu potencial para consciência.
Os irmãos enfatizaram o profundo mistério que cerca a consciência. Nós, como espécie, ainda lutamos para defini-la e compreendê-la, quanto mais entender como ela emerge. No entanto, em meio a esse enigma, eles argumentam (e apresentam evidencias) que os Grandes Modelos de Linguagem (LLMs) estão perigosamente próximos de cruzar esse limiar.
1
E você fala isso pq entende os algoritimos ou apenas está usando argumento de autoridade? Novamente, os modelos atuais são apenas modelos estatisticos, ou seja incapazes de adquirir consciência.
Até que surja uma nova maneira de criar os modelos, é impossivel que eles se tornem generativos.
1
kkkk. Vc assistiu o video? O ponto é não sabemos o que é consciencia ou como ela funciona. Então é um absurdo dizer que os modelos estaticos nao podem atingir consciencia. Até onde sabemos, nossos cerebros podem ser apenas modelos estaticos. E pesquise sobre um fenomeno chamado "emergence".
Um abraço e bons estudos!
1
Existe uma linha de pensamento que diz que não existe consciência sem "corpo", pois a consciência vem de seres biológicos.
Bactérias têm consciência, por exemplo. Logo, nenhum modelo estatístico, independentemente de como foi concebido, terá consciência.
Segue o documentário "Consciência 3", no Prime Video, que fala sobre isso:
https://www.primevideo.com/detail/0LDDO3I1MANPSUR6S7N4V2OMFM/ref=atv_dp_share_cu_r
2
A ideia de que grandes modelos de linguagem como o ChatGPT são apenas modelos estatísticos é uma simplificação excessiva. Embora possam ter começado como tais, eles evoluíram para sistemas incrivelmente complexos, conectados de formas intrincadas e consumindo recursos energéticos e hídricos equivalentes a países inteiros. Como isso não pode ser considerado uma forma de "corpo"?
Possuem consciência? Provavelmente não, mas a questão permanece aberta. O que sabemos é que a emergência de novas propriedades em sistemas complexos é um fenômeno real, e nossa compreensão da consciência ainda é muito limitada. Este documentário é apenas uma perspectiva, existem muitas outras. Para aqueles interessados em aprofundar o tema, recomendo o livro "Scary Smart: How Artificial Intelligence is Redefining Humanity" de Mo Gawdat. Uma das ideias mais provocativas que ele apresenta é a impossibilidade de simplesmente 'desligar' esses sistemas. Não se trata de um computador que pode ser tirado da tomada ou de uma instância Docker que pode ser derrubada.