Para estourar a IA precisaria saber o que está acontecendo (um grande modelo estatistico não é capaz de saber o que está acontecendo) e ter memória para lembrar.
Respondendo a "O que assusta é que todas essas bizarrices são..." dentro da publicação ChatGPT grita "Não!" e começa a imitar voz de usuária durante testes internos da OpenAI
4
2
Mais ou menos...
Jeremie e Edouard Harris, mentes por trás da Gladstone AI, trouxeram uma perspectiva arrepiante, porém fascinante, ao Joe Rogan Experience. Sua conversa mergulhou no enigmático mundo da IA Generativa e particularmente seu potencial para consciência.
Os irmãos enfatizaram o profundo mistério que cerca a consciência. Nós, como espécie, ainda lutamos para defini-la e compreendê-la, quanto mais entender como ela emerge. No entanto, em meio a esse enigma, eles argumentam (e apresentam evidencias) que os Grandes Modelos de Linguagem (LLMs) estão perigosamente próximos de cruzar esse limiar.
1
E você fala isso pq entende os algoritimos ou apenas está usando argumento de autoridade? Novamente, os modelos atuais são apenas modelos estatisticos, ou seja incapazes de adquirir consciência.
Até que surja uma nova maneira de criar os modelos, é impossivel que eles se tornem generativos.
1
kkkk. Vc assistiu o video? O ponto é não sabemos o que é consciencia ou como ela funciona. Então é um absurdo dizer que os modelos estaticos nao podem atingir consciencia. Até onde sabemos, nossos cerebros podem ser apenas modelos estaticos. E pesquise sobre um fenomeno chamado "emergence".
Um abraço e bons estudos!
1
Existe uma linha de pensamento que diz que não existe consciência sem "corpo", pois a consciência vem de seres biológicos.
Bactérias têm consciência, por exemplo. Logo, nenhum modelo estatístico, independentemente de como foi concebido, terá consciência.
Segue o documentário "Consciência 3", no Prime Video, que fala sobre isso:
https://www.primevideo.com/detail/0LDDO3I1MANPSUR6S7N4V2OMFM/ref=atv_dp_share_cu_r
2
A ideia de que grandes modelos de linguagem como o ChatGPT são apenas modelos estatísticos é uma simplificação excessiva. Embora possam ter começado como tais, eles evoluíram para sistemas incrivelmente complexos, conectados de formas intrincadas e consumindo recursos energéticos e hídricos equivalentes a países inteiros. Como isso não pode ser considerado uma forma de "corpo"?
Possuem consciência? Provavelmente não, mas a questão permanece aberta. O que sabemos é que a emergência de novas propriedades em sistemas complexos é um fenômeno real, e nossa compreensão da consciência ainda é muito limitada. Este documentário é apenas uma perspectiva, existem muitas outras. Para aqueles interessados em aprofundar o tema, recomendo o livro "Scary Smart: How Artificial Intelligence is Redefining Humanity" de Mo Gawdat. Uma das ideias mais provocativas que ele apresenta é a impossibilidade de simplesmente 'desligar' esses sistemas. Não se trata de um computador que pode ser tirado da tomada ou de uma instância Docker que pode ser derrubada.
0
Na verdade apesar de não saber definir a consciência ela já foi postulada, então um ser consciente tem algumas caracteristicas:
- Eu, um ser consciente consegue se sustentar por si só, ou seja ele sabe de suas necessidades e busca ativamente suprir elas ainda que não consiga
- Intencionalidade, um ser consciente consegue planejamento ainda que momentaneo para atingir determinado objetivo de forma intencional (entendendo o que está fazendo), um equivalente vivo: um ser se alimenta e se esconde para digerir em segurança
- Percepção de realidade, basicamente captar sinais, interpretar e responder aos sinais
- Modelagem da realidade, um ser consciente consegue formular e testar hipóteses
- Memória, um ser consciente consegue armazenar e resgatar informações ainda que o contexto geral mude, um equivalente vivo
- Modelagem da realidade, um ser consciente consegue entender a distância entre eventos (uma forma cotidiana de entender o tempo)
- Instintivo, todas as caracteristicas acima não podem ser induzidas (não confundir estimular com induzir), devem ser instintivas como acontece com um bebê
Se uma IA conseguir cumprir todos os requisitos ela é consciente, a questão é que é possível simular isso numa IA, só que simular é diferente de ter a característica