Executando verificação de segurança...
6

ChatGPT grita "Não!" e começa a imitar voz de usuária durante testes internos da OpenAI

O caso foi revelado durante um processo de “red teaming” para identificar pontos fortes e riscos do GPT-4o.

O fato do modelo ter sido treinado não apenas em texto e imagens, mas também em dados de voz, pode ocasionar comportamentos inesperados e, às vezes, problemáticos, como a imitação da voz da pessoa com quem o modelo está interagindo, que tende a ocorrer em ambientes com muito ruído de fundo, como dentro de um carro em movimento. A OpenAI explica que isso se deve à dificuldade do modelo em compreender a fala distorcida nessas situações.

Além disso, o ChatGPT pode gerar sons perturbadores ou inapropriados, como gritos violentos, quando solicitado de maneiras específicas. Embora a OpenAI tenha implementado filtros para barrar esses sons, algumas solicitações ainda conseguem superar essas barreiras.

Carregando publicação patrocinada...
3
4

Para estourar a IA precisaria saber o que está acontecendo (um grande modelo estatistico não é capaz de saber o que está acontecendo) e ter memória para lembrar.

2

Mais ou menos...

Jeremie e Edouard Harris, mentes por trás da Gladstone AI, trouxeram uma perspectiva arrepiante, porém fascinante, ao Joe Rogan Experience. Sua conversa mergulhou no enigmático mundo da IA Generativa e particularmente seu potencial para consciência.

Os irmãos enfatizaram o profundo mistério que cerca a consciência. Nós, como espécie, ainda lutamos para defini-la e compreendê-la, quanto mais entender como ela emerge. No entanto, em meio a esse enigma, eles argumentam (e apresentam evidencias) que os Grandes Modelos de Linguagem (LLMs) estão perigosamente próximos de cruzar esse limiar.

https://youtu.be/c6JdeL90ans?si=cGT91BOA7cm2Kn6k

1

E você fala isso pq entende os algoritimos ou apenas está usando argumento de autoridade? Novamente, os modelos atuais são apenas modelos estatisticos, ou seja incapazes de adquirir consciência.

Até que surja uma nova maneira de criar os modelos, é impossivel que eles se tornem generativos.

1

kkkk. Vc assistiu o video? O ponto é não sabemos o que é consciencia ou como ela funciona. Então é um absurdo dizer que os modelos estaticos nao podem atingir consciencia. Até onde sabemos, nossos cerebros podem ser apenas modelos estaticos. E pesquise sobre um fenomeno chamado "emergence".
Um abraço e bons estudos!

1
2

A ideia de que grandes modelos de linguagem como o ChatGPT são apenas modelos estatísticos é uma simplificação excessiva. Embora possam ter começado como tais, eles evoluíram para sistemas incrivelmente complexos, conectados de formas intrincadas e consumindo recursos energéticos e hídricos equivalentes a países inteiros. Como isso não pode ser considerado uma forma de "corpo"?

Possuem consciência? Provavelmente não, mas a questão permanece aberta. O que sabemos é que a emergência de novas propriedades em sistemas complexos é um fenômeno real, e nossa compreensão da consciência ainda é muito limitada. Este documentário é apenas uma perspectiva, existem muitas outras. Para aqueles interessados em aprofundar o tema, recomendo o livro "Scary Smart: How Artificial Intelligence is Redefining Humanity" de Mo Gawdat. Uma das ideias mais provocativas que ele apresenta é a impossibilidade de simplesmente 'desligar' esses sistemas. Não se trata de um computador que pode ser tirado da tomada ou de uma instância Docker que pode ser derrubada.

0

Na verdade apesar de não saber definir a consciência ela já foi postulada, então um ser consciente tem algumas caracteristicas:

  • Eu, um ser consciente consegue se sustentar por si só, ou seja ele sabe de suas necessidades e busca ativamente suprir elas ainda que não consiga
  • Intencionalidade, um ser consciente consegue planejamento ainda que momentaneo para atingir determinado objetivo de forma intencional (entendendo o que está fazendo), um equivalente vivo: um ser se alimenta e se esconde para digerir em segurança
  • Percepção de realidade, basicamente captar sinais, interpretar e responder aos sinais
  • Modelagem da realidade, um ser consciente consegue formular e testar hipóteses
  • Memória, um ser consciente consegue armazenar e resgatar informações ainda que o contexto geral mude, um equivalente vivo
  • Modelagem da realidade, um ser consciente consegue entender a distância entre eventos (uma forma cotidiana de entender o tempo)
  • Instintivo, todas as caracteristicas acima não podem ser induzidas (não confundir estimular com induzir), devem ser instintivas como acontece com um bebê

Se uma IA conseguir cumprir todos os requisitos ela é consciente, a questão é que é possível simular isso numa IA, só que simular é diferente de ter a característica

0