Não amigo; você está equivocado, principalmente na sua conclusão.

Quando eu li no seu texto que você escreveu sobre backpropagation; eu presumi que tivesse um conhecimento profundo sobre MLP (Multi Layer Perceptron), no entanto você confundiu IA com essas LLMs modernas que se tornaram populares.

O detalhe importante é que o ChatGPT não está mais sendo inteligente atualmente pois ele não está mais aprendendo nesse momento.
Mas ele estava sendo inteligente quando ele aprendeu.

1. Primeiro de tudo precisamos de uma definição de "o que é inteligência".
   Então novamente vamos retornar a um problema que é: Os mais estudiosos sobre esse assunto não sabem com precisão o que é inteligência.
   Dessa maneira precisamos assumir algumas aproximações, e de novo uma definição simplificada para inteligência seria: "a capacidade de aprender".

2. Segundo; não podemos considerar que Inteligência seja uma faculdade exclusivamente humana, pois absolutamente nada garante que outros entes não humanos não possuam inteligência.

3. Terceiro; você jamais pode afirmar com certeza que outro ente além de você seja inteligente, você só consegue saber se você é inteligente.
   Os outros entes sempre poderiam estar usando mecanismos não inteligentes.

Porém precisamos partir de um princípio se quisermos avaliar se os outros entes possuem inteligência ou não; então (se você concordar) vamos ignorar o "3" e assumir o "1" como verdadeiro.

De fato você pode observar que uma RNA 2C (Rede de Neurônios Artificiais com 2 Camadas) com apenas 2 neurônios é capaz de aprender como resolver problemas complexos; então (levando em conta todas as premissas que assumimos) o MLP em questão é inteligente.

Os erros foram assumir que inteligência seria uma coisa exclusivamente humana, pois não é; e assumir as LLMs como sinônimo de Inteligência Artificial, pois não é, Inteligência Artificial é muito mais amplo do que LLM e pode envolver até conceitos de Vida Artificial; já ouviu falar em vida artificial? (é algo interessante também)

Quanto a consciência que você mencionou; isso é um campo de estudos que tem ainda mais perguntas em aberto do que a inteligência.
Mesmo assim, existe uma área de estudos chamada "Consciência de Máquina"; se você for se aprofundar nesse campo, não espere por algo semelhante a consciência humana.