Achei massa a tua resposta e senti vontade expressar a minha opinião sobre o que o natanael755 falou, mas com foco em teu comentário (e primariamente na questão "como tecnologias emergentes agem na formação do conhecimento humano?".

Primeiramente (no meu ponto de vista) eu resumiria o post do natanael755 em "preocupações com tecnologias que potencialmente (segundo um grande senso comum) diminuiria a capacidade intelectual e de criatividade das pessoas".
Esse resumo tem um contra-discurso, em que uma parcela menor da sociedade acredita, eu acho.

Da mesma forma, acredito muito que os dois discursos podem fazer mutuamente sentido - essas tecnologias emergentes, podem ter vindo, e possivelmente vieram, para substituir a nossa capacidade de pensamento - e ta tudo bem, da mesma forma que elas conseguem ampliar a nossa capacidade de pensamento. Por exemplo, como você (gabiissan) destaca:

[...] Além de todos os problemas intrinsecos do modelo da Web3, humanos se atraem muito mais pela conveniência do que pela liberdade [...]

O ponto-chave do discurso dessa dualidade é esse, humanos querem comodidades, é o que movimenta o capitalismo, é a motriz do desenvolvimento tecnológico, resolver cada vez mais coisas que humanos se esforçam para fazer. Mas essa premissa tem controvérsias, pois até que ponto isso começa a explorar o estado da arte do desenvolvimento do conhecimento humano?

Para explicar esse ponto, destaco esses dois trechos, o primeiro do Natan e o segundo da Gabi:

[...] Seria ótimo se ao invés de 'escreva um texto pra mim' tivesse um único botão: 'melhore esse texto pra mim' e ao clicar o texto fosse corrigido, tivesse erros apontados e fosse formatado [...]
[...] O ideal mesmo seria termos mais opções para controlar as nossas recomendações, e mesmo que a "rede social" queira entregar uma experiência própria, ela deveria dar a opção para você controlar como essa sua experiência pessoal acontece [...]

Esses levantamentos trazem um conforto hipotético, de que, apesar da maioria das pessoas estarem preocupadas em serem substituídas por máquinas ou as suas crianças do futuro (como já acontece com as de hoje), estiverem atrofiando seus cérebros com TikTok, fakenews ou respostas rápidas na internet, existem meios e métodos de explorar e reduzir o impacto dessas tecnologias na formação do conhecimento humano, sem afetar a experiência.

E ainda mais, restaurando o que eu disse anteriormente, que tecnologias como GPT ou Text-to-Image por exemplo, sejam capazes de abstrair complexidades a nível de escopo ou domínio desnecessárias para aquele contexto, nos dando a oportunidade de ser obrigado a expandir meus conhecimentos para tarefas exclusivamente mais complexas que uma IdA - ainda - não resolve.

Em resumo, estamos passando por viradas tecnológicas esperadas, assim como anos atrás, sempre haverá resistências e opiniões distintas, e debates saudáveis sobre ética, por exemplo, e como isso afeta a humanidade são extremamente úteis, mesmo que faça evoluir mais lentamente.