O dia que eu pedi pro Chat GPT criar um novo campo na minha tabela e ele entender que essa coluna nova vai precisar migrar dados de outra tabela, validar todos locais possíveis que isso vai afetar meu sistema e ainda testar e deixar um código com boa legibilidade, dai pode começar a ter medo.
No mais as IA são incapazes de saber todos os detalhes dos nossos projetos, ainda mais se tratando de projetos extensos que envolvem uma série de outros serviços e tecnologias.
Respeito seu ponto de vista, mas não poderia deixar de comentar que, em relação a IA, sempre vejo frases do tipo "no dia em que ela fizer tal coisa, eu começo a me preocupar". Eu observo que muitas frases como essa envelheceram bem rápido.
Por exemplo, eu fiquei chocado quando vi que uma versão do Gemini poderia receber um arquivo de vídeo, entendê-lo completamente, e responder qualquer pergunta sobre o vídeo e suas imagens. Isso já me parece mais complexo do que entender um sistema e as relações entre seus módulos.
Mas parte disso é possivel, desde que foi criado, só passar o modelo pra ele que ele entende e é uma mão na roda em trabalho braçal, mas apenas braçal. Mas claro, se precisar de uma segunda interação ai as coisas começam a desandar.