Ele pode induzir a pessoa a erro.
Ele pode fazer as pessoas negligenciarem a necessidade de estudo aprofundado, disciplinado e comprometido por completo.
Ele pode, e faz. E estamos vendo ser usado como uma muleta já que a pessoa não quer fazer fisioterapia para andar com as próprias pernas e usá-lo só quando ele traz ganhos e não como única forma de andar, até porque com muleta não se anda bem.
Minha observação, falha, é verdade, é que só as pessoas que precisam de muletas estão se dando claramente bem com ele neste momento. Não sei o futuro. Tenho conversado com bons programadores e quase todos alegam que o ChatGPT não está ajudando. Pelo contrário, tem sido até mesmo uma distração e atrasa o trabalho na programação.
O ChatGPT aprendeu com a internet. Que tem muita, mas muita informação errada. Erro crasso ou erro relativo. Ele aprendeu com coisas que são escritas em contextos muito específicos, que ele não consegue identificar (até humanos costumam ter essa dificuldade, por isso endeusam livros como Clean Code, quando ele tem um serventia mais limitada e específica), ou então com coisas marketeiras, que cada vez é mais comum (o que inclui partes do Clean Code e outros livros), ou até mesmo com coisas incontestavelmente erradas.
Ele pode ser usado em alguns casos com produtividade? Claro que sim. Mas ainda é raro e geralmente só auxilia quem tem limitações.
Uma calculadora é ótima para quem domina a matemática. Mas ela serve de desculpa para a pessoa não aprender oque precisa e sempre ser limitada.
Se ele te ensinar errado, você treinará o erro e é ele que sempre fará. E assim o retroalimentará para ensinar mais errado ainda.
Conhecimento e criatividade são aspectos muito humanos, e IA não faz milagre. A IA é ótima para fazer processos mecânicos e repetitivos. Algum ponto da programação é assim, mas boa parte não é. E ele não se importa em tentar assim mesmo. Ele não diz não para você, ele inventa algo e te convence que é bom.
O maior problema da IA é as pessoas não usarem certo, onde é bom e evitar onde é só uma máscara para a própria incompetência.
Não sou eu que inventei, são algumas das melhores mentes em ciências da mente que dizem que o ChatGPT e outras coisas do tipo vão destruir a humanidade não porque elas vão tomar o poder, mas porque os seres humanos vão se render a algo que os torna menos humanos. Vão comprar a facilidade de curto prazo em detrimento do longo prazo que fez nós sermos o que somos. Máquinas foram tirando algumas coisas necessárias para o ser humano, ao ponto que tivemos que inventar substitutos como academia físicas. Assim como a calculadora, o computador ajudou nisso, a internet mais ainda, especialmente o Google, que é cada vez pior, junto com a redes sociais que entregam o conhecimento em delivery (que vemos o tempo todo as pessoas perguntando por coisas que foram respondidas milhares de vezes e pode ser achado, que na maioria das vezes tem em livro, ou que entrega o centro eliminando o que faz a pessoa se desenvolver) em vez de você saber fazer, que é tão necessário para nossa evolução. o ChatGPT é só um passo adiante de como essa facilidade vai entrando as pessoas e tornando tudo fragmentado na cabeça delas.
Não é por acaso que as pessoas se sentem cada vez mais perdidas, mais "burras", mais indecisas, com dificuldade de obter vagas, especialamente as boas, com mais dificuldade de realizar qualquer coisa que não seja mecânica, que curiosamente é onde a IA vai substituí-lo. Algumas pessoas já não conseguem entender este texto, mesmo achando que entenderam, o que é pior, é semelhante à pessoa achar que o ChatGPT está ajudando sempre. A pessoas sempre acham que "com ela não vai acontecer", especialmente os mais jovens.
Sim, eu sou chato e sempre que tiver a oportunidade vou alertar as pessoas. Cada um faz o que achar melhor, e sofrerá as consequências. Sei que eu não mudarei o mundo, mas faço minha parte.
Faz sentido para você?
Espero ter ajudado.
Farei algo que muitos pedem para aprender a programar corretamente, gratuitamente. Para saber quando, me segue nas suas plataformas preferidas. Quase não as uso, não terá infindas notificações (links aqui).