O ChatGPT e outras IA do mesmo tipo ainda são um tabu em muitos lugares, empresas, recrutadores e profissionais ainda não sabem lidar exatamente com isso e a questão do vazamento de informações que podem ser processadas e assimiladas de alguma forma por essas IA gera um medo de certa forma "racional" pelas empresas.

Mas falando da área de desenvolvimento acho que o maior problema não é esse, o que eu vejo como problema é que muitos devs "terceirizam" a execução da tarefa/demanda para as IA. Não para ganhar tempo mas por não saber resolver.

Vou citar o que você disse para dar um exemplo:

Isso é errado? Ou realmente é preciso passar horas pensando na solução de um problema?

Quando é errado:

• Não entendeu o problema de forma clara, e já jogou no GPT ou similar para ter uma resposta
• Não pesquisou nada antes de partir para uma geração automática para a solução
• Não tem conhecimento suficiente para saber se o que foi proposto pelo GPT é aplicavél ou pode gerar problemas direta ou indiretamente
• Não realizar testes em cima disso
• Usar dados reais da empresa, clientes e etc

Quando não é errado:

• Para ENTENDER melhor o problema e a partir de uma situação mais clara continuar o trabalho por si mesmo ou até mesmo continuar sendo auxiliado pelo GPT
• Para ganhar tempo, mas de uma coisa que você já tem domínio e saberia fazer sozinho (por exemplo, os getters e setters que algumas IDEs fazem)
• Para testar cenários, por exemplo, como ficaria o código se usar lib/técnica X ou invés de Y
• Criar testes que você não chegou a pensar, por exemplo, o GPT pode te sugerir um teste enviando um determinado campo string ao invés de número e isso ser um teste que você não pensou em escrever

Veja que nos exemplos que eu coloquei, o que na minha visão é o certo é quando o programador tem controle sobre o que está sendo feito sem comprometer dados da empresa. Isso é usar as IAs como ferramentas ou até mesmo como pair programming.

A partir do momento que a IA está fazendo coisas que você não entende, ou você passa para ela definir coisas que você mesmo nem entendeu a princípio, aí sim está gerando um problema para o projeto, para o time, para o contratante e claro para você mesmo.