Já foram detectados resultados gerados pela ferramenta muito semelhantes a códigos internos proprietários. A empresa também revelou que está trabalhando em uma ferramenta similar, apenas para uso interno.
É sempre um situação complicada usar assistence de código e o Chat GPT não é o problema, Github Copilot, Stack Overflow e etc tem o mesmo "problema".
Eu particuparmente não recomendo para desenvolvedores sem experiencia procurar ajuda em geradore código, procure pessoas com mais experiencia e entenda a solução do problema.
Não tem saída fácil, toda tecnologia vem com bônus e ônus.
Lidar com esse ônus é ensiar a como utilizar essas ferramentas ao invés de proibilas.
Sem sombra de dúvidas é uma ferramenta excelente , no entanto temos que lembrar quue o chatgpt também está aprendendo com a experiencia do usuário. Ou seja ele ainda comete erros , fiz um teste com a lignuagem ABAP e posso afirmar que o chat errou umas 5 vezes os códigos para a criação de um formulário. No entanto mesmo que a amazon venha a proibir seus funcionários a idéia e as soluções ainda demandam boa parte da experiência do DEV.