Primeiro, para entender bem o que é o ChatGPT e como ele funciona, leia aqui (e siga todos os links que tem lá).

Viu tudo? Entendeu que ele não pensa, não analisa, não raciocina, não chega a conclusões, nada disso? Ele é só um gerador de lero lero avançado, um autocomplete turbinado.

Ele está apenas adicionando a próxima palavra, levando em conta as anteriores e as probabilidades com que tais palavras aparecem juntas nos textos que foram usados para treiná-lo.

Por isso ele não tem como começar algo sozinho, vc sempre precisa fornecer o prompt inicial (que podemos chamar vagamente de "contexto").

Ele não vai "criar consciência" e sair programando sozinho. E como as respostas que ele dá nem sempre estão corretas, sempre vai precisar de alguém pra conferir tudo que ele faz.