Eu achei interessante, como dito é so um autocomplete turbinado, mas o contexto parece ter um efeito enorme na resposta. Essa troca de linguagens é um truque comum de engenharia de prompt e pode ser usado para aqueles truques delar "dizer" coisas proibidas, na pratica ninguem sabe exatamente por que ou como funciona. Esse sim é dos grandes perigos dessas IAs, não temos ideia do que elas aprendem durante seu treinamento e que tipo de associaoções fazem.
Curioso e interessante essa resposta do chatgpt. Apesar de obviamente, mentirosa.