Já dá pra fazer muita coisa com o GPT-J e o GPT-2, é que o pessoal não parou pra melhorar o modelo. E também quando o modelo do GPT-3 for melhorado também, vai dar pra fazer uma porrada de coisa, por enquanto é mais fácil apenas encher de parametros.
2