Discordo da sua posição sobre o limite de contexto do Chat GPT. Na minha experiência, nunca identifiquei tal restrição. Suspeito que a questão possa residir na maneira como você está programando com o Chat GPT. Se você não está fornecendo informações críticas ao "contexto", como nome do projeto, diretório do arquivo e similares, isso pode levar à sobrecarga do modelo com um emaranhado de informações desconexas ou bagunçadas, afetando sua habilidade de processamento.
Na extensão que criei, o Chat GPT mostrou-se eficaz ao operar sem quaisquer limitações de contexto. Com todos os dados relevantes ao seu dispor e inclusive aqueles que podem parecer triviais para o usuário ele foi capaz de criar novas pastas, sugerir a estrutura de diretórios ideal para um projeto, e até mesmo realizar tarefas de refatoração, manipulando diretórios, nomes de pastas, arquivos e código (o que me surpreendeu bastante). O modelo também utilizou autonomamente middlewares, models e controllers, simplesmente porque já tinha essas informações armazenadas no "contexto" quando eu pedia para que ele criase determinados arquivos ou funções.
O limite real do modelo está na quantidade de caracteres por mensagem. Por isso, sugiro que use a minha extensão e exporte cada arquivo do seu projeto de maneira individual. Ainda que seja viável obter todos os arquivos de uma só vez na área de transferência com a extensão, a estratégia mais eficaz é enviar arquivo por arquivo, sobretudo se eles forem extensos. Isso pode atenuar o problema do contexto desorganizado e maximizar o potencial do Chat GPT.
O mais fascinante deste experimento foi descobrir novas maneiras de tirar proveito das habilidades do Chat GPT e aprender a potencializar seu uso. A extensão que desenvolvi foi capaz de oferecer suporte automatizado exatamente nessa "organização" que você mencionou.
O tamanho do projeto atual já está com 5725 linhas de códigos e você pode constatar o seu tamanho com o comando cloc que anexo abaixo:
guilhermelim@Genap ~/projects/my-api main prompt> cloc --vcs=git .
207 text files.
207 unique files.
212 files ignored.
github.com/AlDanial/cloc v 1.90 T=0.11 s (1896.3 files/s, 65229.5 lines/s)
-------------------------------------------------------------------------------
Language files blank comment code
-------------------------------------------------------------------------------
TypeScript 136 697 482 5191
SVG 57 0 0 401
JSON 5 0 0 116
JavaScript 2 1 6 15
Markdown 1 3 0 2
-------------------------------------------------------------------------------
SUM: 201 701 488 5725
-------------------------------------------------------------------------------