Sim, essa implementação com o pinecone fica um pouco cara, daria pra fazer diretamente com a openai, mas pra essa primeira versão acabei usando o pinecone por ser mais rápido. O projeto tem muita margem pra melhoria, valeu pelo feedback!
Respondendo a "Meus 2 cents: 1) Muito legal ! Trabalhei com si..." dentro da publicação Construí um Assistente de IA que lê Documentos com Laravel, Pinecone e OpenAI
1