Poxa, sensacional. Recentemente fiz um projeto em RAG pra uso pessoal, recomendo usar o banco de vetores que o pessoal do MongoDB desenvolveu, o Milvus. É muito, muito bom e boa parte da indústria faz o uso dele pelo fato de ele ter um painel de controle próprio, nodes pra escalonamento e etc.

Pra quem tiver interesse: https://milvus.io/