Atualmente ando trabalhando com Elasticsearch também, juntamente com IA.
recomendo que dê uma olhada nesse exemplo de RAG com elastic search:
https://www.elastic.co/search-labs/blog/articles/privacy-first-ai-search-langchain-elasticsearch
Uma das coisas interessantes também para se fazer com IA é a geração de Tags e classificadores durante o crawl. Algo também que deve ser levado em consideração é a técnica de fingerprint
para que não haja documentos duplicados nos seus índices.
Por fim uma das formas de melhorar os resultados obtidos do elastic, é por meio do similarity search
. Onde você indexa também um vetor com os embeddings do documento. Em seguida durante o search você procura através do embedding.
A técnica anterior pode ser melhorada utilizando conceitos como HyDE
e RRF