RAG VS FINE-TUNING - Machine Learning

RAG VS FINE-TUNING

Quando você pergunta: “O que levou à queda do Império Romano?” Um modelo de linguagem convencional pode oferecer uma visão ampla. No entanto, com o RAG, o recuperador pode primeiro buscar artigos específicos que discutam os desafios econômicos, as derrotas militares ou a corrupção política daquela época.O RAG opera consultando uma base de conhecimento externa (como um banco de dados de documentos) para recuperar informações relevantes e, em seguida, usa essas informações para gerar uma resposta.

Já o Fine tuning funciona da seguinte forma.Imagine que você tem um modelo de linguagem geral treinada para gerar texto em inglês. Agora, você deseja especializar esse modelo para não só gerar textos em inglês mas para ser um professor de inglês.É realmente como o nome ja diz “ajuste fino” um modelo ajustado para algo em específico.Incorporando o conhecimento específico do domínio a partir de novos dados sem perder o conhecimento adquirido durante o treinamento básico.

RAG - é uma das ferramentas mais valiosas para aumentar a eficácia do modelo, junto com o uso de ferramentas externas.

FineTuning – é a melhor maneira de melhorar os modelos no uso de ferramentas, incluindo recuperação.

RAG + FineTuning -

Segundo o artigo do arvix chamado “RAG VS FINE-TUNING: PIPELINES, TRADEOFFS, AND A CASE STUDY ON AGRICULTURE”

Conduziram um estudo aprofundado em um conjunto de dados agrícolas. A agricultura como indústria não viu muita penetração da IA, e estudaram uma aplicação potencialmente disruptiva - fornecendo assim informações específicas do local para um agricultor? A conclusao dessa fusao do modelo GPT-4 ajustado + RAG fornece uma resposta detalhada que aborda diretamente as questões de perda de solo e qualidade do ar.
Também fornece contexto adicional sobre as características do solo e das emissões na região, tornando-o um dos
modelos mais precisos e informativos.