Eu gostaria de criar um para servir como copilot ao de 1.5b a 3b, só que não sei como fazer isso.
Pois quero treina-lo com as docs e projetos em uma linguagem especifica, que até o momento só o claude sonet conhece essa linguagem, e além disso queria algo bem personalizado e com propriedade sobre a linguagem.
Faz um vídeo ou um tuto por aqui de como treinar? please!
pode instalar o ollama do site ollama.com ele já abstrai grande parte do trabalho com llms, aí tu pode baixar modelos como imagens docker por exemplo ollama run llama3.2
Ele vai baixar e rodar o modelo. Além de disponibilizar o acesso através de uma api no localhost:11434.
Para usar no vscode, tem uma extensão muito boa que pode encontrar no site continue.dev, ela permite adicionar modelos via llm para autocomplete de código além de uma interface na lateral para conversar com o modelo similar com o gpt.