Mas a sua configuração é muito básica para rodar com eficiência. Vai rodar, mas uma simples resposta textual que no GPT levaria 5 segundos no seu vai levar muitos minutos para gerar. IA é extremamente cara no que se refere a processamento, GPU, e é muito difícil trabalhar de forma satisfatória localmente. Com a sua configuração, usando o simples 3.1B e um contexto de poucos 2k de tokens ira levar de 30 minutos a uma hora para receber a resposta, se não travar no caminho.