sim isso é muito bom, o problema, é a maquina da pessoa que esta rodando, no caso digo, na questao do poder computacional, que muita das vezes nao é os dos mais top, falo usando os modelos mais parrudos, como os de 70B, os de 7B para baixo roda legal, dependendo ainda assim da maquina da pessoa, porem se eu falei bobagem me corrija, e me diga como faz :)
Respondendo a "Atualmente é possível rodar localmente diversos..." dentro da publicação Pagar o plano Plus do ChatGPT vale a pena ?
1
1
É verdade, a máquina precisa ter uma placa de vídeo dedicada. Uma Nvidia com 3GB consegue rodar os modelos menores com um desempenho satisfatório. Mas muito do desempenho depende de como é configurado o modelo para responder.
1
Ai que ta, meu hardware é limitado, então optei por pagar o plano.
Testei hoje pela primeira vez na carga horaria real de trabalho e ele me surpreendeu, sem me limitar a nada.