O problema é usar este modelo.
Precisa de um bom PC com uma boa placa de video. 
Se for vê, dependendo do que for fazer fica mais barato contratar os serviços da OpenAi por exemplo.

Seria bom se tivesse um modelo mais básico que pudesse rodar numa placa de video básica.

Prezado, não seria o caso do Ollama?
No site https://ollama.com/ é posssível usar modelos menores mais simples como o Llama 3.3, Phi 3, Mistral, Gemma 2, e outros.

O problema é usar este modelo. Precisa de um bom PC com uma boa placa de video. Se for vê, dependendo do que for fazer fica mais barato contratar os serviços da OpenAi por exemplo. Seria...