Opa, você pode rodar no Google Colab.

https://colab.research.google.com/

Apenas para contribuir com a informação para quem mais possa interessar: O Colab, ou "Colaboratory", permite escrever e executar Python no navegador e conta com o seguinte:

Nenhuma configuração necessária
Acesso a GPUs sem custo financeiro
Compartilhamento fácil
Você pode ser um estudante, um cientista de dados ou um pesquisador de IA, o Colab pode facilitar seu trabalho.

E aí, Brunão! No Ollama, existem modelos que são quantizados. A quantização envolve a conversão de pesos de modelos de alta precisão para formatos de menor precisão, como FP8, permitindo que eles funcionem sem a necessidade de GPUs potentes, utilizando apenas a CPU.

Apesar de não serem tão precisos, vale a pena fazer alguns testes caso você ainda não tenha feito.