Aqui você encontra todos os modelos liberados de IA
https://huggingface.co/

Interface para rodar isso em qualquer PC (depende claro do modelo, pois varia em memoria, processamento etc, além de um conhecimento prévio sobre as abordagens de modelos como tensors, GPTQ etc)
https://github.com/oobabooga/text-generation-webui

Tutorial interessante para rodar no Windows:

https://www.youtube.com/watch?v=V5joNtXdqcY

Eu testei no windows e consegui rodar um GPT2 sem muitos recursos, mas não se engane para rodar modelos mais complexos com mais de 7 Bilhões de parametros precisa de investimento.