Philip Wang – responsável pela engenharia reversa de sistemas como o Make-A-Video, da Meta – combinou o modelo de linguagem PaLM do Google e a técnica RLHF (Aprendizagem por Reforço com Feedback Humano, na sigla em inglês), mas não fez o pré-treinamento do sistema, o que irá exigir hardware e infraestrutura robusta e o impediria de substituir o ChatGPT no momento.

O código está disponível no repositório [“lucidrains/PaLM-rlhf-pytorch”](https://github.com/lucidrains/PaLM-rlhf-pytorch) no GitHub.

A tecnologia ja é opensource. o problema é justamente ter grana pra armazenar terabytes (ou seriam hexa?) processamento de gpu ou processadores especializados. Isso custa muito caro.

Desenvolvedor está trabalhando em alternativa de código aberto ao ChatGPT

Philip Wang – responsável pela engenharia reversa de sistemas como o Make-A-Video, da Meta – combinou o modelo de linguagem PaLM do Google e a técnica RLHF (Aprendizagem por Reforço com F...