A maior parte das empresas são PMEs. Elas não têm condições de fazer milhares de requisições ao dia para um modelo de 400 bilhões de parâmetros.

É verdade que, de maneira geral, como você disse, a performance de um modelo de 1 bilhão (ou 8 bilhões) de parâmetros, é pior do que a performance do modelo de 400 bilhões. Mas, o custo para se utilizar um modelo de 400 bilhões é muito mais alto.

Assim, para PMEs, compensa investir em profissionais que possam utilizar engenharia de prompt, RAG e fine-tuning para personalizar modelos que possam, para tarefas específicas, ter uma performance similar a modelos maiores, a um custo muito menor.