Meta lança Llama 4

A nova geração do Llama é composta pelos modelos Llama 4 Scout, Llama 4 Maverick e Llama 4 Behemoth. Todos foram treinados com grandes volumes de dados não rotulados — sem anotações humanas — incluindo textos, imagens e vídeos.

O Llama 4 é o primeiro modelo da Meta a adotar a arquitetura Mixture of Experts (MoE), que distribui diferentes subtarefas entre “especialistas” — submodelos especializados. O Maverick conta com 400 bilhões de parâmetros totais, dos quais apenas 17 bilhões são ativados por vez, distribuídos entre 128 especialistas. O Scout também utiliza 17 bilhões de parâmetros ativos, com 16 especialistas e 109 bilhões de parâmetros totais.

O Maverick foi projetado para uso geral, como assistente e em tarefas de escrita criativa. Já o Scout se destaca em tarefas como resumo de documentos e análise de grandes bases de código. Em testes, o Behemoth alcançou 49,4% no benchmark LiveCodeBench (programação), superando o Gemini 2.0 Pro; e 95% no MATH-500 (matemática), à frente do Gemini 2.0 Pro (91,8%) e do Claude 3.7 Sonnet (82,2%).

Os modelos Scout e Maverick já estão disponíveis para download no site oficial da Meta e no Hugging Face. O Behemoth ainda está em fase de treinamento.

Informações adicionais: Meta