Empresa russa de tecnologia desenvolve ferramenta de código aberto que economiza em até 20% o processamento necessário para treinar grandes modelos de linguagem

A YaFSDP, desenvolvida pela Yandex, pode economizar recursos equivalentes a cerca de 150 GPUs e até 1,5 milhão de dólares por mês ao treinar um modelo de 70 bilhões de parâmetros, usando como exemplo o Llama 3 70B da Meta. A ferramenta foi disponibilizada publicamente no repositório yandex/YaFSDP do GitHub. As informações são do site da Yandex.