A DeepSeek publicou nesta quarta-feira (21) o DeepInfer, software de código aberto que a empresa de Hangzhou usa para rodar os próprios modelos de IA em produção. A ferramenta fica entre o modelo e o hardware e decide como distribuir o trabalho entre os chips para tirar mais respostas do mesmo servidor, com menos energia gasta em cada pedido.
Por enquanto, o suporte se limita a um modelo, o V4.1-Flash. A empresa diz que sistemas futuros também serão compatíveis, mas não deu prazo.
O que o DeepInfer faz
O nome entrega o foco: inferência, a etapa em que um modelo já treinado responde perguntas, escreve texto ou executa tarefas. O treino é um gasto concentrado; a inferência custa de novo a cada requisição. Por isso duas empresas rodando o mesmo modelo podem ter contas bem diferentes no fim do mês, dependendo do software e das máquinas que usam.
O pacote junta várias técnicas de otimização. A principal citada pela DeepSeek é a inferência distribuída, que reparte a carga entre vários componentes de hardware para aumentar o volume de resultados num mesmo intervalo de tempo. Boa parte disso já é usada no setor. O que a DeepSeek fez foi ajustar a implementação à arquitetura dos seus modelos, e agora qualquer desenvolvedor pode ler esse código e tentar adaptá-lo a outros sistemas.
O histórico da empresa
A DeepSeek ganhou projeção em janeiro de 2025, quando o modelo R1 chegou com desempenho próximo ao dos rivais americanos e custo de uso bem menor, o que derrubou ações de fabricantes de chips naquela semana. Um mês depois, a empresa abriu partes da sua infraestrutura numa série de lançamentos de código aberto. O DeepInfer segue a mesma linha. Depois dos pesos dos modelos, a empresa agora entrega o motor que os faz rodar barato.
Quem ganha com isso
Os primeiros beneficiados são provedores de nuvem e empresas de hospedagem que já vendem acesso aos modelos da DeepSeek. Com o mesmo hardware atendendo mais requisições, o custo por pedido cai e a margem sobe. Se a economia chega ao cliente final em forma de preço menor, depende de cada provedor.
Thibault Jaigu, presidente-executivo da Requesty, startup que faz ferramentas de métricas e roteamento para serviços de IA, disse que o lançamento reduz as barreiras para quem quer hospedar os modelos da DeepSeek por conta própria. Isso não dispensa servidores com capacidade de processamento séria nem gente qualificada para instalar e manter o sistema.
Para empresas brasileiras, a conta interessa por dois motivos. Rodar o modelo em servidor próprio ou em nuvem local mantém os dados sob controle da empresa, o que simplifica a adequação à LGPD. E qualquer ganho de eficiência pesa mais quando o aluguel de GPU é cobrado em dólar. Para quem só usa chatbot no celular, nada muda de imediato.
Ainda não há estudos independentes que comprovem quanto o DeepInfer economiza de fato. O código já está aberto, e o resultado vai variar conforme a infraestrutura, a aplicação e o volume de uso de cada empresa.
