DeepSeek abre código que promete rodar IA mais rápido e mais barato
DeepInfer foi lançado sob licença aberta nesta semana, mas não inclui toda a pilha de otimização que a própria DeepSeek usa em produção.
Por Marina Sato · Repórter de IA
O lançamento
A DeepSeek, startup chinesa de inteligência artificial conhecida por modelos de código aberto que rivalizam com os das gigantes americanas, liberou nesta terça-feira (20/10) o código do DeepInfer, software voltado a otimizar a execução (inferência) de modelos de IA. O projeto está disponível no GitHub sob licença Apache 2.0, aberta para qualquer desenvolvedor adaptar.
O que o software faz
O DeepInfer foi construído para rodar o modelo DeepSeek-V4.1-Flash com kernels otimizados, paralelismo em múltiplas camadas, decodificação especulativa (recurso batizado de "DSpark", que antecipa trechos de resposta para acelerar a geração de texto) e escalonamento assíncrono de tarefas. A ferramenta roda em chips NVIDIA da linha Blackwell e em NPUs Ascend 950, da Huawei — não há suporte para arquiteturas mais antigas, como a Hopper, da própria NVIDIA.
O que falta no pacote aberto
Vale o alerta: a versão liberada não inclui o cache de memória completo (KV-cache), a divisão de estágios de processamento entre máquinas diferentes nem o balanceamento de carga entre instâncias — peças que, juntas, formam a pilha de produção completa que a própria DeepSeek usa para atender milhões de usuários. Ou seja, o código aberto é uma base de otimização, não o sistema inteiro rodando nos servidores da empresa.
Números como "45% de redução de custo" ou "2,4 vezes mais rápido" circulam em blogs especializados, mas não aparecem confirmados no repositório oficial — vale tratá-los com reserva até a DeepSeek publicar benchmarks próprios.
O que falta responder
Falta saber se desenvolvedores fora da China vão conseguir reproduzir os ganhos de performance prometidos sem acesso aos componentes que ficaram de fora, e se a DeepSeek vai liberar o restante da pilha em algum momento. Por ora, o que existe é uma peça do quebra-cabeça — útil, mas incompleta.