DeepSeek v4.1 Flash

Artigo original ↗ Discussão no Hacker News ↗

O novo modelo V4.1 Flash da DeepSeek é um grande LLM multimodal de pesos abertos que combina um backbone esparso de 552B parâmetros com 196B de memória “Engram”, usando um novo design causal encoder–decoder para reduzir drasticamente o tamanho do cache KV e entregar throughput muito alto com preços de API relativamente baixos. Comentadores destacam que, embora o modelo seja grande demais para configurações locais típicas sem hardware extremo ou quantização agressiva, sua eficiência, controles de raciocínio e bons benchmarks o colocam perto de sistemas de fronteira como GPT-6 Astra e Claude Opus para muitas cargas de programação, segurança e agentic. O lançamento também intensifica debates mais amplos sobre laboratórios chineses vs. dos EUA, modelos abertos vs. fechados, retenção de dados de prompts e se o trabalho de segurança e “welfare” é realmente mitigação de risco ou בעיקר marketing e posicionamento regulatório.

Arquitetura e recursos do modelo

  • V4.1 Flash é uma grande reformulação, não uma pequena atualização pontual.
  • Usa um transformer Causal Encoder–Decoder (CED): encoder causal com ~20 camadas + decoder com 20 camadas.
  • Apenas ~8B de parâmetros são ativados por token durante o prefill e 16B durante o decode, apesar de:
    • 552B de parâmetros do “backbone” (majoritariamente ~FP4, ~306GB)
    • 196B de memória FP8 “Engram” / semelhante a PLE (~204GB), tratada mais como um armazenamento de chave–valor e podendo ser guardada em SSD.
  • O cache KV é fortemente comprimido: 890–900 bytes por token (1GB para contexto de 1M), cerca de 1/4 do V4 Flash anterior.
  • Suporta multimodalidade (visão) e esforço de raciocínio controlável (1–100), mapeando para alguns níveis internos (low/high/max).

Desempenho e benchmarks

  • Muitos comentam que ele é extremamente rápido na API: frequentemente 250–400+ tokens/s, embora alguns vejam velocidades menores via certos provedores do OpenRouter.
  • Benchmarks: relatado como próximo ou acima de modelos fechados “de fronteira” anteriores em várias tarefas de programação/agentic/security, mas:
    • Vence alguns benchmarks e perde outros contra GPT-5.6 Sol, Opus 5, Kimi K3, GLM 5.3.
    • Várias pessoas alertam para “benchmaxxing” em vez de utilidade no mundo real.
  • Uso prático inicial: forte para programação, análise de segurança e triagem automática de bugs; alguns o classificam ligeiramente abaixo dos melhores modelos fechados no “feeling” geral, mas muito acima da maioria dos modelos de pesos abertos.

Hardware e implantação local

  • Pesos completos ~510–550GB mais cache KV; o uso local rápido e prático é visto como exigindo ~384GB+ de RAM ou várias GPUs topo de linha.
  • Sistemas de 256GB só conseguem executá-lo com quantização pesada e/ou offload para SSD, o que desacelera significativamente o prefill.
  • A sparsity e o offloading do Engram devem tornar o streaming via SSD plausível para cargas lentas e sem supervisão.

Preço e eficiência

  • O preço oficial enfatiza cache hits muito baratos (até $0.003–0.006 por 1M tokens fora do pico), tornando cargas agentic de longo horizonte muito mais baratas do que modelos fechados comparáveis.
  • Em relação ao V4 Flash e V4 Pro anteriores, o preço é um pouco confuso entre provedores; o preço direto da DeepSeek para tokens de entrada caiu em relação aos picos recentes do V4 Flash, a saída ficou aproximadamente semelhante, e o cache ficou muito mais barato.
  • Vários usuários relatam execuções de vários bilhões de tokens por algumas dezenas de dólares.

Segurança, abertura e política

  • Grande entusiasmo por pesos abertos e relatórios técnicos detalhados, em contraste com o foco mais pesado dos laboratórios dos EUA em segurança/documentação de “bem-estar do modelo” e pesos fechados.
  • Debate sobre segurança vs “brand safety” e captura regulatória; alguns querem menos guardrails para security/pentesting, outros argumentam que alignment é subestimado.
  • A DeepSeek, por algumas rotas, treina com prompts de usuários, o que alguns veem como aceitável para programação, enquanto outros evitam para trabalho sensível ou proprietário.

Experiência de desenvolvedor e ferramentas

  • DeepSeek Harness é elogiado como um ambiente agentic de programação poderoso; alguns o preferem a harnesses de terceiros.
  • V4.1 Flash substituirá V4 Pro no roteamento; alguns já o promovem como seu principal “workhorse” para fábricas de software.
  • Pequenos incômodos: respostas em chinês na UI oficial para alguns usuários; comportamento ocasional de recusa aparecendo em pedidos “parecidos com pirataria”.