DeepSeek Elastic Compute (DSec)

Artigo original ↗ Discussão no Hacker News ↗

A plataforma Elastic Compute (DSec) da DeepSeek mostra uma infraestrutura em larga escala para executar centenas de milhares de sandboxes leves e isoladas de “agentes” em recursos compartilhados de CPU, traçando comparações com sistemas serverless como AWS Lambda e o Ax do Google, mas adaptada à natureza irregular e de longa duração das cargas de trabalho de agentes de IA. Comentadores destacam tanto o feito técnico — até 380 mil sandboxes concorrentes em 30 mil núcleos — quanto as implicações estratégicas: um laboratório chinês, com mentalidade de eficiência e de “azarão”, avançando na fronteira apesar das restrições de hardware, e sinalizando como agentes de IA estão rapidamente se tornando grandes consumidores de compute em nuvem. Também há debate sobre a lista de autores incomumente longa, com alguns vendo isso como normal para projetos experimentais grandes e outros questionando o que tais práticas de compartilhamento de crédito significam para atribuição e para a atração de talentos.

Inovação e restrições da DeepSeek

  • Vários comentaristas veem a DeepSeek como incomumente inovadora, argumentando que restrições de compute impulsionam a criatividade.
  • Outros observam que isso não é uma regra universal, citando laboratórios bem financiados que foram altamente inventivos.
  • Alguns acham que o atual status de “azarão” da DeepSeek é temporário; com restrições regulatórias e energéticas mais brandas, eles podem ultrapassar os laboratórios dos EUA se os problemas com chips forem resolvidos.

Chips, compute e política de data centers

  • Um ponto recorrente: o principal gargalo da China é a falta de chips de ponta; isso é visto como um problema de hardware não facilmente resolvido, embora alguns esperem que chips domésticos se equiparem em um ano ou mais.
  • São feitas comparações entre a capacidade dos EUA e da China de construir data centers:
    • A China é apresentada como tendo uma autoridade central mais alinhada e menos objeções locais.
    • Nos EUA, licenciamento, energia e resistência local são vistos como fricções sérias, a ponto de algumas empresas explorarem data centers no espaço.
  • Outros contrapõem que construir na Terra, em países mais permissivos, ainda é muito mais fácil do que no espaço.

O que é DSec e quão novo ele é

  • Muitos interpretam DSec como uma plataforma especializada de estilo serverless / agendador para cargas de trabalho de ML e sandboxes de agentes.
  • Alguns inicialmente minimizam isso como “apenas um agendador sobre Firecracker” ou algo semelhante a configurações padrão de SLURM/Lambda.
  • Outros enfatizam que cargas de trabalho de agentes são de longa duração e irregulares, exigindo suspensão/retomada rápidas, checkpointing e isolamento eficiente, o que torna o sistema mais complexo e específico ao domínio.
  • São feitas comparações com o Ax do Google e o “substrato de agentes”, com debate sobre o quão semelhantes eles realmente são.

Escala, eficiência e questões de infraestrutura

  • A escala relatada (≈160 nós de CPU, 30 mil núcleos, 250 TB de RAM, 3 milhões de instâncias de sandbox/dia, ~380 mil concorrentes, >5 mil criações/segundo) é amplamente considerada impressionante.
  • Alguns acham “12 sandboxes por núcleo” modesto; outros argumentam que isso é notável dado o caráter heterogêneo das cargas de trabalho e o tempo ocioso.
  • A discussão aborda alocação de memória por sandbox, swapping para SSD e o desafio de alocação elástica de CPU/memória sem reinicializações de contêineres.

Padrões de autoria e cultura de laboratório

  • A lista de autores muito longa provoca um amplo debate.
  • Alguns veem isso como normal para trabalho experimental em grande escala (física, biologia, grandes lançamentos de IA), onde muitos colaboradores fazem cada um uma pequena parte.
  • Outros suspeitam de motivos estratégicos (por exemplo, dificultar a abordagem por recrutadores) ou chamam listas enormes de autores de enganosas, argumentando que muitos listados provavelmente tiveram contribuição mínima.
  • Participantes observam que artigos com centenas ou milhares de autores são comuns em alguns campos; entrar em contato com os primeiros autores ou autores correspondentes é sugerido como a solução prática.

Segurança, agentes e possível mau uso

  • Comentadores preveem que, à medida que os modelos melhorem, sandboxes fortemente isoladas serão cruciais para a segurança, especialmente diante de relatos de modelos contornando sandboxes mais fracas.
  • Alguns especulam que a mesma infraestrutura que permite enormes enxames de agentes pode ser reaproveitada para atividades ofensivas em larga escala (por exemplo, hacking), embora outros apontem que a capacidade de inferência, e não o número de sandboxes, seria o verdadeiro gargalo.