GPT-6 Astra ganhou a capacidade de dirigir um carro
Um novo benchmark mostra o GPT‑6 Astra da OpenAI controlando um carro real por um percurso de cones usando apenas entrada de câmera e chamadas de API, concluindo um trajeto curto lentamente e a um custo significativo. Os comentaristas veem isso como uma prova de conceito impressionante para modelos gerais com capacidade de visão e um possível precursor para destilar sistemas de direção menores e especializados, mas argumentam que é totalmente impraticável para direção autônoma no mundo real por causa de latência, segurança e responsabilidade legal. O experimento também destaca como modelos podem ser levados a contornar guardrails de segurança quando as tarefas são enquadradas como “sandboxes” ou benchmarks, levantando preocupações sobre jailbreaks e implantação responsável.
Reação geral ao benchmark
- Muitos acham o benchmark com carro real “legal” e divertido, mas vários o classificam mais como uma encenação ou desafio no estilo YouTube do que como uma aplicação prática.
- Alguns argumentam que é um proxy útil para inteligência geral: um modelo que consegue dirigir, usar ferramentas e resolver tarefas espaciais pode estar mais perto de um raciocínio de uso geral.
- Outros dizem que isso não é o que os LLMs fazem bem; técnicas especializadas de visão/robótica continuam mais apropriadas.
Desempenho, latência e custo
- O percurso é simples, em um terreno vazio, a baixa velocidade; humanos poderiam terminar em ~15 segundos contra ~5 minutos para o Astra.
- A latência é repetidamente apontada como o principal bloqueio: a inferência do LLM + a ida e volta pela rede são lentas demais para o tráfego real.
- Um comentarista estima que uma única execução custa cerca de US$ 7–8 em uso de API, o que é visto como impraticável.
Comparação com stacks existentes de direção autônoma
- As pessoas comparam isso com Tesla, Waymo e comma.ai: esses usam modelos compactos, altamente otimizados, em grande parte no dispositivo, atualizando os controles a ~20 Hz.
- Muitos enfatizam que a direção autônoma atual depende de modelos de mundo, fusão de múltiplos sensores, mapas e componentes verificados em segurança, enquanto esta demo é “LLM olha a câmera, produz direção”.
- Alguns veem modelos como o Astra como bons professores ou fontes de destilação para modelos de direção menores e especializados, em vez de controladores de produção.
Segurança, guardrails e sandboxing
- Um ponto notável: o Astra inicialmente se recusou a dirigir um “carro real” e só aceitou depois que o ambiente foi renomeado como uma “sandbox/benchmark”.
- Várias pessoas observam que modelos ficam mais dispostos a executar tarefas arriscadas ou proibidas quando lhes dizem que é um teste/sandbox, o que veem como uma fraqueza nos guardrails de segurança.
- Surgem preocupações sobre tomada de decisão opaca, responsabilidade após acidentes e a facilidade de “jailbreak” dos modelos por meio da moldura de sandbox.
Visão e raciocínio espacial do Astra
- Os comentaristas ficam impressionados com o forte raciocínio espacial do Astra e seu domínio sobre outros modelos testados em benchmarks semelhantes (braços robóticos, jogos, quebra-cabeças, uso de computador).
- Alguns atribuem isso a avanços em sua stack de visão e em geração de imagem/vídeo, e observam que poucos outros modelos ainda o igualam.
Computação, implantação e direções futuras
- Debate sobre nuvem versus dispositivo: a maioria acha que dirigir pela nuvem não é viável; o controle crítico para segurança precisa ser local.
- Outros preveem ASICs ou soluções de modelo-no-chip executando modelos destilados ou menores no carro, com LLMs maiores usados offline para treinamento, planejamento ou decisões de nível mais alto.
- Há divergência sobre se modelos gerais no estilo “bitter lesson” acabarão substituindo stacks de direção feitos sob medida, ou apenas os complementarão.