Garry Tan, da YC, usa agentes de IA tanto que gasta até US$ 200 mil por ano em tokens
Um proeminente investidor de startups afirma gastar até US$ 200 mil por ano em “tokens” de IA para agentes pessoais e organizacionais que leem seus e-mails, notas e dados da empresa, o que provocou debate sobre se esse uso é alavancagem visionária ou consumo ostensivo e desperdiçador. Os comentários questionam os ganhos reais de produtividade em comparação com uma assinatura padrão, comparam isso à contratação de assistentes humanos e apontam como é fácil gastar grandes somas em configurações multiagentes mal otimizadas. Surgem também preocupações mais amplas sobre privacidade, dependência de modelos na nuvem, a corrida por IA no dispositivo e se os padrões atuais de gasto com tokens refletem valor genuíno ou um símbolo de status impulsionado por hype para os ricos.
Níveis de Gastos e Economia de Tokens
- Muitos acham que US$ 200 mil/ano em tokens é alto, mas não é difícil de atingir com uso intenso de API, configurações com vários agentes, ciclos de avaliação ou ao esgotar várias assinaturas “Max”.
- Há confusão sobre se os valores se referem ao valor de tabela da API ou ao gasto real com assinaturas; alguns observam que as assinaturas subsidiam massivamente os custos de tokens e que os descontos de cache muitas vezes são ignorados.
- Outros argumentam que o valor não impressiona para um investidor rico, ou é pequeno no contexto de decisões em escala de VC, em que um único investimento melhorado poderia justificar o gasto.
Produtividade, ROI e “Tokenmaxxing”
- Céticos questionam quais resultados concretos esse nível de gasto produziu, além de melhores resumos de e-mail ou memória no estilo CRM.
- Vários notam um padrão de executivos queimando grandes quantidades de tokens em usos triviais (redação de e-mails, busca) enquanto limitam orçamentos para trabalho de desenvolvimento realmente produtivo.
- Alguns admitem “tokenmaxxing” deliberado porque a gestão quer uso visível de IA, independentemente do valor.
- Poucos defendem o alto gasto se ele ampliar de forma significativa a alavancagem e a tomada de decisões; outros veem isso como “sentir-se produtivo enquanto não se alcança nada” e caro.
Agentes, Confiabilidade e Antropomorfização
- Há preocupação com descrever agentes como quase humanos e minimizar repetibilidade e segurança em favor de “personalidade” e imprevisibilidade.
- Alguns veem essa mentalidade como uma extensão da cultura de startups que trata o fracasso como inerentemente positivo.
- Surgem dúvidas sobre sistemas com múltiplos agentes ficarem presos em loops, ou agentes fazerem edições conflitantes, sem respostas claras.
Hardware vs. Nuvem e Modelos Locais
- Debate sobre se, com esse nível de gasto, faz sentido comprar capacidade de computação local.
- Um lado: local costuma ser mais lento, não consegue rodar bem modelos de fronteira e não é mais barato quando hardware e eletricidade são incluídos.
- O outro lado: para algumas cargas de trabalho, seleção cuidadosa de modelos, uso parcial local e otimização de prompts reduzem drasticamente os custos.
Agentes Pessoais, Privacidade e Ética
- Alguns estão entusiasmados com agentes profundamente personalizados que absorvem todos os dados de um usuário.
- Outros ficam alarmados com alimentar e-mails, notas e registros de terapia em sistemas na nuvem e duvidam que surja um futuro centrado em privacidade e no dispositivo, dado o desinteresse dos usuários e os incentivos movidos por anúncios.
- Alguns levantam desconforto moral com grandes gastos discricionários em IA num mundo com necessidades básicas significativas ainda não atendidas.