Eu adoro LLMs, eu odeio hype
LLMs são vistos por muitos aqui como ferramentas novas e poderosas para programação e criação, mas a frustração está crescendo com o hype ao redor, o derrotismo e as promessas de fortunas instantâneas ou da obsolescência iminente de todo trabalho intelectual. Os comentaristas argumentam que os sistemas atuais são “apenas software”, construídos sobre décadas de progresso em computação, úteis, mas nada mágicos, e que grande parte do valor que criam provavelmente será capturada por fabricantes de hardware e por aplicações práticas downstream, e não pelos laboratórios de fronteira de hoje. As preocupações se concentram em custos de longo prazo, lock-in de fornecedores e impactos sociais — da substituição de empregos ao “brain rot” — לצד de um otimismo de que modelos locais e abertos, usados com critério, podem trazer benefícios duradouros sem exigir que todos comprem a cultura do Vale do Silício.
Hype, Medo e Narrativas de “Subclasse Perpétua”
- Muitos não gostam nem do hype positivo nem do negativo: o discurso apocalíptico sobre ficar “para trás” e a conversa utópica sobre AGI são vistos como manipuladores e, em grande parte, como marketing.
- Alguns veem pouco, em primeira mão, do hype extremo e mais uma cultura de reação/anti-hype em fóruns e no trabalho.
- Outros relatam exposição constante a visões conspiratórias ou catastrofistas (nas redes sociais, na política local etc.).
São Francisco e Cultura Tech
- Há forte discordância sobre criticar SF: alguns argumentam que o custo de vida e a governança justificam as críticas; outros dizem que culpar uma única metrópole é preguiçoso e ignora sua diversidade.
- Vários observam que mudar-se para SF para networking em IA/AGI faz parte da máquina do hype.
Construtores vs Comerciantes
- Faz-se a distinção entre “comerciantes” (plataformas intermediárias que criam fossos competitivos sobre o trabalho dos outros) e “artesãos” que constroem e vendem diretamente seus próprios produtos.
- Alguns argumentam que qualquer pessoa vendendo produtos de IA é um comerciante, independentemente da narrativa.
LLMs como Ferramentas e “Vibe Coding”
- Muitos usam LLMs intensamente para programação, brainstorming, documentação e “vibe-coding” de pequenas ferramentas pessoais.
- Ganhos: menos momentos travados, prototipagem mais fácil, especialistas de domínio construindo ferramentas complexas sem contratar devs.
- Limites: os modelos ainda produzem “slop” se não forem supervisionados; a produtividade real é limitada por design, escopo, manutenção e integração, não pela geração bruta de código.
Efeitos Cognitivos
- Alguns sentem que LLMs são “veneno para o cérebro”, incentivando a terceirização do pensamento e atrofiando habilidades; outros comparam isso a medos históricos sobre a escrita e as calculadoras.
- Vários relatam usar LLMs para enfrentar problemas mais difíceis do que antes, argumentando que o nível de desafio, e não a ferramenta, determina o impacto mental.
Arte, Autenticidade e Significado
- Debate sobre se a IA pode criar “arte” ou apenas “artefatos”.
- Um lado vincula arte à experiência emocional humana e aos contratos sociais entre criador e público; outros observam que muita arte comercial otimiza para emoção induzida e não veem uma barreira de princípio para a IA.
Open Source, Forking e Manutenção
- LLMs tornam o fork e a customização de OSS muito mais fáceis, permitindo software pessoal do tipo “do seu jeito”.
- Preocupações: fragmentação, colaboração upstream mais difícil e futura “manutenção infernal”, embora alguns argumentem que muitas ferramentas chegarão a um ponto “bom o suficiente” e ficarão sem mexidas.
Custos, Modelos de Negócio e Commoditização
- Há discordância sobre se os modelos de fronteira atuais são subsidiados ou já lucrativos com o preço de API.
- Os planos de assinatura são amplamente vistos como produtos de atração; o dinheiro de verdade está no uso enterprise/API.
- Ceticismo de que os laboratórios de fronteira consigam sustentar avaliações astronômicas se modelos open source mais baratos ou “bons o suficiente” proliferarem.
- Alguns preveem que a IA se assemelhará a outras infraestruturas (companhias aéreas, PCs): enorme valor social, mas captura de valor limitada por qualquer laboratório; fornecedores de hardware podem ser os que mais se beneficiam.
Modelos Locais vs. de Fronteira e Acesso Futuro
- Muitos estão gradualmente migrando para modelos locais e abertos por custo, controle e razões de censura, usando modelos de fronteira apenas quando necessário.
- Espera-se (embora não garantido) que a qualidade do modelo por FLOP melhore o suficiente para capacidades próximas às de fronteira em hardware de consumo; há discordância sobre prazos e limites físicos.
Singularidade, ASI e Resultados de Longo Prazo
- Divisão entre os que veem a superinteligência como radicalmente disruptiva e perigosa e os que acham que cenários de “clarão de luz” são exagerados.
- Alguns se preocupam menos com uma IA fora de controle em si e mais com alinhá-la aos sistemas econômicos extrativos e orientados por acionistas já existentes.