Ask HN: ¿Alguien más es bajista sobre OpenAI?

Discusión en Hacker News ↗

El escepticismo sobre las perspectivas a largo plazo de OpenAI choca con informes de aumentos dramáticos de productividad en el día a día gracias a herramientas como ChatGPT. Los comentaristas comparan el auge actual de la IA con el ciclo de hype de crypto, cuestionando las promesas de AGI, los fosos competitivos del negocio y los altos costos de cómputo, mientras otros dicen que los LLM ya han reemplazado gran parte de sus flujos de trabajo de búsqueda web, depuración, scripting y escritura, a pesar de los riesgos de alucinación. Muchos esperan que OpenAI enfrente una competencia seria de modelos open source y gigantes tecnológicos, pero ven a los grandes modelos de lenguaje en general como un cambio duradero en la forma en que las personas interactúan con las computadoras.

Valor práctico percibido de ChatGPT/LLMs

  • Muchos comentaristas dicen que GPT-4 (y Bing Chat basado en él) se ha convertido en una herramienta diaria, a menudo reemplazando Google/Stack Overflow para preguntas del tipo “¿cómo hago X en Y?”.
  • Mejoras reportadas: codificación de boilerplate más rápida, one-liners de SQL/jq/shell, refactors de Terraform/Terraform, depuración de errores extraños, escritura de tests, refactorización de configs heredadas, scripts pequeños, limpieza de datos, copywriting, descripciones de puestos, emails, informes, traducciones, resumido de encuestas y conversiones de documentos a Markdown.
  • Algunos dicen que cambia materialmente los flujos de trabajo de SRE/devops (análisis profundos de kernel/red, interpretación de errores, problemas de configuración), y que pagarían mucho más que $20/mes.
  • Varios usos no relacionados con desarrollo: educación/tutoría, aprendizaje de idiomas, reescritura de cartas, borradores de correspondencia de estilo legal, brainstorming de UX/gestión, revisiones de impuestos/cartas y corrección de contenido.

Límites, alucinaciones y confianza

  • Muchos informan respuestas “confiadamente incorrectas”, APIs inventadas, bibliotecas, artículos académicos y código que no tipa o no ejecuta.
  • Algunos consideran que las alucinaciones son aceptables si verificas como lo harías con Stack Overflow; otros sienten que la sobrecarga de verificación anula cualquier beneficio.
  • GPT-4 es ampliamente descrito como “otro nivel” frente a 3.5/Claude Instant, aunque sigue siendo propenso a errores y ocasionalmente absurdo.
  • Existe la preocupación de que suene autoritativo, fomente la sobreconfianza y no sea adecuado como única fuente para hechos médicos/legales/científicos.

Quién se beneficia y para qué tareas

  • Las mayores victorias están en tareas “complicadas pero superficiales”: conectar APIs, infraestructura como código, análisis de CSV/logs, patrones rápidos de código, resumidos, trabajo de lenguaje/estilo.
  • Funciona mal para teoría profunda de CS/matemáticas (reducciones NP, semántica formal, algoritmos avanzados) y dominios de nicho con datos de entrenamiento escasos.
  • Varios señalan que es más útil cuando ya sabes lo suficiente para revisar su trabajo; peligroso cuando no lo sabes.

Comparaciones con crypto y preocupaciones sobre el hype

  • Algunos ven ecos de crypto: hype masivo, startups wrapper, VCs entrando en masa y promesas vagas de AGI.
  • Otros argumentan que la diferencia clave es la utilidad clara e inmediata para millones, a diferencia del uso real limitado de crypto.
  • Un subconjunto está en plan “meh”: probaron GPT, lo encontraron genérico o incorrecto, y sienten que Google/docs + experiencia siguen siendo mejores.

Perspectivas de negocio de OpenAI y moat

  • Las opiniones van desde “fácilmente una empresa de más de $100B / el próximo gigante a nivel Google” hasta el escepticismo sobre márgenes, costos de GPU y falta de moat a medida que mejoran los modelos abiertos/open source.
  • Algunos esperan captura regulatoria y un pseudo-monopolio; otros creen que Meta, Google, Microsoft o modelos en el dispositivo erosionarán la ventaja de OpenAI.
  • Preocupa que muchos “wrappers de OpenAI” sean aplastados cuando OpenAI productice por sí misma las mejores ideas.

En el dispositivo, privacidad y open source

  • Una minoría preocupada por la privacidad quiere modelos cercanos a GPT-4 ejecutándose offline en dispositivos personales; los modelos locales actuales se ven demasiado lentos/débiles o demasiado difíciles de operar.
  • Muchos son alcistas sobre modelos open source más pequeños en el borde como una gran amenaza a largo plazo para las ofertas solo en la nube.

AGI, trayectoria y sociedad

  • Muchos no creen que los LLMs actuales sean AGI ni suficientes para llegar a ella; algunos los ven como solo un componente entre futuros métodos.
  • Otros argumentan que la capacidad de comprimir conocimiento del mundo y hacer few-shot learning hace que la AGI parezca “un detalle de implementación”, aunque el momento es incierto.
  • Impactos esperados a corto plazo: grandes aumentos de productividad, desplazamiento de trabajo white-collar de nivel inferior (soporte, escritura básica, código junior) y cambios significativos en la educación y en “cómo interactuamos con las computadoras”, incluso sin AGI.