Ask HN: ¿Cuál fue tu momento de "oh shit" con GenAI?

Discusión en Hacker News ↗

Los momentos de “oh shit” de GenAI van desde modelos que refactorizan autónomamente grandes bases de código, hacen ingeniería inversa de firmware y reparan sistemas HVAC, hasta redactar escritos legales y construir paneles y apps personalizados en horas en lugar de semanas. Muchos describen un cambio cualitativo cuando llegaron los agentes de codificación y el uso de herramientas, convirtiendo a los LLM en copilotos cotidianos para trabajo técnico complejo y diagnóstico de problemas reales y oscuros. Al mismo tiempo, otros destacan su fragilidad, las alucinaciones, los riesgos de seguridad y el riesgo de atrofia de habilidades, argumentando que, aunque la tecnología es transformadora, sigue siendo poco fiable sin supervisión experta.

Casos de uso prácticos transformadores

  • Muchos describen momentos de “oh shit” cuando GenAI comprimió semanas/meses de trabajo en horas:
    • Refactorizar grandes bases de código, migrar topologías de datos, portar aplicaciones (p. ej., PL/SQL → Django, Oracle Apex → nueva pila, emulador de NES en JS → Rust).
    • Generar automáticamente infraestructura (Terraform/HCL, configuraciones de AWS, paneles multi-servicio).
    • Ingenierizar a la inversa firmware, protocolos propietarios y hardware antiguo (equipos musicales, impresoras, pianos, osciloscopios, Firestick, equipos de prueba) mediante Ghidra y herramientas.
    • Convertir montones de PDFs legales/financieros/técnicos en salidas OCRizadas, traducidas, normalizadas y resumidas.
    • Construir apps de extremo a extremo (web, móvil, bots de trading, mods de juegos, clientes Git) casi por completo mediante agentes.

Codificación e ingeniería de software

  • Fuerte entusiasmo: agentes que leen repos completos, depuran condiciones de carrera, revisan diffs, descompilan VSIX/.NET, generan pruebas, realizan code reviews y mantienen arquitecturas complejas.
  • Algunos describen a los agentes como “desarrolladores junior” que pueden explorar, refactorizar e incluso crear herramientas auxiliares de forma autónoma (seguidores de actividad, búsqueda semántica).
  • Otros los encuentran frustrantes: diseños verbosos o ingenuos, mala arquitectura a gran escala, mantenimiento frágil en grandes bases de código heredadas y PRs y pruebas unitarias de “AI slop” que solo juegan con la cobertura.

Usos no técnicos y cotidianos

  • Momentos frecuentes de “wow” por:
    • Diagnosticar HVAC, secadoras, hornos, bombas de estanques de koi y problemas de coche/A/C a partir de fotos/vídeos y diagramas de cableado.
    • Planificar viajes, instalaciones solares, paneles de energía del hogar, construcciones de cocina, papeleo de herencias y revisiones de estilo inspección de viviendas o bienes raíces a partir de fotos de anuncios.
    • Tutoría en cocina, dibujo, matemáticas, anatomía y experimentos de ciencia con niños.
    • Tareas creativas: traducción de poesía con rima/métrica, composición de canciones, arte, pódcasts, ficción interactiva y anuncios inmobiliarios estilizados.

Escepticismo, limitaciones y fallos

  • Algunos nunca tuvieron un momento positivo; ven los LLMs como “autocompletado sofisticado” o juguetes que no responden preguntas “genuinamente interesantes” o novedosas.
  • Problemas recurrentes:
    • APIs alucinadas, flags de CLI, cmdlets de PowerShell, interpretaciones científicas y análisis de nichos de dominio (geofísica, teledetección, matemáticas especializadas).
    • Respuestas inconsistentes a preguntas fácticas/lógicas simples, dificultad con la estrategia de visión de alto nivel a pesar de buen código de bajo nivel.
    • Modelos que parecían haber retrocedido (p. ej., versiones posteriores peores en diseño de soluciones que las anteriores).

Seguridad, ética y uso indebido

  • Preocupaciones sobre:
    • Consejos peligrosos (p. ej., solución de problemas de hornos con implicaciones de riesgo de CO).
    • Uso legal y médico sin profesionales; ausencia de privilegio para chats con IA; los tribunales ya ven escritos generados por IA.
    • Agentes que pueden weaponizar exploits, generar claves de licencia, crackear captchas, hacer trampas en juegos o borrar bases de datos.
    • Ingeniería inversa y parcheado de firmware a gran escala, y el potencial de pornografía deepfake, desinformación y “muertes por IA” que serían difíciles de rastrear.

Impacto en el trabajo, el aprendizaje y la sociedad

  • Sentimiento dividido:
    • Algunos se sienten como “superhéroes” o “CTO con un equipo”, cambiando cómo piensan sobre los problemas y centrándose en un diseño de nivel superior.
    • Otros temen la pérdida de habilidades, la degradación de las code reviews, el estancamiento del crecimiento de los desarrolladores junior y ser desplazados o reducidos a “prompt jockeys”.
  • Debate sobre el hype:
    • Afirmaciones de que GenAI está sobreprometida, empeorando la web y las herramientas, impulsando una expansión opaca de centros de datos y alimentando un gasto corporativo irracional.
    • Contraafirmaciones de que aún estamos al principio; las capacidades son irregulares (excelentes en algunas cosas, malas en otras) y el prompting/el uso de herramientas es una habilidad real.

Meta: prompting, herramientas y ciclo de hype

  • Muchos señalan que:
    • Los resultados dependen mucho de una especificación clara del problema, buenos entornos de prueba (editores, MCP/herramientas, instrucciones estilo CLAUDE.md) y experiencia del dominio para validar las salidas.
    • La gente suele ser mala articulando lo que quiere; algunos se acercan a la IA con sesgo o abandonan tras el primer fallo.
    • El hype produce ciclos alternos de “oh wow” y “nada cambió”, dejando a algunos agotados pero a otros experimentando constantemente.