Es tan difícil terminar una idea que no es tuya y que solo ha sido sugerida por IA

Artículo original ↗ Discusión en Hacker News ↗

Los asistentes de IA se están integrando cada vez más en los flujos de trabajo de programación y toma de notas, pero muchos usuarios informan que dejar que los modelos generen ideas, comentarios o notas socava su sentido de propiedad y dificulta comprender los sistemas con el tiempo. Los participantes describen problemas como comentarios de código alucinados que se convierten en “documentación” engañosa, texto generado por IA que contamina las bases de conocimiento personales y una tentación creciente de pensar en cómo pedirle al modelo que resuelva algo en lugar de entender a fondo el problema subyacente. Algunos defienden una separación estricta entre contenido humano y contenido de IA o limitar la IA a búsqueda, transcripción y resúmenes ligeros, argumentando que el verdadero valor de las notas y del trabajo de diseño reside en el pensamiento humano requerido para producirlos.

Ideas Generadas por IA y Propiedad

  • A muchos les resulta difícil ejecutar ideas “sugeridas por IA” porque carecen de propiedad personal y del razonamiento interno que hay detrás de ellas.
  • Algunos dicen que terminar sus propias ideas es igual de difícil; el problema es la ejecución en general, no solo la IA.
  • Un estudio citado sugiere que cuando la gente cree que la IA hizo el trabajo creativo, siente menos significado y se esfuerza menos.
  • Varios argumentan que la IA no puede realmente “tener” ideas; muestrea opciones plausibles sin preferencias reales, así que sus “elecciones” a menudo parecen arbitrarias.

IA en Bases de Código: Comentarios, Especificaciones y Propagación de Errores

  • Fuerte crítica a los comentarios de código escritos por LLM: alucinan la intención del diseño, luego se tratan como canónicos y envenenan el trabajo futuro.
  • Algunos equipos ahora eliminan o bloquean agresivamente los comentarios de IA, o añaden reglas de soporte para limitar y validarlos.
  • Otros defienden los comentarios para documentar el “por qué” y las restricciones externas, pero coinciden en que los LLM rara vez producen ese tipo de comentario de forma fiable.
  • Preocupa que la documentación y los comentarios generados por IA puedan parecer autorizados aunque estén equivocados, amplificando la propagación de errores con el tiempo.

Usar IA para Programar: Velocidad vs Control

  • Un bando revisa todo el código generado por IA, tratándolo como una PR de un junior; otro admite que no puede seguir el ritmo del volumen y apenas lo lee.
  • Problemas reportados: diffs enormes, falta de abstracción, lógica duplicada, descripciones de PR crípticas y ciclos interminables de parches.
  • Una dicotomía propuesta:
    • Dejar que los agentes se encarguen mayormente del código, confiando mucho en pruebas/benchmarks y aceptando una menor comprensión humana.
    • O usar la IA para tareas pequeñas y concretas y mantener a los humanos completamente responsables de la arquitectura y la revisión.

Segundo Cerebro, Obsidian e IA en Notas

  • Muchos usan Obsidian o herramientas similares como un “segundo cerebro”, pero las opiniones divergen:
    • Los partidarios valoran el markdown buscable, los enlaces cruzados, las copias de seguridad y el pensamiento que ocurre mientras se escribe.
    • Los escépticos ven la cultura del “segundo cerebro” como hype, acaparamiento mental o procrastinación; prefieren cuadernos de papel o notas digitales mínimas.
  • Hay amplio acuerdo en que el principal beneficio de tomar notas es el pensamiento que requiere escribir; las notas escritas por IA corren el riesgo de eliminar ese trabajo cognitivo.
  • Estrategias comunes: bóvedas o carpetas separadas para notas de IA frente a notas humanas, etiquetas explícitas de “generado por IA”, o mantener la IA estrictamente como una capa de consulta/resumen sobre contenido escrito por humanos.
  • A algunos les gusta la IA para transcripciones y resúmenes (por ejemplo, de clases) y la búsqueda semántica, pero evitan almacenar permanentemente texto generado por IA porque futuros modelos resumirán mejor.

Cognición, Investigación y Preocupaciones a Largo Plazo

  • Varios temen que depender demasiado de la IA desplace el pensamiento de “¿cómo resuelvo esto?” a “¿cómo le pido al modelo que lo resuelva?”, debilitando la comprensión profunda.
  • En investigación, el uso sugerido es dejar que la IA detecte lagunas y posibilidades, pero asegurarse de que las ideas finales y el razonamiento sean propiedad humana.
  • Se plantean preocupaciones sobre la privacidad (la IA leyendo pensamientos privados) y el potencial de ingeniería social a gran escala si esos datos llegaran a ser accesibles.