Entonces supongo que ahora todo el mundo usa LLMs para pensar
Una publicación de un blog personal que argumenta en contra de usar modelos de lenguaje grandes (LLMs) para programar como afición y para tareas de “pensamiento” desencadena un debate más amplio sobre cuánto esfuerzo mental debería delegarse a la IA. Los comentaristas contrastan las ganancias reales de productividad de los LLMs en investigación y desarrollo de software con su tendencia a equivocarse con seguridad, el riesgo de que la gente externalice el propio entendimiento y la ética del desarrollo y el marketing de la IA. Otros rechazan lo que ven como moralización o “señalización de autenticidad”, y sostienen que la elección de herramientas en proyectos personales debería seguir siendo una cuestión de preferencia individual más que de virtud.
Estilo de escritura y uso de mayúsculas
- Un subhilo grande debate el estilo del autor de escribir siempre en minúsculas.
- Algunos lo ven como informalidad intencional, eficiencia o un estilo de “descarga mental”; otros lo consideran una falta de respeto hacia los lectores y algo que reduce la facilidad de lectura rápida.
- Unos pocos sostienen que el impacto en la legibilidad es menor; otros dicen que cada pequeña degradación (sin mayúsculas, erratas, todo en mayúsculas) añade carga cognitiva.
- Algunos interpretan la falta de mayúsculas como una señal de “autenticidad” o anti-IA, y la asocian con arrogancia o pretensión; otros descartan esto como una sobreinterpretación de un estilo de internet de larga data.
Los LLMs como herramientas vs. sustitutos del pensamiento
- Muchos distinguen entre:
- Usar LLMs para investigación, texto repetitivo y ayuda de línea por línea en programación (visto como potente y favorable a la productividad).
- Delegar el “pensamiento” y bases de código enteras a LLMs (visto como algo que produce trabajo frágil, de baja calidad y más carga de revisión).
- Varios coinciden en que, para proyectos personales o de afición, puede ser más divertido y formativo hacer el trabajo manualmente en vez de delegarlo a la IA, aunque eso sea ineficiente.
Fiabilidad, comportamiento de “seguridad con error” y calidad del modelo
- Varios comentaristas repiten su frustración con que los LLMs se equivoquen con mucha seguridad, especialmente en dominios o lenguas especializadas.
- Otros responden que los modelos más nuevos de “frontera” fallan con mucha menos frecuencia, pero siguen alucinando; se dice que la experiencia, la habilidad para redactar prompts y las herramientas importan mucho.
- Hay desacuerdo sobre cuánto han mejorado los modelos y sobre si los críticos los juzgan basándose en sistemas obsoletos o de gama baja.
- Algunos señalan que los rastros de razonamiento de CoT y las llamadas a herramientas a menudo parecen absurdos, incluso cuando las respuestas finales son buenas, lo que plantea preocupaciones sobre confianza, supervisión y seguridad.
Trabajo, productividad y presión profesional
- Algunos sienten que en el trabajo prácticamente se ven obligados a usar LLMs para seguir siendo competitivos, aunque preferirían no hacerlo.
- Hay informes de grandes aumentos de productividad cuando los compañeros externalizan la investigación y la programación de bajo nivel, pero también de serios problemas de calidad cuando sistemas completos se delegan a agentes.
- Preocupa que la dependencia excesiva convierta los trabajos en roles de “etiquetado de datos” o de supervisión, y que potencialmente acelere el reemplazo.
Ética, cultura y tono
- Una línea de discusión critica el enorme capex en IA y su marketing por crear “spam” social y entusiasmo de tipo sectario.
- Otros rechazan lo que ven como publicaciones de virtud aparente del tipo “yo no uso IA” que dicen a los demás cómo deberían gastar su tiempo de afición.
- Varios sostienen que un debate significativo sobre el impacto de la IA requiere experiencia tanto con un uso intensivo como con un uso mínimo de IA, no solo una de las dos posturas.