No me gustan los LLMs
Fuertes reacciones al ensayo de Martin Fowler “I Don’t Like LLMs” ponen de relieve una división entre ver los modelos de lenguaje grandes como herramientas indispensables y encontrar irritante o poco fiable su “voz de LLM” y sus errores con tono seguro. Muchos comentaristas informan de un uso intensivo diario para programar, buscar información y tareas personales, pese a un profundo escepticismo sobre la precisión, la personalidad y los valores incorporados por sus creadores. Un tema recurrente es que los LLM se tratan mejor como máquinas falibles y no como pseudo-personas, y algunos argumentan que las interfaces de chat antropomorfizadas y la web degradada están empujando a los usuarios hacia un pensamiento superficial y homogeneizado.
Percepción de la “voz” y la personalidad de los LLM
- A muchos no les gusta la “voz” por defecto de los LLM: prolija, llena de matices cautelosos, autocomplaciente, fingidamente arrepentida y “como la de un asistente ejecutivo”.
- Algunos dicen que este tono provoca ansiedad o irritación más que el contenido en sí.
- Otros sostienen que la voz se corrige fácilmente (“solo házselo indicar de otra manera”), mientras que ejemplos en contra señalan una verbosidad persistente incluso con instrucciones firmes y “modos concisos”.
- Debate sobre la antropomorfización: algunos nunca sienten que estos sistemas sean personas; otros sienten que las interfaces invitan deliberadamente a esa ilusión, lo que les parece manipulador o perturbador.
Utilidad frente a falta de fiabilidad
- Reconocimiento generalizado de que los LLM son muy útiles para programar, descubrir información para investigación, ayuda con impuestos, contratos, etc.
- Muchos equilibran el “muy útil” con “no confío en absoluto en la salida factual; todo debe verificarse”.
- Algunos los tratan como motores de búsqueda avanzados o linters y evitan leer su prosa para no absorber información incorrecta.
- Molestia por tener que refutar constantemente respuestas incorrectas, especialmente en el ámbito profesional.
Los LLM como herramientas, no como compañeros de trabajo
- Varios comentaristas presentan los LLM como herramientas o compiladores, no como agentes con los que “charlar”.
- Las mejores experiencias vienen de interacciones breves e imperativas: “emitir órdenes, obtener artefactos”, no consejos de vida ni discusiones profundas.
- Algunos evitan explícitamente las funciones de memoria o “personalidad”; otros aprovechan la memoria por comodidad (por ejemplo, entrenamientos, notas) sin que eso les haga sentir que el sistema los “conoce”.
Confianza, seguridad y agentes
- Fuerte escepticismo respecto a agentes autónomos que controlen infraestructura o bases de datos; se recomienda mantener la IA alejada de comandos destructivos y usar “cortafuegos” deterministas.
- Desacuerdo sobre si hablar de “enjambres de agentes tomando el control” sugiere erróneamente una agencia independiente de la IA o si es una abreviatura para el mal uso de herramientas por parte de humanos.
- Preocupación de que centrarse en escenarios de ciencia ficción distraiga de daños reales y presentes: actores maliciosos usando IA para hacer cosas malas con más eficiencia.
Búsqueda, acceso a la información y la web
- Algunos sienten que la búsqueda tradicional y la web están tan degradadas por anuncios y SEO que los LLM son ahora la única forma práctica de extraer información.
- Otros responden que mejores motores de búsqueda, blogs, comunidades e incluso bibliotecas siguen funcionando si uno pone el esfuerzo.
- Se elogia a los LLM como herramientas de descubrimiento de artículos académicos y alternativas de software más baratas, a veces incluso reemplazando aplicaciones de pago.
Discusión cultural y metadiscusión
- Debate sobre si los modelos actuales reflejan una cultura y un sistema de valores concretos de startups o de brogrammers.
- Cuestionamiento de las opiniones de “influencers” sobre los LLM, especialmente de personas percibidas como no estar ya trabajando de forma práctica.
- Frustración por los “gotchas” sarcásticos, la burla por las caídas del sitio y la creciente toxicidad en las discusiones sobre IA, junto con participantes que defienden el desacuerdo tajante como algo normal.