Automatizamos la palabrería
Los críticos argumentan que modelos de lenguaje grandes como ChatGPT son “generadores de palabrería” en el sentido filosófico: producen texto fluido y persuasivo sin ninguna preocupación incorporada por la verdad, lo que hace que sus errores confiados sean especialmente peligrosos cuando los usuarios no verifican los resultados. Otros replican que, usados como herramientas por personas con conocimientos —por ejemplo, para ayudar con código, búsquedas, resúmenes o generación de ideas—, estos sistemas pueden aumentar enormemente la productividad, siempre que se comprendan claramente sus limitaciones, la calidad de sus datos de entrenamiento y su susceptibilidad al uso indebido (como propaganda o errores legales).
Utilidad vs. naturaleza de “palabrería”
- Muchos comentaristas dicen que los LLM son extremadamente útiles para hechos difíciles de buscar, lluvia de ideas, reescritura, resumir y “rubber-ducking” de problemas.
- Otros subrayan que esto no contradice que sean “generadores de palabrería”: optimizan el lenguaje plausible, no la verdad.
- Algunos sostienen que el ensayo subestima esta dualidad: el mismo mecanismo que produce palabrería también puede sacar a la luz información valiosa más rápido que las herramientas tradicionales.
Verificación, experiencia y riesgo
- Hay un consenso fuerte en que las respuestas deben verificarse; varias personas suelen contrastar los resultados.
- Los críticos señalan que muchos usuarios no verifican, citando abogados sancionados por presentar casos fabricados de ChatGPT.
- Un punto recurrente: los LLM son más seguros y eficaces cuando los usuarios ya tienen conocimientos del dominio para juzgar la corrección.
- Preocupación: en ámbitos de alto riesgo (derecho, medicina, políticas públicas), respuestas erróneas pero seguras pueden ser peligrosas, y no existe una comprobación de hechos integrada que “cierre el ciclo”.
Comparación con motores de búsqueda y Wikipedia
- Algunos consideran que los LLM son mejores que Google para consultas oscuras; otros dudan de esas anécdotas o las atribuyen al declive de Google.
- Wikipedia se contrasta así: cita fuentes y tiene corrección comunitaria; los LLM no revelan la procedencia y no pueden corregirse de manera sistemática.
- Varios predicen que los LLM acabarán tan normalizados como Wikipedia, pero con modos de fallo distintos.
Definición de “palabrería” y epistemología
- Varios comentarios remiten a la definición filosófica: discurso indiferente a la verdad, no simplemente “falso”.
- Bajo esta óptica, los LLM siempre producen palabrería, porque modelan la probabilidad del texto, no la realidad ni la intención.
- Otros replican que esto exagera las cosas: los modelos codifican mucha información exacta y a menudo se comportan como una persona profana bien informada.
Casos de uso en programación y productividad
- Muchos desarrolladores informan grandes ganancias de productividad: generación de código repetitivo, refactorización, documentación, búsqueda de código al estilo RAG y explicación de fragmentos.
- Otros registran altas tasas de error, especialmente en lenguajes tipo C, o problemas sutiles (seguridad, casos límite) que “funcionan” pero están mal.
- La opinión común: se parecen a un asistente inteligente pero junior: bueno para borradores y patrones, no para código de producción sin revisar.
Datos, alineación y preocupaciones sociales
- Algunos atribuyen la palabrería a datos de entrenamiento de calidad mixta (redes sociales, propaganda); otros, a la arquitectura (sin modelo del mundo ni verificación de hechos).
- Las preocupaciones incluyen: propaganda a escala, estafadores, uso indebido en tribunales y erosión de la confianza en la información.
- Algunos ven los LLM simplemente como una automatización de las economías existentes de “palabrería” (informes burocráticos, textos de marketing), con implicaciones tanto liberadoras como amenazantes.