Las 100k porqués de la IA
La IA generativa está inundando cada vez más mercados como Amazon con libros infantiles y otros medios que comparten títulos, portadas y prosa sorprendentemente similares, lo que pone de relieve cómo los grandes modelos de lenguaje tienden a converger en los mismos patrones “promedio”. Los comentaristas debaten si esta uniformidad es principalmente una limitación de los modelos, de los prompts de los usuarios o de los incentivos comerciales que favorecen una salida rápida y genérica por encima de la originalidad. La conversación abarca ideas técnicas como el mode collapse y los límites de la ventana de contexto, así como preocupaciones más amplias sobre el deterioro de la señal frente al ruido en el contenido escrito, la facilidad para detectar “AI slop” y si el público se preocupará lo suficiente como para buscar obras creadas por humanos.
Homogeneidad y “regresión a la media”
- Muchos ven el ejemplo de las enciclopedias infantiles como una fuerte evidencia de la uniformidad de los LLM: portadas, títulos y contenido convergen hacia un rango estético y retórico estrecho.
- Los comentaristas vinculan esto con el “mode collapse” y el ajuste por instrucciones: los modelos gravitan hacia un diminuto subconjunto de salidas similares a las humanas.
- Se observan patrones similares en publicaciones de blog sobre IA, videos de YouTube de “revenge story” y música GenAI: pulidos pero agresivamente promedio, rara vez malos, rara vez excepcionales.
Prompts, dirección y creatividad
- Algunos argumentan que los prompts pueden cambiar significativamente el estilo, especialmente con ejemplos extensos o flujos de trabajo estructurados (selección de características en varios pasos, aleatoriedad, edición iterativa).
- Otros dicen que las diferencias son modestas a menos que se añada información nueva; consideran la “ingeniería de prompts” como exagerada y ven las salidas como variantes fundamentalmente banales del arte existente.
- Hay interés en una dirección más robusta (distintas “personalidades”, modelos de pesos abiertos) e incluso en métricas de cobertura para empujar a los modelos hacia regiones menos exploradas.
Comparaciones con autores humanos
- Se describe a los humanos como seres que parten de historias de vida y estados mentales diversos, mientras que los LLM son “la misma mente, siempre arrancada de nuevo”.
- Un bando subraya la eficiencia humana en el uso de datos y la capacidad para el pensamiento contrafactual genuino; otro señala que la mayor parte de la producción humana también es derivativa, y que las audiencias de géneros a menudo quieren fórmulas repetidas.
Detección y patrones retóricos
- Varios participantes afirman que la prosa de IA ahora es fácil de detectar mediante estructuras retóricas recurrentes, el predecible “rechazo y luego acuerdo”, y un núcleo lógico superficial.
- Otros advierten sobre el sesgo de confirmación e instan a la caridad: la gente puede ver patrones donde no los hay.
- Se debate la retórica clásica: los LLM son decentes en el estilo superficial, pero débiles en ethos/pathos más profundos y en el razonamiento.
Calidad, slop y efectos de mercado
- Ejemplos de libros infantiles llenos de errores e imágenes de IA (p. ej., animales anatómicamente incorrectos) alimentan la preocupación por la avalancha de “AI slop” de bajo esfuerzo en Amazon y tiendas de gran formato.
- Algunos creen que las pruebas son débiles o se basan en unos pocos casos malos; otros informan haber muestreado más libros y haber visto problemas más amplios.
- Las preocupaciones más amplias incluyen la erosión de la confianza en servicios solo de texto, la IA haciéndose pasar por profesionales y un futuro en el que muchos consumidores se conformen con medios generados por máquina indistinguibles.