Las 100k porqués de la IA

Homogeneidad y “regresión a la media”

• Muchos ven el ejemplo de las enciclopedias infantiles como una fuerte evidencia de la uniformidad de los LLM: portadas, títulos y contenido convergen hacia un rango estético y retórico estrecho.
• Los comentaristas vinculan esto con el “mode collapse” y el ajuste por instrucciones: los modelos gravitan hacia un diminuto subconjunto de salidas similares a las humanas.
• Se observan patrones similares en publicaciones de blog sobre IA, videos de YouTube de “revenge story” y música GenAI: pulidos pero agresivamente promedio, rara vez malos, rara vez excepcionales.

Prompts, dirección y creatividad

• Algunos argumentan que los prompts pueden cambiar significativamente el estilo, especialmente con ejemplos extensos o flujos de trabajo estructurados (selección de características en varios pasos, aleatoriedad, edición iterativa).
• Otros dicen que las diferencias son modestas a menos que se añada información nueva; consideran la “ingeniería de prompts” como exagerada y ven las salidas como variantes fundamentalmente banales del arte existente.
• Hay interés en una dirección más robusta (distintas “personalidades”, modelos de pesos abiertos) e incluso en métricas de cobertura para empujar a los modelos hacia regiones menos exploradas.

Comparaciones con autores humanos

• Se describe a los humanos como seres que parten de historias de vida y estados mentales diversos, mientras que los LLM son “la misma mente, siempre arrancada de nuevo”.
• Un bando subraya la eficiencia humana en el uso de datos y la capacidad para el pensamiento contrafactual genuino; otro señala que la mayor parte de la producción humana también es derivativa, y que las audiencias de géneros a menudo quieren fórmulas repetidas.

Detección y patrones retóricos

• Varios participantes afirman que la prosa de IA ahora es fácil de detectar mediante estructuras retóricas recurrentes, el predecible “rechazo y luego acuerdo”, y un núcleo lógico superficial.
• Otros advierten sobre el sesgo de confirmación e instan a la caridad: la gente puede ver patrones donde no los hay.
• Se debate la retórica clásica: los LLM son decentes en el estilo superficial, pero débiles en ethos/pathos más profundos y en el razonamiento.

Calidad, slop y efectos de mercado

• Ejemplos de libros infantiles llenos de errores e imágenes de IA (p. ej., animales anatómicamente incorrectos) alimentan la preocupación por la avalancha de “AI slop” de bajo esfuerzo en Amazon y tiendas de gran formato.
• Algunos creen que las pruebas son débiles o se basan en unos pocos casos malos; otros informan haber muestreado más libros y haber visto problemas más amplios.
• Las preocupaciones más amplias incluyen la erosión de la confianza en servicios solo de texto, la IA haciéndose pasar por profesionales y un futuro en el que muchos consumidores se conformen con medios generados por máquina indistinguibles.