MonadGPT – ¿Qué habría pasado si ChatGPT se hubiera inventado en el siglo XVII?
Un modelo de lenguaje de 7B parámetros afinado con textos de los siglos XVII y XVIII, MonadGPT aspira a emular cómo escribiría y razocinaría un pensador de la temprana modernidad, permitiendo conversaciones inmersivas de “viaje en el tiempo” para la educación histórica y la experimentación. Los comentaristas exploran casos de uso como simular debates entre figuras históricas, enseñar contexto cultural y construir variantes específicas de época (p. ej., modelos de la era romana o solo en latín), al tiempo que señalan limitaciones técnicas como corpus históricos reducidos, la filtración de datos modernos en las respuestas y la salida repetitiva. Muchos consideran que los resultados son a la vez entretenidos y reveladores, ya que el estilo arcaico del modelo expone creencias pasadas sobre ciencia, medicina, religión y política, y pone de relieve cómo los LLM están limitados por sus datos de entrenamiento.
Educación histórica y casos de uso
- Muchos ven un gran potencial para enseñar historia, especialmente como una “orientación para viajar en el tiempo” a culturas pasadas, más que solo fechas y acontecimientos.
- Usos sugeridos: conversaciones simuladas con figuras de la temprana modernidad, debates entre pensadores históricos y NPC históricamente fundamentados en juegos.
- Hay interés en extender la idea a otros periodos y lenguas: latín de la época romana, francés medieval/de la temprana modernidad, “los 80”, inglés antiguo/temprano y pensadores especializados (p. ej., Foucault).
Datos de entrenamiento y elecciones lingüísticas
- El modelo está afinado a partir de una base moderna que sigue instrucciones (Mistral/OpenHermes) con corpus de la temprana modernidad; no se entrenó desde cero con textos antiguos por limitaciones de datos.
- El conjunto de datos es público; se prevé un futuro modelo histórico francés de mayor tamaño (1000–2000).
- Decisión consciente de preservar la ortografía y la tipografía históricas (incluida la confusión con la s larga), aunque a los tokenizadores no les guste.
- Debate sobre si conviene normalizar la tipografía o ejecutar primero un “paso de diccionario”.
Comportamiento del modelo y ejemplos
- Los usuarios comparten salidas entretenidas: consejos sobre ensayos, dolores de cabeza, rayos, melancolía amorosa, criptomoneda y un hipotético 2023, todo en estilo arcaico.
- Algunas respuestas son históricamente “erróneas” de una forma que coincide con el pensamiento de la época (p. ej., física, medicina, adiestramiento de perros).
- Bucles repetitivos (“nuevos motores…”, lavado repetido con ácido, interminables “vuélvelo a golpear”) ponen de relieve problemas de modelos pequeños y de muestreo.
Autenticidad y contaminación temporal
- A veces el modelo alterna entre una voz del siglo XVII y una moderna (p. ej., definiciones al estilo Wikipedia, conciencia de políticos o productos modernos).
- El creador reconoce una compensación intencional: buen seguimiento de instrucciones frente a un “reinicio cultural” profundo.
- La ingeniería de prompts con arcaísmos falsos ayuda a fijarlo en el pasado; se sugiere penalizar palabras modernas o reinicializar las capas superiores.
- Algunos usuarios no están satisfechos con que se filtre conocimiento moderno, argumentando que socava la ilusión de viajar en el tiempo.
Aspectos técnicos y limitaciones
- Existen versiones cuantizadas GGUF; los usuarios informan ejecuciones locales fluidas en Macs con chip M-series usando llama.cpp.
- El tamaño pequeño de 7B y los datos “extraños” implican mayor sensibilidad a la calidad de la cuantización y a la repetición.
- Se sugieren mejores penalizaciones de muestreo y más entrenamiento para reducir los bucles.
Debates filosóficos y conceptuales
- Se discute si los LLM pueden poner a prueba interpretaciones históricas o solo generar reescrituras seguras pero no verificables.
- Hay disputa sobre qué significaría que el modelo “crea” algo frente a simplemente manipular tokens.
- Escepticismo acerca de reconstruir el “zeitgeist” a partir de textos tempranos escritos por élites y sobre la promesa del título del hilo de explorar historia alternativa, no solo simulación de estilo.