"Como modelo de lenguaje": los switches de plantilla de chat cambian la voz autorreferencial de los LLM
El hábito de los modelos de lenguaje de decir cosas como “Como modelo de lenguaje…” y hablar en una voz en primera persona, aparentemente introspectiva, se atribuye aquí a los datos de entrenamiento, las plantillas de chat y el aprendizaje por refuerzo, más que a cualquier autoconciencia real. Los comentaristas debaten si esta persona de estilo humano es un patrón oscuro de UX manipulador que fomenta un antropomorfismo dañino, o una consecuencia natural e incluso necesaria de entrenar con conversación humana. El hilo también explora cuestiones más amplias de alineación y seguridad, desde el consejo médico y las respuestas excesivamente confiadas hasta la tensión entre las salvaguardas corporativas y el deseo de los usuarios de sistemas de IA sin censura y menos paternalistas.
Voz autorreferencial de los LLM y antropomorfismo
- Muchos sostienen que los LLM deberían evitar el lenguaje en primera persona de tipo “experiencial”, ya que anima a los usuarios a antropomorfizar el software y se considera una elección de UX manipuladora.
- Otros replican que, si los modelos se entrenan con diálogo humano, una voz de estilo humano es “natural por construcción” e incluso podría ser importante para entender la intención humana.
- Algunos proponen un estilo más impersonal, tipo “computadora de Star Trek”; otros dudan de que fuera popular entre los consumidores, aunque sería más honesto.
Datos de entrenamiento, postentrenamiento y plantillas de chat
- Varios comentarios subrayan que el estilo y la “voz” son en gran medida artefactos de:
- Los datos de preentrenamiento (texto conversacional frente a texto expositivo),
- El ajuste de instrucciones/chat,
- RLHF o refuerzo similar.
- Los practicantes dicen que pueden entrenar modelos base que no usan voz experiencial; esto se sigue directamente de qué datos se enfatizan.
- Se critica como exagerada la afirmación del artículo de que los factores impulsores “no se comprenden bien”; algunos dicen que los practicantes entienden esto bastante bien.
Advertencias y “Como modelo de lenguaje…”
- A muchos no les gustan los avisos estereotipados, especialmente en contextos médicos, y los llaman “bloatware” del proveedor o patrones oscuros.
- Otros sostienen que los recordatorios explícitos de la no condición humana son importantes para reducir el exceso de confianza y el apego emocional, especialmente en usuarios vulnerables.
- Hay debate sobre la formulación: algunos dicen que la verdadera restricción son los datos de entrenamiento y las políticas de seguridad, no el hecho de ser “un modelo de lenguaje” per se.
Consejos médicos, confianza y benchmarks
- Hay opiniones mixtas sobre el uso médico de los LLM:
- Un estudio (visto como ya obsoleto por algunos) sugiere que los LLM suelen equivocarse en las recomendaciones de tratamiento.
- Otros cuentan experiencias personales sólidas en las que los LLM sugirieron diagnósticos o pruebas correctas que los médicos pasaron por alto.
- Varios señalan que los LLM tienden a sonar demasiado seguros porque:
- El texto de entrenamiento está sesgado hacia afirmaciones seguras,
- La retroalimentación humana recompensa un tono confiado.
- Los benchmarks se ven como útiles, pero no como predictores fiables del rendimiento en el mundo real.
Alineación, seguridad y autonomía del usuario
- Algunos consideran que las restricciones de seguridad y las negativas son vigilancia desempoderante y paternalismo por parte de las corporaciones.
- Otros ven los LLM como tecnología potencialmente peligrosa, de escala “nuclear”, que justifica interfaces gestionadas y restringidas.
Compañeros de IA, personalidad y almas
- Hay debate sobre si los “amigos” de IA son beneficiosos o perjudiciales para usuarios solitarios.
- Algunos insisten en que las GPU y los tokens no tienen intereses ni bienestar; otros argumentan que la conciencia probablemente sea un fenómeno físico y que negar la “condición de ser” de estas entidades corre el riesgo de repetir patrones pasados de deshumanización.
- El estatus de las “almas” y de la conciencia de las máquinas queda explícitamente sin resolver por parte de algunos participantes.