Clef: Modelos de decisión de pesos abiertos y nueva plataforma de ajuste fino por RL

Artículo original ↗ Discusión en Hacker News ↗

El nuevo “modelo de decisión” Clef de Cloudflare —un clasificador de pesos abiertos basado en Qwen que puede puntuar opciones estructuradas e imágenes— está generando comparaciones con Jev de Typesafe y una ola de clones al estilo Jev. Los comentaristas señalan que la idea subyacente de usar LLMs o modelos más pequeños como clasificadores rápidos y estructurados no es nueva y es relativamente fácil de reproducir, por lo que la diferenciación dependerá de la latencia, la precisión, la calibración, el coste y la apertura. Aunque algunas pruebas iniciales encuentran que Clef es más lento o menos eficaz que Jev en cargas de trabajo reales, muchos ven los modelos de decisión especializados como una forma útil de descargar tareas rutinarias de clasificación y moderación de los LLMs generales de gran tamaño.

Qué son los “modelos de decisión” y por qué aparecieron tantos

  • Los comentaristas presentan los modelos de decisión como clasificadores construidos sobre transformers: limitan la salida a opciones, a menudo mediante decodificación de un solo token más logprobs.
  • La idea subyacente (clasificadores de propósito general, decodificación estructurada) es anterior a Jev; Jev בעיקר popularizó y convirtió en producto esta idea.
  • Como pueden construirse sobre LLMs abiertos existentes (por ejemplo, Qwen, Gemma) con un posentrenamiento ligero, muchas empresas pudieron crear modelos tipo Jev en cuestión de semanas.

Facilidad de construcción frente a las partes difíciles

  • Arquitectónicamente, se consideran fáciles para cualquiera que tenga infraestructura de LLM: intercambiar o afinar unas pocas capas, imponer salida estructurada.
  • Los datos sintéticos de LLMs más potentes hacen que entrenarlos sea aún más fácil.
  • La parte difícil es disponer de datos de entrenamiento de alta calidad y bien calibrados, así como la evaluación. Se considera que la buena calibración de probabilidades no es trivial y sigue siendo objeto de debate.

Clef vs Jev: rendimiento, precios y capacidades

  • Clef se describe como un modelo de decisión basado en Qwen; Clef-flash usa una variante más pequeña de Qwen y ambos admiten imágenes.
  • Los pesos son abiertos, pero los datos y el pipeline completo de entrenamiento no lo son; algunos distinguen esto de ser completamente de código abierto.
  • Precios: se cita Clef en ~0,24 $/M tokens de entrada (Clef-flash ~0,09 $/M), frente a Jev en ~0,042 $/M. Varios microbenchmarks de usuarios informan que Clef es entre 2 y 10 veces más lento que Jev en sus cargas de trabajo, a veces con una precisión similar o peor.
  • Otros señalan que los propios benchmarks de Cloudflare muestran a Clef superando a Jev en precisión, pero las comparaciones de latencia pueden ocultar cómo escala la velocidad con la longitud del contexto.

Casos de uso, valor y limitaciones

  • Usos reportados o imaginados: detección de spam y phishing, filtrado de registros, decisiones de WAF, moderación de contenido y nombres de usuario, enrutamiento de tickets de soporte, selección de herramientas por agentes, aprobación de comandos de shell, flujos de trabajo de cumplimiento, clasificación en búsquedas.
  • Algunos argumentan que el atractivo de Jev es “inteligencia + forma de decisión”; muchos clones parecen envoltorios superficiales sobre pequeños LLMs o clasificadores tradicionales.
  • Hay escepticismo sobre que los modelos zero-shot sin priors ni ajuste fino sean útiles para decisiones específicas de un dominio; algunos quieren formas de inyectar priors o bucles de retroalimentación estilo RL.

Pesos abiertos, modelos locales y ecosistema

  • Se mencionan múltiples alternativas pequeñas o locales (modelos a escala de CPU, clasificadores en dispositivo de 60M de parámetros, “Ollama para modelos de decisión”).
  • Compensaciones: los modelos locales ofrecen privacidad y menor latencia, pero menos conocimiento general del mundo; los grandes modelos alojados son más inteligentes pero más caros y lentos.

Reflexiones y preocupaciones más amplias

  • Varios ven los “modelos de decisión” como, en esencia, un cambio de nombre de los modelos discriminativos, aunque con mejor ergonomía y marketing.
  • Otros consideran que este espacio es una oportunidad de bajo esfuerzo puesta al descubierto por el progreso de los LLMs; esperan muchas más nichos de este tipo.
  • Se critica que las afirmaciones sobre determinismo y “sin humano en el circuito” son exageradas, especialmente dadas las cuestiones de calibración y de cambio de distribución.