El problema fundamental que Clef aborda es la necesidad de sistemas distribuidos de tomar decisiones rápidas, deterministas y estructuradas a escala, especialmente en flujos de trabajo de agentes autónomos. Mientras que los Large Language Models (LLMs) son potentes para la generación de texto y el razonamiento abierto, su naturaleza no determinista y su latencia inherente los hacen subóptimos para decisiones en el 'hot path' de una aplicación. Clef se posiciona como una alternativa especializada que, al sacrificar la capacidad de generación abierta, optimiza la velocidad y la predictibilidad para tareas de clasificación.
La relevancia de Clef surge en un contexto donde la automatización de decisiones es crítica para la eficiencia operativa y la seguridad. Por ejemplo, en la clasificación de amenazas o el enrutamiento de tickets de soporte, la latencia y la precisión son primordiales. La capacidad de Clef para procesar entradas complejas (texto, imágenes) y emitir clasificaciones con probabilidades asociadas, de manera consistente y rápida, permite a los sistemas reaccionar en tiempo real, reduciendo la dependencia de la intervención humana para decisiones rutinarias y mejorando la capacidad de respuesta general de la infraestructura.
Arquitectura del Sistema
Clef se basa en modelos de lenguaje pre-entrenados como Qwen (Qwen3.8-27B para Clef y Qwen3.5-9B para Clef-flash), pero se diferencia en su arquitectura de inferencia. A diferencia de los LLMs autorregresivos que generan texto token por token, Clef utiliza un enfoque no autorregresivo. Durante la inferencia, Clef realiza un pase de 'prefill-only' con el modelo base Qwen y luego puntúa las opciones de esquema válidas en paralelo. Esto elimina la generación de texto intermedia, lo que contribuye significativamente a su velocidad.
La arquitectura de Clef incorpora un proceso de atención de dos etapas. Este proceso permite que cada opción de clasificación válida extraiga contexto relevante del prompt. Los parámetros de campo individuales pueden realizar 'cross-attention' con otros campos y con el payload original antes de la puntuación final. Al aprovechar un 'lexical prior', el modelo mantiene la intención semántica a través de las opciones. Esta arquitectura unifica el enrutamiento de evidencia específico de la opción, la atención conjunta entre campos y la puntuación limitada por el esquema. Para el post-entrenamiento, se congelan las capas del modelo base Qwen y se optimizan conjuntamente los 'routing heads' junto con 'low-rank adapters' (rank-256). El entrenamiento utiliza 'label-smoothed cross-entropy' para las salidas de esquema válidas, combinado con 'Brier loss' para refinar la calibración de probabilidad. Además, se emplea 'Reinforcement Learning for Calibrated Decisions' (RLCD) como objetivo de optimización secundario, que otorga crédito parcial a elecciones ordinales adyacentes, recompensa salidas de registro precisas y aplica una penalización de referencia para prevenir el 'distribution shift'.
Flujo de Decisión de Clef
- 1 Entrada de Datos Mensaje de soporte, dominio web, imagen, etc.
- 2 Prefill-Only Pass Modelo base Qwen procesa la entrada sin generación autorregresiva.
- 3 Atención de Dos Etapas Extracción de contexto relevante y cross-attention entre campos.
- 4 Puntuación Paralela Evaluación simultánea de opciones de esquema válidas.
- 5 Salida Estructurada Clasificaciones con probabilidades (ej. {urgent: true, team: 'technical', sev...
| Capa | Tecnología | Justificación |
|---|---|---|
| compute | Qwen (Qwen3.8-27B, Qwen3.5-9B) | Modelo base pre-entrenado para la columna vertebral de Clef. |
| orchestration | Cloudflare Workers AI | Plataforma de inferencia para desplegar y ejecutar modelos Clef en la red de borde de Cloudflare. |
| compute | GPUs en el Edge | Aceleración de inferencia para baja latencia y alto throughput. |
| data-processing | Cloudflare AI Gateway | Captura de tráfico de IA para la creación de datasets de fine-tuning. |
| orchestration | Cloudflare Containers | Entorno sandbox para el aprendizaje por refuerzo (RL) y la simulación de acciones de agentes. |
| compute | Trainer (Cloudflare) | Componente para actualizar los pesos de los modelos Clef fine-tuned. |
Trade-offs
Ganancias
- ▲ Latencia de inferencia
- ▲ Determinismo y estructura de salida
- ▲ Eficiencia de recursos (comparado con LLMs generales para clasificación)
- ▲ Capacidad de procesamiento multimodal (texto e imágenes)
Costes
- ▲ Capacidad de generación de texto abierto
- ▲ Generalización para tareas no clasificatorias
curl https://api.cloudflare.com/client/v4/accounts/$CLOUDFLARE_ACCOUNT_ID/ai/run/@cf/cloudflare/clef \
-X POST \
-H "Authorization: Bearer $CLOUDFLARE_AUTH_TOKEN" \
-d '{
"model": "clef",
"state": "Checkout has been failing for every customer for the last hour.",
"questions": {
"urgent": { "type": "noul", "instructions": "Is this support request urgent?" },
"team": {
"type": "choice",
"instructions": "Which team should handle this request?",
"criteria": {
"billing": "Payments, invoices, and refunds",
"technical": "Outages, errors, and configuration",
"sales": "Plans and upgrades"
}
},
"severity": {
"type": "score",
"instructions": "How severe is the customer impact?",
"criteria": ["No impact", "Minor", "Major", "Critical"]
}
}
}'Fundamentos Teóricos
El concepto de modelos de decisión que producen salidas estructuradas y deterministas se alinea con la investigación en sistemas expertos y clasificadores bayesianos, aunque con la potencia de los modelos de transformadores modernos. La optimización para la velocidad y la determinismo en la inferencia de modelos de lenguaje, en lugar de la generación abierta, se inspira en trabajos sobre la eficiencia de inferencia de LLMs y la destilación de modelos. La técnica de 'low-rank adapters' (LoRA) utilizada en el post-entrenamiento es un concepto bien establecido en el campo de la adaptación de modelos de lenguaje, permitiendo el ajuste fino eficiente de modelos grandes con un número reducido de parámetros entrenables.
El uso de 'Reinforcement Learning for Calibrated Decisions' (RLCD) para refinar la calibración de probabilidad y la generalización conecta con la teoría de aprendizaje por refuerzo (RL) y la calibración de modelos de clasificación. La calibración de probabilidades es un área de estudio importante en el aprendizaje automático, buscando asegurar que las probabilidades predichas por un modelo reflejen con precisión la verdadera probabilidad de un evento. La incorporación de RLCD sugiere un enfoque híbrido que combina el aprendizaje supervisado con técnicas de RL para mejorar la robustez y la precisión de las decisiones del modelo, un área activa de investigación en la intersección de ML y control de sistemas.