La construcción de agentes conversacionales basados en Large Language Models (LLMs) presenta un desafío fundamental en la ingeniería de sistemas distribuidos: cómo asegurar y mejorar la calidad de las interacciones en un sistema multi-componente y multi-turno. A diferencia de la evaluación de modelos de ML tradicionales, donde la salida es un resultado aislado, un agente LLM implica una secuencia de decisiones (interpretación de intención, selección de contexto, uso de herramientas, síntesis) que culminan en una respuesta. Este problema se agrava por la naturaleza no determinista de los LLMs y la complejidad de sus prompts, que actúan como el 'código' principal del sistema.
La solución propuesta por Dropbox aborda esto mediante un bucle de retroalimentación sistemático. En lugar de la iteración manual de prompts, se establece un proceso automatizado que utiliza LLMs como 'jueces' para evaluar el comportamiento del agente. Estos jueces son calibrados con supervisión humana y luego se utilizan para guiar la optimización de los prompts del agente, transformando un problema de ingeniería de prompts heurístico en un problema de optimización de ML estructurado. Esto es crucial en la era actual de sistemas basados en LLMs, donde la calidad y la eficiencia son directamente proporcionales a la capacidad de iterar y mejorar de forma escalable.
Arquitectura del Sistema
El sistema de optimización se compone de varias capas interconectadas. En el núcleo, el Agente de Chat de Dropbox, que integra conocimiento de diversas fuentes (documentos, mensajes, reuniones), responde a las consultas de los usuarios. La capa de Evaluación de Agentes es fundamental; no solo evalúa la respuesta final, sino toda la 'trayectoria' del agente, incluyendo la interpretación de la intención, la selección de contexto, el uso de herramientas y la síntesis de información. Esta evaluación se desglosa en dimensiones como 'user intent following', 'semantic relevance', 'tool calling', 'instruction following' y 'context selection'.
Para asegurar la fiabilidad de la evaluación, se utilizan LLMs como 'jueces'. Estos jueces son calibrados contra un conjunto de ejemplos etiquetados por humanos, utilizando una rúbrica de evaluación estructurada. El proceso de calibración implica optimizar los prompts de los jueces para minimizar el desacuerdo con las evaluaciones humanas. Una vez calibrados, estos jueces se convierten en la fuente de señales de evaluación escalables. El framework DSPy se utiliza para la optimización, empleando algoritmos como GEPA (Gradient-based Prompt Engineering Algorithm) y MIPROv2 para proponer y probar automáticamente cambios en los prompts del agente. Este bucle de optimización se basa en un 'offline counterfactual replay' de interacciones históricas, donde los prompts candidatos son evaluados por el pipeline de evaluación, y las puntuaciones y el razonamiento estructurado de los jueces se utilizan como señal de retroalimentación para guiar la siguiente iteración de GEPA. Las métricas clave monitoreadas incluyen la reducción de respuestas incompletas y la eficiencia en el uso de tokens.
Bucle de Optimización del Agente LLM
- 1 Interacciones del Usuario El agente LLM procesa consultas de usuarios internos de Dropbox.
- 2 Recolección de Datos Se muestrean chats internos, incluyendo respuestas y logs de traza.
- 3 Etiquetado Humano Evaluadores humanos puntúan respuestas en 5 dimensiones y añaden notas.
- 4 Calibración de Jueces LLM DSPy optimiza prompts de jueces para alinear sus puntuaciones con humanos.
- 5 Evaluación por Jueces LLM Jueces LLM calibrados evalúan el rendimiento de prompts candidatos.
- 6 Optimización de Prompts (DSPy) GEPA/MIPROv2 proponen nuevas versiones del prompt del agente.
- 7 Replay Contrafactual Prompts candidatos se prueban en datos históricos representativos.
- 8 Lanzamiento y Monitoreo Prompts validados se despliegan en producción, se monitorean métricas.
| Capa | Tecnología | Justificación |
|---|---|---|
| compute | Large Language Models (LLMs) | Núcleo del agente de chat y de los jueces de evaluación. Realizan interpretación de intención, generación de respuestas y evaluación de calidad. |
| data-processing | DSPy | Framework de código abierto para optimizar sistemas de IA. Se utiliza para la calibración de jueces y la optimización de prompts del agente. vs Iteración manual de prompts, Otros frameworks de optimización de prompts |
| data-processing | GEPA (Gradient-based Prompt Engineering Algorithm) | Algoritmo de optimización dentro de DSPy para proponer y refinar prompts de manera iterativa. |
| data-processing | MIPROv2 | Algoritmo de optimización dentro de DSPy, utilizado para mejorar el rendimiento de los jueces y agentes. |
| observability | Human Labeling / Evaluation Rubric | Proporciona la 'verdad fundamental' para calibrar los jueces LLM y establecer métricas de calidad. Incluye dimensiones como 'user intent following', 'semantic relevance', 'tool calling', 'instruction following', 'context selection'. Escala de 1-5, notas de razonamiento, códigos de fallo. |
Trade-offs
Ganancias
- ▲ Velocidad de iteración en prompts
- ▲ Calidad de respuesta del agente (reducción de fallos)
- △ Eficiencia en el uso de tokens
- ▲ Fiabilidad de la evaluación
Costes
Fundamentos Teóricos
El problema de la evaluación y optimización de sistemas complejos con componentes no deterministas, como los agentes LLM, tiene raíces en la teoría de control y la optimización de sistemas adaptativos. La idea de un 'juez' o 'evaluador' que proporciona retroalimentación para mejorar un sistema se alinea con los principios del aprendizaje por refuerzo (Reinforcement Learning), donde un agente aprende a través de la interacción con un entorno y la recepción de recompensas o penalizaciones. Aunque el artículo no cita directamente papers de RL, el concepto de un bucle de retroalimentación donde las evaluaciones (recompensas) guían la mejora de un agente es central en trabajos como los de Sutton y Barto en 'Reinforcement Learning: An Introduction' (1998).
La calibración de los jueces LLM con etiquetas humanas resuena con el concepto de 'Human-in-the-Loop' (HITL) y la importancia de la supervisión humana para alinear sistemas de IA con valores y expectativas humanas, un tema recurrente en la investigación de AI Safety y Fairness. La optimización de prompts mediante algoritmos como GEPA y MIPROv2, que buscan automáticamente la mejor configuración de un sistema basado en retroalimentación, puede verse como una aplicación de técnicas de optimización meta-heurísticas o de búsqueda de hiperparámetros, comunes en el campo del Machine Learning desde sus inicios.