El problema fundamental que aborda este trabajo es cómo escalar la capacidad de los Large Language Models (LLMs) para ejecutar tareas complejas y de larga duración, como la construcción de software completo, de una manera eficiente y robusta. Los agentes LLM individuales, aunque potentes, sufren de limitaciones inherentes en la gestión de contexto y la coherencia a lo largo del tiempo, lo que lleva a la 'deriva' o a la incapacidad de mantener una visión global mientras se enfocan en detalles.
La solución propuesta es una arquitectura de 'swarm' o enjambre de agentes, que descompone recursivamente una tarea en unidades de trabajo más pequeñas, asignando roles especializados a diferentes agentes. Esta aproximación no solo mejora la eficiencia del contexto al permitir que los agentes se concentren en subtareas específicas, sino que también introduce paralelismo y mecanismos de coordinación que son críticos para la estabilidad y la calidad del resultado en proyectos de gran envergadura. La relevancia actual de esta tesis radica en el rápido avance de los LLMs y la necesidad de herramientas que permitan a los ingenieros operar a un nivel de abstracción más alto, transformando especificaciones de alto nivel en implementaciones funcionales de manera automatizada.
Arquitectura del Sistema
La arquitectura central se basa en una descomposición jerárquica de tareas, estructurada como un árbol. En la raíz, un 'Planner Agent' (impulsado por modelos LLM de mayor capacidad y costo) se encarga de subdividir un objetivo principal en piezas más pequeñas. Estas piezas son delegadas a 'Worker Agents' (generalmente impulsados por modelos LLM más rápidos y económicos) que ejecutan las subtareas específicas. Esta separación de roles permite una gestión eficiente del contexto: los Planners mantienen la visión global sin ahogarse en detalles de implementación, mientras que los Workers se enfocan intensamente en una subtarea sin necesidad de mantener el contexto de todo el proyecto.
Para soportar la alta tasa de actividad (hasta 1,000 'commits' por segundo), se desarrolló un nuevo 'Version Control System' (VCS) desde cero. Este VCS no solo maneja el throughput, sino que también sirve como capa de detección y resolución de colisiones. Dentro de este VCS, se implementan varios mecanismos de coordinación avanzados: la prevención de 'split-brain' mediante la asignación explícita de decisiones de diseño a los Planners; la resolución de contención entre Planners a través de 'shared design docs' con referencias verificadas por compilación; la intervención de un 'neutral third-party agent' para resolver 'merge conflicts' de manera imparcial; y la detección y refactorización automática de 'megafiles' por un agente externo. Además, se introduce el concepto de 'Review Lenses', donde múltiples agentes revisores, con diferentes configuraciones de modelo y enfoques, auditan el trabajo para acumular errores y mejorar la calidad. Finalmente, el 'Field Guide' es un mecanismo de 'stigmergy' donde los agentes curan y comparten conocimiento institucionalizado para mejorar futuras trayectorias de trabajo.
Flujo de Ejecución de Tareas en Swarm de Agentes
- 1 Planner Agent Descompone el objetivo principal en subtareas jerárquicas.
- 2 Planner Agent Delega subtareas a Worker Agents, asegurando decisiones de diseño únicas.
- 3 Worker Agent Ejecuta una subtarea específica, enfocándose en el contexto local.
- 4 Worker Agent Realiza cambios en el código y los envía al VCS.
- 5 VCS Procesa commits a alta velocidad, detecta colisiones.
- 6 Neutral Third-Party Agent Resuelve merge conflicts imparcialmente.
- 7 Review Agent Audita el código y el proceso usando diferentes 'lenses'.
- 8 Field Guide Agentes curan y consultan conocimiento institucionalizado.
| Capa | Tecnología | Justificación |
|---|---|---|
| compute | Large Language Models (LLMs) | Motores de inferencia para Planner y Worker Agents. Se utilizan modelos de diferentes capacidades y costos (Grok 4.5, GPT-5.5, Opus 4.8, Composer 2.5, Fable 5). Configuraciones híbridas (Planner de alto costo/capacidad, Worker de bajo costo/capacidad) para optimización de costos. |
| storage | Custom Version Control System (VCS) | Sistema de persistencia y control de versiones para el código generado, diseñado para un throughput de 1,000 commits/segundo. También implementa mecanismos de coordinación. vs Git (descartado por limitaciones de throughput y mecanismos de bloqueo gruesos para cientos de agentes concurrentes) |
| orchestration | Agent Swarm Architecture | Framework para la coordinación y delegación de tareas entre múltiples agentes LLM, con roles de Planner y Worker. Incluye mecanismos para la gestión de contexto y la resolución de conflictos. vs Agentes LLM monolíticos (descartados por deriva de contexto y escalabilidad limitada) |
Trade-offs
Ganancias
- ▲ Eficiencia de contexto
- ▲▲ Reducción de conflictos de merge
- ▲▲ Reducción de líneas de código generadas
- ▲▲ Reducción de costos operativos (con modelos híbridos)
- ▲ Capacidad para abordar tareas de mayor complejidad
Costes
- ▲ Complejidad de la arquitectura de coordinación
- ▲ Necesidad de un VCS custom de alto rendimiento
Fundamentos Teóricos
La descomposición jerárquica de tareas y la especialización de agentes resuenan con principios de diseño de sistemas distribuidos y organizaciones humanas. La idea de que los costos de coordinación crecen más rápido que el trabajo en sí, llevando a la formación de unidades acotadas y jerarquías, fue explorada por Ronald Coase en su trabajo sobre la 'Teoría de la Firma' (1937), explicando por qué existen las empresas. En el contexto de los sistemas distribuidos, la gestión de contexto y la minimización de la comunicación global son principios clave para la escalabilidad, como se ve en arquitecturas de microservicios o sistemas de actores. La 'stigmergy', ejemplificada por el 'Field Guide', es un concepto de la biología de swarms que describe la coordinación indirecta a través de la modificación del entorno, un principio que puede aplicarse a sistemas multi-agente para la acumulación de conocimiento y la mejora iterativa del comportamiento colectivo. La resolución de conflictos a alta velocidad en el VCS tiene paralelismos con algoritmos de consenso distribuido y control de concurrencia en bases de datos, aunque aquí adaptados a un contexto de generación de código probabilística.