Human-Over-The-Loop (HOTL) es un paradigma de diseño que integra la capacidad de juicio y la supervisión humana directamente en el flujo de trabajo de sistemas automatizados, especialmente aquellos basados en Machine Learning (ML) o inteligencia artificial (IA). A diferencia de los sistemas completamente autónomos, HOTL reconoce que, en ciertos contextos, la precisión, la ética, la seguridad o la complejidad de las decisiones requieren una validación o intervención humana. Esto puede manifestarse como un paso de aprobación explícito, un mecanismo de revisión para casos de baja confianza, o una interfaz para que los humanos corrijan errores y refinen el comportamiento del sistema, creando un ciclo de retroalimentación que mejora continuamente el rendimiento del sistema.
En el mundo real, HOTL se implementa en una variedad de dominios. Por ejemplo, en sistemas de moderación de contenido, los algoritmos de IA identifican contenido potencialmente inapropiado, pero los moderadores humanos toman la decisión final sobre su eliminación o restricción. En la banca y finanzas, los sistemas de detección de fraude marcan transacciones sospechosas, pero un analista humano a menudo debe aprobar o rechazar la transacción para evitar falsos positivos y garantizar la precisión. Los vehículos autónomos de Nivel 3 (L3) también ejemplifican HOTL, donde el sistema puede operar de forma autónoma bajo ciertas condiciones, pero requiere que el conductor humano esté listo para tomar el control en cualquier momento. Otro ejemplo es el etiquetado de datos para entrenar modelos de ML, donde los humanos anotan grandes volúmenes de datos para mejorar la precisión del modelo.
Para un arquitecto, la implementación de Human-Over-The-Loop es una decisión estratégica crítica que equilibra la eficiencia de la automatización con la necesidad de precisión, responsabilidad y adaptabilidad. Los trade-offs incluyen el costo operativo adicional de la intervención humana frente a los riesgos de errores o sesgos en sistemas totalmente automatizados. Es fundamental diseñar interfaces de usuario intuitivas para los operadores humanos, mecanismos robustos para la escalabilidad de la intervención humana y flujos de trabajo claros para la resolución de conflictos. La arquitectura debe considerar cómo el feedback humano se reincorpora al sistema para su mejora continua (Human-In-The-Loop para el entrenamiento), cómo se gestionan los tiempos de respuesta humanos y cómo se auditan las decisiones. Un diseño HOTL efectivo puede mitigar riesgos, construir confianza en el sistema y permitir la implementación de IA en dominios sensibles donde la autonomía total aún no es factible o deseable.