El artículo describe la evolución de la arquitectura de Amazon EKS para soportar cargas de trabajo de Kubernetes a escala de hyperscaler, especialmente aquellas impulsadas por IA y analytics. La causa raíz subyacente de muchos de los desafíos iniciales fue el "configuration drift" o, más precisamente, un "design drift" donde el diseño original de Kubernetes, optimizado para un ritmo de trabajo predecible, no escalaba eficientemente con las nuevas demandas de alta velocidad y volumen de transiciones de estado. Esto llevó a que fallos menores se convirtieran en interrupciones mayores debido a reacciones subóptimas de los componentes del sistema.
Las salvaguardas iniciales fallaron porque no estaban diseñadas para la magnitud y velocidad de las nuevas cargas de trabajo. Por ejemplo, el modelo de consenso Raft de etcd, aunque robusto para la consistencia, se convirtió en un cuello de botella de disponibilidad y rendimiento bajo estrés extremo, donde la pérdida de una mayoría de miembros hacía el cluster indisponible. Los mecanismos de bloqueo en componentes como el watch cache o el HPA, que eran adecuados a menor escala, se convirtieron en puntos de serialización que degradaban el rendimiento y la disponibilidad. Los health checks tradicionales no siempre detectaban un líder que no progresaba, solo que estaba "vivo", lo que ocultaba problemas de rendimiento.
La cascada de fallos se manifestaba cuando un componente reaccionaba a un problema de una manera que lo exacerbaba. Un caché obsoleto que servía respuestas incorrectas, o un health check que reiniciaba un proceso vital, son ejemplos claros. El particionamiento monolítico de etcd significaba que una sobrecarga en una keyspace (ej. eventos) podía bloquear escrituras a otras keyspaces críticas (ej. leases de nodos), haciendo que nodos saludables parecieran no saludables y afectando el scheduling. La falta de aislamiento de fallos y la propagación de problemas a través de dependencias compartidas fueron puntos clave de mejora. La solución implicó una reingeniería profunda, no solo parches, para cambiar los fundamentos del sistema y permitir una resiliencia y rendimiento sin precedentes.