La L3 Cache (Level 3 Cache) es una memoria caché de alta velocidad, típicamente SRAM, que reside en el mismo die del procesador o en un chip adyacente, y es compartida por todos los núcleos de la CPU. A diferencia de la L1 Cache (exclusiva por núcleo, muy rápida y pequeña) y la L2 Cache (exclusiva por núcleo o compartida por un par de núcleos, más grande y lenta que L1), la L3 Cache actúa como un búfer unificado entre los núcleos del procesador y la memoria principal (RAM). Su función principal es almacenar datos e instrucciones que son frecuentemente accedidos, pero que no se encuentran en las cachés L1 o L2, minimizando así los costosos accesos a la RAM, que son órdenes de magnitud más lentos.
En el mundo real, la L3 Cache es un componente estándar en la mayoría de los procesadores modernos de alto rendimiento, tanto de escritorio como de servidor. Por ejemplo, los procesadores Intel Xeon y AMD EPYC, utilizados en centros de datos y servidores empresariales, incorporan grandes cantidades de L3 Cache (a menudo decenas o incluso cientos de MB) para manejar cargas de trabajo intensivas en datos, como bases de datos OLTP, virtualización, análisis de Big Data y computación de alto rendimiento (HPC). Los procesadores de consumo como Intel Core i7/i9 y AMD Ryzen también cuentan con L3 Cache, beneficiando aplicaciones como videojuegos, edición de video y software de diseño CAD, donde la latencia de memoria es crítica.
Para un arquitecto de sistemas, la L3 Cache es un factor crítico en el diseño y la optimización de sistemas. Un tamaño adecuado de L3 Cache puede reducir significativamente la latencia promedio de acceso a la memoria, impactando directamente el rendimiento de aplicaciones con patrones de acceso a datos irregulares o grandes conjuntos de trabajo. Sin embargo, una L3 Cache más grande implica un mayor costo, mayor consumo de energía y mayor complejidad en el diseño del chip. Los arquitectos deben considerar los trade-offs entre el tamaño de la caché, la latencia, el ancho de banda y el costo al seleccionar procesadores para cargas de trabajo específicas. Por ejemplo, en sistemas NUMA, la L3 Cache juega un papel crucial en la coherencia de caché entre sockets, y su tamaño puede influir en la eficiencia de la comunicación inter-socket y el rendimiento de aplicaciones distribuidas.