NVLink C2C es una tecnología de interconexión de chip a chip que extiende las capacidades de NVLink para permitir la comunicación directa y de muy alta velocidad entre diferentes dies o chips dentro de un mismo paquete multi-chip (MCM) o en una placa de circuito impreso (PCB) cercana. A diferencia de las interconexiones tradicionales basadas en PCIe, NVLink C2C ofrece un ancho de banda significativamente mayor y una latencia mucho menor, utilizando un protocolo de comunicación propietario de NVIDIA. Está diseñado para superar las limitaciones de rendimiento y eficiencia energética de las interconexiones estándar, facilitando la creación de sistemas heterogéneos y modulares con un rendimiento escalable.
La implementación más prominente de NVLink C2C se encuentra en las arquitecturas de GPU de NVIDIA, especialmente en sus productos de centro de datos. Por ejemplo, el diseño de la GPU NVIDIA H100 'Hopper' utiliza NVLink C2C para interconectar múltiples 'chiplets' o 'dies' dentro de un mismo paquete, permitiendo que la GPU funcione como una unidad monolítica de alto rendimiento. También se utiliza para conectar múltiples GPUs en sistemas como el NVIDIA DGX H100, donde NVLink C2C facilita la comunicación directa entre las GPUs, el DPU BlueField-3 y la CPU, formando un 'data center-scale chip'. Esto es crucial para entrenar modelos de IA masivos y ejecutar simulaciones de HPC que requieren una coordinación intensiva entre múltiples unidades de procesamiento.
Para un Arquitecto de Sistemas, NVLink C2C es fundamental porque habilita diseños de sistemas con escalabilidad de rendimiento sin precedentes para cargas de trabajo intensivas en datos y cómputo, como la inteligencia artificial y el HPC. Permite la construcción de sistemas modulares y heterogéneos donde la comunicación entre componentes críticos (GPUs, CPUs, DPUs) no es un cuello de botella. La elección de sistemas con NVLink C2C implica un trade-off: si bien ofrece un rendimiento superior y una mayor eficiencia energética para cargas de trabajo específicas, también representa una mayor dependencia del ecosistema de NVIDIA y puede implicar costos iniciales más elevados. Los arquitectos deben considerar si los beneficios de rendimiento justifican la inversión y la posible menor flexibilidad en la elección de proveedores, especialmente al diseñar infraestructuras para el entrenamiento de modelos de lenguaje grandes (LLMs) o simulaciones científicas complejas.