La importancia de la red en la era de la IA y direcciones de innovación

La llegada de la era de los grandes modelos ha convertido a la red en un elemento clave en el campo de la IA. A medida que la brecha entre el tamaño del modelo y el límite de capacidad de una sola tarjeta gráfica se amplía, los clústeres de múltiples servidores se han convertido en la principal forma de resolver el entrenamiento de modelos, lo que también es la base para el aumento del estatus de la red en la era de la IA. En comparación con el pasado, cuando se utilizaba principalmente para la transmisión de datos, hoy en día la red se utiliza más para sincronizar los parámetros del modelo entre las tarjetas gráficas, lo que plantea mayores demandas en la densidad y capacidad de la red.

La demanda de la red proviene principalmente de tres aspectos:

1. El creciente tamaño del modelo conduce a un aumento en el tiempo de entrenamiento, lo que requiere mejorar la eficiencia computacional para reducir el tiempo. Sin embargo, la mejora del poder de cómputo en un solo dispositivo es limitada, por lo que solo se puede aumentar la potencia total mediante la expansión de la cantidad de dispositivos y la eficiencia en paralelo.

2. Comunicación compleja de múltiples tarjetas en sincronización. Durante el entrenamiento de modelos grandes, se requiere alinear entre las tarjetas individuales después de cada cálculo, lo que plantea mayores exigencias para la transmisión y el intercambio de datos en la red.

3. El costo de las fallas es alto. El entrenamiento de modelos grandes puede llevar meses, y una interrupción puede causar pérdidas enormes. Cualquier falla en un eslabón de la red puede provocar una interrupción, por lo que se requiere una estabilidad de red extremadamente alta.

Frente a estas demandas, la innovación en la red se centra principalmente en las siguientes direcciones:

1. Cambio de medios de comunicación. La luz, el cobre y el silicio tienen cada uno sus ventajas y están compitiendo en diferentes escenarios. Los módulos ópticos, mientras persiguen altas velocidades, también están reduciendo costos a través de LPO, silicio fotónico, entre otros métodos. Los cables de cobre dominan en las conexiones dentro de los armarios gracias a su ventaja en relación calidad-precio. Nuevas tecnologías como Chiplet y Wafer-scaling están explorando los límites de la interconexión basada en silicio.

2. Competencia de protocolos de red. Los protocolos de comunicación dentro del nodo están fuertemente vinculados a la GPU, como NVLINK, Infinity Fabric, etc. Entre nodos, la competencia principal es entre IB y Ethernet.

3. Cambios en la arquitectura de la red. La arquitectura de hoja y cola actual muestra limitaciones en clústeres extremadamente grandes, y nuevas arquitecturas como Dragonfly y Rail-only tienen el potencial de convertirse en la dirección evolutiva de la próxima generación de clústeres extremadamente grandes.

4. Innovación en conmutadores. Los conmutadores ópticos están ganando atención debido a sus ventajas de baja latencia y bajo consumo de energía. Por otro lado, los conmutadores eléctricos continúan innovando a nivel de chip.

5. Innovación en clusters de centros de datos. A medida que la capacidad de un solo centro de datos se acerca al límite, cómo lograr una interconexión eficiente entre centros de datos se convierte en una nueva dirección de investigación.

En general, la innovación en la red de la era de la IA está evolucionando constantemente en tres direcciones: reducción de costos, apertura y escalabilidad. Los sistemas de comunicación, como una ingeniería de sistemas compleja, requieren innovación continua en diferentes etapas. Los inversores deben prestar atención a los proveedores de componentes clave y también seguir las oportunidades industriales que surgen con las nuevas tecnologías.