Важность и инновационные направления сети в эпоху ИИ

Приход эпохи больших моделей делает сеть ключевым элементом в области ИИ. Поскольку разрыв между масштабом модели и пределом вычислительной мощности одной карты увеличивается, многосерверные кластеры становятся основным способом решения задач обучения моделей, что также является основой повышения статуса сети в эпоху ИИ. В отличие от прошлого, когда сеть в основном использовалась для передачи данных, сегодня она в большей степени служит для синхронизации параметров моделей между видеокартами, что предъявляет более высокие требования к плотности и емкости сети.

Сетевой спрос в основном исходит из трех аспектов:

1. Растущий объем модели приводит к увеличению времени тренировки, что требует повышения вычислительной эффективности для сокращения времени. Повышение вычислительной мощности одного устройства ограничено, поэтому необходимо увеличить количество устройств и эффективность параллельных вычислений для повышения общей вычислительной мощности.

2. Сложная коммуникация при синхронизации нескольких карт. В процессе обучения большого моделирования после каждого вычисления требуется выравнивание между отдельными картами, что предъявляет более высокие требования к сетевой передаче и обмену.

3. Стоимость сбоев велика. Обучение больших моделей занимает месяцы, и перерывы могут привести к огромным потерям. Сбой на любом этапе сети может привести к прерыванию, поэтому требования к стабильности сети крайне высоки.

В ответ на эти требования сетевые инновации в основном сосредоточены в следующих направлениях:

1. Изменение коммуникационных сред. Три основные среды: свет, медь и кремний имеют свои преимущества и конкурируют в различных сценариях. Оптические модули стремятся к высокой скорости передачи данных, одновременно снижая стоимость с помощью таких технологий, как LPO и кремниевое光. Медные кабели занимают доминирующее положение в соединениях внутри шкафов благодаря своему соотношению цена-качество. Новые технологии, такие как Chiplet и Wafer-scaling, исследуют пределы кремниевой связи.

2. Конкуренция сетевых протоколов. Коммуникационный протокол внутри узлов сильно связан с GPU, такими как NVLINK, Infinity Fabric и т.д. Между узлами основная конкуренция идет между IB и Ethernet.

3. Изменения в сетевой архитектуре. Текущая популярная архитектура Leaf-Spine показывает ограничения при работе с сверхбольшими кластерами, такие новые архитектуры, как Dragonfly и Rail-only, имеют потенциал стать направлением эволюции для следующего поколения сверхбольших кластеров.

4. Инновации в коммутаторах. Оптические коммутаторы постепенно привлекают внимание благодаря низкой задержке и низкому энергопотреблению. Электрические коммутаторы продолжают инновации на уровне чипов.

5. Инновации в кластерах дата-центров. С приближением ёмкости отдельного дата-центра к пределу, эффективное взаимодействие между дата-центрами становится новым направлением исследований.

В целом, сетевые инновации в эпоху ИИ постоянно эволюционируют в трех направлениях: снижение затрат, открытость и масштабируемость. Системы связи, будучи сложным системным проектом, требуют постоянных инноваций на различных этапах. Инвесторы могут обратить внимание на поставщиков ключевых компонентов, а также следить за возможностями, возникающими благодаря новым технологиям.