Сеть стала ключевым элементом эпохи больших моделей ИИ. С быстрым ростом масштабов моделей, кластеры из нескольких серверов стали основным решением для решения проблем обучения, что также является основой для "восхождения" сетей в эпоху ИИ. В отличие от прошлого, когда сеть использовалась исключительно для передачи данных, сегодня сети больше используются для синхронизации параметров моделей между видеокартами, что предъявляет более высокие требования к плотности и емкости сети.
Сетевой спрос в основном исходит из трех аспектов:
Увеличивающийся объем модели. Время обучения пропорционально количеству параметров модели и обратно пропорционально скорости вычислений. Чтобы сократить время обучения, необходимо увеличить количество устройств через сеть и повысить эффективность параллельной работы нескольких устройств.
Сложная коммуникация многокартной синхронизации. После разделения модели на одиночные карты, каждое вычисление требует согласования, что предъявляет более высокие требования к сетевой передаче и обмену.
Все более дорогие затраты на сбой. Обучение больших моделей часто длится месяцы, и перебои могут привести к серьезным потерям в ходе выполнения и затратах. Современные ИИ-сети стали воплощением человеческих системных инженерных возможностей, сопоставимых с самолетами, авианосцами и т.д.
Будущие инновации в сети будут сосредоточены на трех направлениях: "снижение затрат", "открытость" и баланс масштабов вычислительной мощности.
Замена средств связи: оптические модули стремятся к более высокой скорости, одновременно исследуя такие пути снижения затрат, как LPO, LRO и кремниевые оптические технологии. Медные кабели занимают позицию в соединениях внутри шкафов благодаря своему соотношению цена-качество. Новые полупроводниковые технологии, такие как Chiplet и Wafer-scaling, ускоряют исследование пределов кремниевой интерконнекции.
Конкуренция сетевых протоколов: протоколы связи между чипами и жесткая связь с графическими картами, такие как NV-LINK, Infinity Fabric и другие. Связь между узлами в основном сосредоточена на конкуренции двух основных протоколов: IB и Ethernet.
Изменения в сетевой архитектуре: в настоящее время широко используется архитектура Leaf-Spine, но с увеличением масштаба кластера новые архитектуры, такие как Dragonfly, rail-only и другие, могут стать направлением эволюции для сверхбольших кластеров.
Инвестиционные рекомендации:
Основное звено системы связи: Zhongji Innolight, Xin Yisheng, Tianfu Communication, Industrial Fortune Union, Invic, Shanghai Electric Co., Ltd.
Инновационные этапы в области коммуникационных систем: Longfly Fiber, Taicheng Guang, Yuanjie Technology, Shengke Communication-U, Hanwujing, Dekeli.
Риск提示: спрос на ИИ ниже ожиданий, закон масштабирования не работает, конкуренция в отрасли усиливается.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
9 Лайков
Награда
9
6
Поделиться
комментарий
0/400
OffchainOracle
· 07-17 01:44
Война вычислительной мощности только начинается~
Посмотреть ОригиналОтветить0
CryptoSurvivor
· 07-14 21:49
Снова начинается волна, когда вы разыгрывайте людей как лохов.
Посмотреть ОригиналОтветить0
HalfIsEmpty
· 07-14 02:14
Не усложняй, это просто трата денег.
Посмотреть ОригиналОтветить0
FundingMartyr
· 07-14 02:08
Вычислительная мощность зависит от пропускной способности.
Инновации в сети в эпоху ИИ: снижение затрат, открытость и баланс вычислительной мощности становятся ключевыми
Важность и направления инноваций в сети эпохи ИИ
Сеть стала ключевым элементом эпохи больших моделей ИИ. С быстрым ростом масштабов моделей, кластеры из нескольких серверов стали основным решением для решения проблем обучения, что также является основой для "восхождения" сетей в эпоху ИИ. В отличие от прошлого, когда сеть использовалась исключительно для передачи данных, сегодня сети больше используются для синхронизации параметров моделей между видеокартами, что предъявляет более высокие требования к плотности и емкости сети.
Сетевой спрос в основном исходит из трех аспектов:
Увеличивающийся объем модели. Время обучения пропорционально количеству параметров модели и обратно пропорционально скорости вычислений. Чтобы сократить время обучения, необходимо увеличить количество устройств через сеть и повысить эффективность параллельной работы нескольких устройств.
Сложная коммуникация многокартной синхронизации. После разделения модели на одиночные карты, каждое вычисление требует согласования, что предъявляет более высокие требования к сетевой передаче и обмену.
Все более дорогие затраты на сбой. Обучение больших моделей часто длится месяцы, и перебои могут привести к серьезным потерям в ходе выполнения и затратах. Современные ИИ-сети стали воплощением человеческих системных инженерных возможностей, сопоставимых с самолетами, авианосцами и т.д.
Будущие инновации в сети будут сосредоточены на трех направлениях: "снижение затрат", "открытость" и баланс масштабов вычислительной мощности.
Замена средств связи: оптические модули стремятся к более высокой скорости, одновременно исследуя такие пути снижения затрат, как LPO, LRO и кремниевые оптические технологии. Медные кабели занимают позицию в соединениях внутри шкафов благодаря своему соотношению цена-качество. Новые полупроводниковые технологии, такие как Chiplet и Wafer-scaling, ускоряют исследование пределов кремниевой интерконнекции.
Конкуренция сетевых протоколов: протоколы связи между чипами и жесткая связь с графическими картами, такие как NV-LINK, Infinity Fabric и другие. Связь между узлами в основном сосредоточена на конкуренции двух основных протоколов: IB и Ethernet.
Изменения в сетевой архитектуре: в настоящее время широко используется архитектура Leaf-Spine, но с увеличением масштаба кластера новые архитектуры, такие как Dragonfly, rail-only и другие, могут стать направлением эволюции для сверхбольших кластеров.
Инвестиционные рекомендации:
Основное звено системы связи: Zhongji Innolight, Xin Yisheng, Tianfu Communication, Industrial Fortune Union, Invic, Shanghai Electric Co., Ltd.
Инновационные этапы в области коммуникационных систем: Longfly Fiber, Taicheng Guang, Yuanjie Technology, Shengke Communication-U, Hanwujing, Dekeli.
Риск提示: спрос на ИИ ниже ожиданий, закон масштабирования не работает, конкуренция в отрасли усиливается.