Важливість мережі та інноваційні напрями в епоху ШІ

Прихід ери великих моделей зробив мережу ключовим елементом у сфері ШІ. Зі збільшенням масштабу моделей і розриву в межах обчислювальної потужності одного графічного процесора, кластер з кількох серверів став основним способом вирішення проблеми навчання моделей, що стало основою підвищення статусу мережі в епоху ШІ. На відміну від минулого, коли мережа використовувалася переважно для передачі даних, сьогодні мережа більше використовується для синхронізації параметрів моделей між графічними процесорами, що висуває вищі вимоги до щільності та ємності мережі.

Попит на мережу в основному походить з трьох аспектів:

1. Постійно зростаючий обсяг моделей призводить до збільшення часу навчання, що потребує підвищення обчислювальної ефективності для скорочення часу. Оскільки підвищення обчислювальної потужності одного пристрою обмежене, загальну обчислювальну потужність можна підвищити лише за рахунок розширення кількості пристроїв і підвищення паралельної ефективності.

2. Складна комунікація при синхронізації декількох карт. Під час тренування великої моделі після кожного обчислення потрібно здійснювати вирівнювання між одиночними картами, що висуває вищі вимоги до мережевої передачі та обміну.

3. Витрати на збій є дорогими. Навчання великих моделей триває місяцями, і переривання можуть призвести до величезних втрат. Збій на будь-якому етапі мережі може призвести до переривання, тому вимоги до стабільності мережі є надзвичайно високими.

У відповідь на ці запити, мережеві інновації в основному зосереджені на наступних напрямках:

1. Зміна комунікаційних середовищ. Світло, мідь і кремній мають свої переваги і конкурують у різних сценаріях. Оптичні модулі, прагнучи до високих швидкостей, також знижують витрати за допомогою LPO, кремнієвої оптики та інших методів. Мідні кабелі займають домінуючу позицію в з'єднаннях всередині шафи завдяки своїй рентабельності. Нові технології, такі як Chiplet та Wafer-scaling, досліджують межі кремнієвого з'єднання.

2. Конкуренція мережевих протоколів. Комунікаційний протокол всередині вузла сильно пов'язаний з GPU, такими як NVLINK, Infinity Fabric тощо. Між вузлами основна конкуренція йде між IB та Ethernet.

3. Зміна мережевої архітектури. Поточна домінуюча архітектура leaf-spine в умовах надвеликих кластерів демонструє обмеження, нові архітектури, такі як Dragonfly, Rail-only, можуть стати еволюційним напрямком наступного покоління надвеликих кластерів.

4. Інновації в комутації. Оптоволоконні комутатори поступово привертають увагу завдяки низькій затримці, низькому енергоспоживанню та іншим перевагам. Електронні комутатори продовжують інновації на рівні чіпів.

5. Інновації в кластері дата-центрів. З наближенням ємності окремого дата-центру до максимуму, ефективне з'єднання між дата-центрами стає новим напрямком досліджень.

У цілому, інновації в мережі епохи ШІ постійно еволюціонують у трьох напрямках: зниження витрат, відкритість та масштабованість. Комунікаційна система, як складна інженерна система, потребує постійних інновацій на різних етапах. Інвестори повинні звертати увагу на постачальників ключових компонентів, а також відслідковувати можливості, які виникають завдяки новим технологіям.