AI Çağı'nda Ağların Önemi ve Yenilik Yönleri

Büyük model çağının gelmesi, ağı AI alanında kritik bir parça haline getirdi. Model boyutu ve tek kart hesaplama gücü arasındaki farkın artmasıyla, çoklu sunucu kümeleri model eğitiminin ana yöntemi haline geldi; bu da ağın AI çağındaki konumunun yükselmesinin temelini oluşturuyor. Geçmişte esas olarak veri iletimi için kullanılan ağ, artık daha çok grafik kartları arasındaki model parametrelerini senkronize etmek için kullanılıyor ve bu durum ağ yoğunluğu ve kapasitesi için daha yüksek talepler getiriyor.

Ağ talebi esasen üç kaynaktan gelmektedir:

1. Artan model boyutları, eğitim süresinin uzamasına neden oluyor; bu da zamanı kısaltmak için hesaplama verimliliğinin artırılmasını gerektiriyor. Ancak tek bir cihazın hesaplama gücü sınırlıdır, bu nedenle genel hesaplama gücünü artırmak için cihaz sayısını ve paralel verimliliği artırmak gerekiyor.

2. Çoklu kartların senkronizasyonu ile ilgili karmaşık iletişim. Büyük model eğitimi sırasında, her hesaplamadan sonra tek kartlar arasında hizalama yapılması gerekmektedir, bu da ağ iletim ve değişim için daha yüksek gereksinimler ortaya çıkarmaktadır.

3. Arıza maliyeti çok yüksektir. Büyük model eğitimi aylarca sürer, kesintiler büyük kayıplara yol açabilir. Ağın herhangi bir aşamasındaki bir arıza kesintiye neden olabilir, bu nedenle ağın stabilitesi için son derece yüksek bir gereksinim vardır.

Bu taleplerle karşı karşıya, ağ yenilikleri esas olarak aşağıdaki alanlara odaklanmaktadır:

1. İletişim ortamlarının dönüşümü. Işık, bakır ve silikon üç ana ortamın her birinin avantajları var ve farklı senaryolar altında rekabet ediyorlar. Işık modülleri yüksek hız peşinde koşarken, LPO, silikon ışık gibi yöntemlerle maliyeti de düşürüyor. Bakır kablolar, raf içi bağlantılarda maliyet-etkinlik avantajı ile baskın bir konumda. Chiplet, Wafer-scaling gibi yeni teknolojiler, silikon tabanlı bağlantının sınırlarını keşfetmeye çalışıyor.

2. Ağ protokolleri rekabeti. Düğüm içi iletişim protokolü GPU ile sıkı bir şekilde bağlıdır, örneğin NVLINK, Infinity Fabric vb. Düğümler arası ise esas olarak IB ve Ethernet rekabetidir.

3. Ağ mimarisi değişiklikleri. Mevcut ana akım yaprak-gövde mimarisi, çok büyük kümeler altında sınırlılıklarını göstermektedir; Dragonfly, yalnızca demiryolu gibi yeni mimarilerin, bir sonraki nesil çok büyük kümelerin evrim yönü olması bekleniyor.

4. Switch yeniliği. Işık anahtarları, düşük gecikme, düşük güç tüketimi gibi avantajlarıyla giderek daha fazla ilgi görmektedir. Elektrik anahtarları ise çip düzeyinde sürekli yenilik yapmaktadır.

5. Veri merkezi küme yenilikleri. Tek bir veri merkezinin kapasitesi sınırına yaklaşırken, veri merkezleri arasında verimli bir şekilde bağlantı sağlama yeni bir araştırma yönü haline gelmiştir.

Genel olarak, AI çağındaki ağ inovasyonu maliyetleri düşürme, açık olma ve ölçeklenebilirlik yönünde sürekli evrim geçiriyor. İletişim sistemleri karmaşık bir sistem mühendisliği olduğundan, farklı aşamalarda sürekli yenilik gerektiriyor. Yatırımcılar, ana bileşen tedarikçilerine odaklanabilir, aynı zamanda yeni teknolojilerin getirdiği endüstriyel fırsatları da takip etmelidir.