Pentingnya Jaringan di Era AI dan Arah Inovasi

Kedatangan era model besar menjadikan jaringan sebagai elemen kunci dalam bidang AI. Dengan meningkatnya perbedaan skala model dan batas kemampuan komputasi per kartu, kluster server ganda menjadi cara utama untuk menyelesaikan pelatihan model, dan ini adalah dasar peningkatan posisi jaringan di era AI. Berbeda dengan masa lalu yang terutama digunakan untuk mentransfer data, kini jaringan lebih banyak digunakan untuk menyinkronkan parameter model antar kartu grafis, yang menuntut kepadatan dan kapasitas jaringan yang lebih tinggi.

Permintaan jaringan terutama berasal dari tiga aspek:

1. Ukuran model yang semakin besar menyebabkan peningkatan waktu pelatihan, sehingga diperlukan peningkatan efisiensi komputasi untuk memperpendek waktu. Namun, peningkatan daya komputasi pada satu perangkat terbatas, sehingga harus dilakukan dengan memperbanyak jumlah perangkat dan meningkatkan efisiensi paralel untuk meningkatkan total daya komputasi.

2. Komunikasi kompleks sinkronisasi multi-kartu. Dalam pelatihan model besar, setelah setiap perhitungan, perlu dilakukan penyelarasan antar kartu tunggal, yang menuntut persyaratan lebih tinggi untuk transmisi dan pertukaran jaringan.

3. Biaya gangguan sangat mahal. Pelatihan model besar berlangsung selama berbulan-bulan, dan gangguan dapat menyebabkan kerugian besar. Gangguan di salah satu bagian jaringan dapat menyebabkan terhentinya proses, sehingga permintaan akan stabilitas jaringan sangat tinggi.

Menghadapi permintaan ini, inovasi jaringan terutama terkonsentrasi pada arah berikut:

1. Perubahan media komunikasi. Tiga media utama yaitu cahaya, tembaga, dan silikon masing-masing memiliki keunggulan dan bersaing di berbagai skenario. Modul optik mengejar kecepatan tinggi sambil juga menurunkan biaya melalui LPO, silikon optik, dan cara lainnya. Kabel tembaga mendominasi koneksi di dalam rak karena keunggulan nilai untuk uang. Teknologi baru seperti Chiplet dan Wafer-scaling sedang menjelajahi batasan interkoneksi berbasis silikon.

2. Kompetisi protokol jaringan. Protokol komunikasi dalam node sangat terikat dengan GPU, seperti NVLINK, Infinity Fabric, dll. Sedangkan antar node, kompetisi utamanya adalah IB dan Ethernet.

3. Perubahan Arsitektur Jaringan. Arsitektur leaf-spine yang saat ini dominan menunjukkan keterbatasan di bawah kluster besar, arsitektur baru seperti Dragonfly dan Rail-only diharapkan menjadi arah evolusi untuk kluster besar generasi berikutnya.

4. Inovasi switch. Switch optik semakin mendapat perhatian karena keunggulannya dalam latensi rendah dan konsumsi daya rendah. Sementara itu, switch elektrik terus berinovasi di tingkat chip.

5. Inovasi kluster pusat data. Seiring dengan kapasitas pusat data tunggal mendekati batas, bagaimana mewujudkan interkoneksi yang efisien antar pusat data menjadi arah penelitian baru.

Secara keseluruhan, inovasi jaringan di era AI terus berkembang ke arah tiga fokus yaitu pengurangan biaya, keterbukaan, dan skala. Sistem komunikasi sebagai suatu rekayasa sistem yang kompleks, memerlukan inovasi berkelanjutan di berbagai tahap. Investor dapat memperhatikan pemasok komponen inti, sekaligus juga harus mengikuti peluang industri yang dibawa oleh teknologi baru.