Jaringan telah menjadi bagian kunci di era model AI besar. Seiring dengan pertumbuhan skala model yang cepat, kluster multi-server menjadi solusi utama untuk mengatasi masalah pelatihan, dan ini juga menjadi dasar bagi jaringan untuk "naik pangkat" di era AI. Berbeda dengan masa lalu yang hanya mentransfer data, kini jaringan lebih banyak digunakan untuk menyinkronkan parameter model antar kartu grafis, yang menuntut kepadatan dan kapasitas jaringan yang lebih tinggi.
Permintaan jaringan terutama berasal dari tiga aspek:
Ukuran model yang semakin besar. Waktu pelatihan berbanding lurus dengan jumlah parameter model dan berbanding terbalik dengan kecepatan komputasi. Untuk memperpendek waktu pelatihan, perlu memperluas jumlah perangkat melalui jaringan dan meningkatkan efisiensi paralel multi-perangkat.
Komunikasi kompleks untuk sinkronisasi multi-kartu. Setelah pemodelan dibagi menjadi kartu tunggal, setiap perhitungan memerlukan penyelarasan, yang memberikan tuntutan lebih tinggi pada transmisi dan pertukaran jaringan.
Biaya kegagalan yang semakin mahal. Pelatihan model besar sering kali berlangsung selama berbulan-bulan, dan gangguan dapat menyebabkan kehilangan kemajuan dan biaya yang serius. Jaringan AI modern telah menjadi perwujudan kemampuan rekayasa sistem manusia yang sebanding dengan pesawat terbang, kapal induk, dan sebagainya.
Inovasi jaringan masa depan akan berfokus pada tiga arah: "mengurangi biaya", "terbuka", dan keseimbangan skala komputasi:
Pergantian media komunikasi: Modul optik mengejar kecepatan yang lebih tinggi sambil juga mengeksplorasi jalur pengurangan biaya seperti LPO, LRO, dan silikon fotonik. Kabel tembaga menduduki posisi koneksi dalam rak server berkat keunggulan biaya-efisiensi. Teknologi semikonduktor baru seperti Chiplet, Wafer-scaling, dan lainnya mempercepat eksplorasi batas konektivitas berbasis silikon.
Kompetisi Protokol Jaringan: Protokol komunikasi antar chip sangat terkait dengan GPU, seperti NV-LINK, Infinity Fabric, dan lain-lain. Komunikasi antar node terutama berfokus pada kompetisi antara IB dan Ethernet.
Perubahan arsitektur jaringan: Saat ini secara umum menggunakan arsitektur leaf-spine, tetapi seiring dengan meningkatnya skala kluster, arsitektur baru seperti Dragonfly, rail-only, dan lain-lain diharapkan menjadi arah evolusi untuk kluster super besar.
Saran investasi yang perlu diperhatikan:
Sistem komunikasi inti: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, Industri Fulin, Yingweike, Hudian Co.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
9 Suka
Hadiah
9
6
Bagikan
Komentar
0/400
OffchainOracle
· 07-17 01:44
Daya Komputasi perang baru saja dimulai~
Lihat AsliBalas0
CryptoSurvivor
· 07-14 21:49
play people for suckers
Lihat AsliBalas0
HalfIsEmpty
· 07-14 02:14
Jangan terlalu banyak konsep, ini hanya pekerjaan yang membakar uang.
Lihat AsliBalas0
FundingMartyr
· 07-14 02:08
Daya Komputasi dipertimbangkan pada akhirnya tetap bergantung pada bandwidth
Lihat AsliBalas0
PessimisticOracle
· 07-14 02:01
Siapa yang membayar saat gambar satu benar-benar mendarat?
Inovasi Jaringan di Era AI: Pengurangan Biaya, Keterbukaan, dan Daya Komputasi sebagai Kunci
Pentingnya Jaringan di Era AI dan Arah Inovasinya
Jaringan telah menjadi bagian kunci di era model AI besar. Seiring dengan pertumbuhan skala model yang cepat, kluster multi-server menjadi solusi utama untuk mengatasi masalah pelatihan, dan ini juga menjadi dasar bagi jaringan untuk "naik pangkat" di era AI. Berbeda dengan masa lalu yang hanya mentransfer data, kini jaringan lebih banyak digunakan untuk menyinkronkan parameter model antar kartu grafis, yang menuntut kepadatan dan kapasitas jaringan yang lebih tinggi.
Permintaan jaringan terutama berasal dari tiga aspek:
Ukuran model yang semakin besar. Waktu pelatihan berbanding lurus dengan jumlah parameter model dan berbanding terbalik dengan kecepatan komputasi. Untuk memperpendek waktu pelatihan, perlu memperluas jumlah perangkat melalui jaringan dan meningkatkan efisiensi paralel multi-perangkat.
Komunikasi kompleks untuk sinkronisasi multi-kartu. Setelah pemodelan dibagi menjadi kartu tunggal, setiap perhitungan memerlukan penyelarasan, yang memberikan tuntutan lebih tinggi pada transmisi dan pertukaran jaringan.
Biaya kegagalan yang semakin mahal. Pelatihan model besar sering kali berlangsung selama berbulan-bulan, dan gangguan dapat menyebabkan kehilangan kemajuan dan biaya yang serius. Jaringan AI modern telah menjadi perwujudan kemampuan rekayasa sistem manusia yang sebanding dengan pesawat terbang, kapal induk, dan sebagainya.
Inovasi jaringan masa depan akan berfokus pada tiga arah: "mengurangi biaya", "terbuka", dan keseimbangan skala komputasi:
Pergantian media komunikasi: Modul optik mengejar kecepatan yang lebih tinggi sambil juga mengeksplorasi jalur pengurangan biaya seperti LPO, LRO, dan silikon fotonik. Kabel tembaga menduduki posisi koneksi dalam rak server berkat keunggulan biaya-efisiensi. Teknologi semikonduktor baru seperti Chiplet, Wafer-scaling, dan lainnya mempercepat eksplorasi batas konektivitas berbasis silikon.
Kompetisi Protokol Jaringan: Protokol komunikasi antar chip sangat terkait dengan GPU, seperti NV-LINK, Infinity Fabric, dan lain-lain. Komunikasi antar node terutama berfokus pada kompetisi antara IB dan Ethernet.
Perubahan arsitektur jaringan: Saat ini secara umum menggunakan arsitektur leaf-spine, tetapi seiring dengan meningkatnya skala kluster, arsitektur baru seperti Dragonfly, rail-only, dan lain-lain diharapkan menjadi arah evolusi untuk kluster super besar.
Saran investasi yang perlu diperhatikan:
Sistem komunikasi inti: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, Industri Fulin, Yingweike, Hudian Co.
Inovasi Sistem Komunikasi: Changfei Fiber, Taicheng Optics, Yuanjie Technology, Shengke Communication-U, Hanwujing, Dekeli.
Peringatan risiko: Permintaan AI tidak memenuhi harapan, hukum skala tidak berlaku, persaingan industri semakin ketat.