Daya Komputasi Layanan: Model Bisnis Baru di Era Model Besar

Kenaikan permintaan daya komputasi yang disebabkan oleh pelatihan model besar membuat daya komputasi menjadi model bisnis baru. Meskipun saat ini industri sedang mengalami perebutan GPU kelas atas, namun penyedia layanan daya komputasi perlu bersiap-siap dan segera menyesuaikan arah strategis.

Baru-baru ini, sekelompok peneliti menggunakan data cuaca global selama 40 tahun, dengan memanfaatkan 200 kartu GPU untuk melakukan pra-pelatihan selama sekitar 2 bulan, berhasil melatih model cuaca besar dengan jumlah parameter mencapai miliaran. Dengan biaya perhitungan 7,8 yuan/jam/GPU, biaya pelatihan model ini mungkin melebihi 2 juta yuan. Dan jika itu adalah pelatihan model besar umum, biayanya mungkin meningkat seratus kali lipat.

Saat ini, Cina telah memiliki lebih dari 100 model besar dengan skala 10 miliar parameter. Namun, gelombang "peleburan" model besar yang ramai di industri menghadapi masalah kekurangan GPU kelas atas. Biaya daya komputasi yang tinggi, kekurangan dana dan daya komputasi menjadi masalah paling nyata yang dihadapi industri.

Kekurangan GPU kelas atas ada di seluruh industri. Ledakan permintaan model besar menyebabkan permintaan akan Daya Komputasi di pasar meningkat dengan cepat, tetapi laju pasokan tidak dapat mengikuti. Meskipun dalam jangka panjang pasokan Daya Komputasi pasti akan beralih dari pasar penjual ke pasar pembeli, tetapi proses ini masih memerlukan waktu.

Setiap perusahaan sedang menghitung jumlah GPU yang mereka miliki, dan menggunakannya untuk menilai pangsa pasar. Beberapa ahli berpendapat bahwa tanpa dukungan dana miliaran, sulit untuk terus mengembangkan model besar. Banyak pengusaha juga menyatakan bahwa tanpa dukungan dana yang cukup, jalan ini sulit untuk dilalui.

Menghadapi situasi ini, industri umumnya percaya bahwa seiring dengan meningkatnya persaingan di pasar model besar, pasar juga akan kembali ke rasionalitas dari antusiasme, dan perusahaan akan mengontrol biaya serta menyesuaikan strategi berdasarkan perubahan ekspektasi.

Untuk mengatasi kekurangan Daya Komputasi, perusahaan-perusahaan mengambil berbagai langkah:

1. Menggunakan data berkualitas lebih tinggi untuk pelatihan, meningkatkan efisiensi pelatihan.
2. Meningkatkan kemampuan infrastruktur, mencapai operasi stabil di atas seribu kalori.
3. Mengoptimalkan penjadwalan sumber daya Daya Komputasi, meningkatkan tingkat pemanfaatan.
4. Meningkatkan kinerja jaringan, mempercepat kecepatan pelatihan.
5. Dari arsitektur komputasi awan beralih ke arsitektur superkomputer, menurunkan biaya.
6. Menggunakan platform dalam negeri sebagai pengganti GPU NVIDIA.

Bagi usaha kecil dan menengah, memilih penyedia layanan Daya Komputasi yang profesional mungkin merupakan pilihan yang lebih baik. Kluster GPU tingkat kilokalori dapat menghasilkan efek skala, sementara penyedia Daya Komputasi dapat menawarkan layanan dengan biaya marjinal nol.

Daya Komputasi sedang menjadi model layanan baru. "Buku Putih Layanan Daya Komputasi 2023" mendefinisikan layanan daya komputasi sebagai: bidang industri daya komputasi baru yang didasarkan pada daya komputasi yang beragam, terhubung melalui jaringan daya komputasi, dengan tujuan menyediakan daya komputasi yang efektif.

Daya Komputasi layanan pada dasarnya adalah untuk mencapai keluaran daya komputasi yang terintegrasi melalui teknologi komputasi baru, dan berintegrasi dengan teknologi seperti cloud, big data, dan AI. Ini tidak hanya mencakup daya komputasi, tetapi juga mencakup pengemasan sumber daya seperti penyimpanan, jaringan, dan lainnya secara terintegrasi, untuk menyelesaikan pengiriman daya komputasi dalam bentuk API.

Dalam rantai industri daya komputasi, perusahaan hulu terutama menyediakan sumber daya dasar daya komputasi, perusahaan tengah bertanggung jawab atas produksi dan pasokan daya komputasi, sedangkan perusahaan hilir adalah pengguna layanan daya komputasi.

Saat ini, penagihan berdasarkan penggunaan dan paket tahunan/bulanan adalah model penagihan utama untuk layanan daya komputasi. Industri juga sedang mendorong "pengintegrasian jaringan dan komputasi", mendukung penjadwalan daya komputasi lintas arsitektur, lintas wilayah, dan lintas penyedia layanan.

Seiring dengan kebutuhan komputasi berkinerja tinggi untuk model besar yang menjadi norma, layanan daya komputasi sedang dengan cepat membentuk rantai industri dan model bisnis yang unik. Meskipun saat ini menghadapi tantangan seperti kekurangan GPU kelas atas dan biaya yang tinggi, dalam jangka panjang, layanan daya komputasi akan menjadi tren yang pasti. Penyedia layanan daya komputasi perlu mempersiapkan diri untuk perubahan pasar.