算力服務:大模型時代的新商業模式

大模型訓練帶來的算力需求激增,使算力正在成爲一種新的商業模式。雖然當前行業對高端GPU的搶奪熱潮終將過去,但算力服務商需要未雨綢繆,及時調整戰略方向。

近期,有研究人員利用全球40年的天氣數據,使用200張GPU卡進行爲期2個月左右的預訓練,成功訓練出了參數量達億級的氣象大模型。按照每小時7.8元/GPU的計算成本,該模型的訓練成本可能超過200萬元。而如果是訓練通用大模型,成本可能還要翻百倍。

目前中國已有超過100個10億參數規模的大模型。然而,行業蜂擁而上的大模型"煉丹"熱潮卻面臨着高端GPU短缺的困境。算力成本高企,資金和算力短缺成爲擺在行業面前最直觀的問題。

高端GPU的短缺在全行業普遍存在。大模型需求爆發導致市場對算力需求快速增長,但供給量增速遠遠跟不上。雖然長遠來看算力供給一定會從賣方市場進入買方市場,但這個過程還需要一段時間。

各家企業都在盤算自己手中的GPU數量,並以此來判斷市場份額。有專家認爲,如果沒有數十億資金支持,很難持續做大模型。許多創業者也表示,如果沒有充足資金支撐,這條路很難走通。

面對這一局面,業內普遍認爲,隨着大模型市場競爭加劇,市場也將從狂熱回歸理性,企業也會根據預期變化來控制成本、調整策略。

爲應對算力短缺,企業紛紛採取多種措施:

1. 使用更高質量的數據進行訓練,提升訓練效率。
2. 提升基礎架構能力,實現千卡以上穩定運行。
3. 優化算力卡資源調度,提高利用率。
4. 改善網路性能,提高訓練速度。
5. 從雲計算架構過渡到超算架構,降低成本。
6. 使用國產平台替代英偉達GPU。

對於中小企業而言,選擇專業的算力服務商可能是更好的選擇。千卡級別的GPU集羣才能產生規模效應,而算力服務商可以提供邊際成本爲零的服務。

算力正在成爲一種新的服務模式。《2023算力服務白皮書》將算力服務定義爲:以多樣性算力爲基礎,以算力網路爲連結,以供給有效的算力爲目標的算力產業新領域。

算力服務的本質是通過新計算技術實現異構算力統一輸出,並與雲、大數據、AI等技術融合。它不僅包括算力,還包括存儲、網路等資源的統一封裝,以API等形式完成算力交付。

在算力產業鏈中,上遊企業主要供給算力基礎資源,中遊企業負責算力生產和供給,下遊企業則是算力服務的使用者。

目前,按量計費和包年包月是算力服務的主流計費模式。行業也在推進"算網一體化融合",支持跨架構、跨地域、跨服務商的算力調度。

隨着大模型高性能計算需求常態化,算力服務正快速形成獨特的產業鏈和商業模式。盡管當前面臨高端GPU短缺、成本高企等挑戰,但長遠來看,算力服務將成爲確定性趨勢。算力服務商需要未雨綢繆,爲市場變化做好準備。