Обчислювальна потужність сервіс: нова бізнес-модель ери великих моделей
Зростання потреби в обчислювальній потужності, викликане навчанням великих моделей, робить обчислювальну потужність новою бізнес-моделлю. Хоча теперішній бум на висококласні GPU врешті-решт згасне, постачальникам послуг обчислювальної потужності потрібно заздалегідь підготуватися та вчасно коригувати стратегічний напрямок.
Нещодавно дослідники використали 40-річні дані про погоду з усього світу, використовуючи 200 графічних процесорів (GPU) для приблизно двомісячного попереднього навчання, успішно навчивши метеорологічну велику модель з кількістю параметрів у сотні мільйонів. Виходячи з розрахункових витрат у 7,8 грн/година за кожен GPU, вартість навчання цієї моделі може перевищити 2 мільйони гривень. А якщо йдеться про навчання загальної великої моделі, витрати можуть зрости в сотні разів.
На сьогодні в Китаї вже є понад 100 великих моделей з масштабом 10 мільярдів параметрів. Проте, етап "варіння еліксирів" великих моделей, до якого кинулася індустрія, стикається з кризою нестачі висококласних GPU. Високі витрати на обчислювальну потужність, а також нестача фінансів і обчислювальної потужності стали найбільш очевидними проблемами, з якими стикається індустрія.
Брак висококласних GPU є загальною проблемою в усій індустрії. Сплеск попиту на великі моделі призвів до швидкого зростання попиту на обчислювальну потужність, але темпи зростання пропозиції значно відстають. Хоча в довгостроковій перспективі пропозиція обчислювальної потужності обов'язково перейде з ринку продавця на ринок покупця, цей процес ще потребує часу.
Всі компанії підраховують кількість своїх GPU, щоб оцінити свою частку на ринку. Експерти вважають, що без підтримки на десятки мільярдів коштів важко продовжувати розвивати великі моделі. Багато підприємців також зазначають, що без достатнього фінансування цей шлях буде важко пройти.
Стикаючись з цією ситуацією, в індустрії загалом вважають, що з посиленням конкуренції на ринку великих моделей ринок також повернеться з божевілля до раціональності, а компанії будуть контролювати витрати та коригувати стратегії відповідно до змін в очікуваннях.
Щоб впоратися з обчислювальною потужністю, підприємства вживають різні заходи:
Використовуйте дані вищої якості для навчання, щоб підвищити ефективність навчання.
Підвищення інфраструктурних можливостей, забезпечення стабільної роботи понад тисячу калорій.
Оптимізація розподілу ресурсів обчислювальної потужності, підвищення використання.
Покращення мережевої продуктивності, збільшення швидкості навчання.
Перехід від архітектури хмарних обчислень до архітектури суперкомп'ютерів, зниження витрат.
Використання вітчизняної платформи замість GPU від NVIDIA.
Для малих і середніх підприємств вибір професійного постачальника обчислювальної потужності може бути кращим рішенням. Тільки GPU-кластери рівня тисячі калорій можуть створювати масштабний ефект, а постачальники обчислювальної потужності можуть запропонувати послуги з нульовими граничними витратами.
Обчислювальна потужність стає новою сервісною моделлю. «2023 Білий папір про послуги з обчислювальної потужності» визначає послуги з обчислювальної потужності як нову галузь обчислювальної промисловості, що базується на різноманітній обчислювальній потужності, з мережами обчислювальної потужності як зв'язком і з метою забезпечення ефективної обчислювальної потужності.
Суть послуг обчислювальної потужності полягає у досягненні єдиного виходу гетерогенної обчислювальної потужності за допомогою нових обчислювальних технологій, а також у інтеграції з такими технологіями, як хмара, великі дані, штучний інтелект тощо. Це не лише обчислювальна потужність, а й об'єднання ресурсів зберігання, мережі тощо, яке здійснюється у формі API для доставки обчислювальної потужності.
У ланцюзі постачання обчислювальної потужності, компанії на верхньому рівні головним чином постачають базові ресурси обчислювальної потужності, компанії середнього рівня відповідають за виробництво та постачання обчислювальної потужності, а компанії на нижньому рівні є користувачами послуг обчислювальної потужності.
Наразі, по кількості обчислень та пакетному річному/місячному обслуговуванню є основними моделями оплати за обчислювальні послуги. Галузь також просуває "інтеграцію обчислень та мереж", підтримуючи міжархітектурну, міжрегіональну та міжпостачальницьку організацію обчислювальних ресурсів.
З огляду на нормалізацію високопродуктивних обчислювальних вимог великих моделей, обчислювальна потужність швидко формує унікальний індустріальний ланцюг і бізнес-модель. Незважаючи на те, що зараз існують виклики, такі як нестача високоякісних GPU та високі витрати, в довгостроковій перспективі обчислювальна потужність стане визначальною тенденцією. Постачальники обчислювальної потужності повинні заздалегідь підготуватися до змін на ринку.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Обчислювальна потужність послуги: нові можливості та виклики ери великих моделей
Обчислювальна потужність сервіс: нова бізнес-модель ери великих моделей
Зростання потреби в обчислювальній потужності, викликане навчанням великих моделей, робить обчислювальну потужність новою бізнес-моделлю. Хоча теперішній бум на висококласні GPU врешті-решт згасне, постачальникам послуг обчислювальної потужності потрібно заздалегідь підготуватися та вчасно коригувати стратегічний напрямок.
Нещодавно дослідники використали 40-річні дані про погоду з усього світу, використовуючи 200 графічних процесорів (GPU) для приблизно двомісячного попереднього навчання, успішно навчивши метеорологічну велику модель з кількістю параметрів у сотні мільйонів. Виходячи з розрахункових витрат у 7,8 грн/година за кожен GPU, вартість навчання цієї моделі може перевищити 2 мільйони гривень. А якщо йдеться про навчання загальної великої моделі, витрати можуть зрости в сотні разів.
На сьогодні в Китаї вже є понад 100 великих моделей з масштабом 10 мільярдів параметрів. Проте, етап "варіння еліксирів" великих моделей, до якого кинулася індустрія, стикається з кризою нестачі висококласних GPU. Високі витрати на обчислювальну потужність, а також нестача фінансів і обчислювальної потужності стали найбільш очевидними проблемами, з якими стикається індустрія.
Брак висококласних GPU є загальною проблемою в усій індустрії. Сплеск попиту на великі моделі призвів до швидкого зростання попиту на обчислювальну потужність, але темпи зростання пропозиції значно відстають. Хоча в довгостроковій перспективі пропозиція обчислювальної потужності обов'язково перейде з ринку продавця на ринок покупця, цей процес ще потребує часу.
Всі компанії підраховують кількість своїх GPU, щоб оцінити свою частку на ринку. Експерти вважають, що без підтримки на десятки мільярдів коштів важко продовжувати розвивати великі моделі. Багато підприємців також зазначають, що без достатнього фінансування цей шлях буде важко пройти.
Стикаючись з цією ситуацією, в індустрії загалом вважають, що з посиленням конкуренції на ринку великих моделей ринок також повернеться з божевілля до раціональності, а компанії будуть контролювати витрати та коригувати стратегії відповідно до змін в очікуваннях.
Щоб впоратися з обчислювальною потужністю, підприємства вживають різні заходи:
Для малих і середніх підприємств вибір професійного постачальника обчислювальної потужності може бути кращим рішенням. Тільки GPU-кластери рівня тисячі калорій можуть створювати масштабний ефект, а постачальники обчислювальної потужності можуть запропонувати послуги з нульовими граничними витратами.
Обчислювальна потужність стає новою сервісною моделлю. «2023 Білий папір про послуги з обчислювальної потужності» визначає послуги з обчислювальної потужності як нову галузь обчислювальної промисловості, що базується на різноманітній обчислювальній потужності, з мережами обчислювальної потужності як зв'язком і з метою забезпечення ефективної обчислювальної потужності.
Суть послуг обчислювальної потужності полягає у досягненні єдиного виходу гетерогенної обчислювальної потужності за допомогою нових обчислювальних технологій, а також у інтеграції з такими технологіями, як хмара, великі дані, штучний інтелект тощо. Це не лише обчислювальна потужність, а й об'єднання ресурсів зберігання, мережі тощо, яке здійснюється у формі API для доставки обчислювальної потужності.
У ланцюзі постачання обчислювальної потужності, компанії на верхньому рівні головним чином постачають базові ресурси обчислювальної потужності, компанії середнього рівня відповідають за виробництво та постачання обчислювальної потужності, а компанії на нижньому рівні є користувачами послуг обчислювальної потужності.
Наразі, по кількості обчислень та пакетному річному/місячному обслуговуванню є основними моделями оплати за обчислювальні послуги. Галузь також просуває "інтеграцію обчислень та мереж", підтримуючи міжархітектурну, міжрегіональну та міжпостачальницьку організацію обчислювальних ресурсів.
З огляду на нормалізацію високопродуктивних обчислювальних вимог великих моделей, обчислювальна потужність швидко формує унікальний індустріальний ланцюг і бізнес-модель. Незважаючи на те, що зараз існують виклики, такі як нестача високоякісних GPU та високі витрати, в довгостроковій перспективі обчислювальна потужність стане визначальною тенденцією. Постачальники обчислювальної потужності повинні заздалегідь підготуватися до змін на ринку.