Вычислительная мощность: новая бизнес-модель эпохи больших моделей
Рост спроса на вычислительную мощность, вызванный обучением больших моделей, делает вычислительную мощность новой бизнес-моделью. Хотя текущая гонка за высококлассными GPU в конечном итоге пройдет, провайдеры вычислительных услуг должны заранее подготовиться и своевременно скорректировать стратегическое направление.
В последнее время группа исследователей использовала 40-летние данные о погоде по всему миру, применяя 200 графических процессоров (GPU) в течение примерно 2 месяцев для предварительного обучения, и успешно обучила метеорологическую модель с количеством параметров в миллиарды. При расчете стоимости 7,8 юаня за час на один GPU, стоимость обучения этой модели может превысить 2 миллиона юаней. А если речь идет об обучении универсальной большой модели, стоимость может возрасти в сотни раз.
В настоящее время в Китае уже более 100 крупных моделей с объемом параметров более 10 миллиардов. Тем не менее, бурный рост интереса к созданию крупных моделей сталкивается с проблемой нехватки высокопроизводительных GPU. Высокие затраты на вычислительную мощность, нехватка средств и вычислительной мощности стали наиболее очевидными проблемами для отрасли.
Недостаток высококачественных графических процессоров (GPU) наблюдается во всей отрасли. Взрывной рост спроса на большие модели привел к быстрому увеличению спроса на вычислительную мощность, но рост предложения значительно отстает. Хотя в долгосрочной перспективе предложение вычислительной мощности обязательно перейдет из рынка продавцов в рынок покупателей, этот процесс займет некоторое время.
Все компании рассчитывают количество своих GPU и на основе этого определяют свою долю на рынке. Некоторые эксперты считают, что без миллиардных инвестиций трудно продолжать развивать большие модели. Многие предприниматели также отмечают, что без достаточной финансовой поддержки идти по этому пути очень сложно.
С учетом этой ситуации, в отрасли широко полагают, что по мере усиления конкуренции на рынке больших моделей, рынок вернется к рациональности после периода восторга, и компании будут контролировать свои расходы и корректировать стратегии в соответствии с изменениями ожиданий.
Чтобы справиться с нехваткой вычислительной мощности, компании принимают различные меры:
Используйте данные более высокого качества для обучения, чтобы повысить эффективность обучения.
Повышение возможностей инфраструктуры для стабильной работы свыше 1000 ккал.
Оптимизация распределения ресурсов вычислительной мощности, повышение коэффициента использования.
Улучшение сетевой производительности, увеличение скорости обучения.
Переход от облачной архитектуры к архитектуре суперкомпьютеров, снижение затрат.
Используйте отечественные платформы вместо GPU от NVIDIA.
Для малых и средних предприятий выбор профессионального провайдера вычислительной мощности может быть более выгодным решением. Только кластеры GPU уровня килокалорий могут создать эффект масштаба, тогда как провайдеры вычислительной мощности могут предложить услуги с нулевой предельной стоимостью.
Вычислительная мощность становится новой моделью услуг. «Белая книга услуг вычислительной мощности 2023» определяет услуги вычислительной мощности как новую область индустрии вычислительной мощности, основанную на разнообразной вычислительной мощности, связанной с сетью вычислительной мощности и нацеленной на предложение эффективной вычислительной мощности.
Суть вычислительных услуг заключается в достижении единого вывода гетерогенной вычислительной мощности с помощью новых вычислительных технологий и интеграции с облачными, большими данными, AI и другими технологиями. Это включает не только вычислительную мощность, но и единую упаковку ресурсов, таких как хранилище и сеть, для выполнения доставки вычислительной мощности в форме API.
В вычислительной мощностной цепочке, upstream компании в основном предоставляют базовые ресурсы вычислительной мощности, midstream компании отвечают за производство и поставку вычислительной мощности, а downstream компании являются пользователями услуг вычислительной мощности.
В настоящее время основными моделями оплаты за услуги вычислительной мощности являются оплата по объему и годовая/месячная подписка. Отрасль также продвигает "интеграцию вычислений и сети", поддерживая распределение вычислительной мощности между различными архитектурами, регионами и провайдерами услуг.
С учетом того, что требования к высокопроизводительным вычислениям больших моделей становятся нормой, сервисы вычислительной мощности быстро формируют уникальную индустриальную цепочку и бизнес-модель. Несмотря на текущие вызовы, такие как нехватка высококачественных GPU и высокие затраты, в долгосрочной перспективе сервисы вычислительной мощности станут определяющей тенденцией. Провайдеры вычислительной мощности должны заранее подготовиться к изменениям на рынке.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
24 Лайков
Награда
24
6
Поделиться
комментарий
0/400
NotSatoshi
· 07-07 06:30
Все жарят, только не жарят мои видеокарты.
Посмотреть ОригиналОтветить0
ForkThisDAO
· 07-06 16:32
Кто может позволить себе такие дорогие видеокарты?
Вычислительная мощность сервисов: новые возможности и вызовы в эпоху больших моделей
Вычислительная мощность: новая бизнес-модель эпохи больших моделей
Рост спроса на вычислительную мощность, вызванный обучением больших моделей, делает вычислительную мощность новой бизнес-моделью. Хотя текущая гонка за высококлассными GPU в конечном итоге пройдет, провайдеры вычислительных услуг должны заранее подготовиться и своевременно скорректировать стратегическое направление.
В последнее время группа исследователей использовала 40-летние данные о погоде по всему миру, применяя 200 графических процессоров (GPU) в течение примерно 2 месяцев для предварительного обучения, и успешно обучила метеорологическую модель с количеством параметров в миллиарды. При расчете стоимости 7,8 юаня за час на один GPU, стоимость обучения этой модели может превысить 2 миллиона юаней. А если речь идет об обучении универсальной большой модели, стоимость может возрасти в сотни раз.
В настоящее время в Китае уже более 100 крупных моделей с объемом параметров более 10 миллиардов. Тем не менее, бурный рост интереса к созданию крупных моделей сталкивается с проблемой нехватки высокопроизводительных GPU. Высокие затраты на вычислительную мощность, нехватка средств и вычислительной мощности стали наиболее очевидными проблемами для отрасли.
Недостаток высококачественных графических процессоров (GPU) наблюдается во всей отрасли. Взрывной рост спроса на большие модели привел к быстрому увеличению спроса на вычислительную мощность, но рост предложения значительно отстает. Хотя в долгосрочной перспективе предложение вычислительной мощности обязательно перейдет из рынка продавцов в рынок покупателей, этот процесс займет некоторое время.
Все компании рассчитывают количество своих GPU и на основе этого определяют свою долю на рынке. Некоторые эксперты считают, что без миллиардных инвестиций трудно продолжать развивать большие модели. Многие предприниматели также отмечают, что без достаточной финансовой поддержки идти по этому пути очень сложно.
С учетом этой ситуации, в отрасли широко полагают, что по мере усиления конкуренции на рынке больших моделей, рынок вернется к рациональности после периода восторга, и компании будут контролировать свои расходы и корректировать стратегии в соответствии с изменениями ожиданий.
Чтобы справиться с нехваткой вычислительной мощности, компании принимают различные меры:
Для малых и средних предприятий выбор профессионального провайдера вычислительной мощности может быть более выгодным решением. Только кластеры GPU уровня килокалорий могут создать эффект масштаба, тогда как провайдеры вычислительной мощности могут предложить услуги с нулевой предельной стоимостью.
Вычислительная мощность становится новой моделью услуг. «Белая книга услуг вычислительной мощности 2023» определяет услуги вычислительной мощности как новую область индустрии вычислительной мощности, основанную на разнообразной вычислительной мощности, связанной с сетью вычислительной мощности и нацеленной на предложение эффективной вычислительной мощности.
Суть вычислительных услуг заключается в достижении единого вывода гетерогенной вычислительной мощности с помощью новых вычислительных технологий и интеграции с облачными, большими данными, AI и другими технологиями. Это включает не только вычислительную мощность, но и единую упаковку ресурсов, таких как хранилище и сеть, для выполнения доставки вычислительной мощности в форме API.
В вычислительной мощностной цепочке, upstream компании в основном предоставляют базовые ресурсы вычислительной мощности, midstream компании отвечают за производство и поставку вычислительной мощности, а downstream компании являются пользователями услуг вычислительной мощности.
В настоящее время основными моделями оплаты за услуги вычислительной мощности являются оплата по объему и годовая/месячная подписка. Отрасль также продвигает "интеграцию вычислений и сети", поддерживая распределение вычислительной мощности между различными архитектурами, регионами и провайдерами услуг.
С учетом того, что требования к высокопроизводительным вычислениям больших моделей становятся нормой, сервисы вычислительной мощности быстро формируют уникальную индустриальную цепочку и бизнес-модель. Несмотря на текущие вызовы, такие как нехватка высококачественных GPU и высокие затраты, в долгосрочной перспективе сервисы вычислительной мощности станут определяющей тенденцией. Провайдеры вычислительной мощности должны заранее подготовиться к изменениям на рынке.