Puissance de calcul Service : un nouveau modèle commercial à l'ère des grands modèles
La demande en puissance de calcul due à la formation de grands modèles a explosé, faisant de la puissance de calcul un nouveau modèle commercial. Bien que l'engouement actuel pour la course aux GPU haut de gamme finira par s'estomper, les fournisseurs de services de puissance de calcul doivent se préparer à l'avance et ajuster leur orientation stratégique en temps voulu.
Récemment, des chercheurs ont utilisé 40 ans de données météorologiques mondiales et 200 cartes GPU pour un préentraînement d'environ 2 mois, réussissant à entraîner un grand modèle météorologique avec un nombre de paramètres atteignant des centaines de millions. Selon un coût de calcul de 7,8 yuans par heure par GPU, le coût d'entraînement de ce modèle pourrait dépasser 2 millions de yuans. Si l'on s'agit d'entraîner un grand modèle général, le coût pourrait encore augmenter d'un facteur de cent.
Actuellement, la Chine compte plus de 100 grands modèles d'une échelle de 10 milliards de paramètres. Cependant, la frénésie des grands modèles dans l'industrie fait face à un dilemme de pénurie de GPU haut de gamme. Le coût de la puissance de calcul est élevé, et le manque de fonds et de puissance de calcul est devenu le problème le plus évident auquel l'industrie est confrontée.
La pénurie de GPU haut de gamme est répandue dans l'ensemble de l'industrie. L'explosion de la demande de grands modèles a entraîné une croissance rapide de la demande de puissance de calcul sur le marché, mais l'augmentation de l'offre ne suit pas du tout. Bien qu'à long terme, l'offre de puissance de calcul finisse par passer d'un marché de vendeurs à un marché d'acheteurs, ce processus prendra encore un certain temps.
Chaque entreprise calcule le nombre de GPU qu'elle possède pour évaluer sa part de marché. Des experts estiment que sans des milliards de financement, il est difficile de continuer à développer des modèles de grande taille. De nombreux entrepreneurs affirment également que, sans un soutien financier adéquat, il est difficile de suivre cette voie.
Face à cette situation, il est largement admis dans l'industrie que, avec l'intensification de la concurrence sur le marché des grands modèles, le marché reviendra de l'enthousiasme à la rationalité, et les entreprises ajusteront leurs coûts et stratégies en fonction des changements des attentes.
Pour faire face à la Puissance de calcul insuffisante, les entreprises adoptent diverses mesures:
Utiliser des données de meilleure qualité pour l'entraînement, améliorer l'efficacité de l'entraînement.
Améliorer les capacités d'infrastructure pour réaliser un fonctionnement stable à plus de 1000 kcal.
Optimiser la gestion des ressources des cartes de puissance de calcul, améliorer le taux d'utilisation.
Améliorer les performances du réseau, augmenter la vitesse d'entraînement.
Passer de l'architecture de cloud computing à l'architecture de supercalcul, réduire les coûts.
Utiliser une plateforme nationale pour remplacer les GPU Nvidia.
Pour les petites et moyennes entreprises, choisir un fournisseur de services de puissance de calcul professionnel peut être un meilleur choix. Seules les clusters GPU de niveau kilocalorie peuvent générer des économies d'échelle, et les fournisseurs de services de puissance de calcul peuvent offrir des services à coût marginal nul.
La puissance de calcul devient un nouveau mode de service. Le "Livre blanc sur les services de puissance de calcul 2023" définit les services de puissance de calcul comme un nouveau domaine de l'industrie de la puissance de calcul basé sur la diversité de la puissance de calcul, relié par un réseau de puissance de calcul et visant à fournir une puissance de calcul efficace.
L'essence des services de puissance de calcul est de réaliser une sortie unifiée de puissance de calcul hétérogène grâce à de nouvelles technologies de calcul, et de s'intégrer avec des technologies telles que le cloud, le big data et l'IA. Cela inclut non seulement la puissance de calcul, mais aussi l'emballage unifié des ressources telles que le stockage et le réseau, et la livraison de la puissance de calcul se fait sous forme d'API.
Dans la chaîne de valeur de la puissance de calcul, les entreprises en amont fournissent principalement des ressources de base en puissance de calcul, les entreprises intermédiaires sont responsables de la production et de l'approvisionnement en puissance de calcul, tandis que les entreprises en aval sont les utilisateurs des services de puissance de calcul.
Actuellement, la facturation à la consommation et les abonnements annuels ou mensuels sont les principaux modèles de facturation pour les services de puissance de calcul. L'industrie promeut également l'"intégration et la fusion des réseaux de calcul", soutenant la planification de la puissance de calcul à travers différentes architectures, régions et fournisseurs de services.
Avec la normalisation des besoins de calcul haute performance des grands modèles, les services de puissance de calcul sont en train de former rapidement une chaîne industrielle et un modèle commercial uniques. Bien qu'ils soient actuellement confrontés à des défis tels que la pénurie de GPU haut de gamme et des coûts élevés, à long terme, les services de puissance de calcul deviendront une tendance certaine. Les fournisseurs de services de puissance de calcul doivent anticiper et se préparer aux changements du marché.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
24 J'aime
Récompense
24
6
Partager
Commentaire
0/400
NotSatoshi
· 07-07 06:30
Tout se négocie, sauf ma carte graphique à la maison.
Voir l'originalRépondre0
ForkThisDAO
· 07-06 16:32
Qui peut supporter un prix aussi élevé pour les cartes graphiques ?
Voir l'originalRépondre0
CounterIndicator
· 07-06 08:20
C'est difficile sans GPU !
Voir l'originalRépondre0
AirdropHarvester
· 07-04 07:01
Faire des affaires, c'est juste que le coût est élevé.
Puissance de calcul : nouvelles opportunités et défis à l'ère des grands modèles
Puissance de calcul Service : un nouveau modèle commercial à l'ère des grands modèles
La demande en puissance de calcul due à la formation de grands modèles a explosé, faisant de la puissance de calcul un nouveau modèle commercial. Bien que l'engouement actuel pour la course aux GPU haut de gamme finira par s'estomper, les fournisseurs de services de puissance de calcul doivent se préparer à l'avance et ajuster leur orientation stratégique en temps voulu.
Récemment, des chercheurs ont utilisé 40 ans de données météorologiques mondiales et 200 cartes GPU pour un préentraînement d'environ 2 mois, réussissant à entraîner un grand modèle météorologique avec un nombre de paramètres atteignant des centaines de millions. Selon un coût de calcul de 7,8 yuans par heure par GPU, le coût d'entraînement de ce modèle pourrait dépasser 2 millions de yuans. Si l'on s'agit d'entraîner un grand modèle général, le coût pourrait encore augmenter d'un facteur de cent.
Actuellement, la Chine compte plus de 100 grands modèles d'une échelle de 10 milliards de paramètres. Cependant, la frénésie des grands modèles dans l'industrie fait face à un dilemme de pénurie de GPU haut de gamme. Le coût de la puissance de calcul est élevé, et le manque de fonds et de puissance de calcul est devenu le problème le plus évident auquel l'industrie est confrontée.
La pénurie de GPU haut de gamme est répandue dans l'ensemble de l'industrie. L'explosion de la demande de grands modèles a entraîné une croissance rapide de la demande de puissance de calcul sur le marché, mais l'augmentation de l'offre ne suit pas du tout. Bien qu'à long terme, l'offre de puissance de calcul finisse par passer d'un marché de vendeurs à un marché d'acheteurs, ce processus prendra encore un certain temps.
Chaque entreprise calcule le nombre de GPU qu'elle possède pour évaluer sa part de marché. Des experts estiment que sans des milliards de financement, il est difficile de continuer à développer des modèles de grande taille. De nombreux entrepreneurs affirment également que, sans un soutien financier adéquat, il est difficile de suivre cette voie.
Face à cette situation, il est largement admis dans l'industrie que, avec l'intensification de la concurrence sur le marché des grands modèles, le marché reviendra de l'enthousiasme à la rationalité, et les entreprises ajusteront leurs coûts et stratégies en fonction des changements des attentes.
Pour faire face à la Puissance de calcul insuffisante, les entreprises adoptent diverses mesures:
Pour les petites et moyennes entreprises, choisir un fournisseur de services de puissance de calcul professionnel peut être un meilleur choix. Seules les clusters GPU de niveau kilocalorie peuvent générer des économies d'échelle, et les fournisseurs de services de puissance de calcul peuvent offrir des services à coût marginal nul.
La puissance de calcul devient un nouveau mode de service. Le "Livre blanc sur les services de puissance de calcul 2023" définit les services de puissance de calcul comme un nouveau domaine de l'industrie de la puissance de calcul basé sur la diversité de la puissance de calcul, relié par un réseau de puissance de calcul et visant à fournir une puissance de calcul efficace.
L'essence des services de puissance de calcul est de réaliser une sortie unifiée de puissance de calcul hétérogène grâce à de nouvelles technologies de calcul, et de s'intégrer avec des technologies telles que le cloud, le big data et l'IA. Cela inclut non seulement la puissance de calcul, mais aussi l'emballage unifié des ressources telles que le stockage et le réseau, et la livraison de la puissance de calcul se fait sous forme d'API.
Dans la chaîne de valeur de la puissance de calcul, les entreprises en amont fournissent principalement des ressources de base en puissance de calcul, les entreprises intermédiaires sont responsables de la production et de l'approvisionnement en puissance de calcul, tandis que les entreprises en aval sont les utilisateurs des services de puissance de calcul.
Actuellement, la facturation à la consommation et les abonnements annuels ou mensuels sont les principaux modèles de facturation pour les services de puissance de calcul. L'industrie promeut également l'"intégration et la fusion des réseaux de calcul", soutenant la planification de la puissance de calcul à travers différentes architectures, régions et fournisseurs de services.
Avec la normalisation des besoins de calcul haute performance des grands modèles, les services de puissance de calcul sont en train de former rapidement une chaîne industrielle et un modèle commercial uniques. Bien qu'ils soient actuellement confrontés à des défis tels que la pénurie de GPU haut de gamme et des coûts élevés, à long terme, les services de puissance de calcul deviendront une tendance certaine. Les fournisseurs de services de puissance de calcul doivent anticiper et se préparer aux changements du marché.