Poder de computação Serviços: um novo modelo de negócios na era dos grandes modelos

A demanda por poder de computação impulsionada pelo treinamento de grandes modelos está aumentando, fazendo com que o poder de computação se torne um novo modelo de negócios. Embora a atual corrida por GPUs de alto desempenho no setor eventualmente passe, os provedores de serviços de poder de computação precisam se preparar com antecedência e ajustar sua direção estratégica a tempo.

Recentemente, pesquisadores utilizaram dados meteorológicos globais de 40 anos, usando 200 placas de GPU durante cerca de 2 meses de pré-treinamento, e conseguiram treinar um grande modelo meteorológico com uma quantidade de parâmetros na casa das centenas de milhões. Com base no custo de 7,8 yuan/hora por GPU, o custo de treinamento deste modelo pode ultrapassar 2 milhões de yuan. E se fosse para treinar um grande modelo genérico, o custo poderia ser ainda cem vezes maior.

Atualmente, a China já possui mais de 100 grandes modelos com uma escala de 10 bilhões de parâmetros. No entanto, a onda de "refinamento" de grandes modelos que a indústria está enfrentando encontra dificuldades devido à escassez de GPUs de alto desempenho. O custo do poder de computação está elevado, e a falta de capital e poder de computação tornou-se o problema mais evidente que a indústria enfrenta.

A escassez de GPUs de alta gama é uma realidade comum em toda a indústria. A explosão da demanda por grandes modelos levou a um rápido aumento da necessidade de poder de computação no mercado, mas a taxa de crescimento da oferta está muito aquém. Embora a longo prazo a oferta de poder de computação certamente transite de um mercado de vendedores para um mercado de compradores, esse processo ainda levará algum tempo.

As empresas estão a calcular a quantidade de GPUs que possuem, e com isso, a avaliar a sua quota de mercado. Especialistas acreditam que, sem um apoio financeiro de bilhões, é difícil continuar a desenvolver modelos grandes. Muitos empreendedores também afirmam que, sem um suporte financeiro adequado, este caminho é difícil de percorrer.

Diante dessa situação, é amplamente acreditado na indústria que, à medida que a competição no mercado de grandes modelos aumenta, o mercado também retornará de uma fase de entusiasmo para uma fase de racionalidade, e as empresas controlarão custos e ajustarão estratégias com base nas mudanças nas expectativas.

Para enfrentar a escassez de poder de computação, as empresas têm adotado várias medidas:

1. Usar dados de maior qualidade para treinar, aumentando a eficiência do treinamento.
2. Melhorar a capacidade da infraestrutura, alcançando uma operação estável acima de mil calorias.
3. Otimizar o agendamento de recursos do Poder de computação, aumentando a taxa de utilização.
4. Melhorar o desempenho da rede, aumentando a velocidade de treinamento.
5. Fazer a transição da arquitetura de computação em nuvem para a arquitetura de supercomputação, reduzindo custos.
6. Usar plataformas nacionais em vez de GPUs da Nvidia.

Para pequenas e médias empresas, escolher um prestador de serviços de poder de computação profissional pode ser uma melhor opção. Apenas clusters de GPU de nível quilocaloria podem gerar economias de escala, enquanto os prestadores de serviços de poder de computação podem oferecer serviços com custo marginal zero.

O poder de computação está se tornando um novo modelo de serviço. O "White Paper sobre Serviços de Poder de Computação 2023" define o serviço de poder de computação como: um novo campo da indústria de poder de computação baseado na diversidade de poder de computação, ligado por uma rede de poder de computação e com o objetivo de fornecer poder de computação efetivo.

O essencial do serviço de poder de computação é realizar a saída unificada de poder de computação heterogêneo através de novas tecnologias de computação, integrando-se com tecnologias como nuvem, big data e IA. Ele não inclui apenas o poder de computação, mas também o encapsulamento unificado de recursos como armazenamento e rede, completando a entrega de poder de computação na forma de APIs.

Na cadeia industrial de poder de computação, as empresas upstream fornecem principalmente recursos básicos de poder de computação, as empresas midstream são responsáveis pela produção e fornecimento de poder de computação, e as empresas downstream são os utilizadores dos serviços de poder de computação.

Atualmente, a cobrança por uso e a cobrança anual/mensal são os principais modelos de cobrança para serviços de poder de computação. A indústria também está promovendo a "integração e fusão da computação em rede", apoiando a programação de poder de computação entre diferentes arquiteturas, regiões e prestadores de serviços.

Com a normalização da demanda por computação de alto desempenho dos grandes modelos, os serviços de poder de computação estão rapidamente formando uma cadeia industrial e um modelo de negócios únicos. Apesar dos desafios atuais, como a escassez de GPUs de alto desempenho e os altos custos, a longo prazo, os serviços de poder de computação se tornarão uma tendência certa. Os prestadores de serviços de poder de computação precisam se preparar antecipadamente para as mudanças no mercado.