Potencia computacional servicio: un nuevo modelo de negocio en la era de los grandes modelos

El aumento de la demanda de potencia computacional debido al entrenamiento de grandes modelos está convirtiendo a la potencia computacional en un nuevo modelo de negocio. Aunque la actual ola de competencia por GPUs de alta gama eventualmente pasará, los proveedores de servicios de potencia computacional deben prepararse y ajustar su dirección estratégica a tiempo.

Recientemente, investigadores utilizaron 40 años de datos climáticos globales y emplearon 200 tarjetas GPU durante aproximadamente 2 meses para el preentrenamiento, logrando entrenar un gran modelo meteorológico con miles de millones de parámetros. Según el costo de cálculo de 7.8 yuanes/GPU por hora, el costo de entrenamiento de este modelo podría superar los 2 millones de yuanes. Y si se tratara de entrenar un modelo grande general, el costo podría aumentar cien veces.

Actualmente, en China ya hay más de 100 modelos grandes con una escala de 10 mil millones de parámetros. Sin embargo, la fiebre por el "refinamiento" de grandes modelos que ha llevado a la industria a lanzarse en masa enfrenta la difícil situación de la escasez de GPU de alta gama. El alto costo de la potencia computacional y la falta de fondos y potencia computacional se han convertido en los problemas más evidentes que enfrenta la industria.

La escasez de GPU de alta gama es generalizada en toda la industria. La explosión en la demanda de grandes modelos ha llevado a un rápido crecimiento en la demanda de potencia computacional en el mercado, pero la velocidad de aumento de la oferta no ha podido seguir el ritmo. Aunque a largo plazo la oferta de potencia computacional seguramente pasará de un mercado de vendedores a un mercado de compradores, este proceso aún tomará un tiempo.

Las empresas están calculando la cantidad de GPU que tienen en sus manos para evaluar su cuota de mercado. Algunos expertos creen que sin el apoyo de miles de millones en financiamiento, es difícil seguir desarrollando modelos grandes. Muchos emprendedores también han expresado que sin un respaldo financiero suficiente, es difícil avanzar por este camino.

Ante esta situación, en la industria se considera generalmente que, a medida que la competencia en el mercado de grandes modelos se intensifica, el mercado también regresará de la euforia a la racionalidad, y las empresas ajustarán sus costos y estrategias de acuerdo con los cambios en las expectativas.

Para hacer frente a la escasez de potencia computacional, las empresas están adoptando diversas medidas:

1. Utilizar datos de mayor calidad para el entrenamiento, mejorando la eficiencia del entrenamiento.
2. Mejorar la capacidad de infraestructura para lograr un funcionamiento estable de más de mil calorías.
3. Optimizar la programación de recursos de potencia computacional, aumentar la tasa de utilización.
4. Mejorar el rendimiento de la red, aumentar la velocidad de entrenamiento.
5. Transición de la arquitectura de computación en la nube a la arquitectura de supercomputación, reduciendo costos.
6. Utilizar plataformas nacionales en lugar de GPU de Nvidia.

Para las pequeñas y medianas empresas, elegir un proveedor de servicios de potencia computacional profesional puede ser una mejor opción. Solo los grupos de GPU de nivel kilocaloría pueden generar economías de escala, y los proveedores de potencia computacional pueden ofrecer servicios con un costo marginal de cero.

La potencia computacional se está convirtiendo en un nuevo modelo de servicio. El "Libro Blanco de Servicios de Potencia Computacional 2023" define el servicio de potencia computacional como: un nuevo campo de la industria de potencia computacional basado en una potencia computacional diversa, conectado a través de una red de potencia computacional, con el objetivo de proporcionar potencia computacional efectiva.

La esencia del servicio de potencia computacional es lograr una salida unificada de potencia computacional heterogénea a través de nuevas tecnologías de cálculo, y fusionarse con tecnologías como la nube, Big Data, IA, entre otras. No solo incluye potencia computacional, sino también el empaquetado unificado de recursos como almacenamiento y red, completando la entrega de potencia computacional en formas como API.

En la cadena de la industria de la potencia computacional, las empresas de upstream principalmente suministran recursos básicos de potencia computacional, las empresas de midstream son responsables de la producción y suministro de potencia computacional, y las empresas de downstream son los usuarios de los servicios de potencia computacional.

Actualmente, la facturación por uso y la suscripción anual o mensual son los modelos de facturación predominantes en los servicios de potencia computacional. La industria también está promoviendo la "integración y fusión de la computación en red", apoyando la programación de potencia computacional a través de diferentes arquitecturas, regiones y proveedores de servicios.

Con la normalización de la demanda de computación de alto rendimiento para modelos grandes, los servicios de potencia computacional están formando rápidamente una cadena de suministro y un modelo de negocio únicos. A pesar de enfrentar actualmente desafíos como la escasez de GPU de alta gama y los altos costos, a largo plazo, los servicios de potencia computacional se convertirán en una tendencia determinante. Los proveedores de servicios de potencia computacional deben prepararse con anticipación para los cambios en el mercado.