Khả năng tính toán dịch vụ: Cơ hội và thách thức mới trong thời đại mô hình lớn

robot
Đang tạo bản tóm tắt

Khả năng tính toán dịch vụ: Mô hình kinh doanh mới trong thời đại mô hình lớn

Nhu cầu về khả năng tính toán do đào tạo mô hình lớn mang lại đã gia tăng mạnh mẽ, khiến khả năng tính toán trở thành một mô hình kinh doanh mới. Mặc dù cơn sốt cạnh tranh giành GPU cao cấp trong ngành sẽ sớm qua đi, nhưng các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị trước, điều chỉnh hướng chiến lược kịp thời.

Gần đây, các nhà nghiên cứu đã sử dụng dữ liệu thời tiết toàn cầu trong 40 năm, sử dụng 200 thẻ GPU trong khoảng 2 tháng để tiền huấn luyện, thành công trong việc huấn luyện một mô hình khí tượng lớn với số lượng tham số lên tới hàng triệu. Theo tính toán chi phí 7,8 triệu đồng/GPU mỗi giờ, chi phí huấn luyện mô hình này có thể vượt quá 2 triệu nhân dân tệ. Và nếu đó là huấn luyện một mô hình lớn tổng quát, chi phí có thể còn gấp trăm lần.

Hiện nay, Trung Quốc đã có hơn 100 mô hình lớn với quy mô 10 tỷ tham số. Tuy nhiên, cơn sốt "luyện đan" mô hình lớn đang ồ ạt của ngành đang gặp phải tình trạng thiếu hụt GPU cao cấp. Khả năng tính toán trở nên đắt đỏ, và sự thiếu hụt vốn và khả năng tính toán trở thành vấn đề rõ ràng nhất mà ngành phải đối mặt.

Sự thiếu hụt GPU cao cấp đang phổ biến trong toàn ngành. Nhu cầu về mô hình lớn bùng nổ dẫn đến việc nhu cầu về khả năng tính toán trên thị trường tăng nhanh, nhưng tốc độ cung cấp không theo kịp. Mặc dù về lâu dài, khả năng tính toán chắc chắn sẽ chuyển từ thị trường người bán sang thị trường người mua, nhưng quá trình này vẫn cần một khoảng thời gian.

Các công ty đều đang tính toán số lượng GPU trong tay mình và dựa vào đó để đánh giá thị phần. Nhiều chuyên gia cho rằng, nếu không có hàng tỷ đồng hỗ trợ, rất khó để tiếp tục phát triển mô hình lớn. Nhiều người khởi nghiệp cũng cho biết, nếu không có nguồn vốn đủ, con đường này rất khó đi.

Đối mặt với tình huống này, trong ngành công nghiệp thường cho rằng, khi cạnh tranh trên thị trường mô hình lớn ngày càng gay gắt, thị trường sẽ quay trở lại trạng thái hợp lý từ sự cuồng nhiệt, các doanh nghiệp cũng sẽ điều chỉnh chi phí và chiến lược dựa trên những thay đổi về kỳ vọng.

Để đối phó với sự thiếu hụt khả năng tính toán, các doanh nghiệp đã áp dụng nhiều biện pháp khác nhau:

  1. Sử dụng dữ liệu chất lượng cao hơn để đào tạo, nâng cao hiệu quả đào tạo.
  2. Nâng cao khả năng hạ tầng, đạt được hoạt động ổn định trên 1000 kcal.
  3. Tối ưu hóa việc phân bổ tài nguyên khả năng tính toán, nâng cao tỷ lệ sử dụng.
  4. Cải thiện hiệu suất mạng, tăng tốc độ đào tạo.
  5. Chuyển từ kiến trúc điện toán đám mây sang kiến trúc siêu máy tính, giảm chi phí.
  6. Sử dụng nền tảng trong nước thay thế GPU của Nvidia.

Đối với các doanh nghiệp vừa và nhỏ, việc chọn một nhà cung cấp dịch vụ khả năng tính toán chuyên nghiệp có thể là lựa chọn tốt hơn. Cụm GPU cấp độ kilocalorie mới có thể tạo ra hiệu ứng quy mô, trong khi nhà cung cấp khả năng tính toán có thể cung cấp dịch vụ với chi phí biên bằng không.

Khả năng tính toán đang trở thành một mô hình dịch vụ mới. "Báo cáo trắng về dịch vụ khả năng tính toán 2023" định nghĩa dịch vụ khả năng tính toán là: dựa trên khả năng tính toán đa dạng, liên kết bằng mạng khả năng tính toán, với mục tiêu cung cấp khả năng tính toán hiệu quả trong lĩnh vực công nghiệp khả năng tính toán mới.

Bản chất của dịch vụ khả năng tính toán là đạt được đầu ra khả năng tính toán đồng nhất thông qua công nghệ tính toán mới, và kết hợp với công nghệ đám mây, dữ liệu lớn, AI và các công nghệ khác. Nó không chỉ bao gồm khả năng tính toán, mà còn bao gồm việc đóng gói thống nhất các tài nguyên như lưu trữ, mạng, v.v., để hoàn thành việc giao khả năng tính toán dưới dạng API và các hình thức khác.

Trong chuỗi ngành công nghiệp khả năng tính toán, các doanh nghiệp ở thượng nguồn chủ yếu cung cấp tài nguyên cơ bản về khả năng tính toán, các doanh nghiệp ở trung nguồn chịu trách nhiệm sản xuất và cung cấp khả năng tính toán, còn các doanh nghiệp ở hạ nguồn là người sử dụng dịch vụ khả năng tính toán.

Hiện tại, tính phí theo lượng và gói theo năm hoặc theo tháng là các mô hình tính phí chủ đạo của dịch vụ khả năng tính toán. Ngành cũng đang thúc đẩy "tích hợp khả năng tính toán và mạng", hỗ trợ điều phối khả năng tính toán qua các kiến trúc, khu vực và nhà cung cấp khác nhau.

Với nhu cầu tính toán hiệu suất cao của mô hình lớn ngày càng trở nên bình thường, dịch vụ khả năng tính toán đang nhanh chóng hình thành chuỗi công nghiệp và mô hình kinh doanh độc đáo. Mặc dù hiện tại đang đối mặt với những thách thức như thiếu hụt GPU cao cấp và chi phí cao, nhưng về lâu dài, dịch vụ khả năng tính toán sẽ trở thành xu hướng chắc chắn. Các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị trước cho những biến động của thị trường.

Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • 6
  • Chia sẻ
Bình luận
0/400
NotSatoshivip
· 07-07 06:30
Gì cũng đầu tư nhưng không đầu tư vào card đồ họa nhà tôi.
Xem bản gốcTrả lời0
ForkThisDAOvip
· 07-06 16:32
Ai chịu nổi giá card đồ họa cao như vậy?
Xem bản gốcTrả lời0
CounterIndicatorvip
· 07-06 08:20
Thiếu GPU khó chịu quá!
Xem bản gốcTrả lời0
AirdropHarvestervip
· 07-04 07:01
Kinh doanh có thể làm, nhưng chi phí cao.
Xem bản gốcTrả lời0
FunGibleTomvip
· 07-04 07:00
Có tiền cũng không mua được thẻ tốt
Xem bản gốcTrả lời0
CrossChainBreathervip
· 07-04 06:34
Hãy bán GPU thôi!
Xem bản gốcTrả lời0
  • Ghim
Giao dịch tiền điện tử mọi lúc mọi nơi
qrCode
Quét để tải xuống ứng dụng Gate
Cộng đồng
Tiếng Việt
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)