Tầm quan trọng và hướng đổi mới của mạng trong thời đại AI

Mạng đã trở thành một mắt xích quan trọng trong thời đại mô hình AI lớn. Với sự gia tăng nhanh chóng về quy mô mô hình, cụm máy chủ đa trở thành giải pháp chính để giải quyết vấn đề đào tạo, đây cũng là nền tảng để mạng "nâng cao" trong thời đại AI. So với việc chỉ truyền dữ liệu trong quá khứ, ngày nay mạng chủ yếu được sử dụng để đồng bộ hóa các tham số mô hình giữa các card đồ họa, điều này đặt ra yêu cầu cao hơn về mật độ và dung lượng mạng.

Nhu cầu mạng chủ yếu đến từ ba khía cạnh:

1. Kích thước mô hình ngày càng lớn. Thời gian huấn luyện tỷ lệ thuận với số lượng tham số của mô hình và tỷ lệ nghịch với tốc độ tính toán. Để rút ngắn thời gian huấn luyện, cần mở rộng số lượng thiết bị qua mạng và nâng cao hiệu quả song song của nhiều thiết bị.

2. Giao tiếp phức tạp của việc đồng bộ nhiều thẻ. Sau khi mô hình được chia thành thẻ đơn, mỗi lần tính toán đều cần phải thực hiện việc căn chỉnh, điều này đặt ra yêu cầu cao hơn cho việc truyền tải và trao đổi mạng.

3. Chi phí lỗi ngày càng cao. Việc đào tạo mô hình lớn thường kéo dài hàng tháng, gián đoạn có thể gây ra thiệt hại nghiêm trọng về tiến độ và chi phí. Mạng AI hiện đại đã trở thành thành quả của khả năng kỹ thuật hệ thống con người ngang ngửa với máy bay, tàu sân bay và các hệ thống khác.

Sự đổi mới mạng trong tương lai sẽ xoay quanh ba hướng: "giảm chi phí", "mở" và "cân bằng quy mô sức mạnh tính toán:"

1. Thay đổi môi trường truyền thông: Mô-đun quang không chỉ tìm kiếm tốc độ cao hơn mà còn khám phá các hướng giảm chi phí như LPO, LRO, quang học silicon. Dây đồng vẫn chiếm ưu thế trong kết nối trong tủ do lợi thế về chi phí. Các công nghệ bán dẫn mới như Chiplet, Wafer-scaling đang thúc đẩy việc khám phá giới hạn kết nối silicon.

2. Cạnh tranh giao thức mạng: Giao thức giao tiếp giữa các chip và sự ràng buộc mạnh mẽ với card đồ họa, chẳng hạn như NV-LINK, Infinity Fabric, v.v. Giao tiếp giữa các nút chủ yếu tập trung vào sự cạnh tranh giữa hai giao thức IB và Ethernet.

3. Thay đổi kiến trúc mạng: Hiện nay, kiến trúc lá gân được sử dụng rộng rãi, nhưng khi quy mô cụm ngày càng lớn, các kiến trúc mới như Dragonfly, rail-only có khả năng trở thành hướng phát triển cho các cụm siêu lớn.

Gợi ý đầu tư chú ý:

Các phần cốt lõi của hệ thống truyền thông: Zhongji Xuchuang, NewEase, Tianfu Communication, Industrial Fulian, Yingweike, Hú Điện股份.

Các khâu đổi mới của hệ thống truyền thông: Longfly Fiber, Taicheng Light, Yuanjie Technology, Shengke Communication-U, Cambricon, Dekoli.

Cảnh báo rủi ro: Nhu cầu AI không đạt kỳ vọng, quy luật mở rộng không còn hiệu lực, cạnh tranh trong ngành gia tăng.