NVIDIA đã công bố một thiết bị chuyển mạch mạng (switch) mới mang tên X800, được thiết kế cho AI quy mô lớn.
Các nền tảng mạng đầu tiên trên thế giới có khả năng đạt thông lượng 800Gb/s từ đầu đến cuối, NVIDIA Quantum-X800 InfiniBand và NVIDIA Spectrum™-X800 Ethernet vvượt qua các ranh giới về hiệu suất mạng cho khối lượng công việc điện toán và AI. Những nền tảng này có phần mềm giúp tăng tốc hơn nữa các ứng dụng AI, đám mây, xử lý dữ liệu và HPC trong mọi loại trung tâm dữ liệu, bao gồm cả những trung tâm kết hợp dòng sản phẩm dựa trên kiến trúc NVIDIA Blackwell mới được phát hành.
Gilad Shainer, phó chủ tịch cấp cao về Mạng tại NVIDIA cho biết: “Mạng NVIDIA là trung tâm cho khả năng mở rộng cơ sở hạ tầng siêu máy tính AI của chúng tôi. Bộ chuyển mạch NVIDIA X800 là nền tảng mạng đầu cuối cho phép chúng tôi đạt được AI tạo sinh có quy mô nghìn tỷ tham số cần thiết cho cơ sở hạ tầng AI mới.”
Những đơn vị áp dụng đầu tiên của Quantum InfiniBand và Spectrum-X Ethernet bao gồm Microsoft Azure và Cơ sở hạ tầng đám mây Oracle.
“AI là một công cụ mạnh mẽ để biến dữ liệu thành kiến thức. Đằng sau sự chuyển đổi này là sự phát triển của các trung tâm dữ liệu thành các công cụ AI hiệu suất cao với nhu cầu ngày càng tăng về cơ sở hạ tầng mạng” Nidhi Chappell, Phó Chủ tịch Cơ sở hạ tầng AI tại Microsoft Azure cho biết. “Với sự tích hợp mới của các giải pháp mạng NVIDIA, Microsoft Azure sẽ tiếp tục xây dựng cơ sở hạ tầng vượt qua các ranh giới của AI trên đám mây.”
Coreweave cũng nằm trong số những công ty áp dụng sớm các nền tảng nói trên.
Tiêu chuẩn tiếp theo cho hiệu suất cực cao
Nền tảng Quantum-X800 đặt ra tiêu chuẩn mới trong việc mang lại hiệu suất cao nhất cho các cơ sở hạ tầng dành riêng cho AI. Nền tảng này bao gồm bộ chuyển mạch NVIDIA Quantum Q3400 và NVIDIA ConnectX®-8 SuperNIC™ để cùng nhau đạt được bằng thông đầu cuối 800Gb/s. Đây là dung lượng băng thông cao hơn gấp 5 lần và tốc độ tính toán trong mạng tăng gấp 9 lần với Giao thức tổng hợp và giảm thiểu phân cấp có thể mở rộng (SHARPv4) của NVIDIA so với thế hệ trước.
Nền tảng Spectrum-X800 mang lại hiệu suất mạng được tối ưu hóa cho cơ sở hạ tầng doanh nghiệp và đám mây AI. Bằng cách sử dụng bộ chuyển đổi Spectrum SN5600 800Gb/s và NVIDIA BlueField®-3 SuperNIC, nền tảng Spectrum-X800 cung cấp các bộ tính năng nâng cao quan trọng cho các đám mây AI tạo sinh cho đối tác thuê dùng và các doanh nghiệp lớn.
Spectrum-X800 tối ưu hóa hiệu suất mạng, tạo điều kiện xử lý, phân tích và thực thi khối lượng công việc AI nhanh hơn, từ đó đẩy nhanh quá trình phát triển, triển khai và thời gian đưa ra thị trường các giải pháp AI. Được thiết kế đặc biệt cho môi trường nhiều người thuê, Spectrum-X800 đảm bảo cách ly hiệu suất cho khối lượng công việc AI của từng người thuê để duy trì mức hiệu suất tối ưu và nhất quán, nâng cao sự hài lòng của khách hàng và chất lượng dịch vụ.
Hỗ trợ phần mềm NVIDIA
NVIDIA cung cấp bộ thư viện tăng tốc mạng, bộ công cụ phát triển phần mềm và phần mềm quản lý toàn diện để tối ưu hóa hiệu suất cho các mô hình AI nghìn tỷ tham số.
Điều này bao gồm Thư Viện Truyền Thông Cộng Đồng NVIDIA (NCCL), mở rộng các tác vụ điện toán song song GPU cho kết cấu mạng Quantum-X800, tận dụng khả năng Điện toán trong mạng mạnh mẽ của nền tảng này với SHARPv4 hỗ trợ FP8, tăng hiệu suất cho đào tạo mô hình lớn và AI tạo sinh.
Phương pháp tiếp cận phần mềm đầy đủ của NVIDIA cung cấp khả năng lập trình nâng cao, giúp mạng trung tâm dữ liệu linh hoạt, đáng tin cậy và phản hồi nhanh hơn, cuối cùng là tăng hiệu quả hoạt động tổng thể và hỗ trợ nhu cầu của các ứng dụng và dịch vụ hiện đại.
Động lực hệ sinh thái
Trong năm tới, Quantum-X800 và Spectrum-X800 sẽ có sẵn từ nhiều nhà cung cấp hệ thống và cơ sở hạ tầng hàng đầu trên toàn thế giới, bao gồm Aivres, DDN, Dell Technologies, Eviden, Hitachi Vantara, Hewlett Packard Enterprise, Lenovo, Supermicro và VAST Dat
