NVIDIA đã công bố một thiết bị chuyển mạch mạng (switch) mới mang tên X800, được thiết kế cho AI quy mô lớn. 

Các nền tảng mạng đầu tiên trên thế giới có khả năng đạt thông lượng 800Gb/s từ đầu đến cuối, NVIDIA Quantum-X800 InfiniBand và NVIDIA Spectrum™-X800 Ethernet vvượt qua các ranh giới về hiệu suất mạng cho khối lượng công việc điện  toán và AI. Những nền tảng này có phần mềm giúp tăng tốc hơn nữa các ứng dụng AI, đám mây, xử lý dữ liệu và HPC trong mọi loại trung tâm dữ liệu, bao gồm cả những  trung tâm kết hợp dòng sản phẩm dựa trên kiến trúc NVIDIA Blackwell mới được  phát hành. 

Gilad Shainer, phó chủ tịch cấp cao về Mạng tại NVIDIA cho biết: “Mạng NVIDIA là  trung tâm cho khả năng mở rộng cơ sở hạ tầng siêu máy tính AI của chúng tôi. Bộ chuyển mạch NVIDIA X800 là nền tảng mạng đầu cuối cho phép chúng tôi đạt được AI  tạo sinh có quy mô nghìn tỷ tham số cần thiết cho cơ sở hạ tầng AI mới.”

Những đơn vị áp dụng đầu tiên của Quantum InfiniBand và Spectrum-X Ethernet  bao gồm Microsoft Azure và Cơ sở hạ tầng đám mây Oracle. 

“AI là một công cụ mạnh mẽ để biến dữ liệu thành kiến thức. Đằng sau sự chuyển đổi này  là sự phát triển của các trung tâm dữ liệu thành các công cụ AI hiệu suất cao với nhu  cầu ngày càng tăng về cơ sở hạ tầng mạng” Nidhi Chappell, Phó Chủ tịch Cơ sở hạ tầng  AI tại Microsoft Azure cho biết. “Với sự tích hợp mới của các giải pháp mạng NVIDIA,  Microsoft Azure sẽ tiếp tục xây dựng cơ sở hạ tầng vượt qua các ranh giới của AI trên  đám mây.” 

Coreweave cũng nằm trong số những công ty áp dụng sớm các nền tảng nói trên. 

Tiêu chuẩn tiếp theo cho hiệu suất cực cao 

Nền tảng Quantum-X800 đặt ra tiêu chuẩn mới trong việc mang lại hiệu suất cao  nhất cho các cơ sở hạ tầng dành riêng cho AI. Nền tảng này bao gồm bộ chuyển  mạch NVIDIA Quantum Q3400 và NVIDIA ConnectX®-8 SuperNIC™ để cùng nhau đạt  được bằng thông đầu cuối 800Gb/s. Đây là dung lượng băng thông cao hơn gấp 5  lần và tốc độ tính toán trong mạng tăng gấp 9 lần với Giao thức tổng hợp và giảm  thiểu phân cấp có thể mở rộng (SHARPv4) của NVIDIA so với thế hệ trước. 

Nền tảng Spectrum-X800 mang lại hiệu suất mạng được tối ưu hóa cho cơ sở hạ tầng  doanh nghiệp và đám mây AI. Bằng cách sử dụng bộ chuyển đổi Spectrum SN5600  800Gb/s và NVIDIA BlueField®-3 SuperNIC, nền tảng Spectrum-X800 cung cấp các  bộ tính năng nâng cao quan trọng cho các đám mây AI tạo sinh cho đối tác thuê  dùng và các doanh nghiệp lớn. 

Spectrum-X800 tối ưu hóa hiệu suất mạng, tạo điều kiện xử lý, phân tích và thực thi  khối lượng công việc AI nhanh hơn, từ đó đẩy nhanh quá trình phát triển, triển khai  và thời gian đưa ra thị trường các giải pháp AI. Được thiết kế đặc biệt cho môi trường  nhiều người thuê, Spectrum-X800 đảm bảo cách ly hiệu suất cho khối lượng công việc AI của từng người thuê để duy trì mức hiệu suất tối ưu và nhất quán, nâng cao sự hài lòng của khách hàng và chất lượng dịch vụ. 

Hỗ trợ phần mềm NVIDIA 

NVIDIA cung cấp bộ thư viện tăng tốc mạng, bộ công cụ phát triển phần mềm và  phần mềm quản lý toàn diện để tối ưu hóa hiệu suất cho các mô hình AI nghìn tỷ tham số. 

Điều này bao gồm Thư Viện Truyền Thông Cộng Đồng NVIDIA (NCCL), mở rộng các  tác vụ điện toán song song GPU cho kết cấu mạng Quantum-X800, tận dụng khả năng Điện toán trong mạng mạnh mẽ của nền tảng này với SHARPv4 hỗ trợ FP8,  tăng hiệu suất cho đào tạo mô hình lớn và AI tạo sinh. 

Phương pháp tiếp cận phần mềm đầy đủ của NVIDIA cung cấp khả năng lập trình  nâng cao, giúp mạng trung tâm dữ liệu linh hoạt, đáng tin cậy và phản hồi nhanh hơn,  cuối cùng là tăng hiệu quả hoạt động tổng thể và hỗ trợ nhu cầu của các ứng dụng và  dịch vụ hiện đại. 

Động lực hệ sinh thái 

Trong năm tới, Quantum-X800 và Spectrum-X800 sẽ có sẵn từ nhiều nhà cung cấp  hệ thống và cơ sở hạ tầng hàng đầu trên toàn thế giới, bao gồm Aivres, DDN, Dell  Technologies, Eviden, Hitachi Vantara, Hewlett Packard Enterprise, Lenovo,  Supermicro và VAST Dat