NVIDIA hôm nay thông báo rằng Dell Technologies, Hewlett Packard Enterprise và Lenovo sẽ là những công ty đầu tiên tích hợp công nghệ mạng Ethernet NVIDIA Spectrum-X dành cho trí tuệ nhân tạo vào dòng sản phẩm máy chủ của họ để giúp khách hàng doanh nghiệp tăng tốc khối lượng công việc trí tuệ nhân tạo tạo sinh.
Với thiết kế dành riêng cho trí tuệ nhân tạo sáng tạo, Spectrum-X mang đến cho các doanh nghiệp một lớp mạng Ethernet mới có thể đạt được hiệu suất mạng cao gấp 1.6 lần so với các sản phẩm Ethernet truyền thống cho giao tiếp trí tuệ nhân tạo.
Các hệ thống mới từ ba trong số những nhà sản xuất hệ thống hàng đầu này kết hợp Spectrum-X với GPU NVIDIA Tensor Core, phần mềm NVIDIA AI Enterprise và phần mềm NVIDIA AI Workbench để mang đến cho doanh nghiệp công cụ cần thiết để chuyển đổi doanh nghiệp với trí tuệ nhân tạo tạo sinh.
“Trí tuệ nhân tạo tạo sinh và tính toán tăng tốc đang thúc đẩy sự chuyển đổi theo thế hệ mới khi các doanh nghiệp nâng cấp trung tâm dữ liệu của họ để phục vụ các khối công việc này,” Jensen Huang, người sáng lập và CEO của NVIDIA, nói. “Mạng kết nối tăng tốc là yếu tố kích thích cho một làn sóng mới của các hệ thống từ các đối tác sản xuất máy chủ hàng đầu của NVIDIA để tăng tốc sự chuyển đổi vào kỷ nguyên của trí tuệ nhân tạo sáng tạo.”
“Việc tính toán và mạng kết nối tăng tốc là yếu tố quan trọng trong việc xây dựng các hệ thống để đáp ứng yêu cầu của các mô hình ngôn ngữ lớn và các ứng dụng trí tuệ nhân tạo,” ông Michael Dell, Chủ tịch và CEO của Dell Technologies cho biết. “Qua sự hợp tác này, Dell Technologies và NVIDIA đang cung cấp cho khách hàng cơ sở hạ tầng và phần mềm cần thiết để trích xuất thông tin từ dữ liệu của họ một cách nhanh chóng và an toàn.”
“Không thể phủ nhận rằng trí tuệ nhân tạo tạo sinh sẽ thúc đẩy sự đổi mới trong nhiều ngành,” Antonio Neri, Tổng giám đốc và CEO của HPE, nói. “Những ứng dụng mạnh mẽ mới này sẽ đòi hỏi một kiến trúc cơ bản khác nhau để hỗ trợ nhiều tác vụ. Để giúp khách hàng thực hiện hết tiềm năng của trí tuệ nhân tạo tạo sinh, HPE đang hợp tác với NVIDIA để xây dựng các hệ thống với sức mạnh, hiệu quả và khả năng mở rộng cần thiết để hỗ trợ các ứng dụng này.”
“Trí tuệ nhân tạo tạo ra khả năng biến đổi không giới hạn nhưng đặt ra các yêu cầu không giới hạn đối với cơ sở hạ tầng doanh nghiệp,” tuyên bố ông Yuanqing Yang, Chủ tịch và CEO của Lenovo. “Chặt chẽ hợp tác với NVIDIA, Lenovo đang xây dựng các hệ thống hiệu suất cao với mạng, tính toán và phần mềm cần thiết để cung cấp năng lực cho các ứng dụng trí tuệ nhân tạo hiện đại.”
Mạng Lưới Được Xây Dựng Đặc Biệt Cho Tăng Tốc Trí Tuệ Nhân Tạo
Để đạt được hiệu suất tối đa cho công việc tải trọng trí tuệ nhân tạo, Spectrum-X kết hợp hiệu suất cực cao của công tắc Ethernet Spectrum-4; NVIDIA BlueField-3 SuperNIC, một lớp thiết bị tăng tốc mạng mới cho việc tăng cường hiệu suất công việc trí tuệ nhân tạo quy mô lớn; cùng với phần mềm tăng tốc. Spectrum-X là bổ sung cho BlueField-3 DPUs, nền tảng tính toán cơ sở hạ tầng tiên tiến nhất trên thế giới.
Spectrum-4 Ethernet 51Tb/giây đầu tiên trên thế giới dành cho trí tuệ nhân tạo, cung cấp thông lượng dữ liệu hiệu quả tại quy mô và trong tình trạng tải, đồng thời giảm thiểu tắc nghẽn mạng cho các công việc tải trọng đám đông, trên đám mây trí tuệ nhân tạo. Công nghệ định tuyến thông minh, được điều chỉnh tỉ mỉ, cho phép tận dụng tối đa cơ sở hạ tầng mạng vào bất kỳ thời điểm nào.
BlueField-3 SuperNIC được thiết kế cho tính toán song song quy mô lớn đòi hỏi kết nối mạng 400Gb/giây RDMA qua Ethernet hội tụ (RoCE) giữa các máy chủ GPU và tăng hiệu suất cho lưu lượng đào tạo và suy luận trí tuệ nhân tạo trên mạng nội bộ của cụm.
Họ cũng cho phép môi trường trung tâm dữ liệu đa người dùng an toàn, đảm bảo hiệu suất xác định và cách ly giữa các công việc của người dùng. Với kích thước PCIe hiệu quả về năng lượng, BlueField-3 SuperNICs lý tưởng cho các máy chủ lớp doanh nghiệp.
Phần mềm tăng tốc cung cấp công cụ phát triển phần mềm NVIDIA như Cumulus Linux, Pure SONiC và NetQ — cùng nhau định hình hiệu suất tiến bộ của nền tảng — và khung phần mềm NVIDIA DOCA, là công cụ chính yếu của BlueField.
NVIDIA AI Enterprise cung cấp các khung mạch, mô hình được đào tạo trước và công cụ phát triển cho trí tuệ nhân tạo sản xuất an toàn, ổn định và được hỗ trợ. NVIDIA AI Workbench cho phép nhà phát triển nhanh chóng tạo ra, thử nghiệm và tùy chỉnh mô hình trí tuệ nhân tạo được đào tạo trước trên máy tính cá nhân hoặc máy trạm — sau đó mở rộng chúng lên hầu hết các trung tâm dữ liệu hoặc đám mây.
Siêu Máy Tính NVIDIA Israel-1 Spectrum-X
Spectrum-X cũng cho phép siêu máy tính Israel-1 của NVIDIA, một kiến trúc tham khảo cho hệ thống trí tuệ nhân tạo thế hệ tiếp theo. Israel-1 là một dự án hợp tác với Dell Technologies, sử dụng máy chủ Dell PowerEdge XE9680 được nạp bằng nền tảng NVIDIA HGX H100 tám GPU và BlueField-3 DPUs và SuperNICs với Spectrum 4.
Khả dụng
Các hệ thống mới từ Dell, HPE và Lenovo có đầy đủ bộ công cụ AI của NVIDIA dự kiến sẽ có mặt trong quý đầu tiên của năm sau.
