NVIDIA hôm nay đã ra mắt NVIDIA NVLink Fusion, một silicon mới cho phép các ngành xây dựng cơ sở hạ tầng AI bán tùy chỉnh với hệ sinh thái đối tác rộng lớn xây dựng bằng NVIDIA NVLink, mạng lưới điện toán tiên tiến và được áp dụng rộng rãi nhất trên thế giới.
MediaTek, Marvell, Alchip Technologies, Astera Labs, Synopsys và Cadence là một trong những công ty đầu tiên áp dụng NVLink Fusion, cho phép mở rộng silicon tùy chỉnh để đáp ứng các yêu cầu về khối lượng công việc đòi hỏi khắt khe để đào tạo mô hình và suy luận AI có tính tác nhân. Khi sử dụng NVLink Fusion, các CPU của Fujitsu và Qualcomm Technologies cũng có thể tích hợp với GPU NVIDIA để xây dựng các nhà máy NVIDIA AI hiệu suất cao.
Jensen Huang, người sáng lập kiêm CEO của NVIDIA cho biết: “Một sự thay đổi kiến tạo đang diễn ra: lần đầu tiên trong nhiều thập kỷ, các trung tâm dữ liệu phải được tái kiến trúc về cơ bản, AI đang được hợp nhất vào mọi nền tảng điện toán. NVLink Fusion mở nền tảng AI và hệ sinh thái phong phú của NVIDIA ra cho các đối tác để xây dựng cơ sở hạ tầng AI chuyên dụng”.
NVLink Fusion cũng trang bị cho các nhà cung cấp đám mây một lộ trình dễ dàng để mở rộng quy mô các nhà máy AI lên hàng triệu GPU, sử dụng bất kỳ ASIC nào, các hệ thống quy mô rack của NVIDIA và nền tảng mạng đầu cuối của NVIDIA, cung cấp thông lượng lên tới 800Gb/giây và có các thiết bị chuyển NVIDIA ConnectX-8 SuperNICs, NVIDIA Spectrum-X Ethernet và NVIDIA Quantum-X800 InfiniBand, cũng như sắp tới là công nghệ quang học đồng gói.
Hệ sinh thái công nghệ kết nối với nhau
Khi sử dụng NVLink Fusion, các nhà điều hành trung tâm dữ liệu siêu quy mô có thể làm việc với hệ sinh thái đối tác NVIDIA để tích hợp các giải pháp quy mô rack của NVIDIA nhằm triển khai liền mạch trong cơ sở hạ tầng trung tâm dữ liệu.
Các đối tác sản xuất chip AI tạo ra giải pháp điện toán AI tùy chỉnh có thể triển khai với NVIDIA NVLink Fusion bao gồm MediaTek, Marvell, Alchip, Astera Labs, Synopsys và Cadence.
Rick Tsai, Phó chủ tịch kiêm CEO của MediaTek cho biết: “Bằng cách tận dụng các dịch vụ thiết kế ASIC đẳng cấp thế giới và chuyên môn sâu về kết nối tốc độ cao, MediaTek đang hợp tác với NVIDIA để xây dựng cơ sở hạ tầng AI thế hệ tiếp theo. Sự hợp tác của chúng tôi, bắt đầu trong phân khúc ô tô, hiện đã mở rộng hơn nữa, cho phép chúng tôi cung cấp các công nghệ có khả năng mở rộng, hiệu quả và linh hoạt nhằm giải quyết nhu cầu phát triển nhanh chóng của AI quy mô đám mây”.
Matt Murphy, Chủ tịch kiêm CEO của Marvell cho biết: “Marvell đang hợp tác với NVIDIA để xác định lại những gì có thể cho quy trình tích hợp nhà máy AI. Silicon tùy chỉnh của Marvell với NVLink Fusion mang đến cho khách hàng nền tảng linh hoạt, hiệu suất cao để xây dựng cơ sở hạ tầng AI tiên tiến, cung cấp băng thông, độ tin cậy và tốc độ nhanh nhẹn cần thiết cho các mô hình AI nghìn tỷ thông số thế hệ tiếp theo”.
Johnny Shen, CEO của Alchip cho biết: “Alchip đang hỗ trợ quy mô áp dụng NVLink Fusion bằng cách mở rộng phạm vi hoạt động thông qua hệ sinh thái thiết kế và sản xuất, bao gồm các quy trình nâng cao và đóng gói đã được chứng minh và được hỗ trợ bởi công nghệ linh hoạt nhất trong ngành ASIC. Đó là đóng góp của chúng tôi để đảm bảo rằng có thể đào tạo và triển khai các mô hình AI thế hệ tiếp theo hiệu quả để đáp ứng nhu cầu của các ứng dụng thông minh trong tương lai”.
Jitendra Mohan, CEO của Astera Labs cho biết: “Dựa trên lịch sử hợp tác chặt chẽ với NVIDIA, chúng tôi rất hân hạnh được bổ sung các giải pháp kết nối được xây dựng có mục đích để phù hợp với hệ sinh thái NVLink Fusion. Kết nối mở rộng quy mô với băng thông cao và độ trễ thấp, cùng sự hỗ trợ gốc cho ngữ nghĩa bộ nhớ là rất quan trọng để tối ưu cách sử dụng và hiệu suất máy chủ AI. Bằng cách mở rộng danh mục kết nối quy mô với các giải pháp NVLink, chúng tôi đang cung cấp nhiều tùy chọn hơn, với thời gian đưa ra thị trường nhanh hơn cho các khách hàng AI quy mô lớn và doanh nghiệp”.
Sassine Ghazi, chủ tịch kiêm CEO của Synopsys cho biết: “Các trung tâm dữ liệu đang chuyển đổi thành các nhà máy AI và các giải pháp thiết kế chip AI hàng đầu trong ngành và IP giao diện dựa trên tiêu chuẩn là những yếu tố hỗ trợ nhiệm vụ quan trọng. Sự hỗ trợ của chúng tôi đối với NVIDIA NVLink Fusion phản ánh cam kết của chúng tôi trong việc thúc đẩy một hệ sinh thái mở và có thể mở rộng cho AI thế hệ tiếp theo và điện toán hiệu suất cao”.
Boyd Phelps, phó chủ tịch cấp cao kiêm tổng giám đốc của Silicon Solutions Group tại Cadence cho biết: “Nhu cầu về khối lượng công việc HPC và AI là duy nhất và phát triển nhanh chóng. Và các nhà phát triển quy mô lớn đang cấu trúc các hệ thống AI tùy chỉnh tiên tiến nhất dựa vào Cadence để cung cấp công nghệ hỗ trợ từ trung tâm dữ liệu đến biên. Danh mục IP toàn diện của chúng tôi, bao gồm IP thiết kế, cơ sở hạ tầng chiplet, các hệ thống phụ và IP quan trọng khác, bổ sung cho hệ sinh thái NVIDIA NVLink, đẩy nhanh việc cung cấp các nhà máy AI mạnh mẽ, tiết kiệm năng lượng và sẵn sàng hoạt động ở quy mô lớn”.
NVLink Fusion cũng cho phép các công ty đổi mới về AI như Fujitsu và Qualcomm Technologies kết hợp CPU tùy chỉnh của họ với GPU NVIDIA trong kiến trúc quy mô rack để tăng hiệu suất AI.
Vivek Mahajan, giám đốc công nghệ tại Fujitsu cho biết: “Kết hợp công nghệ CPU tiên tiến của Fujitsu với cơ sở hạ tầng AI toàn hệ thống của NVIDIA mang lại hiệu năng mới. Bộ xử lý thế hệ tiếp theo của Fujitsu, FUJITSU-MONAKA, là một CPU sử dụng kiến trúc Arm 2 nanomet nhằm đạt được hiệu quả sử dụng năng lượng cực cao. Việc kết nối trực tiếp các công nghệ của chúng tôi với kiến trúc của NVIDIA đánh dấu một bước tiến quan trọng trong tầm nhìn của chúng tôi nhằm thúc đẩy sự phát triển của AI thông qua công nghệ điện toán hàng đầu thế giới, mở đường cho một lớp hệ thống AI mới có thể mở rộng, có chủ quyền và bền vững”.
Cristiano Amon, Chủ tịch kiêm CEO của Qualcomm Technologies cho biết: “Công nghệ CPU tùy chỉnh tiên tiến của Qualcomm Technologies với nền tảng AI toàn hệ thống của NVIDIA mang lại trí thông minh mạnh mẽ, hiệu quả cho cơ sở hạ tầng trung tâm dữ liệu. Với khả năng kết nối các bộ xử lý tùy chỉnh của chúng tôi với kiến trúc quy mô rack của NVIDIA, chúng tôi đang thúc đẩy tầm nhìn về điện toán hiệu suất cao, tiết kiệm năng lượng cho trung tâm dữ liệu”.
NVIDIA NVLink chứng minh quy mô đã được kiểm chứng trong ngành Để tối ưu thông lượng và hiệu suất của nhà máy AI theo cách tiết kiệm năng lượng nhất, nền tảng NVIDIA NVLink thế hệ thứ năm bao gồm NVIDIA GB200 NVL72 và GB300 NVL72, các rack có mật độ tính toán cao cung cấp tổng băng thông 1,8 TB/giây trên mỗi GPU, nhanh hơn 14 lần so với PCIe Gen5.
Các nhà cung cấp dịch vụ siêu quy mô hàng đầu đã triển khai các giải pháp toàn bộ rack của NVIDIA NVLink và có thể tăng tốc thời gian triển khai bằng cách tiêu chuẩn hóa các trung tâm dữ liệu silicon không đồng nhất của họ trên kiến trúc rack của NVIDIA với NVLink Fusion.
Phần mềm được tạo cho các nhà máy AI
Các nhà máy AI kết nối với NVIDIA NVLink Fusion sử dụng NVIDIA Mission Control, một nền tảng phần mềm điều phối và vận hành hợp nhất, tự động hóa quy trình quản lý các trung tâm dữ liệu và công việc AI phức tạp.
NVIDIA Mission Control cải thiện mọi khía cạnh của hoạt động của nhà máy AI, từ định cấu hình triển khai đến xác thực cơ sở hạ tầng đến điều phối công việc quan trọng, để giúp các doanh nghiệp chuẩn bị các mô hình biên nhanh hơn.
Tình trạng phát hành
Các dịch vụ và giải pháp thiết kế silicon NVIDIA NVLink Fusion hiện đã có sẵn từ MediaTek, Marvell, Alchip, Astera Labs, Synopsys và Cadence.
Xem bài phát biểu chính tại COMPUTEX của Huang, cũng như các phiên thảo luận tại NVIDIA GTC Đài Bắc.
