HomeAI NVIDIA ra mắt DGX SuperPOD được hỗ trợ bởi Blackwell cho Siêu...

[GTC 2024] NVIDIA ra mắt DGX SuperPOD được hỗ trợ bởi Blackwell cho Siêu máy tính AI tạo sinh ở quy mô nghìn tỷ tham số 

Published on

NVIDIA đã công bố siêu máy tính AI thế hệ tiếp theo mang tên NVIDIA DGX SuperPOD™ được hỗ trợ bởi NVIDIA GB200 Grace  Blackwell Superchips để xử lý các mô hình nghìn tỷ thông số với thời gian hoạt động  liên tục cho khối lượng công việc suy luận và đào tạo AI tạo sinh siêu quy mô. 

Ni bt vi kiến trúc quy mô giá đmi, hiu qucao, làm mát bng cht lng, DGX  SuperPOD mi được xây dng vi hthng NVIDIA DGX™ GB200 và cung cp 11,5  exaflop siêu máy tính AI đchính xác FP4 và bnhnhanh 240 terabyte — mrng lên nhiu hơn vi các giá đbsung . 

Mi hthng DGX GB200 có 36 Siêu chip NVIDIA GB200 — bao gm 36 CPU NVIDIA  Grace và 72 GPU NVIDIA Blackwell — được kết ni thành mt siêu máy tính thông  qua NVIDIA NVLink® thế hthnăm. Siêu chip GB200 mang li hiu sut tăng gp 30  ln so vi GPU NVIDIA H100 Tensor Core cho khi lượng công vic suy lun mô hình ngôn ngln (LLM).

YUU07235 MMOSITE - Thông tin công nghệ, review, thủ thuật PC, gaming

Jensen Huang, người sáng lp và Giám đc điu hành ca NVIDIA cho biết: “Siêu máy  tính NVIDIA DGX AI là nhà máy ca cuc cách mng công nghip AI”. “DGX SuperPOD mi kết hp nhng tiến bmi nht trong đin toán, mng và phn mm  tăng tc ca NVIDIA đcho phép mi công ty, ngành và quc gia tinh chnh và to ra AI ca riêng h.” 

DGX SuperPOD được htrbi Grace Blackwell có tám hthng DGX GB200 trlên  và có thmrng ti hàng chc nghìn Siêu chip GB200 được kết ni qua NVIDIA  Quantum InfiniBand. Đcó không gian bnhdùng chung khng lnhm cung cp  năng lượng cho các mô hình AI thế htiếp theo, khách hàng có thtrin khai cu  hình kết ni 576 GPU Blackwell trong 8 hthng DGX GB200 được kết ni qua  NVLink. 

Kiến trúc DGX SuperPOD quy mô giá đmi cho knguyên AI to sinh DGX SuperPOD mi vi hthng DGX GB200 có kết cu tính toán thng nht. Ngoài  NVIDIA NVLink thế hthnăm, kết cu này còn bao gm DNVIDIA BlueField®-3 DPU  và shtrmng NVIDIA Quantum-X800 InfiniBand, được công briêng trong hôm  nay. Kiến trúc này cung cp băng thông lên ti 1.800 gigabyte mi giây cho mi GPU  trong nn tng. 

Ngoài ra, Công nghệ Giao thức Giảm thiểu và Tổng hợp phân cấp có thể mở rộng NVIDIA (NVIDIA Scalable Hierarchical Aggregation and Reduction Protocol SHARP™)  thế hthtư mang đến 14,4 teraflop Đin toán trong mng, tăng gp 4 ln trong  kiến trúc DGX SuperPOD thế htiếp theo so vi thế htrước. 

Kiến trúc chìa khóa trao tay kết hp vi phn mm nâng cao đcó thi gian hot  đng chưa tng có 

DGX SuperPOD mi là siêu máy tính AI hoàn chnh, quy mô trung tâm dliu, tích  hp vi blưu trhiu sut cao tcác đi tác được NVIDIA chng nhn đđáp ng  nhu cu vkhi lượng công vic AI to sinh. Mi thiết bđu được chế to, ni cáp và thnghim ti nhà máy đtăng tc đtrin khai đáng kti các trung tâm dliu  ca khách hàng. 

DGX SuperPOD do Grace Blackwell htrcó khnăng qun lý dđoán thông minh  đliên tc giám sát hàng nghìn đim dliu trên phn cng và phn mm nhm dđoán và chn các ngun gây ra thi gian ngng hot đng và hot đng kém hiu  qu— tiết kim thi gian, năng lượng và chi phí đin toán. 

Phn mm có thxác đnh các khu vc cn quan tâm và lp kế hoch bo trì, điu  chnh linh hot tài nguyên đin toán cũng như tđng lưu và tiếp tc công vic đngăn chn thi gian ngng hot đng, ngay ckhi không có qun trviên hthng có  mt. 

Nếu phn mm phát hin cn có linh kin thay thế, cluster skích hot dung lượng  dphòng đđm bo công vic hoàn thành đúng thi hn. Mi thay thế phn cng  cn thiết đu có thđược lên lch đtránh thi gian ngng hot đng ngoài dkiến. 

Siêu máy tính AI tiên tiến ca NVIDIA DGX B200 Systems dành cho các ngành  công nghi

NVIDIA cũng tiết lhthng NVIDIA DGX B200,, mt nn tng siêu máy tính AI  thng nht đđào to, tinh chnh và suy lun mô hình AI. 

DGX B200 là thế hthsáu ca thiết kế DGX gn trên giá truyn thng, làm mát  bng không khí, được các ngành công nghip trên toàn thế gii sdng. Hthng  DGX SuperPOD kiến trúc Blackwell mi bao gm tám GPU NVIDIA Blackwell và hai  bxlý Intel® Xeon® thế hth5. Khách hàng cũng có thxây dng DGX SuperPOD  bng cách sdng hthng DGX B200 đto ra Trung tâm AI xut sc có thhtrcông vic ca các nhóm nhà phát trin ln đm nhn nhiu công vic khác nhau. 

Các hthng DGX B200 bao gm tính năng chính xác FP4 trong kiến trúc Blackwell  mi, cung cp hiu sut AI lên ti 144 petaflop, bnhGPU khng l1,4TB và băng thông bnh64TB/s. Điu này mang li khnăng suy lun thi gian thc nhanh hơn  15 ln cho các mô hình nghìn ttham sso vi thế htrước. 

Hthng DGX B200 bao gm kết ni mng tiên tiến vi tám NVIDIA ConnectX™-7  NIC và hai BlueField-3 DPU.. Chúng cung cp băng thông lên ti 400 gigabit/giây cho  mi kết ni – mang li hiu sut AI nhanh chóng vi các nn tng mng NVIDIA  Quantum-2 InfiniBand NVIDIA Spectrum™-X Ethernet 

Htrphn mm và chuyên gia đmrng quy mô sn xut AI 

Tt ccác nn tng NVIDIA DGX đu bao gm phn mm NVIDIA AI Enterprise đphát trin và trin khai cp doanh nghip. Khách hàng ca DGX có thtăng tc  công vic ca hvi các mô hình nn tng, khung, bcông cNVIDIA đã được đào  to trước và các dch vvi mô NVIDIA NIM mi có trong nn tng phn mm. 

2024 03 24 13.23.17 MMOSITE - Thông tin công nghệ, review, thủ thuật PC, gaming
Hình ảnh thực tế NVIDIA DGX GB200 tại GTC 2024

Các chuyên gia NVIDIA DGX và các đi tác NVIDIA chn lc được chng nhn đhtrnn tng DGX htrkhách hàng trong tng bước trin khai đhcó thnhanh  chóng đưa AI vào sn xut. Sau khi hthng đi vào hot đng, các chuyên gia ca  DGX tiếp tc htrkhách hàng ti ưu hóa quy trình và cơ shtng AI ca h

Tính khdng 

NVIDIA DGX SuperPOD vi hthng DGX GB200 và DGX B200 dkiến scó mt  trên thtrường vào cui năm nay tcác đi tác toàn cu ca NVIDIA. 

Đbiết thêm thông tin, hãy xem li bài phát biu quan trng ca GTC hoc ghé thăm  gian hàng NVIDIA ti GTC.

tin mới nhất

Schneider Electric và NVIDIA hợp tác tiên phong trong công nghệ AI và bản sao số hóa

Schneider Electric công bố hợp tác với NVIDIA nhằm tối ưu hóa cơ sở hạ...

Viber áp dụng AI vào nhắn tin với sự ra mắt của Pi

Rakuten Viber tin rằng “trò chuyện là cách kết nối mới”. Vì vậy, họ...

Apple sẽ áp dụng Baidu AI tại Trung Quốc

Mặc dù Apple đang có kế hoạch hợp tác với Google để mang Gemini...

NVIDIA ra mắt Project GR00T và cập nhật nền tảng Isaac: Bước tiến mới trong ngành công nghiệp Robot hình dạng con người

NVIDIA đã công bố một bước tiến lớn trong lĩnh vực robot hình người...

[GTC 2024] Góc nhìn của Jensen Huang về AI trong tương lai từ phiên phỏng vấn đặc biệt

Trong một phiên thảo luận ở GTC 2024 dành riêng cho giới truyền thông,...

tin liên quan