Trong bài diễn thuyết trực tiếp đầu tiên kể từ đại dịch, người sáng lập và CEO của NVIDIA Jensen Huang đã khởi đầu hội nghị COMPUTEX tại Đài Bắc, thông báo các nền tảng mà các công ty có thể sử dụngđể nên lịch sử của ngành AI sinh trắc học hiện đang biến đổi các ngành công nghiệp từ quảng cáo đến sản xuất và viễn thông. Trình bày trước khoảng 3.500 cử toạ, ông mô tả các dịch vụ tính toán tăng tốc accelerated computing, phần mềm và hệ thống cho phép mô hình kinh doanh mới và làm cho các mô hình hiện tại hiệu quả hơn.
Các thông báo tin tức hàng đầu từ bài diễn thuyết
• Grace Hopper cung cấp sức mạnh cho siêu máy tính có bộ nhớ lớn dành cho
Gen AI.
• Kiến trúc tham khảo có tính sẵn sàng cho phép hơn 100 cấu hình máy chủ
được tăng tốc.
• WPP và NVIDIA tạo ra hệ thống động cơ quảng cáo số hóa trong Omniverse
• Công nghệ mạng tăng tốc cho đám mây AI dựa trên Ethernet.
• NVIDIA ACE dành cho Trò chơi mang lại sự sống cho các nhân vật với Gen AI.
• Các nhà sản xuất điện tử trên toàn thế giới đều hưởng ứng với NVIDIA AI.
Một Động cơ Mới cho AI Doanh nghiệp
Huang đã thông báo rằng Grace Hopper hiện đã hoàn chỉnh. Nó kết hợp CPU NVIDIA
Grace tiết kiệm năng lượng với GPU Tensor Core NVIDIA H100 hiệu năng cao trong
một mô-đun duy nhất.
Đối với các doanh nghiệp cần hiệu suất AI tối ưu, ông công bố DGX GH200, một siêu
máy tính AI có bộ nhớ lớn. Nó sử dụng NVIDIA NVLink để kết hợp tới 256 chip
Superchips Grace Hopper NVIDIA GH200 thành một GPU có kích thước trung tâm
dữ liệu duy nhất.
DGX GH200 có hiệu suất là exaflop và bộ nhớ chia sẻ 144 terabyte, gần 500 lần nhiều
hơn so với hệ thống NVIDIA DGX A100 320GB đơn lẻ. Điều này cho phép các nhà
phát triển xây dựng các mô hình ngôn ngữ lớn cho chatbot sinh trắc học, thuật toán
phức tạp cho hệ thống gợi ý và các mạng lưới neural đồ thị được sử dụng cho phát
hiện gian lận và phân tích dữ liệu.
Google Cloud, Meta và Microsoft là những người đầu tiên dự kiến được tiếp cận với
DGX GH200 để khám phá khả năng của nó cho các công việc làm việc sinh trắc học.
“Siêu máy tính AI DGX GH200 tích hợp các công nghệ tính toán và mạng tăng tốc
tiên tiến nhất của NVIDIA để mở rộng biên giới AI,” Huang nói.
NVIDIA đang xây dựng siêu máy tính AI khổng lồ riêng của mình, NVIDIA Helios, sẽ
được triển khai vào năm nay. Nó sẽ sử dụng bốn hệ thống DGX GH200 liên kết với
mạng lưới NVIDIA Quantum-2 InfiniBand với băng thông lên đến 400Gb/s để tăng
tốc độ lưu lượng dữ liệu cho việc đào tạo các mô hình AI lớn.
DGX GH200 là thành quả của hàng trăm hệ thống được công bố tại sự kiện sử dụng
GPU và CPU mới nhất của NVIDIA. Chúng đang mang lại AI sinh trắc học và tính toán
tăng tốc cho hàng triệu người dùng.
Thu nhỏ để nhìn tổng thể, Huang thông báo hơn 400 cấu hình hệ thống đang đến thị
trường với các kiến trúc Hopper, Grace và Ada Lovelace của NVIDIA. Chúng nhằm giải
quyết những thách thức phức tạp nhất trong lĩnh vực trí tuệ nhân tạo, khoa học dữ
liệu và tính toán hiệu năng cao.
Tăng tốc trong Mọi Quy Mô
Để phù hợp với nhu cầu của các trung tâm dữ liệu với mọi quy mô, Huang đã thông
báo về NVIDIA MGX, một kiến trúc tham khảo mô-đun cho việc tạo ra các máy chủ
tăng tốc. Nhà sản xuất hệ thống sẽ sử dụng nó để nhanh chóng và hiệu quả về chi phí
khi xây dựng hơn một trăm cấu hình máy chủ khác nhau phù hợp với một loạt các
ứng dụng AI, HPC và NVIDIA Omniverse.
MGX cho phép các nhà sản xuất xây dựng máy chủ CPU và tăng tốc bằng cùng một
kiến trúc và các thành phần mô-đun chung. Nó hỗ trợ toàn bộ dòng sản phẩm GPU,
CPU, đơn vị xử lý dữ liệu (DPU) và bộ chuyển mạng của NVIDIA cũng như bộ xử lý x86
và Arm trên một loạt các khung chassis làm mát không khí và làm mát bằng chất
lỏng.
QCT và Supermicro sẽ là những người đầu tiên thị trường với các thiết kế MGX xuất
hiện vào tháng tám. Hệ thống ARS-221GL-NR của Supermicro được công bố tại
COMPUTEX sử dụng CPU Grace, trong khi hệ thống S74G-2U của QCT, cũng được
công bố tại sự kiện, sử dụng Grace Hopper.
ASRock Rack, ASUS, GIGABYTE và Pegatron cũng sẽ sử dụng MGX để tạo ra máy
tính tăng tốc thế hệ tiếp theo.
5G “cần” Grace Hopper
Bài diễn thuyết cũng cho thấy cách NVIDIA đang giúp tái tạo 5G với Grace Hopper.
Huang thông báo rằng NVIDIA đang làm việc với một tập đoàn viễn thông để xây
dựng một mạng lưới phân tán của các trung tâm dữ liệu tại Nhật Bản. Nó sẽ cung cấp
dịch vụ 5G và các ứng dụng AI sinh trắc học trên một nền tảng đám mây chung.
Các trung tâm dữ liệu sẽ sử dụng Grace Hopper và BlueField-3 DPUs của NVIDIA
trong các hệ thống MGX mô-đun cũng như các bộ chuyển mạng Ethernet Spectrum
của NVIDIA để cung cấp độ chính xác cao mà giao thức 5G yêu cầu. Nền tảng này sẽ
giảm chi phí bằng cách tăng hiệu suất phổ trong khi giảm tiêu thụ năng lượng.
Các hệ thống này sẽ giúp khám phá các ứng dụng trong lái xe tự động, các nhà máy
AI, thực tế tăng cường và ảo, thị giác máy tính và nhân bản số. Các ứng dụng tương
lai có thể bao gồm hội nghị video 3D và giao tiếp hình ảnh 3D.
Tăng tốc Mạng Đám Mây
Ngoài ra, Huang còn giới thiệu NVIDIA Spectrum-X, một nền tảng mạng được xây
dựng để cải thiện hiệu suất và hiệu quả năng lượng của đám mây AI dựa trên
Ethernet. Nó kết hợp các switch Ethernet Spectrum-4 với BlueField-3 DPUs và phần
mềm để cung cấp tăng tốc 1.7 lần về hiệu suất AI và hiệu quả năng lượng so với các
mạng lưới Ethernet truyền thống.
NVIDIA Spectrum-X, các switch Spectrum-4 và BlueField-3 DPUs hiện có sẵn từ các
nhà sản xuất hệ thống bao gồm Dell Technologies, Lenovo và Supermicro.
Huang thông báo rằng NVIDIA đang xây dựng Israel-1, một siêu máy tính AI sinh trắc
học tại trung tâm dữ liệu ở Israel. Với giá trị hàng trăm triệu đô la, nó sẽ được xây
dựng với các máy chủ Dell PowerEdge, nền tảng siêu tính toán NVIDIA HGX H100 và
nền tảng Spectrum-X với BlueField-3 DPUs và switch Spectrum-4.
Mang Nhân vật Game vào Cuộc Sống
AI sinh trắc học ảnh hưởng đến cách mọi người chơi game. Huang thông báo NVIDIA Avatar Cloud Engine (ACE) cho Trò chơi, một dịch vụ nhà máy mà các nhà phát triển có thể sử dụng để xây dựng và triển khai các mô hình AI tùy chỉnh cho lời nói, cuộc trò chuyện và hoạt hình. Nó sẽ mang lại kỹ năng giao tiếp cho các nhân vật không thể khiển để họ có thể phản ứng trả lời câu hỏi với những cá nhân hóa sống động tiến triển.
NVIDIA ACE cho Game bao gồm các mô hình nền tảng AI như NVIDIA Riva để phát
hiện và ghi âm lời nói của người chơi. Văn bản sẽ kích hoạt NVIDIA NeMo để tạo ra
các phản ứng tùy chỉnh được hoạt hình bằng NVIDIA Omniverse Audio2Face.
Tăng tốc AI sinh trắc học trên Windows
Huang mô tả cách NVIDIA và Microsoft đang cùng nhau đẩy mạnh sự đổi mới cho
máy tính Windows trong thời đại AI sinh trắc học.
Các công cụ, framework và trình điều khiển mới và cải tiến đang làm cho việc phát
triển và triển khai AI trên máy tính cá nhân dễ dàng hơn. Ví dụ, công cụ Olive của
Microsoft để tối ưu hóa và triển khai mô hình AI tăng tốc bằng GPU và các trình điều
khiển đồ họa mới sẽ cải thiện hiệu suất DirectML trên máy tính Windows với GPU của
NVIDIA.
Sự cộng tác này sẽ nâng cao và mở rộng cơ sở cài đặt của 100 triệu máy tính sử dụng
GPU RTX với Tensor Cores của NVIDIA, nâng cao hiệu suất của hơn 400 ứng dụng và
trò chơi Windows tăng tốc AI.
Kỹ Thuật Số Hóa Các Ngành Công Nghiệp Lớn Nhất Thế Giới
AI sinh trắc học cũng tạo ra cơ hội mới trong ngành quảng cáo số có giá trị 700 tỷ đô
la.
Ví dụ, WPP, tổ chức dịch vụ marketing lớn nhất thế giới, đang cùng NVIDIA xây dựng
một động cơ nội dung có khả năng sinh trắc học đầu tiên trên nền tảng đám mây
Omniverse.
Trong một phiên bản demo, Huang đã cho thấy các nhóm sáng tạo sẽ kết nối các
công cụ thiết kế 3D của mình như Adobe Substance 3D để xây dựng các phiên bản
số hóa của các sản phẩm khách hàng trong NVIDIA Omniverse. Sau đó, nội dung từ
các công cụ AI sinh trắc học được đào tạo trên dữ liệu được cung cấp một cách có
trách nhiệm và được xây dựng với NVIDIA Picasso sẽ cho phép họ nhanh chóng sản
xuất các bộ quảng cáo, video và trải nghiệm 3D cho các thị trường và người dùng
toàn cầu trên bất kỳ thiết bị web nào.
Nhà Máy Tự Động Hóa Tương Lai
Với ước tính có 10 triệu nhà máy, ngành sản xuất trị giá 46 nghìn tỷ đô la là một lĩnh
vực phong phú cho số hóa công nghiệp.
“Các ngành công nghiệp lớn nhất trên thế giới sản xuất các sản phẩm vật lý. Xây
dựng chúng dưới dạng kỹ thuật số trước tiên có thể tiết kiệm hàng tỷ đô la”, Huang
nói.
Bài diễn thuyết đã cho thấy cách các nhà sản xuất điện tử bao gồm Foxconn
Industrial Internet, Innodisk, Pegatron, Quanta và Wistron đang xây dựng quy trình
làm việc số với các công nghệ của NVIDIA để hiện thực hóa tầm nhìn về một nhà máy
thông minh hoàn toàn kỹ thuật số.
Họ sử dụng Omniverse và các API AI sinh trắc học để kết nối các công cụ thiết kế và
sản xuất của mình để có thể xây dựng các phiên bản số hóa của các nhà máy. Ngoài
ra, họ sử dụng NVIDIA Isaac Sim để mô phỏng và kiểm tra các robot và NVIDIA
Metropolis, một khung nhìn AI thị giác, để kiểm tra tự động và kiểm tra quang học.
Thành phần mới nhất, NVIDIA Metropolis cho Các Nhà Máy, có thể tạo ra các hệ
thống kiểm soát chất lượng tùy chỉnh, mang lại lợi thế cạnh tranh cho các nhà sản
xuất. Nó đang giúp các công ty phát triển các ứng dụng AI hiện đại.
AI Tăng Tốc Quy Trình Lắp Ráp
Ví dụ, Pegatron – công ty sản xuất 300 sản phẩm trên toàn cầu, bao gồm laptop và
điện thoại thông minh – đang tạo ra các nhà máy ảo với Omniverse, Isaac Sim và
Metropolis. Điều này cho phép họ thử các quy trình trong một môi trường mô phỏng,
tiết kiệm thời gian và chi phí.
Pegatron cũng đã sử dụng bộ công cụ phát triển phần mềm NVIDIA DeepStream để
phát triển ứng dụng video thông minh đã giúp cải thiện 10 lần hiệu suất.
Foxconn Industrial Internet, một chi nhánh dịch vụ của nhà sản xuất công nghệ lớn
nhất thế giới, đang hợp tác với các đối tác của NVIDIA Metropolis để tự động hóa
một phần quan trọng của các điểm kiểm tra chất lượng mạch điện tử.
Trong một video, Huang đã cho thấy cách Techman Robot, một công ty con của
Quanta, đã sử dụng NVIDIA Isaac Sim để tối ưu hóa kiểm tra trên các dây chuyền sản
xuất của tập đoàn đó có trụ sở tại Đài Loan. Nó thực chất sử dụng các robot mô
phỏng để đào tạo các robot khác cách tạo ra các robot tốt hơn.
Một hệ sinh thái đối tác lớn – bao gồm ADLINK, Aetina, Deloitte, Quantiphi và
Siemens – đang giúp đưa tất cả các giải pháp sản xuất này đến thị trường, Huang nói.
Đó là một ví dụ khác về cách NVIDIA đang giúp các công ty cảm nhận được lợi ích của
AI sinh trắc học với tính toán tăng tốc.
