Cơ sở hạ tầng đám mây Oracle đầu tiên chạy các phiên bản siêu máy tính AI của NVIDIA; Microsoft Azure, Google Cloud và những thương hiệu khác sẽ sớm lưu trữ DGX Cloud.
NVIDIA hôm nay đã công bố NVIDIA DGX Cloud, một dịch vụ siêu máy tính AI cho phép doanh nghiệp truy cập ngay vào cơ sở hạ tầng và phần mềm cần thiết để đào tạo các mô hình tiên tiến cho AI tổng quát và các ứng dụng đột phá khác.
DGX Cloud cung cấp các cụm siêu máy tính NVIDIA DGX AI chuyên dụng, kết hợp với phần mềm NVIDIA AI. Dịch vụ này giúp mọi doanh nghiệp có thể truy cập siêu máy tính AI của riêng mình bằng trình duyệt web đơn giản, loại bỏ sự phức tạp của việc mua, triển khai và quản lý cơ sở hạ tầng tại chỗ.
Các doanh nghiệp thuê các cụm Đám mây DGX hàng tháng, điều này đảm bảo họ có thể nhanh chóng và dễ dàng mở rộng quy mô phát triển khối lượng công việc đào tạo đa nút lớn mà không phải chờ tài nguyên máy tính được tăng tốc thường có nhu cầu cao.
“Chúng ta đang ở thời điểm tượng tự iPhone nhưng dành cho AI” Jensen Huang – nhà sáng lập kiêm CEO của NVIDIA cho biết các công ty khởi nghiệp đang chạy đua để xây dựng các sản phẩm và mô hình kinh doanh đột phá, và các công ty đương
nhiệm đang tìm cách đáp ứng. “Đám mây DGX mang đến cho khách hàng quyền truy cập tức thì vào siêu máy tính AI của NVIDIA trong các đám mây quy mô toàn cầu.”
NVIDIA đang hợp tác với các nhà cung cấp dịch vụ đám mây hàng đầu để lưu trữ cơ sở hạ tầng Đám mây DGX, bắt đầu với Cơ sở hạ tầng Đám mây Oracle (OCI). OCI RDMA Supercluster của nó cung cấp một mạng RDMA được xây dựng có mục đích, tính toán kim loại trần và lưu trữ khối và cục bộ hiệu suất cao có thể mở rộng thành các siêu cụm hơn 32.000 GPU.
Microsoft Azure dự kiến sẽ bắt đầu lưu trữ DGX Cloud vào quý tới và dịch vụ này sẽ sớm mở rộng sang Google Cloud, v.v.
Những người khổng lồ trong ngành đang áp dụng Đám mây NVIDIA DGX để tăng tốc thành công
Amgen, một trong những công ty công nghệ sinh học hàng đầu thế giới, công ty hàng đầu về công nghệ bảo hiểm Giải pháp thông minh CCC (CCC) và nhà cung cấp nền tảng kinh doanh kỹ thuật số ServiceNow là một trong những công ty tiên phong về AI đầu tiên sử dụng DGX Cloud.
Amgen đang sử dụng DGX Cloud với phần mềm mô hình ngôn ngữ lớn NVIDIA BioNeMo™ để tăng tốc quá trình khám phá thuốc, bao gồm cả phần mềm NVIDIA AI Enterprise, bao gồm các thư viện tăng tốc khoa học dữ liệu NVIDIA RAPIDS.
“Với NVIDIA DGX Cloud và NVIDIA BioNeMo, các nhà nghiên cứu của chúng tôi có thể tập trung vào sinh học sâu hơn thay vì phải xử lý cơ sở hạ tầng AI và thiết lập kỹ thuật ML,” Peter Grandsard, giám đốc điều hành Nghiên cứu, Khám phá Liệu pháp Sinh học, Trung tâm Tăng tốc Nghiên cứu cho biết bởi Đổi mới kỹ thuật số tại Amgen. “Khả năng tính toán mạnh mẽ và đa nút của DGX Cloud đã cho phép chúng tôi đạt được tốc độ đào tạo LLM protein nhanh hơn gấp 3 lần với BioNeMo và phân tích sau đào tạo nhanh hơn tới 100 lần với NVIDIA RAPIDS so với các nền tảng thay thế.”
CCC, một nền tảng đám mây hàng đầu cho nền kinh tế bảo hiểm tài sản và thương vong, đang sử dụng DGX Cloud để tăng tốc và mở rộng quy mô phát triển cũng như đào tạo các mô hình AI của mình. Những mô hình này hỗ trợ các giải pháp giải quyết khiếu nại ô tô sáng tạo của công ty, giúp đẩy nhanh quá trình tự động hóa thông minh của ngành và cải thiện trải nghiệm khiếu nại cho hàng triệu người dùng doanh nghiệp và người tiêu dùng của họ mỗi ngày.
ServiceNow đang sử dụng DGX Cloud với các siêu máy tính NVIDIA DGX tại chỗ để tạo ra siêu máy tính AI đám mây lai linh hoạt, có thể mở rộng quy mô, hỗ trợ nghiên cứu AI trên các mô hình ngôn ngữ lớn, tạo mã và phân tích thông thường.
ServiceNow cũng đồng quản lý dự án BigCode, một sáng kiến AI tạo ra khoa học mở có trách nhiệm, được đào tạo trên khung Megatron-LM của NVIDIA.
Mở Trình duyệt tới Phần mềm và Siêu máy tính AI của NVIDIA
Các doanh nghiệp quản lý và giám sát khối lượng công việc đào tạo DGX Cloud bằng phần mềm NVIDIA Base Command™ Platform, mang đến trải nghiệm người dùng liền mạch trên DGX Cloud, cũng như các siêu máy tính NVIDIA DGX tại chỗ. Sử dụng Base Command Platform, khách hàng có thể khớp khối lượng công việc của mình với đúng số lượng và loại cơ sở hạ tầng DGX cần thiết cho từng công việc.
DGX Cloud bao gồm NVIDIA AI Enterprise, lớp phần mềm của nền tảng NVIDIA AI, cung cấp các khung AI từ đầu đến cuối và các mô hình được đào tạo trước để tăng tốc các quy trình khoa học dữ liệu cũng như hợp lý hóa quá trình phát triển và triển khai AI sản xuất. Các mô hình được đào tạo trước mới, khung được tối ưu hóa và thư viện phần mềm khoa học dữ liệu được tăng tốc, có sẵn trong NVIDIA AI Enterprise 3.1 được phát hành hôm nay, mang đến cho các nhà phát triển một bước khởi đầu bổ sung cho các dự án AI của họ.
Mỗi phiên bản của DGX Cloud có tám GPU Tensor Core NVIDIA H100 hoặc A100 80GB cho tổng bộ nhớ GPU 640GB trên mỗi nút. Kết cấu hiệu suất cao, độ trễ thấp được xây dựng với NVIDIA Networking đảm bảo khối lượng công việc có thể thay đổi
quy mô trên các cụm hệ thống được kết nối với nhau, cho phép nhiều phiên bản hoạt động như một GPU lớn để đáp ứng các yêu cầu về hiệu suất của đào tạo AI nâng cao. Lưu trữ hiệu suất cao được tích hợp vào DGX Cloud để cung cấp giải pháp hoàn chỉnh cho siêu máy tính AI.
DGX Cloud có sự hỗ trợ từ các chuyên gia NVIDIA trong suốt quá trình phát triển AI. Khách hàng có thể làm việc trực tiếp với các kỹ sư NVIDIA để tối ưu hóa mô hình của họ và nhanh chóng giải quyết các thách thức phát triển trong nhiều trường hợp sử dụng của ngành.
Thời điểm ra mắt
Các phiên bản DGX Cloud có giá khởi điểm là 36.999 USD mỗi phiên bản mỗi tháng. Các tổ chức có thể liên hệ với đối tác NPN của họ để biết thêm chi tiết.
Xem Huang thảo luận về Đám mây NVIDIA DGX trong bài phát biểu quan trọng về GTC của anh ấy theo yêu cầu và theo dõi buổi thảo luận của GTC với những người tiên phong về Đám mây NVIDIA DGX.
