SAP, Amdocs, Getty Images là những công ty đầu tiên xây dựng LLM tùy chỉnh với NVIDIA AI Foundation Models, đào tạo trên NVIDIA DGX Cloud và triển khai với NVIDIA AI Enterprise Software
NVIDIA hôm nay đã giới thiệu dịch vụ AI Foundry để tăng cường khả năng phát triển và điều chỉnh các ứng dụng AI tạo sinh (Generative AI) tùy chỉnh cho các doanh nghiệp và startup triển khai trên Microsoft Azure.
Dịch vụ AI Foundry của NVIDIA kết hợp ba yếu tố — bộ sưu tập các mô hình nền tảng AI của NVIDIA, bộ khung và công cụ NVIDIA NeMo™ và các dịch vụ siêu máy tính AI NVIDIA DGX™ Cloud — cung cấp cho các doanh nghiệp giải pháp tổng thể để tạo mô hình AI tạo sinh tùy chỉnh. Sau đó, các doanh nghiệp có thể triển khai các mô hình tùy chỉnh của mình với phần mềm NVIDIA AI Enterprise để cung cấp năng lượng cho các ứng dụng AI tạo sinh, bao gồm tìm kiếm thông minh, tóm tắt và tạo nội dung.
Các nhà lãnh đạo ngành SAP SE, Amdocs và Getty Images là những công ty tiên phong xây dựng mô hình tùy chỉnh bằng cách sử dụng dịch vụ.
“Các doanh nghiệp cần các mô hình tùy chỉnh để thực hiện các kỹ năng chuyên biệt được đào tạo trên DNA độc quyền của công ty họ – dữ liệu của họ,” Jensen Huang, người sáng lập và CEO của NVIDIA cho biết. “Dịch vụ AI Foundry của NVIDIA kết hợp các công nghệ mô hình AI tạo sinh của chúng tôi, chuyên môn đào tạo LLM và nhà máy AI quy mô lớn. Chúng tôi đã xây dựng điều này trong Microsoft Azure để các doanh nghiệp trên toàn thế giới có thể kết nối mô hình tùy chỉnh của họ với các dịch vụ đám mây hàng đầu thế giới của Microsoft.”
“Mối quan hệ hợp tác của chúng tôi với NVIDIA bao gồm mọi lớp trong ngăn xếp Copilot — từ silicon đến phần mềm — khi chúng tôi cùng nhau đổi mới cho kỷ nguyên AI mới này,” Satya Nadella, Chủ tịch kiêm CEO của Microsoft cho biết. “Với dịch vụ foundry AI tạo sinh của NVIDIA trên Microsoft Azure, chúng tôi đang cung cấp khả năng mới cho các doanh nghiệp và startup để xây dựng và triển khai các ứng dụng AI trên đám mây của chúng tôi.”
Mô hình ngôn ngữ lớn (LLM) dành riêng cho những doanh nghiệp đầu ngành
Dịch vụ AI Foundry của NVIDIA có thể được sử dụng để tùy chỉnh mô hình cho các ứng dụng hỗ trợ AI tạo sinh trên nhiều ngành công nghiệp, bao gồm phần mềm doanh nghiệp, viễn thông và truyền thông. Sau khi sẵn sàng triển khai, các doanh nghiệp có thể sử dụng một kỹ thuật gọi là tạo nội dung được tăng cường truy xuất (RAG) để kết nối mô hình của họ với dữ liệu doanh nghiệp của họ và truy cập các thông tin chi tiết mới.
Là khách hàng đầu tiên của NVIDIA DGX Cloud trên Microsoft Azure, SAP có kế hoạch sử dụng dịch vụ và quy trình làm việc RAG được tối ưu hóa với NVIDIA DGX Cloud và phần mềm NVIDIA AI Enterprise chạy trên Azure để giúp tùy chỉnh và triển khai Joule®, công cụ hỗ trợ AI tạo sinh ngôn ngữ tự nhiên mới của họ.
“Joule tận dụng vị trí độc đáo của SAP tại giao điểm của kinh doanh và công nghệ, đồng thời dựa trên cách tiếp cận liên quan, đáng tin cậy và có trách nhiệm của chúng tôi đối với AI Kinh doanh,” Christian Klein, Giám đốc điều hành và thành viên Hội đồng quản trị của SAP SE cho biết. “Với sự hợp tác với NVIDIA, Joule có thể giúp khách hàng khai thác tiềm năng của AI tạo sinh cho doanh nghiệp của họ bằng cách tự động hóa các tác vụ tốn thời gian và nhanh chóng phân tích dữ liệu để cung cấp trải nghiệm thông minh hơn, được cá nhân hóa hơn.”
Amdocs, nhà cung cấp phần mềm và dịch vụ hàng đầu cho các công ty truyền thông và truyền thông, đang tối ưu hóa các mô hình cho khuôn khổ Amdocs amAIz để tăng tốc độ áp dụng các ứng dụng và dịch vụ AI tạo sinh cho các nhà cung cấp dịch vụ viễn thông trên toàn cầu.
“Công nghệ AI tạo sinh mang đến một cơ hội đáng kinh ngạc cho các nhà cung cấp dịch vụ để đổi mới cách họ tương tác với khách hàng,” Shuky Sheffer, Chủ tịch kiêm Giám đốc điều hành tại Amdocs cho biết. “Việc tận dụng công nghệ của NVIDIA và Microsoft để cung cấp năng lượng cho khuôn khổ Amdocs amAlz sẽ mang lại các ứng dụng AI tạo sinh mới cho khách hàng nhanh hơn và cho phép họ tận hưởng lợi ích to lớn từ tiềm năng to lớn của AI tạo sinh, đồng thời cung cấp bảo mật, độ tin cậy và hiệu suất cấp doanh nghiệp.”
Chọn lọc, tối ưu hóa mô hình cho AI tạo sinh tùy chỉnh
Khách hàng sử dụng dịch vụ AI Foundry của NVIDIA có thể chọn từ nhiều mô hình nền tảng AI của NVIDIA, bao gồm một họ mô hình NVIDIA Nemotron-3 8B mới được lưu trữ trong danh mục mô hình Azure AI. Các nhà phát triển cũng có thể truy cập các mô hình Nemotron-3 8B trên danh mục NVIDIA NGC™, cũng như các mô hình cộng đồng như các mô hình Llama 2 của Meta được tối ưu hóa cho NVIDIA để tăng tốc tính toán, cũng sẽ sớm có mặt trên danh mục mô hình Azure AI.
Được tối ưu hóa với 8 tỷ tham số, họ mô hình Nemotron-3 8B bao gồm các phiên bản được điều chỉnh cho các trường hợp sử dụng khác nhau và có khả năng đa ngôn ngữ để xây dựng các ứng dụng AI tạo sinh tùy chỉnh cho doanh nghiệp.
NVIDIA DGX Cloud hiện đã có mặt trên chợ ứng dụng Microsoft Azure Marketplace
Siêu máy tính NVIDIA DGX Cloud AI hiện đã có sẵn trên Azure Marketplace. Việc bổ sung DGX Cloud trên Azure Marketplace cho phép khách hàng Azure sử dụng tín dụng Microsoft Azure Consumption Commitment hiện có của họ để tăng tốc phát triển mô hình với siêu máy tính và phần mềm NVIDIA AI.
Phần mềm NVIDIA AI Enterprise hiện đã được tích hợp vào Azure Machine Learning, bổ sung thêm nền tảng phần mềm AI và khoa học dữ liệu an toàn, ổn định và được hỗ trợ của NVIDIA. Điều này mang lại NeMo và NVIDIA Triton Inference Server™ cho dịch vụ AI cấp doanh nghiệp của Azure.
NVIDIA AI Enterprise cũng có sẵn trên Azure Marketplace, cung cấp cho các doanh nghiệp trên toàn thế giới các lựa chọn rộng rãi để phát triển AI sẵn sàng cho sản xuất và triển khai các ứng dụng AI tạo sinh tùy chỉnh.
