NVIDIA vừa công bố dòng mô hình Nemotron 3 gồm ba phiên bản, tích hợp kiến trúc MoE tiên tiến giúp tăng tốc độ xử lý và tối ưu hóa chi phí.

NVIDIA đã chính thức giới thiệu gia đình mô hình mở (open models) mới nhất mang tên Nemotron 3, bao gồm dữ liệu và các thư viện hỗ trợ được thiết kế để thúc đẩy phát triển AI tác nhân (agentic AI) minh bạch và hiệu quả trên nhiều ngành công nghiệp.

Dòng sản phẩm này ra mắt với ba kích thước khác nhau gồm Nano, Super và Ultra, giới thiệu kiến trúc chuyên gia hỗn hợp tiềm ẩn (hybrid latent Mixture-of-Experts – MoE) mang tính đột phá. Công nghệ này hỗ trợ các nhà phát triển xây dựng và triển khai các hệ thống đa tác nhân tin cậy ở quy mô lớn.

Động thái này cũng củng cố nỗ lực phát triển AI chủ quyền của NVIDIA, cho phép các tổ chức từ châu Âu đến Hàn Quốc xây dựng hệ thống AI phù hợp với dữ liệu và quy định riêng biệt. Hiện tại, nhiều doanh nghiệp lớn như Accenture, Oracle Cloud Infrastructure, Siemens và Zoom đã bắt đầu tích hợp các mô hình Nemotron vào quy trình làm việc.

Cải tiến kiến trúc và hiệu suất vượt trội

Phiên bản Nemotron 3 Nano, hiện đã có sẵn, là mô hình tối ưu nhất về chi phí tính toán với 30 tỷ tham số (trong đó có 3 tỷ tham số kích hoạt). Mô hình này được thiết kế cho các tác vụ mục tiêu như gỡ lỗi phần mềm, tóm tắt nội dung và trợ lý AI. Nhờ kiến trúc MoE lai độc đáo, Nemotron 3 Nano đạt thông lượng token cao gấp 4 lần so với phiên bản Nemotron 2 Nano tiền nhiệm.

Đồng thời, khả năng tạo token suy luận giảm tới 60%, giúp tiết kiệm đáng kể chi phí vận hành. Với cửa sổ ngữ cảnh lên tới 1 triệu token, phiên bản Nano có khả năng ghi nhớ tốt hơn, đảm bảo độ chính xác khi kết nối thông tin trong các tác vụ dài và phức tạp. Tổ chức đánh giá độc lập Artificial Analysis đã xếp hạng đây là mô hình mở hiệu quả nhất trong phân khúc cùng kích thước.

Phân khúc cao cấp và lộ trình phát hành

Bên cạnh phiên bản Nano, dòng sản phẩm còn bao gồm Nemotron 3 Super và Ultra. Phiên bản Super sở hữu khoảng 100 tỷ tham số (10 tỷ kích hoạt), chuyên dụng cho các ứng dụng đa tác nhân đòi hỏi độ trễ thấp. Trong khi đó, Nemotron 3 Ultra là động cơ suy luận mạnh mẽ nhất với 500 tỷ tham số (50 tỷ kích hoạt), phục vụ các quy trình công việc phức tạp yêu cầu nghiên cứu sâu và lập kế hoạch chiến lược.

Cả hai phiên bản này đều sử dụng định dạng huấn luyện NVFP4 4-bit siêu hiệu quả trên kiến trúc NVIDIA Blackwell, giúp giảm yêu cầu bộ nhớ và tăng tốc độ huấn luyện mà không làm giảm độ chính xác.

Về khả năng tiếp cận, Nemotron 3 Nano hiện đã có mặt trên Hugging Face và các nhà cung cấp dịch vụ suy luận như AWS (thông qua Amazon Bedrock), Google Cloud và Coreweave. Mô hình này cũng được cung cấp dưới dạng vi dịch vụ NVIDIA NIM để đảm bảo tính bảo mật. Hai phiên bản cao cấp hơn là Nemotron 3 Super và Ultra dự kiến sẽ chính thức ra mắt vào nửa đầu năm 2026.

Nguồn: wccftech