Micron hợp tác với NVIDIA để cung cấp các sản phẩm bộ nhớ hiệu suất cao cho các chip như HGX B300 NVL16 và GB300 NVL72.
Các nhà sản xuất bộ nhớ hàng đầu như Micron, SK Hynix và Samsung đã cung cấp các sản phẩm bộ nhớ mạnh mẽ nhất của họ cho các chip Blackwell của NVIDIA. Với việc SK Hynix giới thiệu các sản phẩm bộ nhớ HBM3E và SOCAMM, Micron cũng đã công bố 12 bộ nhớ SOCAMM dựa trên HBM3E và LPDDR5X tốc độ cao tại sự kiện GTC 2025.
Trong khi SK Hynix vẫn là nhà cung cấp chip nhớ HBM3 chính cho NVIDIA trước đây, Micron cũng đã hợp tác với NVIDIA để cung cấp bộ nhớ SOCAMM và HBM3E 12-High cho chip hiệu suất cao. LPDDR5X SOCAMM (mô-đun bộ nhớ nén phác thảo nhỏ) từ Micron sẽ được sử dụng trên GB300 Grace Blackwell Ultra Superchip của NVIDIA, trong khi bộ nhớ HBM3E 12H 36 GB của hãng sẽ được sử dụng trên nền tảng HGX B300 NVL16 và GB300 NVL72.
Đây là những chip Blackwell mới và mạnh mẽ nhất được NVIDIA công bố tại sự kiện GTC nhưng Micron cũng cung cấp chip HBM3E 8-High 24 GB cho các nền tảng HGX B200 và GB200 NVL72. Bộ nhớ HBM3E 12-High có 12 đế DRAM xếp chồng theo chiều dọc, đạt dung lượng bộ nhớ cao hơn 12 GB so với biến thể 8-High. Vì khối lượng công việc AI đòi hỏi nhiều bộ nhớ, nên chip bộ nhớ 36 GB sẽ làm tăng đáng kể dung lượng bộ nhớ trên GPU NVIDIA.
So với các ngăn xếp HBM3E 8-High, tổng dung lượng bộ nhớ tăng 50% với bộ nhớ HBM3E 12-H. Điều này cho phép GPU Blackwell Ultra chạy các mô hình lớn hơn và Meta Llama 405B với một GPU duy nhất. Bộ nhớ HBM3E mới không chỉ có dung lượng bộ nhớ và băng thông bộ nhớ cao hơn mà còn tiêu thụ ít hơn 20%, khiến nó trở nên lý tưởng cho các trung tâm dữ liệu.
SOCAMM dựa trên LPDDR5X cũng là một lựa chọn tuyệt vời cho HPC. Nó chỉ có kích thước 14x90mm, chiếm gần 1/3 không gian của RDIMM và có thể cung cấp tới 128 GB cho mỗi mô-đun bằng cách sử dụng 16 ngăn xếp bộ nhớ LPDDR5X. SOCAMM tiết kiệm điện hơn đáng kể so với RDIMM thông thường và cung cấp băng thông gấp 2,5 lần.
Nguồn: wccftech
