Dòng vi xử lý AMD EPYC cung cấp hiệu năng CPU cấp độ tủ máy chủ vượt trội, đáp ứng yêu cầu vận hành hệ thống trí tuệ nhân tạo Agentic.
Nhu cầu hạ tầng CPU cho hệ thống trí tuệ nhân tạo Agentic
Trí tuệ nhân tạo Agentic đang làm thay đổi cấu trúc hạ tầng điện toán. Khi các doanh nghiệp chuyển dịch từ giai đoạn thử nghiệm sang vận hành hệ thống thực tế, nền tảng CPU đóng vai trò quyết định. Mọi tác vụ của hệ thống, bao gồm dịch vụ điều phối, cơ sở dữ liệu, giao diện web, bộ nhớ đệm, phần mềm trung gian và API đều yêu cầu khả năng mở rộng hiệu quả.
Những dịch vụ này phụ thuộc hoàn toàn vào sức mạnh CPU và tỷ lệ thuận với số lượng tác vụ xử lý đồng thời thay vì kích thước của một mô hình học máy đơn lẻ. Khách hàng doanh nghiệp không triển khai hệ thống dựa trên các điểm số chuẩn hóa đơn lẻ. Họ triển khai các tủ máy chủ bị giới hạn bởi định mức tiêu thụ điện, công suất tản nhiệt, diện tích mặt sàn và khả năng tương thích phần mềm.
Do đó, dung lượng thực tế của một hệ thống máy chủ được xác định bằng khối lượng công việc hữu ích có thể xử lý gọn bên trong một tủ mạng tiêu thụ mức điện năng 100 kW. Tại lớp dịch vụ này, năng lực xử lý đa dụng của CPU chính là yếu tố thiết lập giới hạn hoạt động tối đa cho nền tảng trí tuệ nhân tạo.
Ưu thế hiệu năng của AMD EPYC trên quy mô tủ máy chủ
Dựa trên tiêu chí đánh giá cấp độ tủ máy chủ, bộ xử lý AMD EPYC thể hiện sự vượt trội rõ rệt. Trong kịch bản tủ mạng 100 kW được mô phỏng sử dụng nền tảng máy chủ hai chân cắm, vi xử lý AMD EPYC 9965 mã Turin sở hữu 192 lõi cung cấp thông lượng cao gấp 2,37 lần so với mốc tiêu chuẩn của hệ thống 88 lõi NVIDIA Vera.
Khi so sánh với phiên bản 128 lõi Intel Xeon 6980P, đại diện từ AMD ghi nhận mức hiệu suất nhỉnh hơn khoảng 1,6 lần. Kiến trúc này duy trì ưu thế trên nhiều khối lượng công việc thực tế như điện toán đa dụng, máy chủ Java, phản hồi web, lưu trữ khóa-giá trị, bộ nhớ đệm và cơ sở dữ liệu quan hệ. Đáng chú ý, thế hệ vi xử lý AMD EPYC mã Venice sắp ra mắt với 256 lõi được dự báo sẽ nới rộng khoảng cách hiệu năng lên mức 3,30 lần so với kiến trúc của NVIDIA.
Sự gia tăng mật độ lõi vi xử lý bên trong một giới hạn điện năng cố định kéo theo sự gia tăng của tổng thông lượng dịch vụ. Đối với các tầng giao dịch và phần mềm trung gian bao quanh hệ thống Agentic, điều này đồng nghĩa với mức độ đáp ứng cao hơn trên mỗi thiết bị, quyết định số lượng tác vụ nền tảng có thể duy trì cùng lúc.
Mật độ lõi tính toán và nền tảng tương thích hiện hành
Mật độ thiết bị trên mỗi tủ máy chủ đã trở thành thước đo hàng đầu phản ánh giá trị triển khai thực tế của hệ thống phần cứng. Hiện tại, một cụm máy chủ sử dụng vi xử lý AMD EPYC Turin tích hợp trong khung máy Dell PowerEdge IR7000 hoặc các hệ thống tản nhiệt bằng chất lỏng tương đương có thể cung cấp hơn 27.000 lõi CPU trên mỗi tủ mạng.
Nền tảng kiến trúc Venice thế hệ tiếp theo được thiết kế để mở rộng giới hạn này vượt mốc 36.000 lõi. Quan trọng hơn, hạ tầng này đang sẵn sàng phục vụ khách hàng ngay thời điểm hiện tại dựa trên các chuẩn x86 thương mại.
Hệ thống vận hành trơn tru với hệ sinh thái phần mềm hiện có của doanh nghiệp, giúp loại bỏ yêu cầu thiết kế lại cấu trúc tủ mạng, giảm thiểu rủi ro khi di chuyển dữ liệu và rút ngắn thời gian đưa vào ứng dụng thực tế. Bên cạnh hiệu quả điện năng trên quy mô lớn, hiệu suất trên mỗi lõi đơn cũng là một tiêu chí kỹ thuật trọng yếu đối với các tác vụ phân tích và cơ sở dữ liệu.
AMD ước tính dòng CPU Venice 64 lõi sẽ mang lại lợi thế hiệu suất lõi đơn cao hơn 27% so với vi mạch 88 lõi của đối thủ. Ngay cả ở cấu hình 96 lõi, phiên bản Venice vẫn được kỳ vọng đạt hiệu suất trên mỗi lõi cao hơn 11%. Việc cân bằng giữa mật độ điện toán, tính liên tục của hệ sinh thái phần mềm và khả năng triển khai ngay lập tức giúp AMD củng cố vị thế trên thị trường linh kiện máy chủ thế hệ mới.
