Hướng dẫn chạy Hermes Agent cục bộ trên vi xử lý AMD Ryzen AI Max+ và Radeon

Published on

Quảng cáo

Mô hình Hermes Agent hỗ trợ vận hành cục bộ trên vi xử lý AMD Ryzen AI Max+ và card đồ họa Radeon thông qua nền tảng phần mềm LM Studio.

Mô hình Hermes Agent do Nous Research phát triển đại diện cho bước tiến lớn trong lĩnh vực trí tuệ nhân tạo tự chủ hoạt động cục bộ. Hệ thống này sở hữu khả năng tiếp nhận mục tiêu, phân chia nhiệm vụ, triển khai từng bước và tự động thực thi các tác vụ phức tạp. Việc chạy mô hình trực tiếp trên thiết bị giúp đảm bảo tốc độ phản hồi nhanh, tính riêng tư và khả năng kiểm soát dữ liệu toàn diện. Dòng máy tính AMD Agent Computers được thiết kế chuyên biệt để đáp ứng nhu cầu điện toán này.

hermes-agent-tren-amd-ryzen-ai-max-va-radeon

Các hệ thống trang bị vi xử lý AMD Ryzen AI Max+ và card đồ họa Radeon AI PRO cung cấp đủ sức mạnh xử lý để duy trì hoạt động liên tục cho các mô hình AI phức tạp. Cấu trúc phần cứng của AMD hỗ trợ tối ưu cho luồng công việc đa tác vụ song song, vốn là đặc trưng cốt lõi của điện toán tác nhân tự chủ.

Sự kết hợp giữa năng lực xử lý của nền tảng AMD và môi trường quản lý LM Studio giúp người dùng dễ dàng chuyển giao các quy trình phức tạp cho trí tuệ nhân tạo ngay trên hệ sinh thái Windows.

Cài đặt và cấu hình phần mềm LM Studio

Để triển khai hệ thống Hermes Agent, người dùng cần thiết lập máy chủ cục bộ thông qua phần mềm LM Studio. Sau khi cài đặt và khởi chạy, hệ thống yêu cầu kích hoạt chế độ nhà phát triển và thiết lập tùy chọn khởi động cùng máy tính. Tiếp theo, quản trị viên tiến hành tìm kiếm và tải xuống mô hình ngôn ngữ Qwen3.6 35B A3B tích hợp sẵn trên nền tảng. Quá trình cấu hình chi tiết đòi hỏi việc điều chỉnh tham số tải mô hình thủ công nhằm tối ưu hóa hiệu suất.

Screenshot showing LM Studio download page.

Các thông số kỹ thuật cốt lõi cần thiết lập bao gồm dung lượng ngữ cảnh ở mức 190.000, tối đa hóa mức tải công việc lên card đồ họa, vô hiệu hóa tính năng mmap và kích hoạt cơ chế Flash Attention. Tại giao diện máy chủ, hệ thống phải được cấp quyền phục vụ trên mạng cục bộ, đồng thời vô hiệu hóa các tùy chọn tự động gỡ cài đặt mô hình không sử dụng. Sau khi áp dụng đầy đủ các thông số, mô hình Qwen3.6 35B A3B sẽ được tải lên bộ nhớ tạm và chuyển sang trạng thái sẵn sàng tiếp nhận truy vấn.

Thiết lập môi trường WSL2 và hoàn thiện nền tảng

Giai đoạn cuối cùng bao gồm việc cấu hình hệ thống con Windows dành cho Linux (WSL2) để kết nối với mô hình AI đã khởi chạy. Thông qua công cụ dòng lệnh Powershell dưới quyền quản trị viên, người dùng tiến hành cài đặt môi trường WSL cùng bản phân phối Ubuntu 24.04.

Hermes menu page.

Sau bước tạo tài khoản định danh, hệ thống sẽ yêu cầu cài đặt trình quản lý gói phần mềm chuyên dụng. Tại giao diện thiết lập kết nối, quản trị viên cần cung cấp máy chủ tùy chỉnh bằng cách nhập địa chỉ mạng cục bộ trích xuất từ LM Studio, kèm theo hậu tố /v1. Khóa truy cập API được khai báo mặc định là “lmstudio”, trong khi độ dài ngữ cảnh do hệ thống tự động xác định. Khi quá trình liên kết hoàn tất, Hermes Agent đã sẵn sàng hoạt động độc lập trên thiết bị chủ.

Hệ thống có khả năng mở rộng chức năng sang các tác vụ thu thập thông tin, tương tác với nền tảng web và thực thi những quy trình phụ thuộc vào dữ liệu trực tuyến. Bằng cách tích hợp giao thức tìm kiếm như Brave Search API, mô hình AI sẽ được cấp quyền truy cập mạng Internet thực tế, nâng cao độ chính xác khi xử lý các công việc tổng hợp dữ liệu.

Tin mới

Tencent Cloud Đẩy Nhanh Tăng Trưởng Quốc Tế, Thúc Đẩy AI Doanh Nghiệp

Lượng khách hàng quốc tế tăng gấp đôi trong bối cảnh nhu cầu về...

PlayStation 6 và Xbox Project Helix có giá từ 1.000 USD nhưng Sony vẫn chiếm ưu thế

Trong bối cảnh giá phần cứng ngày càng tăng, khiến những hệ máy console...

Giá RAM DDR5 tại Nhật Bản tăng phi mã 761% chỉ trong một năm

Giá bộ nhớ DDR5 liên tục leo thang đang gây ảnh hưởng nghiêm trọng...

AMD ra mắt FSR SDK 2.4, mở rộng FSR 4.1.2 cho Radeon RX 6000 và Ryzen APU

Bản cập nhật mới của AMD đưa công nghệ nâng cấp hình ảnh bằng...

ASUS mở bán màn hình OLED ROG 720 Hz và 540 Hz

Hai mẫu màn hình OLED 25 inch mới của ASUS đã chính thức lên...

Trung Quốc chưa thể tự chủ DRAM khi Samsung và SK hynix sẽ thống trị trong 10 năm tới

CXMT và YMTC vẫn gặp khó khăn trong việc đáp ứng nhu cầu bộ...

Ryzen 7 9800X3D gặp tình trạng quá nhiệt 95°C dù dùng tản nhiệt AIO 360 mm

Dù nhiệt độ 95°C không phải hiện tượng hiếm gặp trên AMD Ryzen 7...

iPhone Duo gặp lỗi màn hình gập, nghi do bản lề bị trục trặc

Những người dùng đầu tiên sở hữu chiếc điện thoại màn hình gập đầu...

ASUS ra mắt ROG NUC 16 phiên bản Phantom Blade Zero

ROG NUC 16 vừa được ASUS khoác lên diện mạo mới lấy cảm hứng...

Windows 11 chuẩn bị hỗ trợ Intel APX, mở ra tiềm năng tăng hiệu năng CPU thế hệ mới

Microsoft đang chuẩn bị bổ sung hỗ trợ Advanced Performance Extensions (APX) cho Windows...

tin liên quan