HomeAIHướng dẫn chạy Hermes Agent cục bộ trên vi xử lý AMD...

Hướng dẫn chạy Hermes Agent cục bộ trên vi xử lý AMD Ryzen AI Max+ và Radeon

Published on

Mô hình Hermes Agent hỗ trợ vận hành cục bộ trên vi xử lý AMD Ryzen AI Max+ và card đồ họa Radeon thông qua nền tảng phần mềm LM Studio.

Mô hình Hermes Agent do Nous Research phát triển đại diện cho bước tiến lớn trong lĩnh vực trí tuệ nhân tạo tự chủ hoạt động cục bộ. Hệ thống này sở hữu khả năng tiếp nhận mục tiêu, phân chia nhiệm vụ, triển khai từng bước và tự động thực thi các tác vụ phức tạp. Việc chạy mô hình trực tiếp trên thiết bị giúp đảm bảo tốc độ phản hồi nhanh, tính riêng tư và khả năng kiểm soát dữ liệu toàn diện. Dòng máy tính AMD Agent Computers được thiết kế chuyên biệt để đáp ứng nhu cầu điện toán này.

hermes-agent-tren-amd-ryzen-ai-max-va-radeon

Các hệ thống trang bị vi xử lý AMD Ryzen AI Max+ và card đồ họa Radeon AI PRO cung cấp đủ sức mạnh xử lý để duy trì hoạt động liên tục cho các mô hình AI phức tạp. Cấu trúc phần cứng của AMD hỗ trợ tối ưu cho luồng công việc đa tác vụ song song, vốn là đặc trưng cốt lõi của điện toán tác nhân tự chủ.

Sự kết hợp giữa năng lực xử lý của nền tảng AMD và môi trường quản lý LM Studio giúp người dùng dễ dàng chuyển giao các quy trình phức tạp cho trí tuệ nhân tạo ngay trên hệ sinh thái Windows.

Cài đặt và cấu hình phần mềm LM Studio

Để triển khai hệ thống Hermes Agent, người dùng cần thiết lập máy chủ cục bộ thông qua phần mềm LM Studio. Sau khi cài đặt và khởi chạy, hệ thống yêu cầu kích hoạt chế độ nhà phát triển và thiết lập tùy chọn khởi động cùng máy tính. Tiếp theo, quản trị viên tiến hành tìm kiếm và tải xuống mô hình ngôn ngữ Qwen3.6 35B A3B tích hợp sẵn trên nền tảng. Quá trình cấu hình chi tiết đòi hỏi việc điều chỉnh tham số tải mô hình thủ công nhằm tối ưu hóa hiệu suất.

Screenshot showing LM Studio download page.

Các thông số kỹ thuật cốt lõi cần thiết lập bao gồm dung lượng ngữ cảnh ở mức 190.000, tối đa hóa mức tải công việc lên card đồ họa, vô hiệu hóa tính năng mmap và kích hoạt cơ chế Flash Attention. Tại giao diện máy chủ, hệ thống phải được cấp quyền phục vụ trên mạng cục bộ, đồng thời vô hiệu hóa các tùy chọn tự động gỡ cài đặt mô hình không sử dụng. Sau khi áp dụng đầy đủ các thông số, mô hình Qwen3.6 35B A3B sẽ được tải lên bộ nhớ tạm và chuyển sang trạng thái sẵn sàng tiếp nhận truy vấn.

Thiết lập môi trường WSL2 và hoàn thiện nền tảng

Giai đoạn cuối cùng bao gồm việc cấu hình hệ thống con Windows dành cho Linux (WSL2) để kết nối với mô hình AI đã khởi chạy. Thông qua công cụ dòng lệnh Powershell dưới quyền quản trị viên, người dùng tiến hành cài đặt môi trường WSL cùng bản phân phối Ubuntu 24.04.

Hermes menu page.

Sau bước tạo tài khoản định danh, hệ thống sẽ yêu cầu cài đặt trình quản lý gói phần mềm chuyên dụng. Tại giao diện thiết lập kết nối, quản trị viên cần cung cấp máy chủ tùy chỉnh bằng cách nhập địa chỉ mạng cục bộ trích xuất từ LM Studio, kèm theo hậu tố /v1. Khóa truy cập API được khai báo mặc định là “lmstudio”, trong khi độ dài ngữ cảnh do hệ thống tự động xác định. Khi quá trình liên kết hoàn tất, Hermes Agent đã sẵn sàng hoạt động độc lập trên thiết bị chủ.

Hệ thống có khả năng mở rộng chức năng sang các tác vụ thu thập thông tin, tương tác với nền tảng web và thực thi những quy trình phụ thuộc vào dữ liệu trực tuyến. Bằng cách tích hợp giao thức tìm kiếm như Brave Search API, mô hình AI sẽ được cấp quyền truy cập mạng Internet thực tế, nâng cao độ chính xác khi xử lý các công việc tổng hợp dữ liệu.

tin mới nhất

Samsung hoãn sản xuất bộ nhớ HBM5E vô thời hạn

Samsung hoãn vô thời hạn quá trình sản xuất bộ nhớ HBM5E do tỷ...

ASUS công bố hợp tác ProArt Display với Adobe

Màn hình ASUS ProArt là dòng đầu tiên được chứng nhận chính thức cho...

AMD sắp ra mắt công nghệ FSR Multi-Frame Generation

AMD đang phát triển công nghệ Multi-Frame Generation cho hệ thống FSR, thông tin...

ASRock ra mắt nguồn máy tính Pro Series chuẩn ATX 3.1

ASRock chính thức giới thiệu dải sản phẩm nguồn máy tính Pro Series chuẩn...

TCL KHAI MỞ KỶ NGUYÊN HIỂN THỊ MỚI, KIẾN TẠO CHUẨN SỐNG PHONG CÁCH

Tại không gian mang tính biểu tượng của Nhà Hát Thành Phố, TCL –...

tin liên quan

AMD sắp ra mắt công nghệ FSR Multi-Frame Generation

AMD đang phát triển công nghệ Multi-Frame Generation cho...

AMD Instinct MI355X vượt mốc 1 triệu token mỗi giây trong bài kiểm tra MLPerf 6.0

GPU AMD Instinct MI355X đạt hơn 1 triệu token/giây...

AMD ra mắt chip Ryzen 9 9950X3D2 Dual Edition với bộ nhớ đệm 208 MB

AMD ra mắt Ryzen 9 9950X3D2 Dual Edition sở...

AMD bổ sung FSR 4.1 cho Radeon RX 9000 qua driver Adrenalin 26.3.1

Driver mới của AMD hỗ trợ FSR 4.1 cho...