HomeAIHướng dẫn chạy Hermes Agent cục bộ trên vi xử lý AMD...

Hướng dẫn chạy Hermes Agent cục bộ trên vi xử lý AMD Ryzen AI Max+ và Radeon

Published on

Mô hình Hermes Agent hỗ trợ vận hành cục bộ trên vi xử lý AMD Ryzen AI Max+ và card đồ họa Radeon thông qua nền tảng phần mềm LM Studio.

Mô hình Hermes Agent do Nous Research phát triển đại diện cho bước tiến lớn trong lĩnh vực trí tuệ nhân tạo tự chủ hoạt động cục bộ. Hệ thống này sở hữu khả năng tiếp nhận mục tiêu, phân chia nhiệm vụ, triển khai từng bước và tự động thực thi các tác vụ phức tạp. Việc chạy mô hình trực tiếp trên thiết bị giúp đảm bảo tốc độ phản hồi nhanh, tính riêng tư và khả năng kiểm soát dữ liệu toàn diện. Dòng máy tính AMD Agent Computers được thiết kế chuyên biệt để đáp ứng nhu cầu điện toán này.

hermes-agent-tren-amd-ryzen-ai-max-va-radeon

Các hệ thống trang bị vi xử lý AMD Ryzen AI Max+ và card đồ họa Radeon AI PRO cung cấp đủ sức mạnh xử lý để duy trì hoạt động liên tục cho các mô hình AI phức tạp. Cấu trúc phần cứng của AMD hỗ trợ tối ưu cho luồng công việc đa tác vụ song song, vốn là đặc trưng cốt lõi của điện toán tác nhân tự chủ.

Sự kết hợp giữa năng lực xử lý của nền tảng AMD và môi trường quản lý LM Studio giúp người dùng dễ dàng chuyển giao các quy trình phức tạp cho trí tuệ nhân tạo ngay trên hệ sinh thái Windows.

Cài đặt và cấu hình phần mềm LM Studio

Để triển khai hệ thống Hermes Agent, người dùng cần thiết lập máy chủ cục bộ thông qua phần mềm LM Studio. Sau khi cài đặt và khởi chạy, hệ thống yêu cầu kích hoạt chế độ nhà phát triển và thiết lập tùy chọn khởi động cùng máy tính. Tiếp theo, quản trị viên tiến hành tìm kiếm và tải xuống mô hình ngôn ngữ Qwen3.6 35B A3B tích hợp sẵn trên nền tảng. Quá trình cấu hình chi tiết đòi hỏi việc điều chỉnh tham số tải mô hình thủ công nhằm tối ưu hóa hiệu suất.

Screenshot showing LM Studio download page.

Các thông số kỹ thuật cốt lõi cần thiết lập bao gồm dung lượng ngữ cảnh ở mức 190.000, tối đa hóa mức tải công việc lên card đồ họa, vô hiệu hóa tính năng mmap và kích hoạt cơ chế Flash Attention. Tại giao diện máy chủ, hệ thống phải được cấp quyền phục vụ trên mạng cục bộ, đồng thời vô hiệu hóa các tùy chọn tự động gỡ cài đặt mô hình không sử dụng. Sau khi áp dụng đầy đủ các thông số, mô hình Qwen3.6 35B A3B sẽ được tải lên bộ nhớ tạm và chuyển sang trạng thái sẵn sàng tiếp nhận truy vấn.

Thiết lập môi trường WSL2 và hoàn thiện nền tảng

Giai đoạn cuối cùng bao gồm việc cấu hình hệ thống con Windows dành cho Linux (WSL2) để kết nối với mô hình AI đã khởi chạy. Thông qua công cụ dòng lệnh Powershell dưới quyền quản trị viên, người dùng tiến hành cài đặt môi trường WSL cùng bản phân phối Ubuntu 24.04.

Hermes menu page.

Sau bước tạo tài khoản định danh, hệ thống sẽ yêu cầu cài đặt trình quản lý gói phần mềm chuyên dụng. Tại giao diện thiết lập kết nối, quản trị viên cần cung cấp máy chủ tùy chỉnh bằng cách nhập địa chỉ mạng cục bộ trích xuất từ LM Studio, kèm theo hậu tố /v1. Khóa truy cập API được khai báo mặc định là “lmstudio”, trong khi độ dài ngữ cảnh do hệ thống tự động xác định. Khi quá trình liên kết hoàn tất, Hermes Agent đã sẵn sàng hoạt động độc lập trên thiết bị chủ.

Hệ thống có khả năng mở rộng chức năng sang các tác vụ thu thập thông tin, tương tác với nền tảng web và thực thi những quy trình phụ thuộc vào dữ liệu trực tuyến. Bằng cách tích hợp giao thức tìm kiếm như Brave Search API, mô hình AI sẽ được cấp quyền truy cập mạng Internet thực tế, nâng cao độ chính xác khi xử lý các công việc tổng hợp dữ liệu.

tin mới nhất

Intel và Cadence mở rộng hợp tác để tối ưu tiến trình 14A

Cadence và Intel Foundry mở rộng hợp tác nhiều năm, kết hợp công cụ...

AMD và Intel “vũ trang” ACE cho CPU AI x86 sắp ra mắt

Báo cáo kỹ thuật mới nhất của ACE (AI Compute Extensions - Tập lệnh...

Sony trình làng Lytia 910: Cảm biến LOFIC đầu tiên sở hữu dải nhạy sáng 100dB

Sony vừa chính thức công bố Lytia 910, dòng cảm biến hình ảnh LOFIC...

OnePlus ra mắt Pad 3 Pro trang bị Snapdragon 8 Elite Gen 5

OnePlus Pad 3 Pro chính thức ra mắt tại Trung Quốc, tích hợp màn...

AMD và Qualcomm ra mắt vi xử lý mới cho máy chủ và thiết bị thực tế ảo

AMD công bố vi xử lý EPYC tối ưu máy chủ AI, cùng lúc...

tin liên quan

AMD và Intel “vũ trang” ACE cho CPU AI x86 sắp ra mắt

Báo cáo kỹ thuật mới nhất của ACE (AI...

AMD bổ nhiệm ông Vinay Awasthi làm Phó Chủ tịch Cấp cao

AMD, tập đoàn dẫn đầu trong lĩnh vực điện...

AMD kéo dài vòng đời nền tảng AM5 đến năm 2029

AMD xác nhận kéo dài vòng đời nền tảng...

AMD ra mắt card đồ họa Radeon RX 9070 GRE cạnh tranh với RTX 5060 Ti

AMD chính thức giới thiệu mẫu card đồ họa...