NVIDIA tiết lộ ChatRTX được hỗ trợ bởi LLM, giúp tìm kiếm hình ảnh và nhận dạng giọng nói

NVIDIA vừa tiết lộ chatbot AI ChatRTX độc quyền, đây là một sản phẩm giúp đưa trải nghiệm AI PC lên một tầm cao mới, với những cải tiến toàn diện.

ChatRTX của NVIDIA đã có những bước tiến vượt bậc kể từ khi nó ra mắt lần đầu dưới cái tên “Chat With RTX”. Yếu tố khiến ChatRTX khác biệt giữa các công cụ như ChatGPT của OpenAI là sự tập trung vào trải nghiệm cá nhân hóa hơn, vì nó được thiết kế để chạy trên hệ thống cục bộ, điều đó có nghĩa là bạn sẽ luôn có sẵn một chatbot GPT cho PC của bạn mà không cần phải truy cập trực tuyến.

• ChatRTX được bổ sung vào danh sách LLM, bao gồm Gemma, LLM mới nhất của Google và ChatGLM3, LLM mở, song ngữ (tiếng Anh và tiếng Trung), mang đến trải nghiệm linh hoạt hơn.
• Hỗ trợ tìm kiếm ảnh mới cho phép người dùng ChatRTX dễ dàng tìm kiếm và tương tác cục bộ với dữ liệu ảnh của họ mà không cần complex metadata labeling, nhờ vào Contrastive Language-Image Pre-training (CLIP) của OpenAI.
• Người dùng ChatRTX giờ đây có thể nói chuyện bằng dữ liệu của họ, với sự hỗ trợ bổ sung cho Whisper, một hệ thống nhận dạng giọng nói tự động AI hiện cho phép ChatRTX hiểu lệnh bằng lời nó.

Quyền riêng tư là một phần đáng lưu ý của ChatRTX, vì bạn thậm chí có thể cho phép nó truy cập các tệp cục bộ. Do môi trường edge AI, nó được cho là nhanh hơn nhiều so với các công cụ hiện có.

Đi sâu vào chi tiết cụ thể, ChatRTX cho phép bạn kết nối với nhiều mô hình ngôn ngữ lớn hiện có, như Mistral và Llama 2. Chatbot AI tận dụng khả năng đồ họa của PC thông qua phần mềm TensorRT-LLM & Retrieval Augmented Created (RAG) của NVIDIA để mang lại hiệu suất tăng tốc thông qua phần cứng RTX tích hợp. Khi bạn so sánh nó với các công cụ AI dựa trên đám mây, ChatRTX sẽ chiếm ưu thế về tốc độ xử lý.

Nguồn: wccftech