Bạn có thể chạy hàng chục Bot trò chuyện AI khác nhau trên PC của mình với ứng dụng này

Bạn đã bao giờ muốn chạy một chatbot AI trên Windows mà không cần cung cấp dữ liệu của mình cho Google hoặc Microsoft chưa? LM Studio biến điều đó thành hiện thực. Đây là cách thực hiện.

A robot coming out of a laptop screen with some speech balloons around it.

  • LM Studio là công cụ AI tập trung vào quyền riêng tư dành cho Windows, giúp bảo mật dữ liệu của bạn trên PC cục bộ.
  • LM Studio cung cấp nhiều mô hình AI khác nhau, như Llama 3, Gemma và Mistral cho các nhu cầu khác nhau.
  • Bạn có thể sử dụng LM Studio để viết kịch bản, lập trình, giải quyết vấn đề một cách sáng tạo và hỗ trợ cá nhân.

Không giống như các giải pháp dựa trên đám mây thông thường, LM Studio ưu tiên quyền riêng tư, bảo mật và khả năng truy cập liên tục vào dữ liệu của bạn. Bạn đã sẵn sàng nâng cao trải nghiệm Windows mà không cần dựa vào đám mây chưa? Đây là cách bắt đầu với LM Studio.

LM Studio là sân chơi AI mới của bạn

Bạn có thể đã quen thuộc với các công cụ AI phổ biến như ChatGPT của OpenAI, Gemini của Google hoặc Copilot của Microsoft. LM Studio là một công cụ mạnh mẽ khác, chạy ngay trên PC Windows của bạn mà không cần máy chủ từ xa. Điều tuyệt vời nhất là tải xuống và cài đặt miễn phí.

Với LM Studio, bạn có thể truy cập các mô hình ngôn ngữ lớn (LLM)—đây giống như những thư viện thông tin khổng lồ có thể giúp bạn về mọi thứ, từ cách sửa lốp xe bị xẹp cho đến viết mã máy tính. Và vì nó hoạt động trên máy tính của bạn nên dữ liệu của bạn luôn ở chế độ riêng tư và không được sử dụng cho các mục đích khác.

Để bắt đầu sử dụng chatbot AI cục bộ trên Windows, máy tính của bạn phải đáp ứng một số thông số kỹ thuật nhất định. Một card đồ họa tốt rất quan trọng; ví dụ: tôi sử dụng RTX 4060 với bộ nhớ video 8GB. Bạn cũng sẽ cần ít nhất 8 GB RAM để chạy hầu hết các kiểu máy, mặc dù tôi khuyên dùng 32 GB để có hiệu suất tốt nhất.

Nếu việc nâng cấp card đồ họa nằm ngoài ngân sách của bạn, đừng lo lắng—bạn cũng có thể chạy LM Studio bằng bộ xử lý (CPU) của máy tính. Nó sẽ không nhanh bằng việc sử dụng card đồ họa chuyên dụng, nhưng đó là một sự thay thế tuyệt vời.

Bây giờ bạn đã biết LM Studio là gì và bạn cần gì để chạy nó, hãy khám phá cách bạn có thể bắt đầu sử dụng nó trên PC chạy Windows của mình.

Cài đặt nhanh, Bắt đầu nhanh

Để sử dụng LM Studio trên Windows để chạy các chatbot AI cục bộ khác nhau, bạn cần tải xuống chương trình. Truy cập LMStudio.ai và chọn “Tải xuống LM Studio cho Windows”.

Sau khi bạn tải trình cài đặt LM Studio xuống Windows, hãy khởi chạy Explorer, chọn thư mục “Tải xuống” và nhấp đúp vào EXE để khởi chạy trình cài đặt nhằm thiết lập LM Studio trên máy tính của bạn.

Sau đó, bạn sẽ cần thực hiện quá trình cài đặt trên PC Windows của mình, quá trình này sẽ không mất nhiều thời gian. Sau khi thiết lập xong, hãy khởi chạy LM Studio. Sau đó, khi ứng dụng LM Studio mở, hãy tìm hộp tìm kiếm ở trên cùng.

The LM Studio home page.

Bạn có thể sử dụng hộp tìm kiếm này để duyệt qua nhiều mô hình khác nhau, như Llama 3 của Facebook, mô hình của Mistral AI, Google Gemma, Phi 2, v.v.

Chọn mô hình AI của bạn

LM Studio cung cấp rất nhiều mô hình AI để bạn khám phá. Để tìm và tải xuống LLM, hãy nhập tên vào thanh tìm kiếm ở trên cùng, sau đó nhấp vào nút tải xuống tương ứng ở phía bên phải. Lưu ý có bao nhiêu biến thể có sẵn cho riêng Llama 3.

Searching for llama 3 on LM Studio.

Nếu bạn không chắc chắn, hãy chọn kết quả phổ biến nhất. LM Studio lọc theo khả năng tương thích, vì vậy nó sẽ hoạt động trên hệ thống của bạn. Để biết thêm thông tin, hãy nhấp vào “Sự khác biệt giữa tất cả các tệp này là gì? Tôi nên tải xuống tệp nào?” cái nút. Nó giải thích từng mô hình và giúp bạn quyết định.

The search results for Qwen

Ví dụ: Llama 3 hỗ trợ tính năng “Messenger AI” trên Facebook và phù hợp với trí thông minh của các công cụ như ChatGPT và Google Gemini.

LM Studio giving me advice.

Google Gemma là một lựa chọn tuyệt vời khác. Bộ sưu tập mô hình thông minh này hỗ trợ công cụ Gemini của Google, đáp ứng nhiều nhu cầu khác nhau. CodeGemma có thể giúp bạn viết code máy tính, trong khi RecurrentGemma là mô hình chat nhanh, linh hoạt. Chỉ cần tìm kiếm “Gemma” trên LM Studio và tải xuống ứng dụng phù hợp với nhu cầu của bạn.

LM Studio writing a poem.

Ngoài ra, đừng bỏ qua Mistral. Nó nhanh chóng, miễn phí và có khả năng thích ứng. Cho dù bạn cần xử lý số lượng lớn văn bản bằng Mistral 7B hay xử lý các tác vụ phức tạp hơn với Mistral Large, chỉ cần tìm kiếm “Mistral” trong LM Studio là bạn đã sẵn sàng.

Còn rất nhiều điều nữa để khám phá! Đi sâu vào phần “Trang chủ” của LM Studio, chọn thứ gì đó bắt mắt và nhấn “Tải xuống”.

the LM Studio models search page.

Khi bạn đã chọn xong mô hình của mình, đã đến lúc bắt đầu trò chuyện. Nhấp vào nút Trò chuyện AI trên thanh bên trái để mở cửa sổ trò chuyện của LM Studio.

Selecting the AI Chat button in LM Studio.

Trong cửa sổ trò chuyện, hãy nhấn nút lớn màu tím có nội dung “Chọn mô hình” và chọn mô hình bạn muốn tương tác—như Llama 3, Gemma hoặc Mistral — và bắt đầu cuộc trò chuyện của bạn.

Choosing the LM Studio model.

Khi bạn nhập tin nhắn, LM Studio sẽ xử lý văn bản của bạn bằng tài nguyên trên máy tính của bạn. Hãy nhớ rằng, tốc độ phản hồi phụ thuộc vào khả năng của máy tính của bạn. Nếu bạn đang làm việc với RAM hạn chế hoặc cạc đồ họa cũ hơn thì phản hồi có thể mất nhiều thời gian hơn.

Quyền riêng tư là trên hết, luôn luôn
Cốt lõi của LM Studio là cam kết kiên định về quyền riêng tư. Mọi thứ bạn giao tiếp với chatbot AI vẫn được lưu trữ an toàn trên máy tính cục bộ của bạn—không được phép truy cập từ bên ngoài. Dữ liệu trò chuyện của bạn không bao giờ được sử dụng để đào tạo, bán hoặc khai thác dưới bất kỳ hình thức nào.

Hơn nữa, bạn có toàn quyền kiểm soát dữ liệu của mình. Bạn có thể dễ dàng xuất các cuộc hội thoại của mình từ LM Studio ở nhiều định dạng khác nhau như JSON hoặc dưới dạng ảnh chụp màn hình, đảm bảo rằng bạn quản lý dữ liệu của mình theo cách bạn thấy phù hợp.

Nếu bạn lo ngại về tác động của quyền riêng tư của các công nghệ như Co-Pilot, ChatGPT và Gemini, thì LM Studio sẽ cung cấp một giải pháp thay thế an toàn giúp bạn giữ kín các tương tác của mình.

Cách tôi sử dụng LM Studio

Tôi sử dụng LM Studio cho nhiều mục đích và một trong những mục đích hữu ích nhất là tự động hóa quá trình thiết lập hàng ngày của tôi trên Windows 11. Tôi đã phát triển tập lệnh PowerShell với LM Studio để khởi chạy các ứng dụng ưa thích của mình—Firefox, Windows Terminal, Ghostwriter (cách viết yêu thích của tôi tool), Spotify và những công cụ khác khi tôi muốn đi làm. Tính năng tự động hóa này giúp loại bỏ rắc rối khi mở từng chương trình riêng lẻ và giúp tôi bắt tay ngay vào nhiệm vụ của mình.

LM Studio writing a script.

Ngoài việc viết kịch bản, tôi nhận thấy LM Studio đặc biệt hữu ích trong việc cải thiện kỹ năng lập trình của mình, đây là một công việc đang được tiến hành. Tôi chủ yếu sử dụng mô hình hướng dẫn mã để nâng cao hiểu biết của mình về Go và Python. LM Studio hỗ trợ nhiều ngôn ngữ lập trình, khiến nó trở thành tài nguyên miễn phí, vô giá để học và hoàn thiện các kỹ năng viết mã.

Tuy nhiên, khả năng của LM Studio còn mở rộng ra ngoài khả năng viết kịch bản và lập trình. Nó rất tuyệt vời để giải quyết các câu hỏi phức tạp, khiến nó trở thành một công cụ tuyệt vời cho các thử nghiệm tư duy. Tôi cũng sử dụng nó để đưa ra các giải pháp sáng tạo và thậm chí là quyết định nên nấu món gì cho bữa tối.

Dù để hợp lý hóa các công việc hàng ngày hay động não các ý tưởng đổi mới, LM Studio là một công cụ linh hoạt giúp tối đa hóa lợi ích của công nghệ AI cục bộ cho bất kỳ ai muốn nâng cao trải nghiệm kỹ thuật số của mình.