Ollama

Ollama là ứng dụng macOS để chạy và quản lý các mô hình AI cục bộ, đi kèm CLI tích hợp và các tính năng máy tính để bàn cho quy trình làm việc trên thiết bị.

Infra Technologies, Inc com.electron.ollama

Ollama là gì?

Ollama là một ứng dụng macOS của Infra Technologies, Inc. để chạy các mô hình ngôn ngữ lớn cục bộ trên máy Mac. Ứng dụng macOS cài đặt một ứng dụng máy tính để bàn và bao gồm công cụ dòng lệnh `ollama`, công cụ mà ứng dụng có thể liên kết vào `/usr/local/bin` để có sẵn trong Terminal. Ollama được dùng để tải xuống các mô hình, phục vụ chúng cục bộ và hỗ trợ các quy trình làm việc dựa trên trò chuyện hoặc API trên cùng thiết bị. Ứng dụng Mac cũng hỗ trợ các tính năng hướng đến máy tính để bàn như đăng nhập thông qua phần cài đặt của ứng dụng, và Ollama có tài liệu về hành vi dành riêng cho ứng dụng đối với việc lưu trữ mô hình và tích hợp PATH. Người dùng thường gặp ứng dụng này khi thiết lập phát triển AI cục bộ, thử nghiệm các mô hình mở mà không phụ thuộc vào đám mây, hoặc cung cấp một endpoint mô hình cục bộ cho các công cụ khác. Vì các tệp mô hình có thể rất lớn, các cài đặt Ollama thường tiêu tốn đáng kể dung lượng ổ đĩa ngoài chính gói ứng dụng.

Tính năng chính

Chạy các mô hình ngôn ngữ lớn cục bộ trên macOS
Bao gồm CLI `ollama` để sử dụng trong Terminal
Có thể tạo liên kết PATH cho CLI trong `/usr/local/bin`
Tải xuống và lưu trữ các tệp mô hình để sử dụng cục bộ
Cung cấp API/dịch vụ cục bộ cho các tương tác với mô hình
Hỗ trợ đăng nhập ứng dụng máy tính để bàn thông qua phần cài đặt trong ứng dụng
Hoạt động với các quy trình làm việc trò chuyện và tự động hóa dựa trên mô hình

Kiểm tra dữ liệu ứng dụng còn sót lại bằng diCleaner

Kiểm tra bộ nhớ đệm, tệp hỗ trợ, vùng chứa và mục đăng nhập trước khi dọn dẹp.

Tải diCleaner

Tổng quan về an toàn

Trạng thái: Phần lớn an toàn

Ollama là phần mềm AI cục bộ hợp pháp, nhưng nó tải xuống các tệp mô hình lớn, cung cấp chức năng phục vụ mô hình cục bộ và có thể yêu cầu quyền để đặt CLI `ollama` vào `/usr/local/bin`. Hãy xem xét mức sử dụng dung lượng đĩa và mức độ phơi bày trên mạng nếu bạn dùng nó như một dịch vụ cục bộ.

Khuyến nghị: Giữ lại nếu bạn chủ đích sử dụng các mô hình AI cục bộ hoặc lệnh `ollama`. Gỡ bỏ nếu bạn không còn dùng Ollama và muốn thu hồi dung lượng lưu trữ của ứng dụng và mô hình.

Đường dẫn phổ biến

/Applications/Ollama.app
/usr/local/bin/ollama

Chia sẻ trải nghiệm

Hãy là người đầu tiên chia sẻ trải nghiệm.