FreeLLMAPI
FreeLLMAPI 是一款 macOS 桌面應用程式，可執行與 OpenAI 相容的本機 API 路由器，讓你透過單一端點存取多個 LLM 供應商。
什麼是 FreeLLMAPI？
FreeLLMAPI 是一款適用於 macOS 的原生桌面應用程式，讓你可直接在 Mac 上執行與 OpenAI 相容的本機 API 端點與儀表板。它是為開發者與進階使用者所設計，適合想透過單一介面，將單一用戶端或工作流程連接到多個 AI 供應商的人。此應用程式可在受支援的供應商之間路由請求，當其中一個供應商無法使用或受到速率限制時切換到另一個供應商，並協助你透過本機儀表板管理 API 金鑰與使用情況。它也支援自訂的 OpenAI 相容端點，因此除了託管服務外，也適合用來測試本機或遠端模型後端。桌面版本會將其工作資料儲存在你的 Mac 上，並提供選單列體驗，方便快速存取狀態、記錄與儀表板。FreeLLMAPI 由 Tashfeen Ahmed 發布。
主要功能
- 在你的 Mac 上執行與 OpenAI 相容的本機 API 端點
- 在多個受支援的 LLM 供應商之間路由請求
- 當遇到請求限制或服務中斷時，自動切換到另一個供應商
- 透過內建的本機儀表板管理 API 金鑰與使用情況
- 使用自訂的 OpenAI 相容聊天、嵌入、影像與音訊端點
- 從選單列快速存取狀態控制
- 檢視本機記錄以進行疑難排解與診斷
使用 diCleaner 檢查應用程式殘留
清理前檢查快取、支援檔案、容器和登入項目。
安全概述
狀態： 大多安全
FreeLLMAPI 是面向開發者的軟體，會處理 API 金鑰並路由 AI 請求，因此在正常使用過程中可能會處理提示、回應與供應商憑證。這類存取對其用途而言屬於預期行為，但你仍應在處理敏感資料時謹慎使用，並留意你所連接的上游供應商。移除此應用程式不會自動刪除其本機資料夾，因此已儲存的設定、記錄與資料庫檔案可能仍會保留，直到你另外將其刪除。
建議： 如果你目前仍會使用 FreeLLMAPI，透過單一本機端點或儀表板整合多個 AI 供應商，則建議保留它。若你已不再使用這些工作流程，可以移除此應用程式；如果你想釋放磁碟空間並移除已儲存的設定，也可以之後清除其剩餘的支援檔案。
常見路徑
/Applications/FreeLLMAPI.app
支援路徑
~/Library/Application Support/FreeLLMAPI~/Library/Application Support/FreeLLMAPI/logs
分享您的經驗
成為第一個分享經驗的人。