FreeLLMAPI
FreeLLMAPI 是一款 macOS 桌面应用，可运行一个本地的、兼容 OpenAI 的 API 路由器，让你通过单一端点访问多个 LLM 提供商。
什么是 FreeLLMAPI？
FreeLLMAPI 是一款适用于 macOS 的原生桌面应用，让你能够直接在 Mac 上运行一个本地的、兼容 OpenAI 的 API 端点和仪表板。它面向开发者和高级用户，适合希望通过单一界面将一个客户端或工作流连接到多个 AI 提供商的人使用。该应用可以在受支持的提供商之间路由请求，在某个提供商不可用或受到速率限制时切换到另一个提供商，并帮助你通过本地仪表板管理 API 密钥和使用情况。它还支持自定义的、兼容 OpenAI 的端点，因此对于测试本地或远程模型后端以及托管服务也很有用。桌面版会将其工作数据存储在你的 Mac 上，并提供菜单栏体验，方便快速访问状态、日志和仪表板。FreeLLMAPI 由 Tashfeen Ahmed 发布。
主要功能
- 在你的 Mac 上运行本地的、兼容 OpenAI 的 API 端点
- 在多个受支持的 LLM 提供商之间路由请求
- 在达到请求限制或发生故障时故障切换到另一个提供商
- 通过内置的本地仪表板管理 API 密钥和使用情况
- 使用自定义的、兼容 OpenAI 的聊天、嵌入、图像和音频端点
- 从菜单栏访问快速状态控制
- 查看本地日志以进行故障排查和诊断
使用 diCleaner 检查应用残留
清理前检查缓存、支持文件、容器和登录项。
安全概览
状态： 大多安全
FreeLLMAPI 是面向开发者的软件，会处理 API 密钥并路由 AI 请求，因此在正常使用过程中，它可能会处理提示词、响应以及提供商凭证。为了实现其用途，这种访问是符合预期的，但在处理敏感数据时你仍应谨慎使用，并留意你连接了哪些上游提供商。移除该应用不会自动删除其本地数据文件夹，因此已保存的设置、日志和数据库文件可能会保留，直到你单独删除它们。
建议： 如果你仍在积极使用 FreeLLMAPI 通过一个本地端点或仪表板统一多个 AI 提供商，请保留它。如果你不再使用这些工作流，可以移除该应用；如果你想释放磁盘空间并清除已存储的设置，之后也可以一并清理其残留的支持文件。
常见路径
/Applications/FreeLLMAPI.app
支持路径
~/Library/Application Support/FreeLLMAPI~/Library/Application Support/FreeLLMAPI/logs
分享您的经验
成为第一个分享经验的人。