FreeLLMAPI
FreeLLMAPI, tek bir uç noktadan birden fazla LLM sağlayıcısına erişmek için yerel, OpenAI uyumlu bir API yönlendiricisi çalıştıran bir macOS masaüstü uygulamasıdır.
FreeLLMAPI nedir?
FreeLLMAPI, Mac’inizden yerel, OpenAI uyumlu bir API uç noktası ve kontrol paneli çalıştırmanıza olanak tanıyan macOS için yerel bir masaüstü uygulamasıdır. Tek bir istemciyi veya iş akışını tek bir arayüz üzerinden birden fazla yapay zekâ sağlayıcısına bağlamak isteyen geliştiriciler ve ileri düzey kullanıcılar için tasarlanmıştır. Uygulama, istekleri desteklenen sağlayıcılar arasında yönlendirebilir, bir sağlayıcı kullanılamadığında veya hız sınırına takıldığında başka bir sağlayıcıya geçebilir ve API anahtarlarını ile kullanımı yerel bir kontrol panelinden yönetmenize yardımcı olabilir. Ayrıca özel OpenAI uyumlu uç noktaları da destekler; bu da onu, barındırılan hizmetlerin yanında yerel veya uzak model arka uçlarını test etmek için kullanışlı hâle getirebilir. Masaüstü sürümü çalışma verilerini Mac’inizde depolar ve durum, günlükler ve kontrol paneline hızlı erişim için bir menü çubuğu deneyimi içerir. FreeLLMAPI, Tashfeen Ahmed tarafından yayımlanmaktadır.
Temel özellikler
- Mac’inizde yerel, OpenAI uyumlu bir API uç noktası çalıştırın
- İstekleri birden fazla desteklenen LLM sağlayıcısı arasında yönlendirin
- Bir istek sınırına ulaşıldığında veya kesinti yaşandığında başka bir sağlayıcıya otomatik geçiş yapın
- Yerleşik yerel kontrol panelinden API anahtarlarını ve kullanımı yönetin
- Özel OpenAI uyumlu sohbet, embedding, görsel ve ses uç noktalarını kullanın
- Menü çubuğundan hızlı durum denetimlerine erişin
- Sorun giderme ve tanılama için yerel günlükleri inceleyin
Uygulama kalıntılarını diCleaner ile inceleyin
Temizlemeden önce önbellekleri, destek dosyalarını, kapsayıcıları ve giriş öğelerini kontrol edin.
Güvenlik genel bakışı
Durum: Çoğunlukla güvenli
FreeLLMAPI, API anahtarlarını işleyen ve yapay zekâ isteklerini yönlendiren, geliştiricilere yönelik bir yazılımdır; bu nedenle normal kullanım kapsamında istemleri, yanıtları ve sağlayıcı kimlik bilgilerini işleyebilir. Bu erişim amacı gereği beklenir, ancak yine de hassas verilerle dikkatli kullanmalı ve hangi üst sağlayıcılara bağlandığınızı takip etmelisiniz. Uygulamayı kaldırmak, yerel veri klasörünü otomatik olarak kaldırmaz; bu nedenle kaydedilmiş ayarlar, günlükler ve veritabanı dosyaları siz bunları ayrıca silene kadar kalabilir.
Öneri: Birden fazla yapay zekâ sağlayıcısını tek bir yerel uç nokta veya kontrol paneli arkasında birleştirmek için FreeLLMAPI’yi aktif olarak kullanıyorsanız uygulamayı koruyun. Bu iş akışlarını artık kullanmıyorsanız uygulamayı kaldırabilirsiniz; ayrıca disk alanı açmak ve depolanan ayarları kaldırmak isterseniz sonrasında geride kalan destek dosyalarını da temizleyebilirsiniz.
Yaygın yollar
/Applications/FreeLLMAPI.app
Destek yolları
~/Library/Application Support/FreeLLMAPI~/Library/Application Support/FreeLLMAPI/logs
Deneyimini paylaş
Deneyimini paylaşan ilk sen ol.