Özel sağlayıcılar, PandaNpc'nin kontrol ettiğiniz bir API hesabı, özel ağ geçidi veya yerel model uç noktası kullanmasını sağlar. Buna yaygın olarak BYOK (bring your own key - kendi anahtarını getir) denir. Yerleşik katalog dışında bir modele, sağlayıcı tarafında faturalandırmaya, dahili bir proxy'ye, Ollama, LM Studio veya kendi kendine barındırılan OpenAI uyumlu bir hizmete ihtiyaç duyduğunuzda kullanışlıdır.
Desteklenen doğrudan sohbette PandaNpc, yerleşik bir modeli kullanmak yerine isteği yapılandırdığınız uç noktaya gönderir. Üst sağlayıcınız fiyatlandırmayı, veri saklamayı, hız sınırlarını, model kullanılabilirliğini ve kabul edilebilir kullanımı kontrol etmeye devam eder.
Ön koşullar ve güvenlik sınırları
Bir sağlayıcı eklemeden önce şunları toplayın:
- Sağlayıcının API Key'i veya yerel kimlik doğrulama token'ı.
- Normalde OpenAI uyumlu bir hizmet için
/v1ile biten API Base URL'si. - API tarafından kabul edilen tam model tanımlayıcısı.
- Varsayılanları geçersiz kılmayı planlıyorsanız belgelenen bağlam penceresi ve maksimum çıktı sınırı.
Minimum gerekli izinlere sahip özel bir anahtar kullanın ve sağlayıcı destekliyorsa bir harcama limiti belirleyin. Anahtarı asla belgelere, sohbet istemlerine, ekran görüntülerine, tarayıcı konsol çıktısına veya bir Git deposuna koymayın.
Bir web tarayıcısında doğrudan istekler CORS'a tabidir. Sağlayıcı, https://pandanpc.com adresinden gelen isteklere izin vermelidir. http://localhost:11434/v1 gibi bir Base URL, tarayıcıyı çalıştıran bilgisayarı ifade eder; uzak PandaPaw makinesini otomatik olarak değil. Masaüstü uygulaması, tarayıcı CORS'u ile aynı şekilde sınırlandırılmadığı için yerel uç noktalar için daha uygun olabilir.
1. Adım: Model Yapılandırmasını Açın
PandaNpc'de oturum açın ve Model Yapılandırmasını açın. Sağlayıcılar ve modeller ayrı kayıtlardır: sağlayıcı bağlantı ve kimlik doğrulama ayrıntılarını saklarken, her model o bağlantıya gönderilen tanımlayıcıyı ve sınırları saklar.
Resmi bir sağlayıcı zaten görünüyorsa, farklı bir protokol icat etmek yerine onu yapılandırın veya kopyalayın. Yeni bir OpenAI uyumlu ağ geçidi için Sağlayıcı Ekle'yi seçin.
2. Adım: Sağlayıcıyı Ekleyin
Sağlayıcı formunu doldurun:
| Alan | Ne girilmeli | Örnek veya rehber |
|---|---|---|
| Görünen Ad | Size görünen bir etiket | Company AI Gateway |
| Sağlayıcı Kimliği | Sabit bir dahili tanımlayıcı | company-openai |
| API Key | Bearer token olarak kullanılan gizli anahtar | Sağlayıcı tarafından verilen değer |
| Base URL | /chat/completions olmadan API kökü |
https://gateway.example.com/v1 |
| Protokol | Üst API biçimi | OpenAI uyumlu Chat Completions için openai seçin |
| Gizli Anahtar | İsteğe bağlı ikinci gizli anahtar | Sağlayıcı gerektirmedikçe boş bırakın |
| Organizasyon | İsteğe bağlı organizasyon tanımlayıcısı | Yalnızca sağlayıcı gerektirdiğinde |
| Proje | İsteğe bağlı proje tanımlayıcısı | Yalnızca sağlayıcı gerektirdiğinde |
| İçerik Dizisini Destekle | İleti içeriğinin yapılandırılmış diziler kullanıp kullanamayacağı | Modern çok modlu ileti içeriğini kabul eden sağlayıcılar için etkin bırakın |
PandaNpc, Base URL'nin sonundaki eğik çizgileri kaldırır ve doğrudan OpenAI uyumlu sohbet isteği için /chat/completions ekler. Bu nedenle şunu girin:
https://api.example.com/v1şunu değil:
https://api.example.com/v1/chat/completionsModel eklemeden önce sağlayıcıyı kaydedin. Mevcut bir sağlayıcıyı düzenlerken boş bir API Key veya Gizli Anahtar alanı "yapılandırılan değeri koru" anlamına gelir; saklanan gizli anahtarı forma geri göstermez.
3. Adım: Model Ekleyin
Sağlayıcının altında Model Ekle'yi seçin ve şu alanları doldurun:
| Alan | Anlamı | Örnek |
|---|---|---|
| Görünen Ad | İnsan tarafından okunabilir seçici etiketi | My Coding Model |
| Model Değeri | Üst model kimliğinin birebir aynısı | model-name-from-provider |
| Model Türü | PandaNpc yetenek/kategori eşlemesi | Formdan güncel bir değer seçin |
| Sağlayıcı | Yukarıda oluşturulan sağlayıcı kaydı | Company AI Gateway |
| Bağlam Penceresi | Desteklenen toplam token sayısı | Sağlayıcının belgelenmiş tam sayı sınırını kullanın |
| Maks. Token | Oluşturulabilecek maksimum çıktı token sayısı | Sağlayıcı sınırından büyük olmayan pozitif bir değer kullanın |
Görünen Ad alanı, API çağrısını etkilemeden değiştirilebilir. Model Değeri bir pazarlama adından tahmin edilemez; sağlayıcının API belgelerinden veya model listesi uç noktasından kopyalayın.
Emin olmadığınızda Bağlam Penceresi ve Maks. Token alanlarını boş bırakın. Sunucunun desteklediğinden daha büyük bir bağlam penceresi bildirmek yerine temkinli bir varsayılan kullanmak daha güvenlidir. Bu alanlar özellikle PandaCode için önemlidir çünkü sıkıştırmayı ve çıktı bütçelemesini etkilerler.
Yaygın uç nokta örnekleri
Aşağıdaki desenler URL biçimini gösterir; kullanılabilirlik ve model kimlikleri kurulumunuza veya sağlayıcı hesabınıza bağlıdır:
| Hizmet türü | Tipik Base URL | Notlar |
|---|---|---|
| OpenAI uyumlu bulut API'si | https://provider.example.com/v1 |
Akışlı Chat Completions ve Bearer kimlik doğrulamayı desteklemelidir |
| Görüntüleyen bilgisayarda Ollama | http://localhost:11434/v1 |
Ollama'nın OpenAI uyumlu uç noktasını başlatın; tarayıcı kullanımı CORS yapılandırması gerektirebilir |
| Görüntüleyen bilgisayarda LM Studio | http://localhost:1234/v1 |
Yerel sunucuyu başlatın ve yüklenmiş bir model kimliği seçin |
| Özel ağ geçidi | https://ai.internal.example/v1 |
PandaNpc istemcisi ana bilgisayarı çözümleyebilmeli ve ona erişebilmelidir |
"OpenAI uyumlu" olduğunu belirten her hizmetin akış, araç çağrıları, görüntüler, akıl yürütme alanları veya birebir aynı hata yanıtlarını uyguladığını varsaymayın. İş akışınızın ihtiyaç duyduğu özellikleri test edin.
Sağlayıcıyı ve modeli doğrulayın
Yapılandırmaya güvenmeden önce düşük maliyetli, hassas olmayan bir istem kullanın:
- Yeni bir sohbette yeni modeli seçin.
Reply with exactly: provider connectedmesajını gönderin.- Yanıtın akışlandığını ve sağlayıcı panelinin isteği kaydettiğini doğrulayın.
- Sohbet geçmişini doğrulamak için kısa bir takip mesajı gönderin.
- Araçlara, görüntülere veya uzun bağlama ihtiyacınız varsa her yeteneği ayrı ayrı test edin.
Yerel bir uç nokta için önce onu PandaNpc dışında doğrulayın. OpenAI uyumlu bir model listesi genellikle şu komutla alınabilir:
curl http://localhost:11434/v1/modelsYanıtı yalnızca erişilebilirliği ve model kimliğini doğrulamak için kullanın. Üretim API Key'ini doğrudan kabuk geçmişine koymayın.
PandaCode ile özel modeller kullanın
PandaCode, DeepSeek, Qwen, OpenAI uyumlu bir ağ geçidi veya dahili bir hizmet dahil olmak üzere seçtiğiniz bir model arka ucunu kullanarak Claude Code tarzı bir kodlama iş akışı sağlayabilir. Sağlayıcıyı ve modeli yapılandırdıktan sonra ilgili PandaCode bağlantısı veya görevi için bu modeli seçin.
Model, kodlama motorunun gerektirdiği etkileşim desenini desteklemelidir. Düz sohbette çalışan bir sağlayıcı, araç çağrılarında, uzun süreli akışlarda veya yapılandırılmış içerikte yine de başarısız olabilir. Sohbet modelleri ile yerel kodlama motorları arasındaki fark için PandaNpc tarafından desteklenen AI modelleri ve uzak motor kurulumu için PandaPaw kurulumu ve komutları bölümüne bakın.
Sorun giderme
`401` veya `403` kimlik doğrulama hatası
Yeni bir sağlayıcı anahtarı oluşturun, etkin olduğunu doğrulayın ve yeniden girin. Üst hizmetin bir organizasyon, proje veya farklı bir kimlik doğrulama yöntemi gerektirip gerektirmediğini kontrol edin. Düzenleme ekranından kopyalanan maskeli bir anahtar, orijinal gizli anahtar değildir.
`404` uç nokta veya model bulunamadı
PandaNpc kendisi eklediği için /chat/completions ifadesini yapılandırılan Base URL'den çıkarın. Gerektiğinde /v1 kısmının mevcut olduğunu ve Model Değeri'nin üst model kimliğiyle birebir eşleştiğini doğrulayın. Bir sağlayıcı hem yanlış bir URL hem de kullanılamayan bir model için aynı 404 hatasını döndürebilir.
Tarayıcı ağ veya CORS hatası bildiriyor
Tarayıcı geliştirici konsolunu yalnızca engellenen kaynağı belirlemek için açın; oraya gizli anahtarları yapıştırmayın. Sağlayıcıyı https://pandanpc.com adresine izin verecek şekilde yapılandırın, HTTPS uç noktasını kullanın veya PandaNpc masaüstü uygulamasını kullanın. Karışık içerik kuralları, bir HTTPS sayfasının bazı düz HTTP uç noktalarını çağırmasını engeller.
Yerel Ollama veya LM Studio'ya erişilemiyor
Sunucunun, isteği yapan istemciyle aynı bilgisayarda çalıştığından ve yapılandırılan arayüz ve port üzerinde dinlediğinden emin olun. Model sunucusu başka bir bilgisayarda çalışıyorsa localhost yanlıştır; erişilebilir bir özel ana bilgisayar adı veya IP kullanın ve hizmeti açığa çıkarmadan önce güvenliğini sağlayın.
Yanıt başlıyor ancak duruyor veya içerik yok
API'nin akışlı Chat Completions desteğini ve standart data: olayları yaydığını doğrulayın. Maks. Token değerini azaltın, yalnızca metin içeren bir mesaj test edin ve yapılandırılmış içerik dizilerini, sağlayıcının yalnızca dize içeriği kabul ettiğini belgelemesi durumunda devre dışı bırakın.
Uzun oturumlar bağlam sınırına yakınken başarısız oluyor
Yapılandırılan Bağlam Penceresi değerini sağlayıcının gerçek desteklenen sınırına düşürün ve çıktı, sistem talimatları ve araç sonuçları için yer ayırın. Model yapılandırmasını değiştirdikten sonra yeni bir oturum başlatın; böylece yeni sınırlar tutarlı bir şekilde uygulanır.
Hesap düzeyindeki kota ve veri akışı ayrıntıları için PandaNpc hesapları, planları ve API maliyetleri ile Gizlilik Politikası bölümlerini okuyun.