Benutzerdefinierte Anbieter ermöglichen es PandaNpc, ein API-Konto, ein privates Gateway oder einen lokalen Modell-Endpunkt zu verwenden, den Sie kontrollieren. Dies wird allgemein als BYOK bezeichnet: Bring Your Own Key. Es ist nützlich, wenn Sie ein Modell außerhalb des integrierten Katalogs, anbieterseitige Abrechnung, einen internen Proxy, Ollama, LM Studio oder einen selbst gehosteten OpenAI-kompatiblen Dienst benötigen.
Für unterstützten direkten Chat sendet PandaNpc die Anfrage an Ihren konfigurierten Endpunkt, anstatt ein integriertes Modell zu verwenden. Ihr vorgelagerter Anbieter kontrolliert weiterhin Preise, Aufbewahrung, Ratenlimits, Modellverfügbarkeit und zulässige Nutzung.
Voraussetzungen und Sicherheitsgrenzen
Bevor Sie einen Anbieter hinzufügen, benötigen Sie:
- Den API Key des Anbieters oder ein lokales Authentifizierungstoken.
- Die API-Basis-URL, die für einen OpenAI-kompatiblen Dienst normalerweise auf
/v1endet. - Die genaue Modellkennung, die von der API akzeptiert wird.
- Das dokumentierte Kontextfenster und das maximale Ausgabelimit, falls Sie die Standardwerte überschreiben möchten.
Verwenden Sie einen dedizierten Schlüssel mit den minimal erforderlichen Berechtigungen und, falls der Anbieter dies unterstützt, einem Ausgabenlimit. Platzieren Sie den Schlüssel niemals in Dokumentationen, Chat-Prompts, Screenshots, Browser-Konsolenausgaben oder einem Git-Repository.
In einem Webbrowser unterliegen direkte Anfragen CORS. Der Anbieter muss Anfragen von https://pandanpc.com zulassen. Eine Basis-URL wie http://localhost:11434/v1 bezieht sich auf den Computer, auf dem der Browser läuft, nicht automatisch auf die entfernte PandaPaw-Maschine. Die Desktop-App kann für lokale Endpunkte besser geeignet sein, da sie nicht in gleicher Weise durch Browser-CORS eingeschränkt ist.
Schritt 1: Modellkonfiguration öffnen
Melden Sie sich bei PandaNpc an und öffnen Sie die Modellkonfiguration. Anbieter und Modelle sind separate Datensätze: Der Anbieter speichert Verbindungs- und Authentifizierungsdetails, während jedes Modell die Kennung und Limits speichert, die an diese Verbindung gesendet werden.
Wenn bereits ein offizieller Anbieter angezeigt wird, konfigurieren oder kopieren Sie diesen, anstatt ein anderes Protokoll zu erfinden. Für ein neues OpenAI-kompatibles Gateway wählen Sie Anbieter hinzufügen.
Schritt 2: Anbieter hinzufügen
Füllen Sie das Anbieterformular aus:
| Feld | Was Sie eingeben | Beispiel oder Anleitung |
|---|---|---|
| Anzeigename | Eine für Sie sichtbare Bezeichnung | Company AI Gateway |
| Anbieter-ID | Eine stabile interne Kennung | company-openai |
| API Key | Das Geheimnis, das als Bearer-Token verwendet wird | Vom Anbieter ausgestellter Wert |
| Basis-URL | API-Root ohne /chat/completions |
https://gateway.example.com/v1 |
| Protokoll | Das Upstream-API-Format | Wählen Sie openai für OpenAI-kompatible Chat-Completions |
| Secret | Optionales zweites Geheimnis | Leer lassen, außer der Anbieter verlangt es |
| Organisation | Optionale Organisationskennung | Nur wenn vom Anbieter gefordert |
| Projekt | Optionale Projektkennung | Nur wenn vom Anbieter gefordert |
| Inhalts-Array unterstützen | Ob Nachrichteninhalte strukturierte Arrays verwenden dürfen | Für Anbieter aktiviert lassen, die moderne multimodale Nachrichteninhalte akzeptieren |
PandaNpc entfernt abschließende Schrägstriche aus der Basis-URL und fügt /chat/completions für die direkte OpenAI-kompatible Chat-Anfrage hinzu. Geben Sie daher ein:
https://api.example.com/v1nicht:
https://api.example.com/v1/chat/completionsSpeichern Sie den Anbieter, bevor Sie ein Modell hinzufügen. Wenn Sie einen vorhandenen Anbieter bearbeiten, bedeutet ein leeres Feld für API Key oder Secret „den konfigurierten Wert beibehalten“; es gibt das gespeicherte Geheimnis nicht an das Formular zurück.
Schritt 3: Ein Modell hinzufügen
Wählen Sie unter dem Anbieter Modell hinzufügen und füllen Sie diese Felder aus:
| Feld | Bedeutung | Beispiel |
|---|---|---|
| Anzeigename | Lesbare Auswahlbezeichnung | My Coding Model |
| Modellwert | Genaue Upstream-Modell-ID | model-name-from-provider |
| Modelltyp | PandaNpc-Fähigkeits-/Kategoriezuordnung | Wählen Sie einen aktuellen Wert aus dem Formular |
| Anbieter | Der oben erstellte Anbieterdatensatz | Company AI Gateway |
| Kontextfenster | Gesamtzahl unterstützter Tokens | Verwenden Sie das dokumentierte Ganzzahllimit des Anbieters |
| Max Tokens | Maximale Anzahl generierter Ausgabe-Tokens | Verwenden Sie einen positiven Wert, der nicht größer als das Anbieterlimit ist |
Display Name kann geändert werden, ohne den API-Aufruf zu beeinflussen. Model Value kann nicht aus einem Marketingnamen abgeleitet werden; kopieren Sie ihn aus der API-Dokumentation des Anbieters oder vom Modelllisten-Endpunkt.
Lassen Sie Kontextfenster und Max Tokens leer, wenn Sie unsicher sind. Ein konservativer Standardwert ist sicherer, als ein Kontextfenster zu deklarieren, das größer ist, als der Server unterstützt. Diese Felder sind besonders wichtig für PandaCode, da sie Kompaktierung und Ausgabebudgetierung beeinflussen.
Häufige Endpunkt-Beispiele
Die folgenden Muster veranschaulichen die URL-Form; Verfügbarkeit und Modell-IDs hängen von Ihrer Installation oder Ihrem Anbieterkonto ab:
| Diensttyp | Typische Basis-URL | Hinweise |
|---|---|---|
| OpenAI-kompatible Cloud-API | https://provider.example.com/v1 |
Muss gestreamte Chat-Completions und Bearer-Authentifizierung unterstützen |
| Ollama auf dem Anzeige-Computer | http://localhost:11434/v1 |
Starten Sie den OpenAI-kompatiblen Endpunkt von Ollama; die Browser-Nutzung kann eine CORS-Konfiguration erfordern |
| LM Studio auf dem Anzeige-Computer | http://localhost:1234/v1 |
Starten Sie den lokalen Server und wählen Sie eine geladene Modell-ID |
| Privates Netzwerk-Gateway | https://ai.internal.example/v1 |
Der PandaNpc-Client muss den Host auflösen und erreichen können |
Gehen Sie nicht davon aus, dass jeder Dienst, der „OpenAI-kompatibel“ bewirbt, Streaming, Tool-Aufrufe, Bilder, Reasoning-Felder oder identische Fehlerantworten implementiert. Testen Sie die genauen Funktionen, die Ihr Workflow benötigt.
Anbieter und Modell überprüfen
Verwenden Sie einen kostengünstigen, unkritischen Prompt, bevor Sie sich auf die Konfiguration verlassen:
- Wählen Sie das neue Modell in einer neuen Unterhaltung.
- Senden Sie
Reply with exactly: provider connected. - Bestätigen Sie, dass die Antwort streamt und das Anbieter-Dashboard die Anfrage aufzeichnet.
- Senden Sie eine kurze Folgeantwort, um den Gesprächsverlauf zu überprüfen.
- Wenn Sie Tools, Bilder oder langen Kontext benötigen, testen Sie jede Fähigkeit separat.
Für einen lokalen Endpunkt überprüfen Sie ihn zuerst außerhalb von PandaNpc. Eine OpenAI-kompatible Modellliste ist oft verfügbar mit:
curl http://localhost:11434/v1/modelsVerwenden Sie die Antwort nur, um die Erreichbarkeit und die Modell-ID zu bestätigen. Geben Sie keinen Produktions-API-Key direkt in den Shell-Verlauf ein.
Benutzerdefinierte Modelle mit PandaCode verwenden
PandaCode kann einen Codierungs-Workflow im Stil von Claude Code bereitstellen, während ein von Ihnen gewähltes Modell-Backend verwendet wird, einschließlich DeepSeek, Qwen, einem OpenAI-kompatiblen Gateway oder einem internen Dienst. Nachdem Sie den Anbieter und das Modell konfiguriert haben, wählen Sie dieses Modell für die entsprechende PandaCode-Verbindung oder -Aufgabe aus.
Das Modell muss das Interaktionsmuster unterstützen, das die Codierungs-Engine erfordert. Ein Anbieter, der für einfachen Chat funktioniert, kann bei Tool-Aufrufen, lang laufenden Streams oder strukturierten Inhalten dennoch scheitern. Siehe Von PandaNpc unterstützte KI-Modelle für den Unterschied zwischen Chat-Modellen und lokalen Codierungs-Engines und PandaPaw-Installation und -Befehle für die Einrichtung entfernter Engines.
Fehlerbehebung
`401`- oder `403`-Authentifizierungsfehler
Erstellen Sie einen neuen Anbieter-Key, bestätigen Sie, dass er aktiv ist, und geben Sie ihn erneut ein. Prüfen Sie, ob der Upstream-Dienst eine Organisation, ein Projekt oder eine andere Authentifizierungsmethode erfordert. Ein maskierter Schlüssel, der von einem Bearbeitungsbildschirm kopiert wurde, ist nicht das ursprüngliche Geheimnis.
`404`-Endpunkt oder Modell nicht gefunden
Entfernen Sie /chat/completions aus der konfigurierten Basis-URL, da PandaNpc diese ergänzt. Stellen Sie sicher, dass /v1 vorhanden ist, wenn erforderlich, und dass der Modellwert (Model Value) genau der Upstream-Modell-ID entspricht. Ein Anbieter kann dieselbe 404 sowohl für eine falsche URL als auch für ein nicht verfügbares Modell zurückgeben.
Browser meldet einen Netzwerk- oder CORS-Fehler
Öffnen Sie die Browser-Entwicklerkonsole nur, um den blockierten Ursprung zu identifizieren; fügen Sie dort keine Geheimnisse ein. Konfigurieren Sie den Anbieter so, dass https://pandanpc.com zugelassen wird, verwenden Sie seinen HTTPS-Endpunkt, oder verwenden Sie die PandaNpc-Desktop-App. Mixed-Content-Regeln blockieren eine HTTPS-Seite beim Aufruf einiger unverschlüsselter HTTP-Endpunkte.
Lokales Ollama oder LM Studio kann nicht erreicht werden
Stellen Sie sicher, dass der Server auf demselben Computer wie der Client, der die Anfrage stellt, läuft und auf der konfigurierten Schnittstelle und dem konfigurierten Port lauscht. Wenn der Modellserver auf einem anderen Computer läuft, ist localhost falsch; verwenden Sie einen erreichbaren privaten Hostnamen oder eine IP-Adresse und sichern Sie den Dienst, bevor Sie ihn freigeben.
Antwort beginnt, stoppt aber oder hat keinen Inhalt
Bestätigen Sie, dass die API gestreamte Chat-Completions unterstützt und standardmäßige data:-Ereignisse aussendet. Reduzieren Sie Max Tokens, testen Sie eine reine Textnachricht, und deaktivieren Sie strukturierte Inhalts-Arrays nur, wenn der Anbieter dokumentiert, dass er ausschließlich Zeichenfolgeninhalte akzeptiert.
Lange Sitzungen scheitern nahe dem Kontextlimit
Senken Sie das konfigurierte Kontextfenster auf das tatsächlich unterstützte Limit des Anbieters und reservieren Sie Platz für Ausgabe, Systemanweisungen und Tool-Ergebnisse. Starten Sie nach der Änderung der Modellkonfiguration eine neue Sitzung, damit die neuen Limits konsistent angewendet werden.
Details zu Kontingenten und Datenfluss auf Kontoebene finden Sie unter PandaNpc-Konten, -Pläne und -API-Kosten und der Datenschutzrichtlinie.