Az egyedi szolgáltatók lehetővé teszik a PandaNpc számára, hogy olyan API-fiókot, privát átjárót vagy helyi modell-végpontot használjon, amelyet Ön irányít. Ezt általában BYOK-nak nevezik: hozza a saját kulcsát. Ez akkor hasznos, ha a beépített katalóguson kívüli modellre, szolgáltatói számlázásra, belső proxyra, Ollama-ra, LM Studio-ra vagy önállóan üzemeltetett OpenAI-kompatibilis szolgáltatásra van szüksége.
A támogatott közvetlen csevegéshez a PandaNpc a kérését a konfigurált végpontra küldi, nem pedig beépített modellt helyettesít. A felsőbb szintű szolgáltató továbbra is az árazást, az adatmegőrzést, a sebességkorlátokat, a modell elérhetőségét és az elfogadható használatot szabályozza.
Előfeltételek és biztonsági határok
A szolgáltató hozzáadása előtt gyűjtse össze:
- A szolgáltató API Key-jét vagy helyi hitelesítési tokenjét.
- Az API Base URL-jét, amely általában
/v1végződésű OpenAI-kompatibilis szolgáltatás esetén. - Az API által elfogadott pontos modellazonosítót.
- A dokumentált kontextusablakot és maximális kimeneti korlátot, ha az alapértelmezéseket felül szeretné írni.
Használjon dedikált kulcsot a minimálisan szükséges jogosultságokkal, és ha a szolgáltató támogatja, költési korláttal. Soha ne helyezze el a kulcsot dokumentációban, csevegési promptokban, képernyőképeken, böngésző konzol kimenetében vagy Git-tárhelyben.
Webböngészőben a közvetlen kérésekre a CORS vonatkozik. A szolgáltatónak engedélyeznie kell a https://pandanpc.com címről érkező kéréseket. Az olyan Base URL, mint a http://localhost:11434/v1, a böngészőt futtató számítógépre vonatkozik, nem automatikusan a távoli PandaPaw gépre. Az asztali alkalmazás megfelelőbb lehet helyi végpontokhoz, mert nem vonatkoznak rá ugyanúgy a böngésző CORS-korlátozásai.
1. lépés: A Modellkonfiguráció megnyitása
Jelentkezzen be a PandaNpc-be, és nyissa meg a Modellkonfigurációt. A szolgáltatók és a modellek külön rekordok: a szolgáltató tárolja a kapcsolati és hitelesítési adatokat, míg minden modell tárolja az adott kapcsolathoz küldött azonosítót és korlátokat.
Ha már megjelenik egy hivatalos szolgáltató, konfigurálja vagy másolja le, ahelyett hogy más protokollt találna ki. Új OpenAI-kompatibilis átjáróhoz válassza a Szolgáltató hozzáadása lehetőséget.
2. lépés: A szolgáltató hozzáadása
Töltse ki a szolgáltató űrlapját:
| Mező | Mit írjon be | Példa vagy útmutatás |
|---|---|---|
| Megjelenített név | Az Ön által látható címke | Company AI Gateway |
| Szolgáltató azonosító | Stabil belső azonosító | company-openai |
| API Key | A titkos kulcs, amelyet Bearer tokenként használ | A szolgáltató által kiadott érték |
| Base URL | API gyökér, /chat/completions nélkül |
https://gateway.example.com/v1 |
| Protokoll | A felsőbb szintű API formátuma | Válassza az openai opciót OpenAI-kompatibilis chat-completion hívásokhoz |
| Titkos kulcs | Opcionális második titkos kulcs | Hagyja üresen, hacsak a szolgáltató nem igényli |
| Szervezet | Opcionális szervezeti azonosító | Csak ha a szolgáltató megköveteli |
| Projekt | Opcionális projektazonosító | Csak ha a szolgáltató megköveteli |
| Tartalomtömb-támogatás | Azt jelzi, hogy az üzenet tartalma használhat-e strukturált tömböket | Tartsa engedélyezve azoknál a szolgáltatóknál, amelyek támogatják a modern multimodális üzenettartalmat |
A PandaNpc eltávolítja a záró perjeleket a Base URL-ből, és hozzáfűzi a /chat/completions végpontot a közvetlen OpenAI-kompatibilis chat-kéréshez. Ezért adja meg:
https://api.example.com/v1nem pedig:
https://api.example.com/v1/chat/completionsMentse el a szolgáltatót, mielőtt modellt ad hozzá. Meglévő szolgáltató szerkesztésekor az üres API Key vagy Titkos kulcs mező azt jelenti, hogy „a beállított érték marad”; nem mutatja meg a tárolt titkot az űrlapon.
3. lépés: Modell hozzáadása
Válassza a Modell hozzáadása lehetőséget a szolgáltató alatt, és töltse ki az alábbi mezőket:
| Mező | Jelentés | Példa |
|---|---|---|
| Megjelenített név | Ember által olvasható választó címke | My Coding Model |
| Modell értéke | A felsőbb szintű modell pontos azonosítója | model-name-from-provider |
| Modell típusa | PandaNpc képesség/kategória hozzárendelés | Válasszon aktuális értéket az űrlapról |
| Szolgáltató | A fent létrehozott szolgáltatói rekord | Company AI Gateway |
| Kontextusablak | A támogatott tokenek teljes száma | Használja a szolgáltató dokumentált egész korlátját |
| Maximális tokenek | A generált kimenet maximális tokenszáma | Használjon pozitív értéket, amely nem haladja meg a szolgáltatói korlátot |
A Megjelenített név módosítható az API-hívás befolyásolása nélkül. A Modell értéke nem kitalálható marketing névből; másolja ki a szolgáltató API-dokumentációjából vagy a modelllista-végpontról.
Ha nem biztos, hagyja üresen a Kontextusablak és a Maximális tokenek mezőket. A konzervatív alapértelmezés biztonságosabb, mint nagyobb kontextusablakot megadni, mint amit a szerver támogat. Ezek a mezők különösen fontosak a PandaCode számára, mert befolyásolják a tömörítést és a kimeneti költségvetést.
Gyakori végpont-példák
Az alábbi minták az URL formáját illusztrálják; az elérhetőség és a modellazonosítók a telepítéstől vagy a szolgáltatói fióktól függenek:
| Szolgáltatás típusa | Tipikus Base URL | Megjegyzések |
|---|---|---|
| OpenAI-kompatibilis felhő API | https://provider.example.com/v1 |
Támogatnia kell a streamelt Chat Completions és a Bearer azonosítást |
| Ollama a megtekintő számítógépen | http://localhost:11434/v1 |
Indítsa el az Ollama OpenAI-kompatibilis végpontját; a böngésző használata CORS-konfigurációt igényelhet |
| LM Studio a megtekintő számítógépen | http://localhost:1234/v1 |
Indítsa el a helyi szervert, és válasszon egy betöltött modellazonosítót |
| Privát hálózati átjáró | https://ai.internal.example/v1 |
A PandaNpc kliensnek képesnek kell lennie a gazdagép feloldására és elérésére |
Ne feltételezze, hogy minden „OpenAI-kompatibilis” szolgáltatás megvalósítja a streaminget, eszközhívásokat, képeket, érvelési mezőket vagy azonos hibaválaszokat. Tesztelje a munkafolyamathoz szükséges pontos funkciókat.
A szolgáltató és a modell ellenőrzése
A konfigurációra való támaszkodás előtt használjon alacsony költségű, nem érzékeny promptot:
- Válassza ki az új modellt egy új beszélgetésben.
- Küldje el:
Reply with exactly: provider connected. - Ellenőrizze, hogy a válasz streamelve érkezik, és a szolgáltató irányítópultja rögzíti a kérést.
- Küldjön egy rövid követő üzenetet a beszélgetési előzmények ellenőrzéséhez.
- Ha eszközökre, képekre vagy hosszú kontextusra van szüksége, tesztelje minden képességet külön.
Helyi végpont esetén először a PandaNpc-n kívül ellenőrizze. Az OpenAI-kompatibilis modelllista gyakran elérhető a következővel:
curl http://localhost:11434/v1/modelsA választ csak az elérhetőség és a modellazonosító megerősítésére használja. Ne tegyen éles API Key-t közvetlenül a shell történetébe.
Egyedi modellek használata a PandaCode-dal
A PandaCode Claude Code-stílusú kódolási munkafolyamatot biztosíthat, miközben az Ön által választott modell-háttérrendszert használja, beleértve a DeepSeeket, Qwent, egy OpenAI-kompatibilis átjárót vagy egy belső szolgáltatást. A szolgáltató és a modell konfigurálása után válassza ki a modellt a megfelelő PandaCode-kapcsolathoz vagy feladathoz.
A modellnek támogatnia kell a kódolómotor által megkövetelt interakciós mintát. Az a szolgáltató, amelyik egyszerű csevegéshez működik, még meghiúsulhat az eszközhívásoknál, a hosszan futó streameknél vagy a strukturált tartalomnál. Lásd: PandaNpc által támogatott AI-modellek a csevegőmodellek és a helyi kódolómotorok közötti különbségért, valamint a PandaPaw telepítése és parancsai a távoli motor beállításához.
Hibaelhárítás
`401` vagy `403` hitelesítési hiba
Hozzon létre új szolgáltatói kulcsot, ellenőrizze, hogy aktív, majd adja meg újra. Ellenőrizze, hogy a felsőbb szintű szolgáltatás igényel-e szervezetet, projektet vagy más hitelesítési módot. A szerkesztőképernyőről másolt maszkolt kulcs nem az eredeti titkos kulcs.
`404` végpont vagy modell nem található
Távolítsa el a /chat/completions részt a konfigurált Base URL-ből, mert a PandaNpc hozzáfűzi. Ellenőrizze, hogy a /v1 jelen van-e, ha szükséges, és hogy a Modell értéke pontosan megegyezik a felsőbb szintű modellazonosítóval. Egy szolgáltató ugyanazt a 404 választ adhatja rossz URL és elérhetetlen modell esetén is.
A böngésző hálózati vagy CORS hibát jelez
Nyissa meg a böngésző fejlesztői konzolját csak a blokkolt eredet azonosításához; ne illesszen be oda titkos kulcsokat. Konfigurálja a szolgáltatót, hogy engedélyezze a https://pandanpc.com címet, használja a HTTPS-végpontját, vagy használja a PandaNpc asztali alkalmazást. A vegyes tartalom szabályai blokkolják, hogy egy HTTPS-oldal bizonyos sima HTTP-végpontokat hívjon.
A helyi Ollama vagy LM Studio nem érhető el
Győződjön meg róla, hogy a szerver ugyanazon a számítógépen fut, mint a kérést küldő kliens, és a konfigurált interfészen és porton hallgat. Ha a modellszerver másik számítógépen fut, a localhost nem megfelelő; használjon elérhető privát hosztnevet vagy IP-címet, és biztosítsa a szolgáltatást, mielőtt elérhetővé teszi.
A válasz elindul, de leáll vagy nincs tartalma
Ellenőrizze, hogy az API támogatja a streamelt Chat Completions hívásokat, és szabványos data: eseményeket bocsát ki. Csökkentse a Maximális tokenek értékét, teszteljen egy csak szöveges üzenetet, és csak akkor kapcsolja ki a strukturált tartalomtömböket, ha a szolgáltató dokumentálja, hogy kizárólag karakterlánc-tartalmat fogad el.
A hosszú munkamenetek a kontextushatár közelében meghiúsulnak
Csökkentse a konfigurált Kontextusablak értékét a szolgáltató valós támogatott korlátjára, és tartson fenn helyet a kimenet, a rendszerutasítások és az eszközeredmények számára. Indítson új munkamenetet a modellkonfiguráció módosítása után, hogy az új korlátok következetesen érvényesüljenek.
A fiókszintű kvótákkal és adatfolyam-részletekkel kapcsolatban olvassa el a PandaNpc fiókok, csomagok és API-költségek és az Adatvédelmi irányelvek dokumentumokat.