Mukautettujen tekoälypalveluntarjoajien ja API Keys -määrittäminen PandaNpc:ssä

Mukautetut palveluntarjoajat antavat PandaNpc:n käyttää hallinnoimaasi API-tiliä, yksityistä yhdyskäytävää tai paikallista mallipäätepistettä. Tätä kutsutaan yleisesti BYOK:ksi: tuo oma avain. Se on hyödyllinen, kun tarvitset mallin sisäänrakennetun luettelon ulkopuolelta, palveluntarjoajan laskutuksen, sisäisen välityspalvelimen, Ollaman, LM Studion tai itse isännöidyn OpenAI-yhteensopivan palvelun.

Tuettua suoraa keskustelua varten PandaNpc lähettää pyynnön määritettyyn päätepisteeseesi sen sijaan, että se korvaisi sisäänrakennetun mallin. Ylävirran palveluntarjoajasi hallitsee edelleen hinnoittelua, tietojen säilytystä, nopeusrajoituksia, mallien saatavuutta ja hyväksyttävää käyttöä.

Edellytykset ja tietoturvarajat

Ennen palveluntarjoajan lisäämistä kerää:

• Palveluntarjoajan API Key tai paikallinen todennusavain.
• Sen perus-URL, joka päättyy tavallisesti /v1-merkintään OpenAI-yhteensopivassa palvelussa.
• Tarkka mallitunniste, jonka API hyväksyy.
• Dokumentoitu konteksti-ikkuna ja suurin tulosteiden raja, jos aiot ohittaa oletusarvot.

Käytä erillistä avainta, jolla on vain tarpeelliset käyttöoikeudet, ja aseta menokatto, jos palveluntarjoaja tukee sitä. Älä koskaan sijoita avainta dokumentaatioon, chat-kehotuksiin, kuvakaappauksiin, selaimen konsolitulosteisiin tai Git-varastoon.

Web-selaimessa suorat pyynnöt ovat CORS-rajoitusten alaisia. Palveluntarjoajan on sallittava pyynnöt osoitteesta https://pandanpc.com. Perus-URL, kuten http://localhost:11434/v1, viittaa selainta käyttävään tietokoneeseen, ei automaattisesti etäiseen PandaPaw-koneeseen. Työpöytäsovellus voi sopia paikallisille päätepisteille paremmin, koska selaimen CORS-rajoitukset eivät rajoita sitä samalla tavalla.

Vaihe 1: Avaa mallikonfiguraatio

Kirjaudu PandaNpc:hen ja avaa Mallikonfiguraatio. Palveluntarjoajat ja mallit ovat erillisiä tietueita: palveluntarjoaja tallentaa yhteys- ja todennustiedot, kun taas kukin malli tallentaa tunnisteen ja rajat, jotka lähetetään kyseiseen yhteyteen.

Jos virallinen palveluntarjoaja on jo näkyvissä, määritä tai kopioi se sen sijaan, että keksisit erilaisen protokollan. Valitse uutta OpenAI-yhteensopivaa yhdyskäytävää varten Lisää palveluntarjoaja.

Vaihe 2: Lisää palveluntarjoaja

Täytä palveluntarjoajan lomake:

PandaNpc poistaa perus-URL:n lopusta kauttaviivat ja lisää /chat/completions-päätteen suoraa OpenAI-yhteensopivaa chat-pyyntöä varten. Syötä siis:

https://api.example.com/v1

ei:

https://api.example.com/v1/chat/completions

Tallenna palveluntarjoaja ennen mallin lisäämistä. Kun muokkaat olemassa olevaa palveluntarjoajaa, tyhjä API Key - tai Salaisuus-kenttä tarkoittaa ”säilytä määritetty arvo”; se ei paljasta tallennettua salaisuutta takaisin lomakkeeseen.

Vaihe 3: Lisää malli

Valitse Lisää malli palveluntarjoajan kohdalta ja täytä seuraavat kentät:

Näyttönimi voidaan muuttaa vaikuttamatta API-kutsuun. Mallin arvoa ei voi päätellä markkinointinimestä; kopioi se palveluntarjoajan API-dokumentaatiosta tai malliluettelon päätepisteestä.

Jätä Konteksti-ikkuna ja Enimmäistokenit tyhjiksi, jos olet epävarma. Konservatiivinen oletus on turvallisempi kuin sellaisen konteksti-ikkunan määrittäminen, joka on suurempi kuin palvelin tukee. Nämä kentät ovat erityisen tärkeitä PandaCodelle, koska ne vaikuttavat pakkaukseen ja tulosteen budjetointiin.

Yleisiä päätepiste-esimerkkejä

Seuraavat mallit havainnollistavat URL-muotoa; saatavuus ja mallitunnukset riippuvat asennuksestasi tai palveluntarjoajan tilistä:

Älä oleta, että jokainen ”OpenAI-yhteensopivaa” mainostava palvelu toteuttaa suoratoiston, työkalukutsut, kuvat, päättelykentät tai samanlaiset virhevastaukset. Testaa tarkalleen ne ominaisuudet, joita työnkulkusi tarvitsee.

Varmista palveluntarjoaja ja malli

Käytä edullista ja ei-arkaluontoista kehotetta ennen kuin luotat määritykseen:

1. Valitse uusi malli uudessa keskustelussa.
2. Lähetä Reply with exactly: provider connected.
3. Varmista, että vastaus suoratoistetaan ja palveluntarjoajan hallintapaneeli kirjaa pyynnön.
4. Lähetä lyhyt jatkoviesti keskusteluhistorian varmistamiseksi.
5. Jos tarvitset työkaluja, kuvia tai pitkää kontekstia, testaa kukin ominaisuus erikseen.

Paikalliselle päätepisteelle varmista ensin toiminta PandaNpc:n ulkopuolella. OpenAI-yhteensopiva malliluettelo on usein saatavilla komennolla:

curl http://localhost:11434/v1/models

Käytä vastausta vain saavutettavuuden ja mallitunnuksen vahvistamiseen. Älä aseta tuotannon API Key -arvoa suoraan kuorihistoriaan.

Mukautettujen mallien käyttö PandaCoden kanssa

PandaCode voi tarjota Claude Code -tyylisen koodaustyönkulun käyttäen valitsemaasi mallitaustaa, kuten DeepSeek, Qwen, OpenAI-yhteensopiva yhdyskäytävä tai sisäinen palvelu. Kun olet määrittänyt palveluntarjoajan ja mallin, valitse kyseinen malli asianmukaiseen PandaCode-yhteyteen tai tehtävään.

Mallin on tuettava koodausmoottorin edellyttämää vuorovaikutusmallia. Palveluntarjoaja, joka toimii tavallisessa chatissa, voi silti epäonnistua työkalukutsuissa, pitkäkestoisissa suoratoistoissa tai jäsennellyssä sisällössä. Katso PandaNpc:n tukemat tekoälymallit chat-mallien ja paikallisten koodausmoottoreiden eroista, ja PandaPaw'n asennus ja komennot etämoottorin määrityksestä.

Vianmääritys

`401`- tai `403`-todennautusvirhe

Luo uusi palveluntarjoajan avain, varmista, että se on aktiivinen, ja syötä se uudelleen. Tarkista, edellyttääkö ylävirran palvelu organisaatiota, projektia tai erilaista todennusmenetelmää. Muokatusta näytöstä kopioitu peitetty avain ei ole alkuperäinen salaisuus.

`404` Päätepistettä tai mallia ei löydy

Poista /chat/completions määritetystä perus-URL:sta, koska PandaNpc lisää sen. Varmista, että /v1 on läsnä tarvittaessa ja että Mallin arvo vastaa tarkalleen ylävirran mallitunnusta. Palveluntarjoaja voi palauttaa saman 404-virheen sekä väärästä URL-osoitteesta että käytettävissä olemattomasta mallista.

Selain ilmoittaa verkko- tai CORS-virheen

Avaa selaimen kehittäjäkonsoli vain tunnistaaksesi estetyn alkuperän; älä liitä salaisuuksia sinne. Määritä palveluntarjoaja sallimaan https://pandanpc.com, käytä sen HTTPS-päätepistettä tai käytä PandaNpc-työpöytäsovellusta. Sekoitetun sisällön säännöt estävät HTTPS-sivua kutsumasta joitain tavallisia HTTP-päätepisteitä.

Paikallista Ollamaa tai LM Studiota ei voida tavoittaa

Varmista, että palvelin toimii samalla tietokoneella kuin pyynnön tekevä asiakas ja että se kuuntelee määritetyllä käyttöliittymällä ja portilla. Jos mallipalvelin toimii toisella tietokoneella, localhost on väärä; käytä tavoitettavissa olevaa yksityistä isäntänimeä tai IP-osoitetta ja suojaa palvelu ennen altistamista.

Vastaus alkaa mutta pysähtyy tai sisältöä ei ole

Varmista, että API tukee streamattuja Chat Completions -pyyntöjä ja lähettää tavallisia data:-tapahtumia. Pienennä Enimmäistokeneita, testaa tekstiä vain sisältävä viesti ja poista jäsennellyt sisältötaulukot käytöstä vain, jos palveluntarjoaja dokumentoi hyväksyvänsä yksinomaan merkkijonosisältöä.

Pitkät istunnot epäonnistuvat lähellä kontekstirajaa

Pienennä määritetty Konteksti-ikkuna palveluntarjoajan todelliseen tuettuun rajaan ja varaa tilaa tulosteelle, järjestelmäohjeille ja työkalujen tuloksille. Aloita uusi istunto mallikonfiguraation muuttamisen jälkeen, jotta uudet rajat otetaan johdonmukaisesti käyttöön.

Tilitason kiintiöiden ja tiedonsiirron yksityiskohdista lue PandaNpc-tilit, -paketit ja API-kustannukset ja Tietosuojakäytäntö.