कस्टम प्रदाता PandaNpc को आपके नियंत्रण वाले API खाते, निजी गेटवे या लोकल मॉडल एंडपॉइंट का उपयोग करने देते हैं। इसे आमतौर पर BYOK कहा जाता है: अपनी खुद की key लाएँ। यह तब उपयोगी होता है जब आपको बिल्ट-इन कैटलॉग से बाहर का मॉडल, प्रदाता-पक्ष बिलिंग, आंतरिक प्रॉक्सी, Ollama, LM Studio, या सेल्फ-होस्टेड OpenAI-संगत सेवा की आवश्यकता हो।
समर्थित डायरेक्ट चैट के लिए, PandaNpc अनुरोध को आपके कॉन्फ़िगर किए गए एंडपॉइंट पर भेजता है, न कि बिल्ट-इन मॉडल का स्थानापन्न करता है। आपका अपस्ट्रीम प्रदाता अभी भी मूल्य निर्धारण, डेटा अवधारण, दर सीमा, मॉडल उपलब्धता और स्वीकार्य उपयोग को नियंत्रित करता है।
पूर्वापेक्षाएँ और सुरक्षा सीमाएँ
प्रदाता जोड़ने से पहले, ये एकत्र करें:
- प्रदाता की API key या लोकल प्रमाणीकरण टोकन।
- उसका API Base URL, जो आमतौर पर OpenAI-संगत सेवा के लिए
/v1पर समाप्त होता है। - API द्वारा स्वीकृत सटीक मॉडल पहचानकर्ता (model identifier)।
- प्रलेखित संदर्भ विंडो और अधिकतम आउटपुट सीमा, यदि आप डिफ़ॉल्ट को ओवरराइड करने की योजना बनाते हैं।
न्यूनतम आवश्यक अनुमतियों वाली एक समर्पित key का उपयोग करें, और जहाँ प्रदाता समर्थन करता है वहाँ एक खर्च सीमा निर्धारित करें। Key को कभी भी दस्तावेज़, चैट प्रॉम्प्ट, स्क्रीनशॉट, ब्राउज़र कंसोल आउटपुट या Git रिपॉज़िटरी में न रखें।
वेब ब्राउज़र में, सीधे अनुरोध CORS के अधीन होते हैं। प्रदाता को https://pandanpc.com से अनुरोधों की अनुमति देनी होती है। http://localhost:11434/v1 जैसा Base URL ब्राउज़र चलाने वाले कंप्यूटर को संदर्भित करता है, न कि स्वचालित रूप से दूरस्थ PandaPaw मशीन को। डेस्कटॉप ऐप लोकल एंडपॉइंट के लिए अधिक उपयुक्त हो सकता है क्योंकि यह उसी तरह से ब्राउज़र CORS द्वारा सीमित नहीं है।
चरण 1: Model Configuration खोलें
PandaNpc में साइन इन करें और Model Configuration खोलें। प्रदाता और मॉडल अलग-अलग रिकॉर्ड होते हैं: प्रदाता कनेक्शन और प्रमाणीकरण विवरण संग्रहीत करता है, जबकि प्रत्येक मॉडल उस कनेक्शन पर भेजे जाने वाले पहचानकर्ता और सीमाएँ संग्रहीत करता है।
यदि कोई आधिकारिक प्रदाता पहले से दिखाई देता है, तो एक अलग प्रोटोकॉल बनाने के बजाय उसे कॉन्फ़िगर करें या कॉपी करें। नए OpenAI-संगत गेटवे के लिए, Add Provider चुनें।
चरण 2: प्रदाता जोड़ें
प्रदाता फ़ॉर्म पूरा करें:
| फ़ील्ड | क्या दर्ज करें | उदाहरण या मार्गदर्शन |
|---|---|---|
| Display Name | आपको दिखाई देने वाला लेबल | Company AI Gateway |
| Provider ID | एक स्थिर आंतरिक पहचानकर्ता | company-openai |
| API Key | बियरर टोकन के रूप में उपयोग किया जाने वाला गुप्त मान | प्रदाता द्वारा जारी मान |
| Base URL | /chat/completions के बिना API रूट |
https://gateway.example.com/v1 |
| Protocol | अपस्ट्रीम API प्रारूप | OpenAI-संगत चैट कम्प्लीशन के लिए openai चुनें |
| Secret | वैकल्पिक दूसरा गुप्त मान | जब तक प्रदाता को आवश्यकता न हो, खाली छोड़ें |
| Organization | वैकल्पिक संगठन पहचानकर्ता | केवल जब प्रदाता द्वारा आवश्यक हो |
| Project | वैकल्पिक प्रोजेक्ट पहचानकर्ता | केवल जब प्रदाता द्वारा आवश्यक हो |
| Support content array | क्या संदेश सामग्री संरचित ऐरे का उपयोग कर सकती है | आधुनिक मल्टीमॉडल संदेश सामग्री स्वीकार करने वाले प्रदाताओं के लिए सक्षम रखें |
PandaNpc Base URL से पीछे की स्लैश हटाता है और सीधे OpenAI-संगत चैट अनुरोध के लिए /chat/completions जोड़ता है। इसलिए दर्ज करें:
https://api.example.com/v1नहीं:
https://api.example.com/v1/chat/completionsमॉडल जोड़ने से पहले प्रदाता को सहेजें। किसी मौजूदा प्रदाता को संपादित करते समय, खाली API Key या Secret फ़ील्ड का अर्थ है “कॉन्फ़िगर किया गया मान बनाए रखें”; यह संग्रहीत गुप्त मान को फ़ॉर्म में वापस प्रदर्शित नहीं करता है।
चरण 3: मॉडल जोड़ें
प्रदाता के अंतर्गत Add Model चुनें और ये फ़ील्ड पूरा करें:
| फ़ील्ड | अर्थ | उदाहरण |
|---|---|---|
| Display Name | मानव-पठनीय चयनकर्ता लेबल | My Coding Model |
| Model Value | सटीक अपस्ट्रीम मॉडल ID | model-name-from-provider |
| Model Type | PandaNpc क्षमता/श्रेणी मैपिंग | फ़ॉर्म से एक वर्तमान मान चुनें |
| Provider | ऊपर बनाया गया प्रदाता रिकॉर्ड | Company AI Gateway |
| Context Window | कुल समर्थित टोकन | प्रदाता की प्रलेखित पूर्णांक सीमा का उपयोग करें |
| Max Tokens | अधिकतम जनरेट किए गए आउटपुट टोकन | प्रदाता सीमा से बड़ा न होने वाला सकारात्मक मान उपयोग करें |
Display Name को API कॉल को प्रभावित किए बिना बदला जा सकता है। Model Value को मार्केटिंग नाम से अनुमान नहीं लगाया जा सकता; इसे प्रदाता के API दस्तावेज़ या model-list एंडपॉइंट से कॉपी करें।
जब आप अनिश्चित हों तो Context Window और Max Tokens को खाली छोड़ दें। सर्वर जितना समर्थन करता है उससे बड़ी संदर्भ विंडो घोषित करने की तुलना में एक रूढ़िवादी डिफ़ॉल्ट अधिक सुरक्षित है। ये फ़ील्ड विशेष रूप से PandaCode के लिए महत्वपूर्ण हैं क्योंकि ये संघनन (compaction) और आउटपुट बजट को प्रभावित करते हैं।
सामान्य एंडपॉइंट उदाहरण
निम्नलिखित पैटर्न URL संरचना दर्शाते हैं; उपलब्धता और मॉडल ID आपके इंस्टॉलेशन या प्रदाता खाते पर निर्भर करते हैं:
| सेवा प्रकार | विशिष्ट Base URL | नोट्स |
|---|---|---|
| OpenAI-संगत क्लाउड API | https://provider.example.com/v1 |
स्ट्रीम किए गए Chat Completions और बियरर प्रमाणीकरण का समर्थन करना चाहिए |
| देखने वाले कंप्यूटर पर Ollama | http://localhost:11434/v1 |
Ollama का OpenAI-संगत एंडपॉइंट प्रारंभ करें; ब्राउज़र उपयोग के लिए CORS कॉन्फ़िगरेशन की आवश्यकता हो सकती है |
| देखने वाले कंप्यूटर पर LM Studio | http://localhost:1234/v1 |
स्थानीय सर्वर प्रारंभ करें और लोड किया गया मॉडल ID चुनें |
| निजी नेटवर्क गेटवे | https://ai.internal.example/v1 |
PandaNpc क्लाइंट को होस्ट को हल करने और पहुँचने में सक्षम होना चाहिए |
यह न मानें कि हर सेवा जो “OpenAI संगत” का विज्ञापन करती है, स्ट्रीमिंग, टूल कॉल, इमेज, तर्क फ़ील्ड या समान त्रुटि प्रतिक्रियाओं को लागू करती है। अपने वर्कफ़्लो के लिए आवश्यक सटीक सुविधाओं का परीक्षण करें।
प्रदाता और मॉडल सत्यापित करें
कॉन्फ़िगरेशन पर भरोसा करने से पहले एक कम-लागत, गैर-संवेदनशील प्रॉम्प्ट का उपयोग करें:
- एक नए वार्तालाप में नया मॉडल चुनें।
Reply with exactly: provider connectedभेजें।- पुष्टि करें कि प्रतिक्रिया स्ट्रीम होती है और प्रदाता डैशबोर्ड अनुरोध रिकॉर्ड करता है।
- वार्तालाप इतिहास सत्यापित करने के लिए एक छोटा अनुवर्ती संदेश भेजें।
- यदि आपको टूल, इमेज या लंबे संदर्भ की आवश्यकता है, तो प्रत्येक क्षमता का अलग से परीक्षण करें।
लोकल एंडपॉइंट के लिए, पहले इसे PandaNpc के बाहर सत्यापित करें। OpenAI-संगत मॉडल सूची अक्सर इसके साथ उपलब्ध होती है:
curl http://localhost:11434/v1/modelsप्रतिक्रिया का उपयोग केवल पहुँच और मॉडल ID की पुष्टि करने के लिए करें। प्रोडक्शन API key को सीधे शेल इतिहास में न डालें।
PandaCode के साथ कस्टम मॉडल का उपयोग करें
PandaCode, आपके द्वारा चुने गए मॉडल बैकएंड का उपयोग करते हुए Claude Code-शैली की कोडिंग वर्कफ़्लो प्रदान कर सकता है, जिसमें DeepSeek, Qwen, OpenAI-संगत गेटवे या आंतरिक सेवा शामिल है। प्रदाता और मॉडल कॉन्फ़िगर करने के बाद, उस मॉडल को संबंधित PandaCode कनेक्शन या कार्य के लिए चुनें।
मॉडल को कोडिंग इंजन द्वारा आवश्यक इंटरैक्शन पैटर्न का समर्थन करना चाहिए। एक प्रदाता जो सामान्य चैट के लिए काम करता है, वह टूल कॉल, लंबे समय तक चलने वाले स्ट्रीम या संरचित सामग्री पर विफल हो सकता है। चैट मॉडल और स्थानीय कोडिंग इंजन के बीच अंतर के लिए PandaNpc द्वारा समर्थित AI मॉडल देखें, और दूरस्थ इंजन सेटअप के लिए PandaPaw स्थापना और कमांड देखें।
समस्या निवारण
`401` या `403` प्रमाणीकरण त्रुटि
एक नई प्रदाता key बनाएं, पुष्टि करें कि वह सक्रिय है, और उसे फिर से दर्ज करें। जाँचें कि क्या अपस्ट्रीम सेवा को संगठन, प्रोजेक्ट या भिन्न प्रमाणीकरण विधि की आवश्यकता है। संपादन स्क्रीन से कॉपी की गई मास्क की गई key मूल गुप्त मान नहीं है।
`404` एंडपॉइंट या मॉडल नहीं मिला
कॉन्फ़िगर किए गए Base URL से /chat/completions हटाएं क्योंकि PandaNpc इसे जोड़ता है। पुष्टि करें कि आवश्यक होने पर /v1 मौजूद है और Model Value बिल्कुल अपस्ट्रीम मॉडल ID से मेल खाती है। एक प्रदाता गलत URL और अनुपलब्ध मॉडल दोनों के लिए समान 404 लौटा सकता है।
ब्राउज़र नेटवर्क या CORS त्रुटि रिपोर्ट करता है
ब्राउज़र डेवलपर कंसोल केवल अवरुद्ध मूल (origin) की पहचान करने के लिए खोलें; वहाँ गुप्त मान चिपकाएँ नहीं। प्रदाता को https://pandanpc.com की अनुमति देने के लिए कॉन्फ़िगर करें, उसका HTTPS एंडपॉइंट उपयोग करें, या PandaNpc डेस्कटॉप ऐप का उपयोग करें। मिश्रित सामग्री नियम HTTPS पृष्ठ को कुछ प्लेन HTTP एंडपॉइंट्स को कॉल करने से रोकते हैं।
लोकल Ollama या LM Studio तक नहीं पहुँचा जा सकता
सुनिश्चित करें कि सर्वर अनुरोध करने वाले क्लाइंट के समान कंप्यूटर पर चल रहा है और कॉन्फ़िगर किए गए इंटरफ़ेस और पोर्ट पर सुन रहा है। यदि मॉडल सर्वर किसी अन्य कंप्यूटर पर चलता है, तो localhost गलत है; एक पहुँच योग्य निजी होस्टनाम या IP का उपयोग करें और सेवा को उजागर करने से पहले सुरक्षित करें।
प्रतिक्रिया शुरू होती है लेकिन रुक जाती है या कोई सामग्री नहीं होती
पुष्टि करें कि API स्ट्रीम किए गए Chat Completions का समर्थन करता है और मानक data: इवेंट उत्सर्जित करता है। Max Tokens कम करें, केवल-पाठ संदेश का परीक्षण करें, और संरचित सामग्री ऐरे को केवल तभी अक्षम करें जब प्रदाता प्रलेखित करता है कि वह विशिष्ट रूप से स्ट्रिंग सामग्री स्वीकार करता है।
लंबे सत्र संदर्भ सीमा के पास विफल होते हैं
कॉन्फ़िगर की गई Context Window को प्रदाता की वास्तविक समर्थित सीमा तक कम करें और आउटपुट, सिस्टम निर्देशों और टूल परिणामों के लिए स्थान आरक्षित रखें। मॉडल कॉन्फ़िगरेशन बदलने के बाद एक नया सत्र शुरू करें ताकि नई सीमाएँ लगातार लागू हों।
खाता-स्तरीय कोटा और डेटा-प्रवाह विवरण के लिए, PandaNpc खाते, योजनाएँ और API लागत और गोपनीयता नीति पढ़ें।