ספקים מותאמים אישית מאפשרים ל-PandaNpc להשתמש בחשבון API, שער פרטי, או נקודת קצה מקומית של מודל שבשליטתך. זה מכונה בדרך כלל BYOK: הבא מפתח משלך. זה שימושי כשאתה צריך מודל מחוץ לקטלוג המובנה, חיוב בצד הספק, פרוקסי פנימי, Ollama, LM Studio, או שירות תואם OpenAI המתארח בעצמך.
עבור צ'אט ישיר נתמך, PandaNpc שולח את הבקשה לנקודת הקצה שהגדרת במקום להחליף במודל מובנה. הספק שמעליך (upstream) עדיין שולט בתמחור, בשמירת נתונים, במגבלות קצב, בזמינות המודל ובשימוש הולם.
דרישות מוקדמות וגבולות אבטחה
לפני הוספת ספק, אסוף:
- את ה-API Key של הספק או אסימון אימות מקומי.
- את כתובת ה-API הבסיסית (Base URL), שבדרך כלל מסתיימת ב-
/v1עבור שירות תואם OpenAI. - את מזהה המודל המדויק שמקובל על ידי ה-API.
- את חלון ההקשר והמגבלה המקסימלית לפלט כפי שמתועדים, אם אתה מתכנן לעקוף ברירות מחדל.
השתמש במפתח ייעודי עם ההרשאות המינימליות הדרושות ומגבלת הוצאות אם הספק תומך בכך. לעולם אל תציב את המפתח בתיעוד, בהודעות צ'אט, בצילומי מסך, בפלט קונסולת הדפדפן, או במאגר Git.
בדפדפן אינטרנט, בקשות ישירות כפופות ל-CORS. על הספק לאפשר בקשות מ-https://pandanpc.com. כתובת Base URL כמו http://localhost:11434/v1 מתייחסת למחשב שמריץ את הדפדפן, ולא אוטומטית למכונת PandaPaw המרוחקת. אפליקציית שולחן העבודה יכולה להתאים יותר לנקודות קצה מקומיות, משום שהיא אינה מוגבלת על ידי CORS של הדפדפן באותו אופן.
שלב 1: פתיחת הגדרות המודל
היכנס ל-PandaNpc ופתח את הגדרות המודל. ספקים ומודלים הם רשומות נפרדות: הספק מאחסן פרטי חיבור ואימות, בעוד שכל מודל מאחסן את המזהה והמגבלות הנשלחים לחיבור זה.
אם כבר מופיע ספק רשמי, הגדר או העתק אותו במקום להמציא פרוטוקול אחר. עבור שער חדש תואם OpenAI, בחר הוסף ספק.
שלב 2: הוספת הספק
השלם את טופס הספק:
| שדה | מה להזין | דוגמה או הנחיה |
|---|---|---|
| שם תצוגה | תווית הנראית לך | Company AI Gateway |
| מזהה ספק | מזהה פנימי יציב | company-openai |
| API Key | הסוד המשמש כ-bearer token | ערך שניתן על ידי הספק |
| Base URL | שורש ה-API ללא /chat/completions |
https://gateway.example.com/v1 |
| פרוטוקול | פורמט ה-API שמעליך | בחר openai עבור chat completions תואם OpenAI |
| סוד | סוד שני אופציונלי | השאר ריק אלא אם הספק דורש זאת |
| ארגון | מזהה ארגון אופציונלי | רק כשהספק דורש זאת |
| פרויקט | מזהה פרויקט אופציונלי | רק כשהספק דורש זאת |
| תמיכה במערך תוכן | האם תוכן ההודעה יכול להשתמש במערכים מובנים | השאר מופעל עבור ספקים שמקבלים תוכן מולטימודאלי מודרני |
PandaNpc מסיר לוכסנים נגררים מסוף ה-Base URL ומוסיף את /chat/completions עבור בקשת הצ'אט הישירה התואמת OpenAI. לכן הזן:
https://api.example.com/v1לא:
https://api.example.com/v1/chat/completionsשמור את הספק לפני הוספת מודל. בעת עריכת ספק קיים, שדה API Key או סוד ריק פירושו "שמור על הערך המוגדר"; הוא אינו חושף את הסוד המאוחסן בחזרה לטופס.
שלב 3: הוספת מודל
בחר הוסף מודל תחת הספק והשלם את השדות הבאים:
| שדה | משמעות | דוגמה |
|---|---|---|
| שם תצוגה | תווית בחירה קריאה לאדם | My Coding Model |
| ערך מודל | מזהה המודל המדויק שמעליך | model-name-from-provider |
| סוג מודל | מיפוי יכולת/קטגוריה של PandaNpc | בחר ערך עדכני מהטופס |
| ספק | רשומת הספק שנוצרה לעיל | Company AI Gateway |
| חלון הקשר | סך כל האסימונים הנתמכים | השתמש במגבלת המספר השלם המתועדת של הספק |
| Max Tokens | אסימוני הפלט המרביים שנוצרים | השתמש בערך חיובי שאינו גדול ממגבלת הספק |
ניתן לשנות את שם תצוגה מבלי להשפיע על קריאת ה-API. לא ניתן לנחש את ערך מודל משם שיווקי; העתק אותו מתיעוד ה-API של הספק או מנקודת הקצה של רשימת המודלים.
השאר את חלון הקשר ו-Max Tokens ריקים אם אינך בטוח. ברירת מחדל שמרנית בטוחה יותר מהצהרה על חלון הקשר גדול מזה שהשרת תומך בו. שדות אלה חשובים במיוחד עבור PandaCode מכיוון שהם משפיעים על דחיסה (compaction) ועל תקצוב הפלט.
דוגמאות לנקודות קצה נפוצות
התבניות הבאות מדגימות את מבנה ה-URL; הזמינות ומזהי המודל תלויים בהתקנה או בחשבון הספק שלך:
| סוג שירות | Base URL אופייני | הערות |
|---|---|---|
| API ענן תואם OpenAI | https://provider.example.com/v1 |
חייב לתמוך ב-Chat Completions בזרימה (streaming) ובאימות bearer |
| Ollama על מחשב הצפייה | http://localhost:11434/v1 |
הפעל את נקודת הקצה התואמת OpenAI של Ollama; שימוש בדפדפן עשוי לדרוש הגדרת CORS |
| LM Studio על מחשב הצפייה | http://localhost:1234/v1 |
הפעל את השרת המקומי ובחר מזהה מודל טעון |
| שער רשת פרטית | https://ai.internal.example/v1 |
לקוח PandaNpc חייב להיות מסוגל לפתור ולהגיע למארח |
אל תניח שכל שירות שמפרסם "תואם OpenAI" מיישם זרימה (streaming), קריאות לכלים, תמונות, שדות חשיבה, או תגובות שגיאה זהות. בדוק את התכונות המדויקות שזרימת העבודה שלך צריכה.
אימות הספק והמודל
השתמש בהנחיה (prompt) בעלות נמוכה ובלתי רגישה לפני שתתבסס על ההגדרה:
- בחר את המודל החדש בשיחה חדשה.
- שלח
Reply with exactly: provider connected. - ודא שהתגובה זורמת (streams) ושלוחת הבקרה של הספק מתעדת את הבקשה.
- שלח הודעת המשך קצרה כדי לבדוק את היסטוריית השיחה.
- אם אתה צריך כלים, תמונות או הקשר ארוך, בדוק כל יכולת בנפרד.
עבור נקודת קצה מקומית, ודא תחילה שהיא פועלת מחוץ ל-PandaNpc. רשימת מודלים תואמת OpenAI זמינה לעיתים קרובות באמצעות:
curl http://localhost:11434/v1/modelsהשתמש בתשובה רק כדי לוודא נגישות ואת מזהה המודל. אל תכניס מפתח API ייצור ישירות להיסטוריית ה-shell.
שימוש במודלים מותאמים אישית עם PandaCode
PandaCode יכול לספק זרימת עבודה בסגנון Claude Code תוך שימוש בקצה אחורי של מודל (model backend) שתבחר, כולל DeepSeek, Qwen, שער תואם OpenAI, או שירות פנימי. לאחר הגדרת הספק והמודל, בחר את המודל הזה עבור חיבור או משימה רלוונטיים של PandaCode.
על המודל לתמוך בתבנית האינטראקציה הנדרשת על ידי מנוע הקוד. ספק שעובד עבור צ'אט פשוט עלול להיכשל בקריאות לכלים, בזרימות ארוכות, או בתוכן מובנה. ראה מודלים נתמכים על ידי PandaNpc להבדל בין מודלי צ'אט למנועי קוד מקומיים, ו-התקנת ופקודות PandaPaw להגדרת מנוע מרוחק.
פתרון בעיות
שגיאת אימות `401` או `403`
צור מפתח ספק חדש, ודא שהוא פעיל, והזן אותו שוב. בדוק אם השירות שמעליך דורש ארגון, פרויקט, או שיטת אימות אחרת. מפתח מוסתר שהועתק ממסך עריכה אינו הסוד המקורי.
נקודת קצה או מודל `404` לא נמצא
הסר את /chat/completions מה-Base URL המוגדר כי PandaNpc מוסיף אותו. ודא ש-/v1 קיים כשנדרש, ושערך המודל (Model Value) תואם בדיוק למזהה המודל שמעליך. ספק עשוי להחזיר את אותו 404 גם עבור כתובת שגויה וגם עבור מודל לא זמין.
הדפדפן מדווח על שגיאת רשת או CORS
פתח את קונסולת הפיתוח של הדפדפן רק כדי לזהות את המקור החסום; אל תדביק שם סודות. הגדר את הספק לאפשר גישה מ-https://pandanpc.com, השתמש בנקודת הקצה ה-HTTPS שלו, או השתמש באפליקציית שולחן העבודה של PandaNpc. כללי תוכן מעורב חוסמים דף HTTPS מלקרוא לנקודות קצה HTTP רגילות.
לא ניתן להגיע ל-Ollama או LM Studio מקומיים
ודא שהשרת פועל על אותו מחשב שבו פועל הלקוח ששולח את הבקשה, ומאזין בממשק ובפורט שהוגדרו. אם שרת המודל פועל על מחשב אחר, localhost שגוי; השתמש בשם מארח או כתובת IP פרטית נגישים ואבטח את השירות לפני חשיפתו.
התגובה מתחילה אך נעצרת או ללא תוכן
ודא שה-API תומך ב-Chat Completions מוזרמים ופולט אירועי data: סטנדרטיים. הקטן את Max Tokens, בדוק הודעה טקסטואלית בלבד, והשבת מערכי תוכן מובנים רק אם הספק מתעד שהוא מקבל תוכן מחרוזתי בלבד.
הפעלות ארוכות נכשלות סמוך למגבלת ההקשר
הורד את חלון ההקשר המוגדר למגבלה האמיתית שנתמכת על ידי הספק והשאר מקום לפלט, להוראות מערכת ולתוצאות כלים. הפעל שיחה חדשה לאחר שינוי הגדרות המודל כדי שהמגבלות החדשות יוחלו באופן עקבי.
לפרטי מכסה וזרימת נתונים ברמת החשבון, קרא חשבונות, תוכניות ועלויות API של PandaNpc ואת מדיניות הפרטיות.