Ρύθμιση προσαρμοσμένων παρόχων AI και κλειδιών API στο PandaNpc

Οι προσαρμοσμένοι πάροχοι επιτρέπουν στο PandaNpc να χρησιμοποιεί έναν λογαριασμό API, ιδιωτική πύλη ή τοπικό τελικό σημείο μοντέλου που ελέγχετε. Αυτό ονομάζεται συνήθως BYOK: φέρε το δικό σου κλειδί. Είναι χρήσιμο όταν χρειάζεστε ένα μοντέλο εκτός του ενσωματωμένου καταλόγου, χρέωση από την πλευρά του παρόχου, εσωτερικό διακομιστή μεσολάβησης, Ollama, LM Studio ή μια αυτο-φιλοξενούμενη υπηρεσία συμβατή με OpenAI.

Για την υποστηριζόμενη άμεση συνομιλία, το PandaNpc στέλνει το αίτημα στο διαμορφωμένο τελικό σημείο σας αντί να αντικαθιστά ένα ενσωματωμένο μοντέλο. Ο πάροχος ανάντη εξακολουθεί να ελέγχει την τιμολόγηση, τη διατήρηση, τα όρια ρυθμού, τη διαθεσιμότητα μοντέλων και την αποδεκτή χρήση.

Προαπαιτούμενα και όρια ασφαλείας

Πριν προσθέσετε έναν πάροχο, συγκεντρώστε:

• Το κλειδί API ή το τοπικό διακριτικό ελέγχου ταυτότητας του παρόχου.
• Τη Βασική διεύθυνση URL API, που συνήθως καταλήγει σε /v1 για μια υπηρεσία συμβατή με OpenAI.
• Το ακριβές αναγνωριστικό μοντέλου που γίνεται αποδεκτό από το API.
• Το τεκμηριωμένο παράθυρο περιεχομένου και το μέγιστο όριο εξόδου, εάν σκοπεύετε να παρακάμψετε τις προεπιλογές.

Χρησιμοποιήστε ένα αποκλειστικό κλειδί με τα ελάχιστα απαραίτητα δικαιώματα και ένα όριο δαπανών όπου ο πάροχος το υποστηρίζει. Μην τοποθετείτε ποτέ το κλειδί σε τεκμηρίωση, προτροπές συνομιλίας, στιγμιότυπα οθόνης, έξοδο κονσόλας προγράμματος περιήγησης ή αποθετήριο Git.

Σε ένα πρόγραμμα περιήγησης ιστού, τα άμεσα αιτήματα υπόκεινται σε CORS. Ο πάροχος πρέπει να επιτρέπει αιτήματα από το https://pandanpc.com. Μια Βασική διεύθυνση URL όπως το http://localhost:11434/v1 αναφέρεται στον υπολογιστή που εκτελεί το πρόγραμμα περιήγησης, όχι αυτόματα στον απομακρυσμένο υπολογιστή PandaPaw. Η εφαρμογή επιτραπέζιου υπολογιστή μπορεί να είναι πιο κατάλληλη για τοπικά τελικά σημεία επειδή δεν περιορίζεται από το CORS του προγράμματος περιήγησης με τον ίδιο τρόπο.

Βήμα 1: Άνοιγμα διαμόρφωσης μοντέλου

Συνδεθείτε στο PandaNpc και ανοίξτε τη Διαμόρφωση μοντέλου. Οι πάροχοι και τα μοντέλα είναι ξεχωριστές εγγραφές: ο πάροχος αποθηκεύει τις λεπτομέρειες σύνδεσης και ελέγχου ταυτότητας, ενώ κάθε μοντέλο αποθηκεύει το αναγνωριστικό και τα όρια που αποστέλλονται σε αυτή τη σύνδεση.

Εάν ένας επίσημος πάροχος εμφανίζεται ήδη, διαμορφώστε ή αντιγράψτε τον αντί να εφεύρετε ένα διαφορετικό πρωτόκολλο. Για μια νέα πύλη συμβατή με OpenAI, επιλέξτε Προσθήκη παρόχου.

Βήμα 2: Προσθήκη παρόχου

Συμπληρώστε τη φόρμα παρόχου:

Το PandaNpc αφαιρεί τις τελευταίες κάθετες από τη Βασική διεύθυνση URL και προσαρτά /chat/completions για το άμεσο αίτημα συνομιλίας συμβατό με OpenAI. Επομένως, εισαγάγετε:

https://api.example.com/v1

όχι:

https://api.example.com/v1/chat/completions

Αποθηκεύστε τον πάροχο πριν προσθέσετε ένα μοντέλο. Κατά την επεξεργασία ενός υπάρχοντος παρόχου, ένα κενό πεδίο Κλειδιού API ή Μυστικού σημαίνει "διατήρηση της διαμορφωμένης τιμής". Δεν εκθέτει το αποθηκευμένο μυστικό πίσω στη φόρμα.

Βήμα 3: Προσθήκη μοντέλου

Επιλέξτε Προσθήκη μοντέλου κάτω από τον πάροχο και συμπληρώστε αυτά τα πεδία:

Το Εμφανιζόμενο όνομα μπορεί να αλλάξει χωρίς να επηρεάσει την κλήση API. Η Τιμή μοντέλου δεν μπορεί να μαντευτεί από ένα εμπορικό όνομα. Αντιγράψτε το από την τεκμηρίωση API του παρόχου ή από το τελικό σημείο λίστας μοντέλων.

Αφήστε το Παράθυρο περιεχομένου και τα Μέγιστα διακριτικά κενά όταν δεν είστε σίγουροι. Μια συντηρητική προεπιλογή είναι ασφαλέστερη από τη δήλωση ενός παραθύρου περιεχομένου μεγαλύτερου από αυτό που υποστηρίζει ο διακομιστής. Αυτά τα πεδία είναι ιδιαίτερα σημαντικά για το PandaCode επειδή επηρεάζουν τη συμπίεση και τον προϋπολογισμό εξόδου.

Κοινά παραδείγματα τελικών σημείων

Τα ακόλουθα μοτίβα απεικονίζουν τη μορφή URL. Η διαθεσιμότητα και τα αναγνωριστικά μοντέλων εξαρτώνται από την εγκατάσταση ή τον λογαριασμό παρόχου σας:

Μην υποθέτετε ότι κάθε υπηρεσία που διαφημίζει "συμβατότητα με OpenAI" εφαρμόζει ροή, κλήσεις εργαλείων, εικόνες, πεδία συλλογισμού ή ίδιες αποκρίσεις σφαλμάτων. Δοκιμάστε τις ακριβείς δυνατότητες που χρειάζεται η ροή εργασίας σας.

Επαληθεύστε τον πάροχο και το μοντέλο

Χρησιμοποιήστε μια προτροπή χαμηλού κόστους και μη ευαίσθητη πριν βασιστείτε στη διαμόρφωση:

1. Επιλέξτε το νέο μοντέλο σε μια νέα συνομιλία.
2. Στείλτε Απάντησε ακριβώς με: ο πάροχος συνδέθηκε.
3. Βεβαιωθείτε ότι η απόκριση μεταδίδεται σε ροή και ότι ο πίνακας ελέγχου του παρόχου καταγράφει το αίτημα.
4. Στείλτε μια σύντομη συνέχεια για να επαληθεύσετε το ιστορικό συνομιλίας.
5. Εάν χρειάζεστε εργαλεία, εικόνες ή μεγάλο περιεχόμενο, δοκιμάστε κάθε δυνατότητα ξεχωριστά.

Για ένα τοπικό τελικό σημείο, πρώτα επαληθεύστε το εκτός PandaNpc. Μια λίστα μοντέλων συμβατή με OpenAI είναι συχνά διαθέσιμη με:

curl http://localhost:11434/v1/models

Χρησιμοποιήστε την απόκριση μόνο για να επιβεβαιώσετε την προσβασιμότητα και το αναγνωριστικό μοντέλου. Μην τοποθετείτε ένα κλειδί παραγωγής API απευθείας στο ιστορικό κελύφους.

Χρήση προσαρμοσμένων μοντέλων με το PandaCode

Το PandaCode μπορεί να παρέχει μια ροή εργασίας κωδικοποίησης τύπου Claude Code ενώ χρησιμοποιεί ένα περιβάλλον μοντέλου που επιλέγετε, συμπεριλαμβανομένων των DeepSeek, Qwen, μιας πύλης συμβατής με OpenAI ή μιας εσωτερικής υπηρεσίας. Αφού διαμορφώσετε τον πάροχο και το μοντέλο, επιλέξτε αυτό το μοντέλο για τη σχετική σύνδεση ή εργασία PandaCode.

Το μοντέλο πρέπει να υποστηρίζει το μοτίβο αλληλεπίδρασης που απαιτεί η μηχανή κωδικοποίησης. Ένας πάροχος που λειτουργεί για απλή συνομιλία μπορεί να αποτύχει σε κλήσεις εργαλείων, μακροχρόνιες ροές ή δομημένο περιεχόμενο. Δείτε μοντέλα AI που υποστηρίζονται από το PandaNpc για τη διαφορά μεταξύ μοντέλων συνομιλίας και τοπικών μηχανών κωδικοποίησης, και εγκατάσταση και εντολές PandaPaw για ρύθμιση απομακρυσμένης μηχανής.

Αντιμετώπιση προβλημάτων

Σφάλμα ελέγχου ταυτότητας `401` ή `403`

Δημιουργήστε ένα νέο κλειδί παρόχου, επιβεβαιώστε ότι είναι ενεργό και εισαγάγετέ το ξανά. Ελέγξτε εάν η υπηρεσία ανάντη απαιτεί οργανισμό, έργο ή διαφορετική μέθοδο ελέγχου ταυτότητας. Ένα αποκρυπτογραφημένο κλειδί που αντιγράφηκε από οθόνη επεξεργασίας δεν είναι το αρχικό μυστικό.

Σφάλμα `404` τελικού σημείου ή μοντέλου

Αφαιρέστε το /chat/completions από τη διαμορφωμένη Βασική διεύθυνση URL επειδή το PandaNpc το προσαρτά. Επιβεβαιώστε ότι το /v1 είναι παρόν όταν απαιτείται και ότι η Τιμή μοντέλου ταιριάζει ακριβώς με το αναγνωριστικό μοντέλου ανάντη. Ένας πάροχος μπορεί να επιστρέψει το ίδιο 404 τόσο για λάθος URL όσο και για μη διαθέσιμο μοντέλο.

Το πρόγραμμα περιήγησης αναφέρει σφάλμα δικτύου ή CORS

Ανοίξτε την κονσόλα προγραμματιστή του προγράμματος περιήγησης μόνο για να εντοπίσετε την αποκλεισμένη προέλευση. Μην επικολλήσετε μυστικά εκεί. Διαμορφώστε τον πάροχο ώστε να επιτρέπει το https://pandanpc.com, χρησιμοποιήστε το τελικό σημείο HTTPS ή χρησιμοποιήστε την επιτραπέζια εφαρμογή PandaNpc. Οι κανόνες μικτού περιεχομένου εμποδίζουν μια σελίδα HTTPS να καλεί ορισμένα απλά τελικά σημεία HTTP.

Το τοπικό Ollama ή LM Studio δεν είναι προσβάσιμο

Βεβαιωθείτε ότι ο διακομιστής εκτελείται στον ίδιο υπολογιστή με τον πελάτη που κάνει το αίτημα και ότι ακούει στη διαμορφωμένη διεπαφή και θύρα. Εάν ο διακομιστής μοντέλου εκτελείται σε άλλο υπολογιστή, το localhost είναι λάθος. Χρησιμοποιήστε ένα προσβάσιμο ιδιωτικό όνομα υπολογιστή ή IP και ασφαλίστε την υπηρεσία πριν την εκθέσετε.

Η απόκριση ξεκινά αλλά σταματά ή δεν έχει περιεχόμενο

Επιβεβαιώστε ότι το API υποστηρίζει ροή Chat Completions και εκπέμπει τυπικά συμβάντα data:. Μειώστε τα Μέγιστα διακριτικά, δοκιμάστε ένα μήνυμα μόνο με κείμενο και απενεργοποιήστε τους δομημένους πίνακες περιεχομένου μόνο εάν ο πάροχος τεκμηριώνει ότι δέχεται αποκλειστικά περιεχόμενο συμβολοσειράς.

Οι μεγάλες συνεδρίες αποτυγχάνουν κοντά στο όριο περιεχομένου

Μειώστε το διαμορφωμένο Παράθυρο περιεχομένου στο πραγματικό υποστηριζόμενο όριο του παρόχου και αφήστε χώρο για έξοδο, οδηγίες συστήματος και αποτελέσματα εργαλείων. Ξεκινήστε μια νέα συνεδρία μετά την αλλαγή της διαμόρφωσης μοντέλου ώστε τα νέα όρια να εφαρμόζονται με συνέπεια.

Για λεπτομέρειες ποσοστώσεων λογαριασμού και ροής δεδομένων, διαβάστε λογαριασμοί, σχέδια και κόστη API PandaNpc και την Πολιτική απορρήτου.