BYOK AI: Gerencie sua lista de modelos personalizados

A configuração BYOK AI permite gerenciar seus próprios provedores e IDs de modelos no PandaNpc. Adicionar entradas não concede acesso a modelos nem créditos; forneça suas próprias credenciais.

Atualizado

O PandaNpc permite que você gerencie suas próprias conexões de provedores e entradas de modelos. Traga sua própria chave (BYOK) significa que você fornece as credenciais exigidas pelo serviço que escolher. Uma entrada de modelo salva descreve uma configuração; ela não compra, hospeda ou autoriza esse modelo para você.

Use esta página para entender a lista antes de seguir a configuração de chave de API e URL base.

Provedores e entradas de modelo

Um provedor e um modelo são registros separados:

Registro O que descreve Exemplo
Provedor Endereço de conexão, protocolo e configurações de autenticação Gateway da API da sua empresa
Modelo Nome de exibição, ID do modelo upstream, provedor e limites opcionais Um modelo disponível através desse gateway

Um provedor pode ter várias entradas de modelo. O nome de exibição ajuda você a reconhecer uma entrada. Model Value deve corresponder ao identificador aceito pela API upstream; alterar o nome de exibição não altera o modelo real.

O que significam as entradas predefinidas

A tela de configuração pode incluir entradas de provedor ou modelo marcadas como Official. Estas são predefinições para ajudar você a configurar uma conexão, não uma promessa de acesso gratuito ou créditos incluídos.

Você pode configurar credenciais para um provedor predefinido, ou copiar um provedor ou modelo para criar sua própria entrada editável. Copiar um provedor deixa as credenciais para você fornecer. Um modelo que aparece na lista não prova que sua conta tem permissão para chamá-lo.

Gerencie sua lista de modelos

Abra Model Configuration e selecione um provedor para ver seus modelos. Adicione um modelo com seu nome de exibição, Model Value, tipo e provedor. Entradas personalizadas podem ser editadas, copiadas, ativadas ou desativadas e excluídas por meio de suas ações disponíveis.

Mantenha os rótulos distintos quando você usa várias contas ou endpoints para o mesmo modelo. Por exemplo, um gateway de trabalho e um provedor pessoal podem expor o mesmo ID de modelo usando credenciais e limites diferentes. Associe cada entrada ao provedor correto.

Um modelo padrão é uma preferência de configuração para os recursos que o utilizam. Ele não altera automaticamente todas as sessões remotas existentes do Agent.

Janela de contexto e comprimento de saída

Context Window registra a capacidade de contexto suportada pelo modelo. Max Tokens registra um limite de saída. Use os limites documentados para a API e o modelo exatos que você selecionou.

Um campo vazio significa que você não forneceu esse valor. Isso não significa que o PandaNpc verificou a capacidade upstream. Os padrões e a forma como os limites são aplicados dependem do recurso ou mecanismo consumidor. Um número maior não pode aumentar o que o modelo upstream aceita.

Da mesma forma, escolher um tipo de modelo não adiciona entrada de imagem, chamada de ferramentas ou outros recursos ao modelo.

Verifique a disponibilidade no recurso que usa o modelo

Após salvar uma entrada, selecione-a no recurso que usa esta configuração e envie uma solicitação de texto curta. Verifique se o provedor esperado a processou. Teste imagens, chamadas de ferramentas e contexto longo separadamente, se precisar.

Um salvamento bem-sucedido prova que a configuração foi armazenada. Uma resposta de texto bem-sucedida prova que aquela solicitação específica funcionou. Nenhum dos dois prova compatibilidade com todos os recursos do PandaNpc ou com todas as capacidades upstream.

Autenticação, disponibilidade de modelo, cotas e limites de serviço pertencem ao serviço upstream configurado. Verifique suas configurações atuais em vez de confiar em um catálogo fixo de modelos na documentação.

Os modelos do Remote Agent são configurados separadamente

Claude Code e Codex são executados no computador conectado e usam sua própria configuração de motor ou sessão. Atualizar esta lista não substitui automaticamente o modelo de um processo em execução. Para motores ou tarefas que aceitam uma entrada de modelo do PandaNpc, selecione-a através da configuração desse motor e verifique a sessão resultante.

Consulte o guia de host do PandaPaw para execução remota e contas e custos de modelos para a separação entre associação ao PandaNpc e uso do provedor de modelos.