GitHub Copilot BYOK — sariling mga modelo imbes na quota

Ang subscription sa Copilot ay naglilimita sa mga premium-request gamit ang monthly limits: ang mga agent session, refactoring, at multi-step tasks ang pinakamabilis na kumakain ng quota. Inililipat ng BYOK ang mga tawag na ito sa iyong provider: ang gastos ay sisingilin ayon sa kanilang presyo at hindi ibabawas sa premium-quota ng Copilot. Ang mga key ay nakatago sa system keychain at hindi binabasa ng interface pabalik.

Ang BYOK ay sulit kung ikaw ay laging umaabot sa limit, kung gusto mo ng mga model na may open weights, o kung mas mura ang binabayaran mo para sa inference: ang Gonka network ay nagbibigay ng parehong open-source models sa mas mababang halaga kumpara sa presyo ng mga vendor — ang mga kasalukuyang presyo ay palaging nasa live price ng gateway.

Kakailanganin mo ang key na jg-… — ibinibigay ito kapag nagrehistro ka sa gateway kasama ang panimulang 3M libreng token, walang kailangang card. Ang key at modelo ay itinatakda nang hiwalay sa bawat client ng Copilot — narito ang tatlong paraan.

VS Code — provider na Custom Endpoint. Ito ang kasalukuyang paraan: ang dating provider na «OpenAI Compatible» at ang setting na github.copilot.chat.customOAIModels ay idineklarang luma na.

"models": [
  {
    "id": "deepseek-ai/DeepSeek-V4-Flash-0731",
    "name": "DeepSeek V4 Flash (Gonka)",
    "url": "https://gate.joingonka.ai/v1/chat/completions",
    "toolCalling": true,
    "vision": false,
    "maxInputTokens": 347232,
    "maxOutputTokens": 32768
  },
  {
    "id": "MiniMaxAI/MiniMax-M2.7",
    "name": "MiniMax M2.7 (Gonka)",
    "url": "https://gate.joingonka.ai/v1/chat/completions",
    "toolCalling": true,
    "vision": false,
    "maxInputTokens": 191808,
    "maxOutputTokens": 8192
  },
  {
    "id": "zai-org/GLM-5.3-Flash",
    "name": "GLM 5.3 Flash (Gonka)",
    "url": "https://gate.joingonka.ai/v1/chat/completions",
    "toolCalling": true,
    "vision": false,
    "maxInputTokens": 381808,
    "maxOutputTokens": 8192
  }
]

Ang maxInputTokens — ang context window ng modelo na binawasan ng ceiling ng sagot: kasama ng maxOutputTokens ito ang tumutukoy sa window. Kung walang toolCalling: true, hindi lalabas ang modelo sa listahan kapag gumagamit ng mga agent.

Copilot CLI — mga environment variable lang. Walang settings file ang provider, ang mga value ay itinatakda sa shell kung saan mo pinapatakbo ang copilot:

export COPILOT_PROVIDER_BASE_URL=https://gate.joingonka.ai/v1
export COPILOT_PROVIDER_TYPE=openai
export COPILOT_PROVIDER_API_KEY=jg-your-key
export COPILOT_MODEL=deepseek-ai/DeepSeek-V4-Flash-0731
export COPILOT_PROVIDER_MAX_PROMPT_TOKENS=347232
export COPILOT_PROVIDER_MAX_OUTPUT_TOKENS=32768
copilot

Ang mga pangalang COPILOT_PROVIDER_* ay binabasa lang ng Copilot CLI, kaya hindi naaapektuhan ng setup ang iba mong tools. Sa modelo, ang hinihingi ng CLI ay tool calling at streaming — kaya ito ng lahat ng modelo sa network.

JetBrains — plugin na GitHub Copilot. Buksan ang Copilot Chat → listahan ng mga modelo → Manage Models, piliin ang provider na may OpenAI-compatible na endpoint, pindutin ang Add Models at ilagay ang Base URL https://gate.joingonka.ai/v1, ang key na jg-… at ang identifier ng modelo. Pindutin ang Save, markahan ang modelo sa ilalim ng iyong key at i-save muli — lalabas ito sa listahan katabi ng mga built-in.

Tip. Ang command na npx @joingonka/setup --tool copilot-byok ay magpi-print ng lahat ng tatlong seksyon kasama na ang iyong key at ang totoong limit ng napiling modelo — kasama ang ready na array na "models" para sa VS Code — at sa live na request ay titiyakin na tinatanggap ng gateway ang key at modelo. Hindi ito nagsusulat ng file: ang bawat client ng Copilot ay nag-iingat ng key sa sarili nitong storage.

Lahat ng tatlong model ng network ay sumusuporta sa streaming at tool calling. deepseek-ai/DeepSeek-V4-Flash-0731 — isa sa pinakamahabang context sa network (380K tokens) at pinakamalaking output, hanggang 32768 tokens: gamitin ito para sa malalaking repository at mahabang agent sessions. MiniMaxAI/MiniMax-M2.7 — universal, output hanggang 8192 tokens. zai-org/GLM-5.3-Flash — reasoning model ng Z.ai na may pinakamahabang context sa network (390K tokens): nag-iisip bago sumagot, output hanggang 8192 tokens; bahagi ng budget ng sagot ay napupunta sa pag-iisip, kaya huwag babaan ang output limit sa mga setting.

Sinasaklaw ng BYOK ang mga agent session at chat; ang mga inline-suggestion at semantic project search ay mananatili sa mga model ng Copilot at nangangailangan ng GitHub account — limitasyon ito ng mismong Copilot, hindi ng provider. Sa Copilot Business at Enterprise, ang lokal na BYOK ay pinamamahalaan ng administrator policy («Bring Your Own Language Model Key»): kung walang ganoong option sa interface, naka-disable ito sa antas ng organisasyon. Hindi gumagana ang mga vision task sa pamamagitan ng gateway: ang mga model sa network ay puro text. Kung ang tool ay nagpapadala ng mga request sa format na Responses API — tinatanggap ito ng gateway: gumagana ang POST /v1/responses, streaming, at function tools. Hindi namin iniimbak ang mga dialog, kaya ang store ay binabalewala, at ang previous_response_id ay magbabalik ng error — ipasa ang buong history sa input.