GitHub Copilot BYOK — mô hình riêng thay vì hạn ngạch

Gói đăng ký Copilot hạn chế các yêu cầu premium theo hạn ngạch hàng tháng: các phiên tác tử, tái cấu trúc mã (refactoring) và các tác vụ đa bước tiêu thụ hạn ngạch nhanh nhất. BYOK chuyển hướng các yêu cầu này đến nhà cung cấp của bạn: chi phí được tính theo giá của nhà cung cấp đó và không trừ vào hạn ngạch premium của Copilot. Các khóa được lưu trữ trong keychain hệ thống và không được giao diện đọc lại.

BYOK là hợp lý nếu bạn đã đạt giới hạn, muốn sử dụng các mô hình mã nguồn mở hoặc trả phí cho inference thấp hơn nhiều lần: mạng lưới Gonka cung cấp các mô hình open-source tương tự với giá rẻ hơn hàng trăm lần so với giá của các nhà cung cấp — giá cập nhật luôn có sẵn trong bảng giá trực tiếp của gateway.

Bạn sẽ cần khóa jg-… — khóa này được cấp khi đăng ký trên gateway kèm 3M token miễn phí khởi đầu, không cần thẻ. Khóa và model được thiết lập riêng cho từng ứng dụng Copilot — dưới đây là ba cách.

VS Code — nhà cung cấp Custom Endpoint. Đây là cách hiện hành: nhà cung cấp cũ «OpenAI Compatible» và cài đặt github.copilot.chat.customOAIModels đã bị đánh dấu là lỗi thời.

"models": [
  {
    "id": "deepseek-ai/DeepSeek-V4-Flash-0731",
    "name": "DeepSeek V4 Flash (Gonka)",
    "url": "https://gate.joingonka.ai/v1/chat/completions",
    "toolCalling": true,
    "vision": false,
    "maxInputTokens": 347232,
    "maxOutputTokens": 32768
  },
  {
    "id": "MiniMaxAI/MiniMax-M2.7",
    "name": "MiniMax M2.7 (Gonka)",
    "url": "https://gate.joingonka.ai/v1/chat/completions",
    "toolCalling": true,
    "vision": false,
    "maxInputTokens": 191808,
    "maxOutputTokens": 8192
  },
  {
    "id": "zai-org/GLM-5.3-Flash",
    "name": "GLM 5.3 Flash (Gonka)",
    "url": "https://gate.joingonka.ai/v1/chat/completions",
    "toolCalling": true,
    "vision": false,
    "maxInputTokens": 381808,
    "maxOutputTokens": 8192
  }
]

maxInputTokens là cửa sổ ngữ cảnh của model trừ đi giới hạn phản hồi: cùng với maxOutputTokens nó mới tạo nên cửa sổ. Nếu không có toolCalling: true, model sẽ không xuất hiện trong danh sách khi làm việc với agent.

Copilot CLI — chỉ dùng biến môi trường. Nhà cung cấp này không có tệp cấu hình, các giá trị được đặt trong shell mà bạn chạy copilot từ đó:

export COPILOT_PROVIDER_BASE_URL=https://gate.joingonka.ai/v1
export COPILOT_PROVIDER_TYPE=openai
export COPILOT_PROVIDER_API_KEY=jg-your-key
export COPILOT_MODEL=deepseek-ai/DeepSeek-V4-Flash-0731
export COPILOT_PROVIDER_MAX_PROMPT_TOKENS=347232
export COPILOT_PROVIDER_MAX_OUTPUT_TOKENS=32768
copilot

Chỉ Copilot CLI đọc các tên COPILOT_PROVIDER_*, nên cấu hình này không ảnh hưởng đến các công cụ khác của bạn. Với model, CLI yêu cầu tool calling và streaming — mọi model trong mạng đều làm được.

JetBrains — plugin GitHub Copilot. Mở Copilot Chat → danh sách model → Manage Models, chọn nhà cung cấp có endpoint tương thích OpenAI, nhấn Add Models rồi nhập Base URL https://gate.joingonka.ai/v1, khóa jg-… và ID model. Nhấn Save, đánh dấu model dưới khóa của bạn và lưu thêm lần nữa — model sẽ xuất hiện trong danh sách bên cạnh các model tích hợp.

Mẹo. Lệnh npx @joingonka/setup --tool copilot-byok sẽ in cả ba phần với khóa của bạn và giới hạn thực tế của model đã chọn — bao gồm mảng "models" sẵn sàng cho VS Code — và kiểm tra bằng truy vấn thực rằng gateway chấp nhận khóa và model. Nó không ghi tệp: mỗi ứng dụng Copilot lưu khóa trong kho riêng của mình.

Cả ba mô hình của mạng lưới đều hỗ trợ streaming và tool calling. deepseek-ai/DeepSeek-V4-Flash-0731 — một trong những ngữ cảnh dài nhất của mạng lưới (380K tokens) và đầu ra lớn nhất, lên tới 32768 tokens: hãy chọn nó cho các kho mã nguồn (repository) lớn và các phiên đại lý dài. MiniMaxAI/MiniMax-M2.7 — mô hình đa năng, đầu ra lên tới 8192 tokens. zai-org/GLM-5.3-Flash — mô hình reasoning của Z.ai với ngữ cảnh dài nhất mạng lưới (390K tokens): suy luận trước khi trả lời, đầu ra lên tới 8192 tokens; một phần ngân sách câu trả lời được dùng cho việc suy luận, vì vậy đừng đặt giới hạn đầu ra quá thấp trong cài đặt.

BYOK bao phủ các phiên tác nhân và trò chuyện; gợi ý nội dòng (inline-suggestions) và tìm kiếm ngữ nghĩa trong dự án vẫn chạy trên các mô hình Copilot và yêu cầu tài khoản GitHub — đây là giới hạn của chính Copilot chứ không phải của nhà cung cấp. Trong Copilot Business và Enterprise, BYOK cục bộ được quản lý bởi chính sách quản trị viên («Bring Your Own Language Model Key»): nếu tùy chọn này không có trong giao diện, nghĩa là nó đã bị tắt ở cấp tổ chức. Các tác vụ Vision không hoạt động qua gateway: các mô hình của mạng lưới là mô hình văn bản. Nếu công cụ gửi yêu cầu ở định dạng Responses API — gateway sẽ chấp nhận nó: POST /v1/responses, streaming và function tools đều hoạt động. Chúng tôi không lưu trữ các cuộc hội thoại, vì vậy store sẽ bị bỏ qua và previous_response_id sẽ trả về lỗi — hãy chuyển toàn bộ lịch sử trong input.