Kimi K2.6: друга модель мережі Gonka

Kimi K2.6 — велика мовна модель (LLM) серії Kimi, розроблена пекінською компанією Moonshot AI. Moonshot AI — одна з провідних AI-лабораторій Китаю, заснована у 2023 році командою дослідників під керівництвом Yang Zhilin. Компанія залучила фінансування від Alibaba, Tencent та інших великих інвесторів і потрапила до списку «китайських AI-тигрів» — компаній, які задають темп розвитку AI в Азії.

Серія Kimi відома з 2024 року. Ранні версії (K1, K1.5) одразу привернули увагу винятково довгим контекстним вікном — до 200 000 токенів в одному запиті, що на момент релізу було рекордом для публічно доступних моделей. Довгий контекст означає практичну можливість за один запит проаналізувати цілу книгу, кодову базу середнього розміру або добірку юридичних документів. На момент виходу Kimi ця характеристика була сильною конкурентною перевагою.

Версія K2 з'явилася у 2025 році і принесла принциповий архітектурний стрибок — перехід на MoE (Mixture of Experts). Ця ж архітектура лежить в основі Qwen3-235B та DeepSeek-R1 — вона стала фактичним стандартом для найбільших моделей 2025—2026 років. MoE дозволяє мати сотні мільярдів параметрів «всього», але на кожному запиті активувати лише підмножину (зазвичай 5—10%), що радикально знижує обчислювальну вартість inference при порівнянній якості.

K2.6 — остання ітерація серії K2 на момент написання статті. З публічних заяв Moonshot AI випливає, що в цій версії покращено здатності моделі в reasoning (логічних міркуваннях), генерації коду та нативному виклику інструментів (tool calling). У мережі Gonka модель ідентифікується як moonshotai/Kimi-K2.6 — саме це ім'я потрібно передавати в поле model запиту до API.

Обидві моделі представляють флагманські розробки найбільших китайських AI-лабораторій і обидві доступні через єдиний OpenAI-сумісний інтерфейс JoinGonka Gateway. При цьому вони мають різні сильні сторони та різну спадщину, що робить вибір між ними не питанням «яка краща», а питанням «яка підходить під завдання».

На бенчмарках reasoning (MATH-500, GSM8K, AIME) серія Kimi K2 історично показує результати у верхній групі open-weights моделей, конкуруючи з DeepSeek-R1 та o1-style моделями. На задачах генерації коду (HumanEval, MBPP) обидві моделі тримаються на близьких рівнях. У багатомовності та перекладі Qwen3-235B має перевагу за рахунок навчання на 119 мовах, тоді як Kimi сильніше оптимізована під китайську та англійську.

Важливе зауваження про бенчмарки у 2026 році: розрив між топ-моделями в публічних тестах скоротився до одиниць відсотків, і ця різниця часто виявляється в межах статистичної похибки самих бенчмарків. Для практичної роботи значення має не «хто на 2% вище в MMLU», а характер завдань: який контекст ви передаєте моделі, наскільки складні логічні ланцюжки, чи потрібна довга історія діалогу, які мови використовуються. Тому таблиця вище не ранжує моделі — вона допомагає швидко зрозуміти, під який профіль завдань кожна з них оптимізована.

Для практичного вибору: якщо завдання вимагає довгого контексту (аналіз великих документів, читання об'ємної кодової бази, довгі діалоги зі збереженням історії) або складних reasoning-задач — варто починати з Kimi K2.6. Для універсальних завдань, перекладів, багатомовної роботи та стабільного tool calling в продакшені — Qwen3-235B поки виглядає більш перевіреним варіантом, оскільки довше працює в мережі Gonka. Хороша стратегія в продакшені — мати обидві моделі у своєму коді: швидка зміна через параметр model дозволяє перемикатися між ними залежно від завдання без зміни архітектури програми.

До весни 2026 вся мережа Gonka обслуговувала рівно одну модель — Qwen3-235B. З точки зору архітектури це було осмислене рішення: розподілений inference через DiLoCo вимагає, щоб усі учасники мережі тримали одну й ту ж модель у відеопам'яті, інакше неможливо гарантувати, що будь-який вузол зможе обробити будь-який запит. Повна Qwen3-235B у форматі FP8 займає близько 640 ГБ VRAM, що вже само по собі величезне зобов'язання для кожної ML-ноди.

Для переходу до мульти-модельної мережі потрібен був механізм, який дозволяв би тримати кілька моделей одночасно, але не вимагав би від кожного хоста запускати їх усі. Цим механізмом стали DevShards — окремі шарди мережі, кожен з яких спеціалізується на одній моделі. Вузли всередині одного шарда працюють над однією й тією ж моделлю, а маршрутизатор мережі направляє запит у шард з потрібною моделлю.

Ідея прийшла не з повітря — вона була формалізована в Gonka Improvement Proposal #800 «Multi-Model PoC», винесеному на голосування спільноти навесні 2026 року. Пропозиція отримала підтримку учасників та валідаторів мережі та була реалізована у квітні—травні 2026. Kimi K2.6 стала першою моделлю, запущеною на окремому DevShard, — тобто фактично тестовою реалізацією нового підходу. Якщо досвід виявиться успішним, ніщо не заважає запустити третю, четверту і так далі — кожна на своєму шарді, з власним набором хостів, власною економікою та власним roadmap.

Що це означає для користувачів та розробників:

• Один API — кілька моделей. Через JoinGonka Gateway не потрібно змінювати endpoint або ключі: достатньо вказати інший model у тілі запиту. OpenAI-сумісний формат повністю зберігається.
• Ціна та ж. Зараз Kimi K2.6 у мережі тарифікується за тією ж ставкою, що й Qwen3-235B — $0.001 за 1M токенів через Gateway. У майбутньому ціни можуть відрізнятися за моделями, але єдиний прайсинг на старті — це свідоме рішення для спрощення міграції користувачів.
• Стабільність залежить від завантаження шарда. На ранній стадії шард Kimi має менше хостів, ніж основний шард Qwen, тому при концентрації запитів модель може тимчасово повертати 429 too many concurrent requests. Це нормальна фаза для нової моделі — у міру зростання інтересу хости підключатимуться до шарда Kimi, і ліміти зростатимуть.
• Tool calling — у процесі доопрацювання. На момент написання статті у Kimi K2.6 у мережі Gonka фіксуються дрібні проблеми з автоматичним вибором інструментів (tool_choice: "auto"). Команда Gonka працює над приведенням поведінки до стандарту OpenAI; для критичних у продакшені сценаріїв з tool calling рекомендується поки використовувати Qwen3-235B.

Найпряміший шлях — через JoinGonka API Gateway. Gateway надає OpenAI-сумісний API, що означає: той же код, який працює з GPT, Claude або Qwen, почне працювати з Kimi після зміни значення поля model у тілі запиту.

Мінімальний приклад через curl:

curl https://gate.joingonka.ai/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "moonshotai/Kimi-K2.6",
    "messages": [
      {"role": "user", "content": "Объясни разницу между MoE и dense моделями"}
    ]
  }'

Той же запит з Python через бібліотеку openai:

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://gate.joingonka.ai/v1",
)

response = client.chat.completions.create(
    model="moonshotai/Kimi-K2.6",
    messages=[{"role": "user", "content": "Привет, Kimi"}],
)
print(response.choices[0].message.content)

Стрімінг (Server-Sent Events) — для інтерактивних інтерфейсів та чатів, де відповідь хочеться показувати в міру генерації:

stream = client.chat.completions.create(
    model="moonshotai/Kimi-K2.6",
    messages=[{"role": "user", "content": "Напиши эссе про MoE"}],
    stream=True,
)
for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="", flush=True)

Вартість Kimi K2.6 — ті ж $0.001 за 1 мільйон токенів, що й у Qwen3-235B. Це в ~2 500 разів дешевше GPT-5.4 та в ~3 000 разів дешевше Claude Sonnet 4.5. При реєстрації в JoinGonka Gateway ви отримуєте безкоштовні 10 мільйонів токенів на тестування будь-яких моделей мережі — цього вистачить на кілька годин щільної роботи або десятки тисяч звичайних запитів.

Сумісність з інструментами розробки: все, що працює з OpenAI API, працює і з Kimi через Gateway. На рівні моделі достатньо змінити параметр model:

• Cursor: у налаштуваннях Custom Model вкажіть moonshotai/Kimi-K2.6
• Claude Code: змінна середовища ANTHROPIC_MODEL або прапорець --model
• OpenClaw, Cline, Continue.dev: у конфігу CustomChatModel змініть ім'я моделі
• LangChain, n8n: параметр model в ініціалізації клієнта
• Open WebUI, LibreChat: модель з'являється у спадному списку після додавання Gonka як кастомного провайдера

Список доступних моделей завжди актуальний в endpoint GET /v1/models вашого Gateway-інстансу — звідти зручно підтягувати його динамічно в UI вашого застосунку, щоб користувачі бачили повний список і могли вибирати модель самі.

Демо-чат на сторінці /try на момент публікації працює тільки з Qwen3-235B — мульти-модельний селектор у віджеті знаходиться в roadmap. Для спроби Kimi прямо зараз використовуйте Gateway API: безкоштовних 10M токенів вистачить для кількох годин експериментів. Якщо у відповідь приходить 429 too many concurrent requests — це нормальна фаза для свіжої моделі на ранніх етапах зростання мережі Gonka. Просто повторіть запит через кілька секунд або дочекайтеся вікна меншого навантаження.

Що далі для мережі Gonka: успіх DevShards для Kimi відкриває дорогу іншим моделям. В обговореннях спільноти фігурують DeepSeek-V3/R1, Llama 4 та спеціалізовані моделі для коду. Кожна нова модель — це новий шард, нові хости, нові можливості для користувачів та нове джерело доходу для GPU-провайдерів. Багатомодельна архітектура також важлива стратегічно: мережа, прив'язана до однієї моделі, фундаментально крихка (вихід нової версії — криза міграції), а мережа, здатна тримати кілька моделей одночасно, еволюціонує м'яко та безперервно.