Qwen3-235B: модель, яку раніше обслуговувала Gonka

Qwen3-235B-A22B-Instruct-2507-FP8 — це велика мовна модель (LLM) сімейства Qwen3, розроблена командою Qwen в Alibaba Cloud. Повна назва розшифровується так: Qwen3 — третє покоління серії, 235B — 235 мільярдів параметрів загалом, A22B — 22 мільярди активних параметрів на кожен запит, Instruct — версія, навчена дотримуватися інструкцій, 2507 — реліз липня 2025, FP8 — 8-бітна квантизація для оптимізації пам'яті.

Ключова архітектурна особливість — MoE (Mixture of Experts). На відміну від «щільних» моделей (GPT-5.5, Claude Sonnet 4.6), де кожен токен проходить через усі параметри, MoE-модель активує на кожен запит лише підмножину «експертів» — спеціалізованих блоків нейромережі. У випадку Qwen3-235B з 235 мільярдів параметрів на кожен токен активується лише 22 мільярди — менше 10%. Це дає якість рівня моделей з 200B+ параметрами при обчислювальних витратах моделі на 22B.

Практично це означає: модель розумніша, ніж можна очікувати від її швидкості. Вона обробляє запити значно швидше щільних моделей порівнянної якості, при цьому вимагаючи в рази менше VRAM на inference. Саме тому MoE стала домінуючою архітектурою для найбільших моделей 2025—2026 років.

Контекстне вікно Qwen3-235B становить 131 072 токени (~100 000 слів) — цього достатньо для аналізу цілих книг, кодових баз або довгих юридичних документів за один запит. Модель підтримує 119 мов, включаючи російську, англійську, китайську, арабську, хінді та десятки інших — що робить її однією з найбільш багатомовних моделей на ринку.

Qwen3-235B конкурує з найбільшими закритими та відкритими моделями. Ось порівняння ключових характеристик:

Qwen3-235B демонструє рівень якості, зіставний з GPT-5.5 і Claude Sonnet 4.6 на більшості бенчмарків, при цьому як open-weights MoE-модель вона коштує у рази дешевше за пропрієтарні аналоги: MoE-архітектура активує лише частину параметрів на запит і різко знижує обчислювальні витрати. Той самий принцип дешевого децентралізованого inference мережа Gonka застосовує сьогодні до своїх чинних моделей — MiniMax M2.7, DeepSeek V4 Flash та GLM-5.3 Flash, доступних через JoinGonka Gateway за $0.0069 за 1M токенів (у сотні—тисячі разів дешевше за GPT-5.5 і Claude).

На бенчмарках MMLU-Pro, HumanEval, MATH-500 і GSM8K модель входить до трійки найкращих open-source моделей, поступаючись лише DeepSeek-R1 у задачах математичних міркувань (reasoning). У задачах генерації коду, перекладу та дотримання інструкцій Qwen3-235B стабільно випереджає Llama 4 Maverick і зіставна з Claude Sonnet 4.6.

Коли Qwen3-235B була основною моделлю мережі, вона працювала в мережі Gonka розподілено — через протокол DiLoCo, адаптований для inference. Повна модель у форматі FP8 потребує близько 640 ГБ відеопам'яті (VRAM), що неможливо вмістити на одному GPU — навіть H100 80GB або H200 141GB недостатньо. Тому модель розділялася за шарами (tensor parallelism + pipeline parallelism) між кількома ML-нодами.

На практиці Qwen3-235B працювала на кластері з 8—16 GPU-нод, кожна з мінімум 40 ГБ VRAM. Transfer Agents маршрутизували запит до потрібного кластера, vLLM на кожній ноді обробляв свій фрагмент моделі, результати агрегувалися й поверталися користувачеві. Весь процес займав сотні мілісекунд — користувач не відчував, що його запит оброблено десятком GPU у різних точках планети. Той самий принцип розподіленого inference мережа застосовує й зараз — уже до чинних моделей.

Важлива технічна деталь: Gonka використовує vLLM як рушій для serving. vLLM — проєкт з відкритим вихідним кодом, який забезпечує високопродуктивну генерацію тексту через PagedAttention — алгоритм, що оптимізує використання відеопам'яті під час паралельної обробки безлічі запитів. Це дозволяє кожній ноді обробляти багато запитів паралельно без втрати якості.

Модель підтримує нативний tool calling — виклик функцій та інструментів безпосередньо з відповіді моделі. Цю можливість було додано в Gonka через PR #767 з порогом 0.958 для визначення викликів інструментів. На Qwen3-235B це дозволяло розробникам будувати AI-агентів, які взаємодіють із зовнішніми API, базами даних та інструментами — усе через єдиний запит. Підтримка tool calling збереглася й у чинних моделях мережі.

Зараз у мережі Gonka 944 GPU (H100, H200, B300 та інші). Якщо раніше ця потужність була спрямована на Qwen3-235B, то сьогодні вона обслуговує чинні моделі мережі — MiniMax M2.7, DeepSeek V4 Flash та GLM-5.3 Flash.

Пряма відповідь: через мережу Gonka — уже ні. Qwen3-235B виведено з мережі, тому викликати її за ідентифікатором qwen3-235b-a22b через наш Gateway більше не можна. Оскільки модель відкрита (Apache 2.0), її, як і раніше, можна запустити самостійно або звернутися до неї через сторонні хостинги open-weights моделей — наприклад, через OpenRouter (орієнтовно $0.071/$0.100 за 1M токенів).

Якщо ж вам потрібен той самий дешевий децентралізований inference, заради якого приходять у Gonka, — він нікуди не зник, просто тепер працює на чинних моделях мережі. Через JoinGonka API Gateway доступні MiniMax M2.7, DeepSeek V4 Flash і GLM-5.3 Flash за OpenAI-сумісним API: будь-який код, написаний для OpenAI, працює без змін — достатньо замінити URL, API-ключ і назву моделі.

Приклад запиту до чинної моделі:

curl https://gate.joingonka.ai/api/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MiniMaxAI/MiniMax-M2.7",
    "messages": [{"role": "user", "content": "Explain the MoE architecture"}]
  }'

Вартість: $0.0069 за 1 мільйон токенів — це в ~720 разів дешевше за GPT-5.5 ($5.00/1M) і в ~430 разів дешевше за Claude Sonnet 4.6 ($3.00/1M). Під час реєстрації ви отримуєте безкоштовні 3M токенів для тестування.

Gateway сумісний із популярними інструментами розробки: Quick Start описує підключення через Python, Node.js і curl. Також підтримуються інтеграції з IDE — Cursor, Continue, Cline, Aider і Claude Code — та фреймворки для AI-агентів: LangChain, n8n, LibreChat, Open WebUI.

Для швидкого старту:

1. Зареєструйтеся на gate.joingonka.ai (підключіть гаманець або створіть новий)
2. Отримайте API-ключ у Dashboard
3. Замініть api.openai.com на gate.joingonka.ai/api у вашому коді
4. Укажіть актуальну модель мережі — MiniMaxAI/MiniMax-M2.7, deepseek-ai/DeepSeek-V4-Flash-0731 або zai-org/GLM-5.3-Flash (повний список — в endpoint GET /v1/models)

Децентралізований inference рівня enterprise за ціною хобі-проєкту нікуди не зник — Qwen3-235B лише поступилася місцем новішим моделям мережі. Той самий баланс ціни й якості тепер працює на MiniMax M2.7, DeepSeek V4 Flash і GLM-5.3 Flash.