Qwen3-235B: ang modelong dati nang sinusuportahan ng Gonka

Ang Qwen3-235B-A22B-Instruct-2507-FP8 ay isang malaking modelo ng wika (LLM) ng pamilya ng Qwen3, na binuo ng Qwen team sa Alibaba Cloud. Ang buong pangalan ay nangangahulugang: Qwen3 — ang ikatlong henerasyon ng serye, 235B — 235 bilyong parameter sa kabuuan, A22B — 22 bilyong aktibong parameter sa bawat kahilingan, Instruct — bersyon na sanay na sundin ang mga tagubilin, 2507 — paglabas ng Hulyo 2025, FP8 — 8-bit quantization para sa pag-optimize ng memorya.

Ang pangunahing arkitektural na feature — MoE (Mixture of Experts). Hindi tulad ng 'dense' na mga modelo (GPT-5.5, Claude Sonnet 4.6), kung saan ang bawat token ay dumadaan sa lahat ng mga parameter, ang MoE-modelo ay nag-aaktibo para sa bawat kahilingan lamang ng isang subset ng mga 'eksperto' — mga espesyalisadong bloke ng neural network. Sa kaso ng Qwen3-235B mula sa 235 bilyong parameter, tanging 22 bilyon lamang ang aktibo sa bawat token — mas mababa sa 10%. Nagbibigay ito ng kalidad ng antas ng mga modelo na may 200B+ parameter na may computational na gastos ng modelo na 22B.

Sa praktikal, nangangahulugan ito: mas matalino ang modelo kaysa sa inaasahan mula sa bilis nito. Pinoproseso nito ang mga kahilingan nang mas mabilis kaysa sa mga siksik na modelo ng maihahambing na kalidad, habang nangangailangan ng mas kaunting VRAM para sa inference. Ito ang dahilan kung bakit naging dominanteng arkitektura ang MoE para sa pinakamalaking modelo ng 2025–2026.

Ang context window ng Qwen3-235B ay 131,072 token (~100,000 salita) — sapat ito para sa pagsusuri ng buong libro, codebase, o mahabang legal na dokumento sa isang kahilingan. Sinusuportahan ng modelo ang 119 na wika, kabilang ang Russian, English, Chinese, Arabic, Hindi at dose-dosenang iba pa — na ginagawa itong isa sa pinakamaraming wika na modelo sa merkado.

Ang Qwen3-235B ay nakikipagkumpitensya sa pinakamalalaking closed at open models. Narito ang paghahambing ng mga pangunahing katangian:

Ang Qwen3-235B ay nagpapakita ng kalidad na maihahambing sa GPT-5.5 at Claude Sonnet 4.6 sa karamihan ng benchmarks, at bilang isang open-weights MoE-model, ito ay mas mura kaysa sa mga proprietary counterpart: ang MoE-architecture ay nag-a-activate lamang ng bahagi ng parameters bawat request, na nagpapababa nang malaki sa computational costs. Ang parehong prinsipyo ng murang decentralized inference ang ginagamit ng Gonka network ngayon sa kanilang mga kasalukuyang models — ang Kimi K2.6 at MiniMax M2.7, na available sa pamamagitan ng JoinGonka Gateway sa $0.0047 kada 1M tokens (daan-daan hanggang libu-libong beses na mas mura kaysa sa GPT-5.5 at Claude).

Sa MMLU-Pro, HumanEval, MATH-500, at GSM8K benchmarks, ang model ay kabilang sa top 3 open-source models, at tinalo lamang ng DeepSeek-R1 sa mga gawaing may kinalaman sa mathematical reasoning. Sa coding, translation, at instruction following, ang Qwen3-235B ay consistent na nangunguna sa Llama 4 Maverick at maihahambing sa Claude Sonnet 4.6.

Noong ang Qwen3-235B ang pangunahing modelo ng network, tumatakbo ito sa Gonka network nang distributed — gamit ang DiLoCo protocol, na inangkop para sa inference. Ang kumpletong modelo sa FP8 format ay nangangailangan ng humigit-kumulang 640 GB ng VRAM (VRAM), na hindi kasya sa isang GPU — kahit ang H100 80GB o H200 141GB ay hindi sapat. Kaya naman, ang modelo ay hinati-hati ayon sa layers (tensor parallelism + pipeline parallelism) sa pagitan ng ilang ML nodes.

Sa praktikal na aspeto, ang Qwen3-235B ay tumatakbo sa isang cluster ng 8—16 GPU nodes, na bawat isa ay may hindi bababa sa 40 GB ng VRAM. Ang mga Transfer Agent ay nag-ra-route ng request sa tamang cluster, ang vLLM sa bawat node ay nagpo-proseso ng bahagi ng modelo, at ang mga resulta ay pinagsasama-sama bago ibalik sa user. Ang buong proseso ay tumatagal lamang ng daan-daang millisecond — hindi nararamdaman ng user na ang request niya ay pinroseso ng sampung GPU sa iba't ibang panig ng mundo. Ang parehong prinsipyo ng distributed inference ay ginagamit pa rin ng network ngayon para sa mga kasalukuyang modelo.

Mahalagang teknikal na detalye: Ginagamit ng Gonka ang vLLM bilang serving engine. Ang vLLM ay isang open-source project na nagbibigay ng high-performance text generation sa pamamagitan ng PagedAttention — isang algorithm na nag-o-optimize sa paggamit ng video memory habang sabay-sabay na nagpo-proseso ng maraming request. Dahil dito, kayang i-serve ng network ang libu-libong sabay-sabay na user nang walang degradation sa kalidad.

Sinusuportahan ng modelo ang native tool calling — ang pagtawag ng functions at tools nang direkta mula sa sagot ng modelo. Ang kakayahang ito ay idinagdag sa Gonka sa pamamagitan ng PR #767 na may threshold na 0.958 para sa pagtukoy ng tool calls. Sa Qwen3-235B, pinapayagan nito ang mga developer na bumuo ng mga AI agent na nakikipag-ugnayan sa mga external API, database, at tool — lahat sa pamamagitan ng isang request lamang. Ang suporta para sa tool calling ay nananatili sa mga kasalukuyang modelo ng network.

Ang Gonka network ay may higit sa 4 000 GPU (H100, H200, A100, RTX 4090, at iba pa), na pinagsama-sama sa 120+ ML nodes. Ito ay isa sa pinakamalaking distributed GPU network para sa AI inference sa mundo — at kung dati ay ang Qwen3-235B ang ginagamitan ng lakas na ito, ngayon ay ginagamit na ito para sa mga kasalukuyang modelo ng network — Kimi K2.6, MiniMax M2.7, at DeepSeek V4 Flash.

Direktang sagot: sa pamamagitan ng network ng Gonka — hindi na. Ang Qwen3-235B ay inalis na sa network, kaya hindi na ito maaaring tawagin gamit ang identifier na qwen3-235b-a22b sa pamamagitan ng ating Gateway. Dahil ang modelo ay open-source (Apache 2.0), maaari pa rin itong patakbuhin nang mag-isa o ma-access sa pamamagitan ng mga third-party hosting ng mga open-weights model — halimbawa, sa pamamagitan ng OpenRouter (tinatayang $0.071/$0.100 bawat 1M tokens).

Kung kailangan mo naman ang murang decentralized inference na dahilan kung bakit pumupunta ang mga tao sa Gonka — naroon pa rin ito, gumagana na lamang ito ngayon sa mga kasalukuyang modelo ng network. Sa pamamagitan ng JoinGonka API Gateway, available ang Kimi K2.6, MiniMax M2.7 at DeepSeek V4 Flash sa pamamagitan ng OpenAI-compatible API: anumang code na isinulat para sa OpenAI ay gagana nang walang pagbabago — kailangan lang palitan ang URL, API key, at pangalan ng modelo.

Halimbawa ng request sa kasalukuyang modelo:

curl https://gate.joingonka.ai/api/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "moonshotai/Kimi-K2.6",
    "messages": [{"role": "user", "content": "Объясни MoE-архитектуру"}]
  }'

Halaga: $0.0047 bawat 1 milyong tokens — ito ay ~800 beses na mas mura kaysa sa GPT-5.5 ($5.00/1M) at ~500 beses na mas mura kaysa sa Claude Sonnet 4.6 ($3.00/1M). Pag-register, makakatanggap ka ng libreng 1.5M tokens para sa testing.

Ang Gateway ay compatible sa mga popular na development tools: ang Quick Start ay naglalarawan ng koneksyon sa pamamagitan ng Python, Node.js, at curl. Sinusuportahan din ang mga IDE integration — Cursor, Continue, Cline, Aider, at Claude Code — at mga framework para sa mga AI agent: LangChain, n8n, LibreChat, Open WebUI.

Para sa mabilis na pagsisimula:

1. Mag-register sa gate.joingonka.ai (ikonekta ang wallet o gumawa ng bago)
2. Kumuha ng API key sa Dashboard
3. Palitan ang api.openai.com ng gate.joingonka.ai/api sa iyong code
4. Ilagay ang kasalukuyang modelo ng network — moonshotai/Kimi-K2.6, MiniMaxAI/MiniMax-M2.7 o deepseek-ai/DeepSeek-V4-Flash-0731 (ang buong listahan ay nasa endpoint na GET /v1/models)

Ang decentralized enterprise-level inference sa presyong pang-hobby project ay naroon pa rin — nagbigay-daan lang ang Qwen3-235B sa mga mas bagong modelo ng network. Ang parehong balanse ng presyo at kalidad ay gumagana na ngayon sa Kimi K2.6, MiniMax M2.7 at DeepSeek V4 Flash.