Qwen3-235B: ang modelong dati nang sinusuportahan ng Gonka

Ang Qwen3-235B-A22B-Instruct-2507-FP8 ay isang malaking modelo ng wika (LLM) ng pamilya ng Qwen3, na binuo ng Qwen team sa Alibaba Cloud. Ang buong pangalan ay nangangahulugang: Qwen3 — ang ikatlong henerasyon ng serye, 235B — 235 bilyong parameter sa kabuuan, A22B — 22 bilyong aktibong parameter sa bawat kahilingan, Instruct — bersyon na sanay na sundin ang mga tagubilin, 2507 — paglabas ng Hulyo 2025, FP8 — 8-bit quantization para sa pag-optimize ng memorya.

Ang pangunahing arkitektural na feature — MoE (Mixture of Experts). Hindi tulad ng 'dense' na mga modelo (GPT-5.5, Claude Sonnet 4.6), kung saan ang bawat token ay dumadaan sa lahat ng mga parameter, ang MoE-modelo ay nag-aaktibo para sa bawat kahilingan lamang ng isang subset ng mga 'eksperto' — mga espesyalisadong bloke ng neural network. Sa kaso ng Qwen3-235B mula sa 235 bilyong parameter, tanging 22 bilyon lamang ang aktibo sa bawat token — mas mababa sa 10%. Nagbibigay ito ng kalidad ng antas ng mga modelo na may 200B+ parameter na may computational na gastos ng modelo na 22B.

Sa praktikal, nangangahulugan ito: mas matalino ang modelo kaysa sa inaasahan mula sa bilis nito. Pinoproseso nito ang mga kahilingan nang mas mabilis kaysa sa mga siksik na modelo ng maihahambing na kalidad, habang nangangailangan ng mas kaunting VRAM para sa inference. Ito ang dahilan kung bakit naging dominanteng arkitektura ang MoE para sa pinakamalaking modelo ng 2025–2026.

Ang context window ng Qwen3-235B ay 131,072 token (~100,000 salita) — sapat ito para sa pagsusuri ng buong libro, codebase, o mahabang legal na dokumento sa isang kahilingan. Sinusuportahan ng modelo ang 119 na wika, kabilang ang Russian, English, Chinese, Arabic, Hindi at dose-dosenang iba pa — na ginagawa itong isa sa pinakamaraming wika na modelo sa merkado.

Nakikipagkumpitensya ang Qwen3-235B sa pinakamalalaking closed at open na mga modelo. Narito ang paghahambing ng mga pangunahing katangian:

Ipinapakita ng Qwen3-235B ang antas ng kalidad na katumbas ng GPT-5.5 at Claude Sonnet 4.6 sa karamihan ng benchmark, at bilang open-weights MoE na modelo, mas mura ito nang maraming beses kaysa sa mga proprietary na katapat: ang MoE na arkitektura ay nag-aaktiba lamang ng bahagi ng mga parameter sa bawat kahilingan at matinding binabawasan ang gastos sa pagkompyut. Ang parehong prinsipyo ng murang desentralisadong inference ay ginagamit ngayon ng network na Gonka sa mga aktibong modelo nito — MiniMax M2.7, DeepSeek V4 Flash at GLM-5.3 Flash, na maa-access sa pamamagitan ng JoinGonka Gateway sa $0.0062 bawat 1M token (daan-daan hanggang libu-libong beses na mas mura kaysa sa GPT-5.5 at Claude).

Sa mga benchmark na MMLU-Pro, HumanEval, MATH-500 at GSM8K, kabilang ang modelo sa tatlong pinakamahusay na open-source na modelo, nalalampasan lamang ng DeepSeek-R1 sa mga gawaing matematikal na pangangatwiran (reasoning). Sa mga gawain ng pagbuo ng code, pagsasalin at pagsunod sa mga instruksiyon, tuloy-tuloy na nauuna ang Qwen3-235B sa Llama 4 Maverick at katumbas ng Claude Sonnet 4.6.

Noong pangunahing modelo ng network ang Qwen3-235B, gumagana ito sa network na Gonka nang desentralisado — sa pamamagitan ng protocol na DiLoCo, na inangkop para sa inference. Ang buong modelo sa format na FP8 ay nangangailangan ng humigit-kumulang 640 GB ng video memory (VRAM), na imposibleng ilagay sa isang GPU — kahit ang H100 80GB o H200 141GB ay hindi sapat. Kaya hinahati ang modelo ayon sa mga layer (tensor parallelism + pipeline parallelism) sa ilang ML-node.

Sa pagsasagawa, gumagana ang Qwen3-235B sa isang cluster na may 8—16 na GPU-node, bawat isa ay may hindi bababa sa 40 GB na VRAM. Ang mga Transfer Agent ay nagruruta ng kahilingan patungo sa tamang cluster, ang vLLM sa bawat node ay nagpoproseso ng sariling fragment ng modelo, ang mga resulta ay pinagsama-sama at ibinalik sa user. Ang buong proseso ay tumatagal ng daan-daanng millisecond — hindi nararamdaman ng user na ang kanyang kahilingan ay pinroseso ng dose-dosenang GPU sa iba't ibang panig ng mundo. Ang parehong prinsipyo ng desentralisadong inference ay ginagamit pa rin ng network ngayon — sa mga aktibong modelo na.

Mahalagang teknikal na detalye: ginagamit ng Gonka ang vLLM bilang engine para sa serving. Ang vLLM ay isang open-source na proyekto na nagbibigay ng high-performance na pagbuo ng teksto sa pamamagitan ng PagedAttention — isang algorithm na nag-o-optimize ng paggamit ng video memory kapag sabay-sabay na nagpoproseso ng maraming kahilingan. Ito ay nagpapahintulot sa bawat node na magproseso ng maraming kahilingan nang sabay-sabay nang hindi nawawala ang kalidad.

Sinusuportahan ng modelo ang native na tool calling — pagtawag sa mga function at tool nang direkta mula sa sagot ng modelo. Ang kakayahang ito ay idinagdag sa Gonka sa pamamagitan ng PR #767 na may threshold na 0.958 para sa pagtukoy ng mga tawag sa tool. Sa Qwen3-235B, pinapayagan nito ang mga developer na bumuo ng mga AI agent na nakikipag-ugnayan sa mga panlabas na API, database at tool — lahat sa isang kahilingan. Ang suporta sa tool calling ay nanatili rin sa mga aktibong modelo ng network.

Ngayon sa network na Gonka mayroong 1,293 GPU (H100, H200, B300 at iba pa). Kung dati ang kapasidad na ito ay nakadirekta sa Qwen3-235B, ngayon ito ay naglilingkod sa mga aktibong modelo ng network — MiniMax M2.7, DeepSeek V4 Flash at GLM-5.3 Flash.

Direktang sagot: sa pamamagitan ng Gonka network — hindi na. Inalis na ang Qwen3-235B sa network, kaya hindi mo na ito matawag sa pamamagitan ng identifier na qwen3-235b-a22b gamit ang aming Gateway. Dahil open ang modelo (Apache 2.0), maaari mo pa rin itong patakbuhin nang mag-isa o gamitin sa pamamagitan ng third-party na hosting ng open-weights models — halimbawa, sa OpenRouter (tinatayang $0.071/$0.100 bawat 1M tokens).

Kung kailangan mo naman ang mismong murang decentralized inference na dahilan kung bakit pumupunta ang mga tao sa Gonka — nandiyan pa rin ito, nagpapatakbo lang ngayon sa mga aktibong modelo ng network. Sa pamamagitan ng JoinGonka API Gateway, available ang MiniMax M2.7, DeepSeek V4 Flash, at GLM-5.3 Flash sa isang OpenAI-compatible na API: anumang code na isinulat para sa OpenAI ay gumagana nang walang pagbabago — palitan lang ang URL, API key, at pangalan ng modelo.

Halimbawa ng request sa aktibong modelo:

curl https://gate.joingonka.ai/api/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MiniMaxAI/MiniMax-M2.7",
    "messages": [{"role": "user", "content": "Explain the MoE architecture"}]
  }'

Gastos: $0.0062 bawat 1 milyong tokens — mga ~810 beses na mas mura kaysa sa GPT-5.5 ($5.00/1M) at mga ~490 beses na mas mura kaysa sa Claude Sonnet 4.6 ($3.00/1M). Sa pagpaparehistro, makakatanggap ka ng libreng 3M tokens para sa pagsubok.

Ang Gateway ay compatible sa mga sikat na development tools: inilalarawan ng Quick Start ang pagkonekta sa pamamagitan ng Python, Node.js, at curl. Sinusuportahan din ang mga IDE integration — Cursor, Continue, Cline, Aider, at Claude Code — at mga framework para sa AI agents: LangChain, n8n, LibreChat, Open WebUI.

Para sa mabilis na pagsisimula:

1. Magrehistro sa gate.joingonka.ai (ikonekta ang wallet o gumawa ng bago)
2. Kunin ang API key sa Dashboard
3. Palitan ang api.openai.com ng gate.joingonka.ai/api sa iyong code
4. Tukuyin ang aktibong modelo ng network — MiniMaxAI/MiniMax-M2.7, deepseek-ai/DeepSeek-V4-Flash-0731, o zai-org/GLM-5.3-Flash (buong listahan — sa endpoint na GET /v1/models)

Ang enterprise-level na decentralized inference sa presyong pang-hobby project ay hindi nawala — nagbigay lang ng puwesto ang Qwen3-235B sa mas bagong mga modelo ng network. Ang parehong kombinasyon ng presyo at kalidad ay gumagana na ngayon sa MiniMax M2.7, DeepSeek V4 Flash, at GLM-5.3 Flash.