Qwen3-235B: model yang sebelumnya dilayani oleh Gonka

Qwen3-235B-A22B-Instruct-2507-FP8 adalah Large Language Model (LLM) dari keluarga Qwen3, dikembangkan oleh tim Qwen di Alibaba Cloud. Nama lengkap diuraikan sebagai berikut: Qwen3 — generasi ketiga dari seri, 235B — 235 miliar parameter total, A22B — 22 miliar parameter aktif per permintaan, Instruct — versi yang dilatih untuk mengikuti instruksi, 2507 — rilis Juli 2025, FP8 — kuantisasi 8-bit untuk optimasi memori.

Fitur arsitektur utama adalah MoE (Mixture of Experts). Berbeda dengan model "dense" (GPT-5.5, Claude Sonnet 4.6), di mana setiap token melewati semua parameter, model MoE mengaktifkan hanya sebagian "ahli" — blok khusus jaringan saraf — untuk setiap permintaan. Dalam kasus Qwen3-235B, dari 235 miliar parameter, hanya 22 miliar yang diaktifkan per token — kurang dari 10%. Ini memberikan kualitas tingkat model dengan 200B+ parameter dengan biaya komputasi model 22B.

Secara praktis ini berarti: model lebih cerdas dari yang diharapkan dari kecepatannya. Ia memproses permintaan jauh lebih cepat daripada model dense dengan kualitas yang sebanding, sambil membutuhkan VRAM yang berkali-kali lipat lebih sedikit untuk inferensi. Inilah mengapa MoE menjadi arsitektur dominan untuk model terbesar tahun 2025—2026.

Jendela konteks Qwen3-235B adalah 131.072 token (~100.000 kata) — ini cukup untuk menganalisis seluruh buku, basis kode, atau dokumen hukum yang panjang dalam satu permintaan. Model ini mendukung 119 bahasa, termasuk Rusia, Inggris, Cina, Arab, Hindi, dan puluhan lainnya — menjadikannya salah satu model multibahasa paling unggul di pasar.

Qwen3-235B bersaing dengan model-model tertutup dan terbuka terbesar. Berikut perbandingan karakteristik utamanya:

Qwen3-235B menunjukkan kualitas yang setara dengan GPT-5.5 dan Claude Sonnet 4.6 di sebagian besar benchmark, namun sebagai model MoE open-weights, biayanya jauh berkali-kali lebih murah dibandingkan alternatif proprietary: arsitektur MoE hanya mengaktifkan sebagian parameter per permintaan dan secara drastis menekan biaya komputasi. Prinsip yang sama dari inference terdesentralisasi yang murah kini diterapkan jaringan Gonka pada model-model aktifnya — MiniMax M2.7, DeepSeek V4 Flash, dan GLM-5.3 Flash, yang tersedia melalui JoinGonka Gateway dengan harga $0.0062 per 1M token (ratusan hingga ribuan kali lebih murah daripada GPT-5.5 dan Claude).

Pada benchmark MMLU-Pro, HumanEval, MATH-500, dan GSM8K, model ini masuk dalam tiga model open-source terbaik, hanya kalah dari DeepSeek-R1 dalam tugas penalaran matematika (reasoning). Dalam tugas pembuatan kode, penerjemahan, dan mengikuti instruksi, Qwen3-235B secara konsisten mengungguli Llama 4 Maverick dan setara dengan Claude Sonnet 4.6.

Saat Qwen3-235B menjadi model utama jaringan, ia berjalan secara terdistribusi di jaringan Gonka — melalui protokol DiLoCo yang diadaptasi untuk inference. Model lengkap dalam format FP8 membutuhkan sekitar 640 GB memori video (VRAM), yang mustahil ditampung pada satu GPU — bahkan H100 80GB atau H200 141GB pun tidak cukup. Karena itu, model dibagi per lapisan (tensor parallelism + pipeline parallelism) di antara beberapa node ML.

Dalam praktiknya, Qwen3-235B berjalan pada klaster 8—16 node GPU, masing-masing dengan minimal 40 GB VRAM. Transfer Agent merutekan permintaan ke klaster yang sesuai, vLLM pada setiap node memproses fragmen modelnya, hasilnya diagregasi dan dikembalikan ke pengguna. Seluruh proses memakan waktu ratusan milidetik — pengguna tidak merasakan bahwa permintaannya diproses oleh puluhan GPU di berbagai belahan dunia. Prinsip inference terdistribusi yang sama masih diterapkan jaringan hingga kini — pada model-model aktifnya.

Detail teknis penting: Gonka menggunakan vLLM sebagai mesin untuk serving. vLLM adalah proyek open source yang menghadirkan generasi teks berperforma tinggi melalui PagedAttention — algoritma yang mengoptimalkan penggunaan memori video saat memproses banyak permintaan secara paralel. Hal ini memungkinkan setiap node memproses banyak permintaan secara paralel tanpa mengorbankan kualitas.

Model ini mendukung tool calling native — pemanggilan fungsi dan alat langsung dari respons model. Kemampuan ini ditambahkan ke Gonka melalui PR #767 dengan ambang batas 0.958 untuk mendeteksi pemanggilan alat. Pada Qwen3-235B, hal ini memungkinkan pengembang membangun agen AI yang berinteraksi dengan API eksternal, basis data, dan berbagai alat — semuanya melalui satu permintaan. Dukungan tool calling tetap dipertahankan pada model-model aktif jaringan saat ini.

Saat ini jaringan Gonka memiliki 1,293 GPU (H100, H200, B300, dan lainnya). Jika sebelumnya daya ini diarahkan ke Qwen3-235B, kini ia melayani model-model aktif jaringan — MiniMax M2.7, DeepSeek V4 Flash, dan GLM-5.3 Flash.

Jawaban langsung: lewat jaringan Gonka — sudah tidak bisa. Qwen3-235B telah ditarik dari jaringan, jadi memanggilnya dengan ID qwen3-235b-a22b melalui Gateway kami tidak lagi memungkinkan. Karena model ini terbuka (Apache 2.0), Anda masih bisa menjalankannya sendiri atau mengaksesnya melalui hosting pihak ketiga untuk model open-weights — misalnya lewat OpenRouter (sekitar $0.071/$0.100 per 1M token).

Namun jika Anda mencari inference terdesentralisasi murah yang menjadi alasan orang datang ke Gonka, itu tidak hilang — hanya saja kini berjalan pada model-model aktif di jaringan. Melalui JoinGonka API Gateway, tersedia MiniMax M2.7, DeepSeek V4 Flash, dan GLM-5.3 Flash dengan API yang kompatibel dengan OpenAI: kode apa pun yang ditulis untuk OpenAI berjalan tanpa perubahan — cukup ganti URL, API key, dan nama model.

Contoh permintaan ke model aktif:

curl https://gate.joingonka.ai/api/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MiniMaxAI/MiniMax-M2.7",
    "messages": [{"role": "user", "content": "Explain the MoE architecture"}]
  }'

Biaya: $0.0062 per 1 juta token — sekitar 810 kali lebih murah dari GPT-5.5 ($5.00/1M) dan sekitar 490 kali lebih murah dari Claude Sonnet 4.6 ($3.00/1M). Saat mendaftar, Anda mendapatkan 3M token gratis untuk pengujian.

Gateway kompatibel dengan berbagai alat pengembangan populer: Quick Start menjelaskan koneksi melalui Python, Node.js, dan curl. Integrasi IDE juga didukung — Cursor, Continue, Cline, Aider, dan Claude Code — serta framework untuk AI agent: LangChain, n8n, LibreChat, Open WebUI.

Untuk memulai dengan cepat:

1. Daftar di gate.joingonka.ai (hubungkan wallet atau buat yang baru)
2. Dapatkan API key di Dashboard
3. Ganti api.openai.com dengan gate.joingonka.ai/api di kode Anda
4. Tentukan model aktif di jaringan — MiniMaxAI/MiniMax-M2.7, deepseek-ai/DeepSeek-V4-Flash-0731, atau zai-org/GLM-5.3-Flash (daftar lengkap ada di endpoint GET /v1/models)

Inference terdesentralisasi kelas enterprise dengan harga proyek hobi tidak hilang — Qwen3-235B hanya digantikan oleh model-model yang lebih baru di jaringan. Kombinasi harga dan kualitas yang sama kini berjalan pada MiniMax M2.7, DeepSeek V4 Flash, dan GLM-5.3 Flash.