Qwen3-235B: وہ ماڈل جسے پہلے Gonka سرو کرتا تھا

Qwen3-235B-A22B-Instruct-2507-FP8 ایک بڑا لسانی ماڈل (LLM) ہے جو Qwen3 خاندان سے تعلق رکھتا ہے، جسے Alibaba Cloud میں Qwen ٹیم نے تیار کیا ہے۔ مکمل نام کی وضاحت یوں ہے: Qwen3 – سیریز کی تیسری نسل، 235B – کل 235 بلین پیرامیٹرز، A22B – ہر درخواست پر 22 بلین فعال پیرامیٹرز، Instruct – ہدایات پر عمل کرنے کی تربیت یافتہ ورژن، 2507 – جولائی 2025 کا ریلیز، FP8 – میموری کی اصلاح کے لیے 8-bit کوانٹائزیشن۔

کلیدی آرکیٹیکچرل خصوصیت – MoE (Mixture of Experts) ہے۔ 'گھنے' ماڈلز (GPT-5.5، Claude Sonnet 4.6) کے برخلاف، جہاں ہر ٹوکن تمام پیرامیٹرز سے گزرتا ہے، MoE-ماڈل ہر درخواست پر 'ماہرین' کے صرف ایک ذیلی سیٹ کو فعال کرتا ہے – نیورل نیٹ ورک کے مخصوص بلاکس۔ Qwen3-235B کے معاملے میں 235 بلین پیرامیٹرز میں سے ہر ٹوکن پر صرف 22 بلین فعال ہوتے ہیں – 10% سے بھی کم۔ یہ 200B+ پیرامیٹرز والے ماڈلز کے برابر معیار فراہم کرتا ہے جبکہ 22B والے ماڈل کی کمپیوٹیشنل لاگت پر۔

عملی طور پر اس کا مطلب ہے: ماڈل اپنی رفتار سے کہیں زیادہ ذہین ہے۔ یہ موازنہ معیار کے گھنے ماڈلز کے مقابلے میں درخواستوں کو نمایاں طور پر تیزی سے پروسیس کرتا ہے، جبکہ انفرنس کے لیے کئی گنا کم VRAM کی ضرورت ہوتی ہے۔ یہی وجہ ہے کہ MoE 2025-2026 کے سب سے بڑے ماڈلز کے لیے غالب آرکیٹیکچر بن گیا۔

Qwen3-235B کی کنٹیکسٹ ونڈو 131,072 ٹوکنز (~100,000 الفاظ) ہے – یہ ایک درخواست میں پوری کتابوں، کوڈ بیسز یا لمبے قانونی دستاویزات کا تجزیہ کرنے کے لیے کافی ہے۔ ماڈل 119 زبانوں کو سپورٹ کرتا ہے، بشمول روسی، انگریزی، چینی، عربی، ہندی اور دسیوں دیگر – جو اسے مارکیٹ میں سب سے زیادہ کثیر لسانی ماڈلز میں سے ایک بناتا ہے۔

Qwen3-235B بڑے بند اور کھلے ماڈلز کا مقابلہ کرتا ہے۔ ذیل میں کلیدی خصوصیات کا موازنہ ہے:

Qwen3-235B زیادہ تر بینچ مارکس پر GPT-5.5 اور Claude Sonnet 4.6 کے برابر معیار دکھاتا ہے، پھر بھی ایک open-weights MoE ماڈل کی حیثیت سے یہ ملکیتی متبادلات سے کئی گنا سستا پڑتا ہے: MoE آرکیٹیکچر ہر درخواست پر پیرامیٹرز کا صرف ایک حصہ فعال کرتا ہے اور کمپیوٹی لاگت کو زبردست حد تک کم کرتا ہے۔ سستے غیر مرکزی inference کا یہی اصول Gonka نیٹ ورک آج اپنے فعال ماڈلز پر لاگو کرتا ہے — MiniMax M2.7، DeepSeek V4 Flash اور GLM-5.3 Flash، جو JoinGonka Gateway کے ذریعے فی 1M ٹوکن $0.0062 میں دستیاب ہیں (GPT-5.5 اور Claude سے سینکڑوں—ہزاروں گنا سستا)۔

MMLU-Pro، HumanEval، MATH-500 اور GSM8K بینچ مارکس پر یہ ماڈل بہترین تین open-source ماڈلز میں شامل ہے، ریاضیاتی reasoning کے کاموں میں صرف DeepSeek-R1 سے پیچھے ہے۔ کوڈ جنریشن، ترجمے اور ہدایات کی پیروی کے کاموں میں Qwen3-235B مسلسل Llama 4 Maverick سے آگے رہتا ہے اور Claude Sonnet 4.6 کے برابر ہے۔

جب Qwen3-235B نیٹ ورک کا بنیادی ماڈل تھا، تو یہ Gonka نیٹ ورک میں تقسیم شدہ انداز میں چلتا تھا — جغرافیائی طور پر بکھرے GPU پر ڈسٹری بیوٹڈ کمپیوٹنگ کے لیے DeepMind کے پروٹوکول DiLoCo کے ذریعے، جو inference کے لیے ڈھالا گیا تھا۔ FP8 فارمیٹ میں مکمل ماڈل کے لیے تقریباً 640 GB ویڈیو میموری (VRAM) درکار ہوتی ہے، جو ایک GPU پر سما نہیں سکتی — یہاں تک کہ H100 80GB یا H200 141GB بھی کافی نہیں۔ اسی لیے ماڈل کو تہوں کے حساب سے (tensor parallelism + pipeline parallelism) کئی ML نوڈز میں تقسیم کیا جاتا تھا۔

عملی طور پر Qwen3-235B 8—16 GPU نوڈز کے کلسٹر پر چلتا تھا، جن میں سے ہر ایک میں کم از کم 40 GB VRAM تھی۔ Transfer Agents درخواست کو مطلوبہ کلسٹر تک پہنچاتے، ہر نوڈ پر vLLM ماڈل کا اپنا حصہ پروسیس کرتا، نتائج یکجا کر کے صارف کو واپس کیے جاتے۔ پورے عمل میں چند سو ملی سیکنڈ لگتے — صارف کو اندازہ بھی نہ ہوتا کہ اس کی درخواست دنیا کے مختلف گوشوں میں دس GPU نے پروسیس کی۔ تقسیم شدہ inference کا یہی اصول نیٹ ورک آج بھی اپناتا ہے — اب اپنے فعال ماڈلز پر۔

ایک اہم تکنیکی تفصیل: Gonka serving کے انجن کے طور پر vLLM استعمال کرتا ہے۔ vLLM ایک اوپن سورس پروجیکٹ ہے جو PagedAttention کے ذریعے اعلیٰ کارکردگی کی ٹیکسٹ جنریشن فراہم کرتا ہے — یہ ایسا الگورتھم ہے جو بہت سی درخواستوں کی متوازی پروسیسنگ کے دوران ویڈیو میموری کے استعمال کو بہتر بناتا ہے۔ اس سے ہر نوڈ معیار کھوئے بغیر بہت سی درخواستیں بیک وقت پروسیس کر سکتا ہے۔

یہ ماڈل نیٹو tool calling کی سہولت دیتا ہے — ماڈل کے جواب سے براہ راست فنکشنز اور ٹولز کو کال کرنا۔ یہ سہولت Gonka میں PR #767 کے ذریعے شامل کی گئی تھی، ٹول کالز کی شناخت کے لیے 0.958 کی حد کے ساتھ۔ Qwen3-235B پر اس سے ڈویلپرز ایسے AI ایجنٹ بناتے تھے جو بیرونی API، ڈیٹا بیس اور ٹولز سے تعامل کرتے — سب کچھ ایک ہی درخواست کے ذریعے۔ tool calling کی سہولت نیٹ ورک کے فعال ماڈلز میں بھی برقرار ہے۔

Gonka نیٹ ورک میں اب 1,293 GPU (H100، H200، B300 اور دیگر) ہیں۔ اگر پہلے یہ صلاحیت Qwen3-235B پر صرف ہوتی تھی، تو آج یہ نیٹ ورک کے فعال ماڈلز کی خدمت کرتی ہے — MiniMax M2.7، DeepSeek V4 Flash اور GLM-5.3 Flash۔

سیدھا جواب: Gonka نیٹ ورک کے ذریعے — اب ممکن نہیں۔ Qwen3-235B کو نیٹ ورک سے ہٹا دیا گیا ہے، اس لیے ہمارے Gateway کے ذریعے qwen3-235b-a22b شناخت کنندہ سے اسے کال نہیں کیا جا سکتا۔ چونکہ ماڈل اوپن (Apache 2.0) ہے، اسے خود چلا سکتے ہیں یا تھرڈ پارٹی open-weights ہوسٹنگ کے ذریعے استعمال کر سکتے ہیں — مثلاً OpenRouter (تقریباً $0.071/$0.100 فی 1M ٹوکن)۔

اور اگر آپ کو وہی سستا ڈی سینٹرلائزڈ inference چاہیے جس کے لیے لوگ Gonka میں آتے ہیں — وہ تو گیا نہیں، بس اب نیٹ ورک کے فعال ماڈلز پر چل رہا ہے۔ JoinGonka API Gateway کے ذریعے OpenAI کے ساتھ ہم آہنگ API پر MiniMax M2.7، DeepSeek V4 Flash اور GLM-5.3 Flash دستیاب ہیں: OpenAI کے لیے لکھا گیا کوئی بھی کوڈ بغیر تبدیلی چلے گا — صرف URL، API کلید اور ماڈل کا نام بدلیں۔

فعال ماڈل پر درخواست کی مثال:

curl https://gate.joingonka.ai/api/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MiniMaxAI/MiniMax-M2.7",
    "messages": [{"role": "user", "content": "Explain the MoE architecture"}]
  }'

لاگت: $0.0062 فی 1 ملین ٹوکن — یہ GPT-5.5 ($5.00/1M) سے ~810 گنا سستا اور Claude Sonnet 4.6 ($3.00/1M) سے ~490 گنا سستا ہے۔ رجسٹر کرنے پر آپ کو ٹیسٹنگ کے لیے مفت 3M ٹوکن ملتے ہیں۔

Gateway مقبول ڈیولپمنٹ ٹولز کے ساتھ ہم آہنگ ہے: Quick Start میں Python، Node.js اور curl کے ذریعے کنکشن کی تفصیل ہے۔ اس کے علاوہ IDE انٹیگریشنز — Cursor، Continue، Cline، Aider اور Claude Code — اور AI ایجنٹ فریم ورکس: LangChain، n8n، LibreChat، Open WebUI بھی سپورٹڈ ہیں۔

فوری شروعات کے لیے:

1. gate.joingonka.ai پر رجسٹر کریں (والٹ منسلک کریں یا نیا بنائیں)
2. Dashboard سے API کلید حاصل کریں
3. اپنے کوڈ میں api.openai.com کی جگہ gate.joingonka.ai/api لکھیں
4. نیٹ ورک کا موجودہ ماڈل بتائیں — MiniMaxAI/MiniMax-M2.7، deepseek-ai/DeepSeek-V4-Flash-0731 یا zai-org/GLM-5.3-Flash (مکمل فہرست GET /v1/models endpoint میں)

انٹرپرائز معیار کا ڈی سینٹرلائزڈ inference شوقیہ پروجیکٹ کی قیمت پر اب بھی موجود ہے — Qwen3-235B نے صرف نیٹ ورک کے نئے ماڈلز کو جگہ دی ہے۔ وہی قیمت اور معیار کا امتزاج اب MiniMax M2.7، DeepSeek V4 Flash اور GLM-5.3 Flash پر کام کر رہا ہے۔