Qwen3-235B: যে মডেলটি আগে Gonka সার্ভিস দিতো

Qwen3-235B-A22B-Instruct-2507-FP8 হল Qwen3 পরিবারের একটি বৃহৎ ভাষা মডেল (LLM), যা Alibaba Cloud-এর Qwen দল দ্বারা তৈরি করা হয়েছে। সম্পূর্ণ নামটির ব্যাখ্যা হল: Qwen3 — তৃতীয় প্রজন্মের সিরিজ, 235B — মোট 235 বিলিয়ন প্যারামিটার, A22B — প্রতি অনুরোধে 22 বিলিয়ন সক্রিয় প্যারামিটার, Instruct — নির্দেশনা অনুসরণ করার জন্য প্রশিক্ষিত সংস্করণ, 2507 — জুলাই 2025 রিলিজ, FP8 — মেমরি অপ্টিমাইজেশনের জন্য 8-বিট কোয়ান্টিজেশন।

মুখ্য স্থাপত্য বৈশিষ্ট্য হল MoE (Mixture of Experts)। "ঘন" মডেলগুলির (GPT-5.5, Claude Sonnet 4.6) থেকে ভিন্ন, যেখানে প্রতিটি টোকেন সমস্ত প্যারামিটারের মধ্য দিয়ে যায়, MoE-মডেল প্রতিটি অনুরোধের জন্য কেবল "বিশেষজ্ঞদের" একটি উপসেট সক্রিয় করে – নিউরাল নেটওয়ার্কের বিশেষায়িত ব্লক। Qwen3-235B-এর ক্ষেত্রে, 235 বিলিয়ন প্যারামিটারের মধ্যে প্রতিটি টোকেনের জন্য কেবল 22 বিলিয়ন সক্রিয় হয় – 10% এরও কম। এটি 200B+ প্যারামিটার সহ মডেলগুলির স্তরের গুণমান দেয়, 22B মডেলের গণনার খরচ সহ।

ব্যবহারিকভাবে এর অর্থ হল: মডেলটি তার গতির তুলনায় অনেক বেশি স্মার্ট। এটি তুলনামূলক মানের ঘন মডেলগুলির চেয়ে উল্লেখযোগ্যভাবে দ্রুত অনুরোধগুলি প্রক্রিয়া করে, একই সাথে ইনফারেন্সের জন্য অনেক কম VRAM প্রয়োজন হয়। এই কারণেই MoE 2025-2026 সালের বৃহত্তম মডেলগুলির জন্য একটি প্রভাবশালী স্থাপত্য হয়ে উঠেছে।

Qwen3-235B-এর প্রাসঙ্গিক উইন্ডো হল 131,072 টোকেন (~100,000 শব্দ) – এটি একটি একক অনুরোধে সম্পূর্ণ বই, কোডবেস বা দীর্ঘ আইনি নথি বিশ্লেষণের জন্য যথেষ্ট। মডেলটি 119টি ভাষা সমর্থন করে, যার মধ্যে রাশিয়ান, ইংরেজি, চীনা, আরবি, হিন্দি এবং আরও কয়েক ডজন ভাষা রয়েছে – যা এটিকে বাজারের সবচেয়ে বহুভাষিক মডেলগুলির মধ্যে একটি করে তোলে।

Qwen3-235B শীর্ষস্থানীয় বন্ধ ও উন্মুক্ত মডেলগুলোর সাথে প্রতিযোগিতা করে। নিচে মূল বৈশিষ্ট্যের তুলনা:

Qwen3-235B বেশিরভাগ বেঞ্চমার্কে GPT-5.5 ও Claude Sonnet 4.6-এর সমতুল্য মানসম্পন্ন, তবুও একটি open-weights MoE মডেল হিসেবে এটি মালিকানাধীন বিকল্পগুলোর চেয়ে বহুগুণ সস্তা: MoE আর্কিটেকচার প্রতিটি অনুরোধে প্যারামিটারের একটি অংশই সক্রিয় করে এবং কম্পিউট খরচ নাটকীয়ভাবে কমায়। সস্তা বিকেন্দ্রীভূত inference-এর এই একই নীতি Gonka নেটওয়ার্ক আজ তার চালু মডেলগুলোতে প্রয়োগ করে — MiniMax M2.7, DeepSeek V4 Flash এবং GLM-5.3 Flash, যা JoinGonka Gateway-এর মাধ্যমে প্রতি 1M টোকেন $0.0062-এ পাওয়া যায় (GPT-5.5 ও Claude-এর চেয়ে শত—হাজার গুণ সস্তা)।

MMLU-Pro, HumanEval, MATH-500 ও GSM8K বেঞ্চমার্কে মডেলটি সেরা তিনটি open-source মডেলের মধ্যে পড়ে, গাণিতিক reasoning-এর কাজে কেবল DeepSeek-R1-এর কাছে পিছিয়ে। কোড জেনারেশন, অনুবাদ ও নির্দেশ অনুসরণের কাজে Qwen3-235B ধারাবাহিকভাবে Llama 4 Maverick-কে ছাড়িয়ে যায় এবং Claude Sonnet 4.6-এর সমতুল্য।

Qwen3-235B যখন নেটওয়ার্কের মূল মডেল ছিল, তখন এটি Gonka নেটওয়ার্কে বিতরণকৃতভাবে চলত — ভৌগোলিকভাবে ছড়িয়ে থাকা GPU-তে ডিস্ট্রিবিউটেড কম্পিউটিংয়ের জন্য DeepMind-এর প্রোটোকল DiLoCo-এর মাধ্যমে, inference-এর জন্য অভিযোজিত। FP8 ফরম্যাটে সম্পূর্ণ মডেলের জন্য প্রায় 640 GB ভিডিও মেমোরি (VRAM) দরকার হয়, যা একটি GPU-তে ধরে না — এমনকি H100 80GB বা H200 141GB-ও যথেষ্ট নয়। তাই মডেলটিকে স্তর অনুযায়ী (tensor parallelism + pipeline parallelism) কয়েকটি ML নোডের মধ্যে ভাগ করা হতো।

বাস্তবে Qwen3-235B চলত 8—16টি GPU নোডের ক্লাস্টারে, যার প্রতিটিতে কমপক্ষে 40 GB VRAM ছিল। Transfer Agents অনুরোধ সঠিক ক্লাস্টারে রুট করত, প্রতিটি নোডে vLLM মডেলের নিজস্ব অংশ প্রক্রিয়া করত, ফলাফল একত্রিত করে ব্যবহারকারীর কাছে ফেরত দেওয়া হতো। পুরো প্রক্রিয়ায় কয়েকশ মিলিসেকেন্ড লাগত — ব্যবহারকারী টের পেতেন না যে তাঁর অনুরোধ পৃথিবীর বিভিন্ন প্রান্তে এক ডজন GPU-তে প্রক্রিয়া হয়েছে। বিতরণকৃত inference-এর সেই একই নীতি নেটওয়ার্ক এখনও প্রয়োগ করে — বর্তমানে চালু মডেলগুলোতে।

একটি গুরুত্বপূর্ণ প্রযুক্তিগত দিক: Gonka serving-এর ইঞ্জিন হিসেবে vLLM ব্যবহার করে। vLLM একটি ওপেন সোর্স প্রকল্প, যা PagedAttention-এর মাধ্যমে উচ্চ-ক্ষমতাসম্পন্ন টেক্সট জেনারেশন নিশ্চিত করে — এটি এমন একটি অ্যালগরিদম যা বহু অনুরোধ সমান্তরালে প্রক্রিয়ার সময় ভিডিও মেমোরির ব্যবহার অপ্টিমাইজ করে। ফলে প্রতিটি নোড গুণমান না হারিয়ে অনেক অনুরোধ একসাথে প্রক্রিয়া করতে পারে।

মডেলটি নেটিভ tool calling সমর্থন করে — মডেলের উত্তর থেকে সরাসরি ফাংশন ও টুল কল করা। এই সুবিধাটি Gonka-তে PR #767-এর মাধ্যমে যোগ করা হয়েছিল, টুল কল শনাক্ত করতে 0.958 থ্রেশহোল্ডসহ। Qwen3-235B-তে এটি ডেভেলপারদের এমন AI এজেন্ট তৈরি করতে দিত যারা বাইরের API, ডেটাবেস ও টুলের সাথে যোগাযোগ করে — সবই একক অনুরোধে। tool calling-এর সমর্থন নেটওয়ার্কের চালু মডেলগুলোতেও টিকে আছে।

Gonka নেটওয়ার্কে এখন 1,293 GPU (H100, H200, B300 ও অন্যান্য)। আগে এই ক্ষমতা Qwen3-235B-তে নিয়োজিত থাকলেও, আজ তা নেটওয়ার্কের চালু মডেলগুলো পরিবেশন করে — MiniMax M2.7, DeepSeek V4 Flash এবং GLM-5.3 Flash।

সরাসরি উত্তর: Gonka নেটওয়ার্কের মাধ্যমে — আর সম্ভব নয়। Qwen3-235B নেটওয়ার্ক থেকে সরিয়ে ফেলা হয়েছে, তাই এখন আর qwen3-235b-a22b আইডি দিয়ে আমাদের Gateway-এর মাধ্যমে এটিকে কল করা যায় না। যেহেতু মডেলটি ওপেন (Apache 2.0), তাই আপনি এখনও এটি নিজে চালাতে পারেন বা ওপেন-ওয়েটস মডেলগুলোর তৃতীয় পক্ষের হোস্টিং — যেমন OpenRouter (আনুমানিক $0.071/$0.100 প্রতি 1M টোকেন) — এর মাধ্যমে এটিকে অ্যাক্সেস করতে পারেন।

তবে আপনি যদি সেই সস্তা বিকেন্দ্রীভূত inference-ই চান, যার জন্যই মানুষ Gonka-তে আসে — তা হারিয়ে যায়নি, শুধু এখন নেটওয়ার্কের সক্রিয় মডেলগুলোতে চলে। JoinGonka API Gateway-এর মাধ্যমে OpenAI-সামঞ্জস্যপূর্ণ API-তে MiniMax M2.7, DeepSeek V4 Flash এবং GLM-5.3 Flash উপলব্ধ: OpenAI-এর জন্য লেখা যেকোনো কোড পরিবর্তন ছাড়াই কাজ করে — শুধু URL, API-কী এবং মডেলের নাম বদলালেই যথেষ্ট।

সক্রিয় মডেলে একটি অনুরোধের উদাহরণ:

curl https://gate.joingonka.ai/api/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MiniMaxAI/MiniMax-M2.7",
    "messages": [{"role": "user", "content": "Explain the MoE architecture"}]
  }'

খরচ: $0.0062 প্রতি ১ মিলিয়ন টোকেন — এটি GPT-5.5 ($5.00/1M) এর চেয়ে প্রায় 810 গুণ সস্তা এবং Claude Sonnet 4.6 ($3.00/1M) এর চেয়ে প্রায় 490 গুণ সস্তা। নিবন্ধন করলে আপনি পরীক্ষার জন্য বিনামূল্যে 3M টোকেন পাবেন।

Gateway জনপ্রিয় ডেভেলপমেন্ট টুলের সাথে সামঞ্জস্যপূর্ণ: Quick Start-এ Python, Node.js এবং curl-এর মাধ্যমে সংযোগের বর্ণনা রয়েছে। এছাড়াও IDE ইন্টিগ্রেশন — Cursor, Continue, Cline, Aider এবং Claude Code — এবং AI-এজেন্ট ফ্রেমওয়ার্ক: LangChain, n8n, LibreChat, Open WebUI সমর্থিত।

দ্রুত শুরু করতে:

1. gate.joingonka.ai-এ নিবন্ধন করুন (ওয়ালেট সংযুক্ত করুন বা নতুন তৈরি করুন)
2. Dashboard-এ API-কী নিন
3. আপনার কোডে api.openai.com-কে gate.joingonka.ai/api দিয়ে বদলান
4. নেটওয়ার্কের aktuell মডেল উল্লেখ করুন — MiniMaxAI/MiniMax-M2.7, deepseek-ai/DeepSeek-V4-Flash-0731 বা zai-org/GLM-5.3-Flash (সম্পূর্ণ তালিকা GET /v1/models endpoint-এ)

এন্টারপ্রাইজ-মানের বিকেন্দ্রীভূত inference শখ-প্রকল্পের দামে এখনও টিকে আছে — Qwen3-235B শুধু নেটওয়ার্কের নতুন মডেলগুলোর কাছে জায়গা ছেড়ে দিয়েছে। একই দাম ও গুণমানের সমন্বয় এখন MiniMax M2.7, DeepSeek V4 Flash এবং GLM-5.3 Flash-এ কাজ করছে।