DeepSeek Harness: JoinGonka Gateway-এর মাধ্যমে নিজস্ব প্রোভাইডার

হারনেস মানে এজেন্ট কাজে মডেলকে ঘিরে থাকা সবকিছু: "রিকোয়েস্ট → টুল কল → ফলাফল → পরের ধাপ" লুপ, ফাইল ও টার্মিনালের টুল, অনুমতি ও নিশ্চিতকরণ, সেশন লগ, কনটেক্সট কম্প্রেশন। DeepSeek Harness এটি প্লাগইন থেকে গড়ে: "everything is a plugin" আর্কিটেকচার Cordis ফ্রেমওয়ার্কে দাঁড়ানো, আর যেকোনো নোড — টুল থেকে মডেল অ্যাডাপ্টার — কোর না বদলেই বদলে দেওয়া যায়। কোড MIT লাইসেন্সে ওপেন।

ইনস্টলের দরকার নেই — শুধু Node.js থাকলেই হবে (২২.১৯ থেকে ২২ লাইন, বা ২৪ ও তার নতুন):

npx @deepseek-ai/dsh web

এই কমান্ড http://127.0.0.1:3080-এ Web UI চালু করে ব্রাউজারে খোলে; SSH দিয়ে চালালে ঠিকানাটা শুধু টার্মিনালে ছাপা হয়। --no-open ফ্ল্যাগ ব্রাউজার ছাড়া সার্ভার চালায়, --port পোর্ট বদলায়। যে ডিরেক্টরি থেকে dsh চালানো হয় সেটাই ডিফল্ট ওয়ার্কিং ডিরেক্টরি, তবে ইন্টারফেস সেশন শুরু করবে শুধু ওয়ার্কস্পেস স্পষ্টভাবে বেছে নেওয়ার পর।

মডেল লেয়ারে দুটি অ্যাডাপ্টার। সরাসরি অ্যাডাপ্টার ভেন্ডরের অফিসিয়াল API-তে যায়। মাল্টি-প্রোভাইডার — dsh-llm-pi-ai — pi-ai লাইব্রেরিতে গড়া, যেটা টার্মিনাল এজেন্ট Pi-এরও ভিত্তি; এর মাধ্যমে ক্যাটালগের বিল্ট-ইন প্রোভাইডার ও নিজের যেকোনো endpoint যুক্ত করা যায়। তাই সেটিংসের ফিল্ড নামগুলো — api, contextWindow, maxTokens — Pi-তে যা দেখেছেন সেগুলোর সঙ্গেই মেলে।

পরিপক্বতা প্রসঙ্গে। প্রজেক্টের README শুরুই সতর্কবার্তা দিয়ে: developer preview, দ্রুত ইটারেশন, ব্রেকিং চেঞ্জ। আলাদা SAFETY.md ডকুমেন্টে স্পষ্ট — নিরাপত্তা অডিট হয়নি, আর এজেন্ট মডেলের জেনারেট করা কমান্ড চালায়। বাস্তব উপদেশ সহজ: dsh কনটেইনার, ভিএম বা আলাদা ইউজার অ্যাকাউন্টে চালান এবং সে যেখানে পৌঁছাতে পারে সেই সবকিছুর ব্যাকআপ রাখুন।

ধাপ ১: কী। gate.joingonka.ai/register-এ রেজিস্টার করুন: ঠিকানা যাচাই হওয়ার পর অ্যাকাউন্টে 3M বিনামূল্যের টোকেন ঢুকবে। ড্যাশবোর্ডে «API-কী» সেকশন খুলে jg- প্রিফিক্সসহ একটি কী তৈরি করুন। হার্নেসের জন্য আলাদা কী রাখা সুবিধাজনক — তাহলে স্ট্যাটিস্টিকসে তার ট্রাফিক আলাদা লাইনে দেখা যাবে।

ধাপ ২: প্রথম স্ক্রিন। টেস্ট স্ট্যাটাসের নোটিফিকেশনের পর (Continue বোতাম) dsh অফিসিয়াল API-র কী চাইবে («Add an API key to get started»)। এটি বাধ্যতামূলক নয়: Configure later-এ চাপুন।

ধাপ ৩: প্রোভাইডার। Settings → Models খুলে Add a custom provider বেছে নিন। ফর্মের ফিল্ড:

ধাপ ৪: মডেল। Models ব্লকে Fetch available models-এ চাপুন: dsh গেটওয়ে থেকে লিস্ট চেয়ে «Choose models to add» উইন্ডো খুলবে। আমাদের রানে তাতে নেটওয়ার্কের তিনটি মডেলই ছিল — MiniMaxAI/MiniMax-M2.7, deepseek-ai/DeepSeek-V4-Flash-0731 এবং zai-org/GLM-5.3-Flash — আর Add selected-এর পর হার্নেস নিজেই প্রতিটির কনটেক্সট উইন্ডো ও রেসপন্স সিলিং বসিয়ে দেয়, গেটওয়ের ডেটা অনুযায়ী। এরপর শুধু Create provider-এ চাপতে হবে।

ধাপ ৫: মডেল নির্বাচন। সেটিংস বন্ধ করে Choose workspace-এ চাপুন এবং প্রজেক্ট ডিরেক্টরি যোগ করুন। নতুন প্রোভাইডারের মডেলগুলো সিলেক্টরে দেখা যাবে; বেছে নেওয়া মডেলটি নতুন সেশনের জন্য ডিফল্ট হয়ে যাবে।

dsh কী-টি সেটিংস থেকে আলাদা রাখে: ~/.dsh/.credentials.yaml ফাইলে, শুধু মালিকের জন্য অনুমতিসহ। settings.yaml-এ শুধু তার রেফারেন্সের নাম থাকে — আমাদের রানে JOINGONKA_API_KEY, প্রোভাইডার আইডেন্টিফায়ার অনুযায়ী।

কোন প্রোটোকল বাছবেন। গেটওয়ে তিনটিই বোঝে, পার্থক্য শুধু বেস অ্যাড্রেস ও বাড়তি সুবিধায়:

dsh-তে একটি প্রোভাইডার একটি প্রোটোকলেই কথা বলে, তাই দ্বিতীয় প্রোটোকল মানে ভিন্ন Provider ID-র দ্বিতীয় প্রোভাইডার। দৈনন্দিন কাজের জন্য প্রথম অপশনই যথেষ্ট; আমাদের রানে টুল কলসহ এজেন্ট লুপ তিনটিতেই কাজ করেছে।

Models ফর্মটি একটি সাধারণ YAML ডকুমেন্টে লেখে — $DSH_HOME/settings.yaml, ডিফল্টভাবে ~/.dsh/settings.yaml। এটি সরাসরি সম্পাদনা করা যায়: সেটিংসের শীর্ষে থাকা Open configuration file বাটন ফাইলটি খোলে, আর অ্যাডাপ্টারগুলি পরবর্তী রিকোয়েস্টে এটি আবার পড়ে — রিস্টার্টের দরকার নেই। Gonka নেটওয়ার্কের জন্য সম্পূর্ণ উদাহরণ:

# ~/.dsh/settings.yaml
llm-pi-ai:
  providers:
    joingonka:
      displayName: JoinGonka Gateway
      apiKeyEnv: JOINGONKA_API_KEY
      api: openai-completions
      baseURL: https://gate.joingonka.ai/v1
      models:
        - id: deepseek-ai/DeepSeek-V4-Flash-0731
          name: DeepSeek V4 Flash
          contextWindow: 380000
          maxTokens: 32768
        - id: zai-org/GLM-5.3-Flash
          name: GLM-5.3 Flash
          contextWindow: 390000
          maxTokens: 8192
          reasoningEfforts:
            off: low
            high: high
        - id: MiniMaxAI/MiniMax-M2.7
          name: MiniMax M2.7
          contextWindow: 200000
          maxTokens: 8192
agent-default-model:
  provider: joingonka
  model: deepseek-ai/DeepSeek-V4-Flash-0731

এখানে যা গুরুত্বপূর্ণ:

• apiKeyEnv — এটি কী নয়, বরং কী-এর রেফারেন্সের নাম। dsh মানটি এই ক্রমে খোঁজে: চালু হওয়ার সময়ের এনভায়রনমেন্ট ভেরিয়েবল, তারপর .credentials.yaml (ফর্ম এখানে লেখে), তারপর চালু হওয়ার ডিরেক্টরিতে .env, তারপর ~/.dsh/.env। ব্রাউজার ছাড়া হারনেস সেটআপ করলে ~/.dsh/.env-তে 600 পারমিশনসহ JOINGONKA_API_KEY=jg-your-key লাইনটিই যথেষ্ট। স্টার্টের পরে এক্সপোর্ট করা ভেরিয়েবল ইতিমধ্যে চলমান প্রসেস দেখতে পাবে না।
• contextWindow এবং maxTokens স্পষ্টভাবে দিন। dsh যে মডেল সম্পর্কে কিছুই জানে না, তার জন্য 262,144 এবং 32,768 টোকেন ধরে নেয় — যা প্রকৃত লিমিটের সাথে মেলে না। দেওয়া maxTokens একইসাথে প্রতিটি রিকোয়েস্টের জন্য ডিফল্ট রেসপন্স লিমিট হয়ে যায়।
• reasoningEfforts — Effort মেনুর জন্য রিজনিং লেভেল। হাতে লেখা মডেলের কোনো লেভেল থাকে না, এবং তার জন্য মেনুও দেখা যায় না। GLM-5.3 Flash-এর টগলটি বাইনারি: low মান রিজনিং বন্ধ করে, অন্য যেকোনো মান সেটি পূর্ণ রাখে। তাই off লেভেলটি low-এর সাথে ম্যাপ করা হয়েছে, আর high যেমন আছে তেমনই যায়। আমাদের রানে off-এ রিজনিং ব্লক একেবারেই ছিল না, high-এ সেগুলি ফিরে এসেছিল।
• agent-default-model — নতুন এজেন্টদের জন্য মডেল, headless মোডসহ। ইন্টারফেসে মডেল নির্বাচন করলেও একই কাজ হয়; এখানে reasoningEffort-ও যোগ করা যায়।

dsh ডকুমেন্টেশন কঠোর গেটওয়ের জন্য যে compat সুইচগুলির পরামর্শ দেয় (supportsDeveloperRole: false, maxTokensField: max_tokens), সেগুলি এখানে দরকার হবে না: JoinGonka Gateway developer রোল এবং max_completion_tokens ফিল্ড দুটোই গ্রহণ করে।

npx @joingonka/setup ইনস্টলার এই হারনেস সেটআপ করে না: পুরো সংযোগটি আগের বিভাগের ফর্ম বা উপরের YAML ফ্র্যাগমেন্টেই সীমাবদ্ধ।

কোডসহ ক্যাটালগ থেকে একবার রান করালেই সবচেয়ে দ্রুত সংযোগটি যাচাই করা যায়। পাশে একটি স্পষ্ট বাগযুক্ত ছোট ফাইল রাখুন এবং সেটি খুঁজে বের করতে বলুন:

cd /path/to/project
npx @deepseek-ai/dsh --profile headless "Read calc.py and tell me in one sentence whether it has a bug."

চূড়ান্ত উত্তর stdout-এ ছাপা হয়, আর চিন্তার ধারা stderr-এ dsh: reasoning: চিহ্নসহ আসে। এজেন্টকে নিজেই ফাইল পড়ার টুলটি কল করতে হবে এবং বিষয়বস্তু অনুযায়ী উত্তর দিতে হবে: আমাদের রানে নেটওয়ার্কের তিনটি মডেলের প্রত্যেকটিই ভুল লাইনটি চিহ্নিত করেছে। অর্থাৎ, গেটওয়ের মাধ্যমে "অনুরোধ → টুল কল → ফলাফল → উত্তর" — এই সম্পূর্ণ চক্রটি সঠিকভাবে সম্পন্ন হচ্ছে।

যাচাইয়ের দ্বিতীয় অংশটি গেটওয়ের দিকে। ড্যাশবোর্ডে "ব্যবহার" খুলুন: সেখানে ঘণ্টা ও দিন অনুযায়ী অনুরোধ, মডেল ও কী অনুযায়ী বিভাজন দেখা যায়। হার্নেসের কী এবং সর্বশেষ অনুরোধের সাম্প্রতিক সময়সহ একটি সারি দেখা যাচ্ছে — মানে ট্রাফিক সত্যিই গেটওয়ের মধ্য দিয়ে যাচ্ছে।

কিছু ভুল হলে, সাধারণত বার্তা থেকেই সমস্যা বোঝা যায়:

নেটওয়ার্কের সকল মডেলের মূল্য সমান, তাই নির্বাচনটি বাজেটের ওপর ভিত্তি করে নয়, বরং আচরণের ওপর ভিত্তি করে করতে হয়। নিচে লিমিট এবং আমাদের dsh রান-এ একই কাজের ক্ষেত্রে মডেলগুলো কীভাবে আচরণ করেছে তা দেওয়া হলো: একটি ফাইল পড়ে তাতে ভুল খুঁজে বের করা।

ডিফল্ট পরামর্শ হলো DeepSeek V4 Flash: এজেন্ট কাজ করার সময় দ্রুত কনটেক্সট ভলিউম এবং সংশোধনের দৈর্ঘ্যের সীমাবদ্ধতায় পড়ে, কিন্তু এখানে উভয় প্যারামিটারেই পর্যাপ্ত জায়গা আছে। যখন কোনো কাজের জন্য জটিল লজিক নিয়ে চিন্তা করার প্রয়োজন হয়, তখন GLM-5.3 Flash-এ সুইচ করুন এবং যুক্তিতর্কের স্তর high রাখুন; দ্রুত সংশোধনের জন্য একই প্রোভাইডার এটি off স্তরে প্রদান করে। MiniMax M2.7 সংক্ষিপ্ত কাজের জন্য একটি ভারসাম্যপূর্ণ অপশন, যখন দৃশ্যমান যুক্তিতর্ক বাধা সৃষ্টি করে না। মডেলটি ইন্টারফেস সিলেক্টরে অথবা agent-default-model ব্লকে model স্ট্রিং ব্যবহার করে পরিবর্তন করা যায়।

নেটওয়ার্কের গঠন অংশগ্রহণকারীদের ভোটের মাধ্যমে নির্ধারিত হয় এবং সময়ের সাথে পরিবর্তিত হয়; লিমিটসহ বর্তমান তালিকা সবসময় GET https://gate.joingonka.ai/v1/models থেকে পাওয়া যায় — Fetch available models বোতামটিও এটিই ব্যবহার করে।

এজেন্ট টুলগুলি চ্যাট থেকে ভিন্নভাবে টোকেন খরচ করে: প্রতিটি বাক্যের সাথে হারনেস একটি সিস্টেম প্রম্পট এবং সমস্ত টুলের বিবরণ যোগ করে, তারপর মডেলের সাথে একটি মাল্টি-স্টেপ ডায়ালগ পরিচালনা করে। আমাদের প্রজনে, "ফাইলটি পড়ুন এবং ত্রুটি খুঁজুন" কাজটি দুই থেকে তিনটি ধাপে এবং ১৪ থেকে ২২ হাজার টোকেন খরচ করে সম্পন্ন হয়েছে, যার প্রায় পুরোটাই ইনপুট: আপনার প্রশ্ন করার আগেই প্রতিটি ধাপে প্রায় সাত হাজার টোকেন খরচ হয়ে যায়। স্বায়ত্তশাসনের জন্য এটি একটি স্বাভাবিক মূল্য — এবং ঠিক এই কারণেই টোকেন প্রতি মূল্য গুরুত্বপূর্ণ।

JoinGonka Gateway-এর মাধ্যমে টোকেনের মূল্য ইনপুট প্রতি মিলিয়নে $0.0069 এবং আউটপুট প্রতি মিলিয়নে $0.021 — মূল্য নেটওয়ার্কের সমস্ত মডেলের জন্য একই এবং এই পৃষ্ঠায় একটি লাইভ সোর্স থেকে নেওয়া হয়। ২০২৬ সালের সেপ্টেম্বর অনুযায়ী মূল্যের হার:

পেমেন্ট প্রকৃত খরচের ভিত্তিতে হয়, কোনো সাবস্ক্রিপশন বা অনুরোধের সংখ্যার উপর কোটা ছাড়াই; ব্যালেন্স এবং দৈনিক খরচ ড্যাশবোর্ডে দেখা যায়।

সংস্করণ। প্রকল্পটি ডেভেলপার প্রিভিউ স্ট্যাটাসে থাকাকালীন, প্রতিটি আপডেটের পরে প্রোভাইডার ঠিক আছে কিনা তা পরীক্ষা করুন এবং প্রজনযোগ্যতার জন্য কমান্ডে সংস্করণটি সরাসরি ফিক্স করুন: npx @deepseek-ai/[email protected] web।

অনুমতি। নতুন সেশনগুলি ডিফল্টরূপে Workspace Write মোডে কাজ করে — ওয়ার্কিং ডিরেক্টরির মধ্যে লেখা; ইন্টারফেস নীতির বাইরের অপারেশনগুলো নিশ্চিত করতে বলে। মোড Settings → General-এ পরিবর্তন করা হয়।

পুনরায় প্রচেষ্টা। একটি একক নেটওয়ার্ক ত্রুটির ক্ষেত্রে, dsh নিজেই অনুরোধটি পুনরায় চেষ্টা করে — ডকুমেন্টেশন অনুযায়ী পাঁচবার পর্যন্ত — তাই নেটওয়ার্কে অল্প সময়ের লোড সাধারণত অলক্ষিত থেকে যায়।

গোপনীয়তা। গেটওয়ে প্রম্পট বা উত্তরের বিষয়বস্তু সংরক্ষণ করে না: পরিসংখ্যানে শুধুমাত্র খরচের সামগ্রিক তথ্য থাকে। এজেন্ট আপনার মেশিনে স্থানীয়ভাবে প্রজেক্ট ফাইল পড়ে।

যদি ছবির সাথে কাজ করার প্রয়োজন হয় — ইন্টারফেসের স্ক্রিনশট, ছবির ডায়াগ্রাম — পাশে ভিশন ক্ষমতাসম্পন্ন মডেলসহ একটি দ্বিতীয় প্রোভাইডার চালু করুন: dsh একই সময়ে একাধিক প্রোভাইডার ধরে রাখতে পারে, এবং Gonka নেটওয়ার্কের মডেলগুলো টেক্সট-ভিত্তিক।

DeepSeek Harness একমাত্র এজেন্ট নয় যা মডেল-ডেভেলপার ল্যাব নিজেই প্রকাশ করে: Z.ai-এর (GLM-এর নির্মাতা) একটি ZCode পরিবেশ আছে এবং MiniMax-এর একটি টার্মিনাল MiniMax Code আছে। উভয়ই একই কী ব্যবহার করে একই গেটওয়েতে সংযোগ করতে পারে।