OpenHands + JoinGonka Gateway: নিজস্ব এন্ডপয়েন্টে এজেন্ট

প্রকল্পটির বর্তমানে বেশ কয়েকটি ইন্টারফেস রয়েছে এবং আপনার কাছে কোনটি চলছে তার ওপর নির্ভর করে মডেলের সেটিংস কোথায় খুঁজতে হবে। মানগুলো সব জায়গায় একই — শুধু সেখানে পৌঁছানোর পথটি আলাদা।

Agent Canvas-এর জন্য Node.js এবং uv প্রয়োজন — এর ওপর এজেন্টের লোকাল সার্ভার কাজ করে (বিস্তারিত— ইনস্টলেশন গাইডে)। গাইড অনুযায়ী Node.js 22.12 বা তার নতুন ভার্সন প্রয়োজন, তবে 1.17 সংস্করণ থেকে প্যাকেজটি Node.js 24 বা তার নতুন ভার্সনের দাবি করে — তাই সামঞ্জস্যহীন ভার্সনের সতর্কতা এড়াতে 24 ইনস্টল করুন। কন্টেইনার ভার্সনও রয়েছে: ghcr.io/openhands/agent-canvas ইমেজটি http://localhost:8000/canvas-এ ইন্টারফেস প্রদান করে এবং শুধুমাত্র সেই ডিরেক্টরিগুলো দেখতে পায় যা আপনি মাউন্ট করেছেন।

JoinGonka কী। gate.joingonka.ai/register-এ রেজিস্ট্রেশন করুন, ইমেইল নিশ্চিত করুন এবং «API-কী» সেকশনে jg- প্রিফিক্স দিয়ে একটি কী তৈরি করুন। নেটওয়ার্কের সব মডেলের জন্য একটি কী এবং একটি ব্যালেন্স কার্যকর। @joingonka/setup ইনস্টলারের টুল তালিকায় OpenHands নেই, এবং এটি কোনো ভুল নয়: এর সেটিংস ইন্টারফেসে এবং ব্যাকএন্ডের সুরক্ষিত স্টোরেজে থাকে, কোনো টেক্সট কনফিগ ফাইলে নয় যা বাইরে থেকে সহজে এডিট করা যায়।

ধাপ ১. Agent Canvas চালু করুন এবং Settings > LLM খুলুন। প্রথমবার চালু করার সময় OpenHands তার নিজস্ব প্রোভাইডার অফার করে — এই ধাপটি এড়িয়ে যাওয়া যেতে পারে, পরে সহজেই সেটিংস-এ ফিরে আসা যাবে।

ধাপ ২. Add LLM Profile-এ ক্লিক করুন এবং Advanced ট্যাবে যান: Basic ট্যাবটি শুধুমাত্র বিল্ট-ইন লিস্ট থেকে প্রোভাইডার এবং মডেল অফার করে।

ধাপ ৩. তিনটি ঘর পূরণ করুন:

ধাপ ৪. প্রোফাইলটি সেভ করুন। সেভ করার আগে, Canvas ব্যাকএন্ড থেকে একটি রিকোয়েস্ট পাঠিয়ে কনফিগারেশন চেক করে: যদি কী রিজেক্ট হয় বা মডেলটি উপলব্ধ না থাকে, তবে প্রোফাইলটি সেভ হবে না এবং আপনি একটি এরর মেসেজ দেখতে পাবেন।

ধাপ ৫. একটি নতুন কথোপকথন শুরু করুন এবং একটি ছোট মেসেজ পাঠান। ইতিমধ্যেই খোলা কথোপকথনগুলো সেই মডেলেই কাজ চালিয়ে যাবে যেটিতে সেগুলো শুরু হয়েছিল।

কেন openai/ ব্যবহার করবেন। LiteLLM মডেলের প্রিফিক্স দিয়ে প্রোভাইডার নির্ধারণ করে। openai/ প্রিফিক্সের মানে এই নয় যে এটি «OpenAI-এর মডেল», বরং এর মানে হলো «OpenAI Chat Completions প্রোটোকল ব্যবহার করে সার্ভারের সাথে কথা বলা»। শুধুমাত্র প্রথম অংশটি কেটে ফেলা হয়, তাই গেটওয়েতে আসল আইডেন্টিফায়ার পৌঁছায় — deepseek-ai/DeepSeek-V4-Flash-0731। OpenHands-এর ডকুমেন্টেশনে openai/qwen/qwen3.6-35b-a3b উদাহরণের মাধ্যমে একই স্কিম দেখানো হয়েছে। প্রিফিক্স ছাড়া LiteLLM কাজ করবে না এবং LLM Provider NOT provided এরর দেবে।

কেন /v1 এবং অন্য কিছু নয়। LiteLLM অফিশিয়াল OpenAI ক্লায়েন্টের মাধ্যমে সার্ভারে যায়, এবং সেটি নিজে থেকেই /chat/completions যোগ করে দেয়। এই কারণেই ঠিকানাটি /v1 দিয়ে শেষ হতে হবে: সাফিক্স ছাড়া রিকোয়েস্ট API-এর বাইরে চলে যাবে, আর অতিরিক্ত কিছু থাকলে এমন পাথে যাবে যা অস্তিত্বহীন। Canvas-এর আরেকটি শর্ত: ঠিকানাটি শুধুমাত্র ব্রাউজার থেকে নয়, বরং ব্যাকএন্ড থেকেও অ্যাক্সেসযোগ্য হতে হবে। গেটওয়েটি একটি পাবলিক HTTPS অ্যাড্রেস, এটি Docker কন্টেইনার থেকে ঠিক সেভাবেই দেখা যায় যেভাবে হোস্ট থেকে দেখা যায়; host.docker.internal-এর মতো কৌশলগুলো শুধুমাত্র আপনার মেশিনে থাকা মডেলের জন্য প্রয়োজন।

সব তিনটি মডেলের জন্য প্রোফাইল। নেটওয়ার্কের প্রতিটি মডেলের জন্য আলাদা প্রোফাইল তৈরি করুন এবং সেগুলোর সংক্ষিপ্ত নাম দিন — উদাহরণস্বরূপ deepseek, glm এবং minimax (ডকুমেন্টেশনে দশটি প্রোফাইলের সীমার কথা বলা হয়েছে)। কনটেক্সট না হারিয়েই সরাসরি কথোপকথনের মধ্যে সুইচ করা যায়: ইনপুট ফিল্ডে প্রোফাইল সিলেকশন বাটন দিয়ে অথবা /model glm কমান্ড দিয়ে; আর্গুমেন্ট ছাড়া /model লিখলে লিস্ট দেখা যাবে। প্রতি প্রোফাইলে বারবার কী (Key) না বসাতে চাইলে, Provider Connections ব্লকে একবারই এটি সেভ করা যায় — এটি লোকাল ব্যাকএন্ডে উপলব্ধ।

Docker-এ পূর্ববর্তী ইন্টারফেস। ক্ষেত্রগুলো একই: Settings → LLM ট্যাব → Advanced চালু করুন → Custom Model, Base URL, API Key → Save Changes।

CLI uv-এর মাধ্যমে এক কমান্ডে ইনস্টল হয় এবং প্রথম রানে নিজেই মডেল সেটআপের মধ্য দিয়ে নিয়ে যায়; পরে Ctrl+P → Settings-এ ফিরে যাওয়া যায়:

uv tool install openhands --python 3.12
openhands

স্ক্রিপ্টের জন্য এনভায়রনমেন্ট ভেরিয়েবল বেশি সুবিধাজনক। গুরুত্বপূর্ণ বিষয়: ডিফল্টভাবে CLI এগুলো উপেক্ষা করে এবং শুধু --override-with-envs ফ্ল্যাগসহ প্রয়োগ করে — এক রানের জন্য, কিছু সেভ না করে:

export LLM_MODEL="openai/deepseek-ai/DeepSeek-V4-Flash-0731"
export LLM_BASE_URL="https://gate.joingonka.ai/v1"
export LLM_API_KEY="jg-your-key"

openhands --override-with-envs

একই সেট ইন্টারফেস ছাড়াও কাজ করে — CI এবং ব্যাচ টাস্কের জন্য:

openhands --headless --override-with-envs -t "Read calc.py and tell me in one sentence whether it has a bug."

হেডলেস মোডে এজেন্ট সর্বদা স্বয়ংক্রিয় অনুমোদনসহ কাজ করে, তাই এটি সেখানে চালান যেখানে তাকে সবকিছু করা যায়: আলাদা ডিরেক্টরি বা কন্টেইনারে। --json ফ্ল্যাগ আউটপুটকে JSONL ইভেন্ট স্ট্রিমে রূপান্তর করে — পাইপলাইনে পার্স করা সুবিধাজনক। ঠিক এভাবেই আমরা ২০২৬ সালের ২১ সেপ্টেম্বর CLI 1.16.0-এ সংযোগটি যাচাই করেছিলাম: CLI-এর হেডারে প্রিন্ট করে Agent initialized with model: openai/deepseek-ai/DeepSeek-V4-Flash-0731, তারপর এজেন্ট ফাইল পড়ে এবং মূল বিষয়ে উত্তর দেয়।

CLI-এর সেভ করা সেটিংস ~/.openhands/agent_settings.json-এ থাকে: এতে মডেল পরিবর্তন করা হয় llm ব্লকের তিনটি ফিল্ড এডিট করে — model, api_key ও base_url। ফাইল শূন্য থেকে তৈরি করা উচিত নয়: প্রথম রানের উইজার্ড সেখানে এজেন্টের বাকি সেটিংসও লেখে, যার মধ্যে হিস্ট্রি কমপ্রেশনও আছে, যা ছাড়া দীর্ঘ কথোপকথন কনটেক্সট উইন্ডোতে আটকে যাবে।

যদি আপনি এজেন্ট নিজের কোডে ইন্টিগ্রেট করেন, একই তিনটি মান OpenHands SDK গ্রহণ করে:

from pydantic import SecretStr
from openhands.sdk import LLM

llm = LLM(
    model="openai/deepseek-ai/DeepSeek-V4-Flash-0731",
    base_url="https://gate.joingonka.ai/v1",
    api_key=SecretStr("jg-your-key"),
)

নেটওয়ার্কের মডেলগুলোর দাম একই, তাই পছন্দটি আচরণের ওপর নির্ভর করে। স্বায়ত্তশাসিত এজেন্টের জন্য দুটি সংখ্যা গুরুত্বপূর্ণ। কনটেক্সট উইন্ডো: প্রতিটি ধাপ নতুন করে ইতিহাস পাঠায়, এবং উইন্ডো যত বড় হয়, এজেন্ট তত দীর্ঘ সময় কোনো তথ্য হারানো ছাড়াই কাজ করতে পারে। রেসপন্স সিলিং: যে ধাপে এজেন্ট একটি বড় ফাইল সম্পূর্ণ লেখে, তা অবশ্যই একটি উত্তরের মধ্যে ধরে যেতে হবে। টেবিলে OpenHands CLI 1.16.0 এবং SDK 1.21.0 ব্যবহার করে একই কাজ (একটি ফাইল পড়া এবং ত্রুটি খুঁজে বের করা) করার আমাদের পরীক্ষার ফলাফল দেওয়া হলো।

দীর্ঘ কাজের জন্য কার্যকরী স্কিমটি OpenHands ডকুমেন্টেশনের পরামর্শ অনুসরণ করে — একটি মডেল দিয়ে পরিকল্পনা করা, অন্যটি দিয়ে কার্যকর করা। glm প্রোফাইলে কথোপকথন শুরু করুন এবং ফাইল পরিবর্তন না করে একটি পরিকল্পনা চান; এরপর /model deepseek পাঠান এবং কার্যকর করার কমান্ড দিন। সুইচ করার সময় ইতিহাস, ফাইল এবং কাজের অবস্থা সংরক্ষিত থাকে। minimax প্রোফাইলটিকে তৃতীয় স্থানে রাখুন: যখন পিক আওয়ারে অন্য দুটির ক্ষমতা শেষ হয়ে যায় তখন এটি ব্যবহার করা সুবিধাজনক, এবং Settings > Application-এ কনভারসেশন টাইটেল তৈরির কাজও তাকে দেওয়া যেতে পারে।

হিস্ট্রি কম্প্রেশন (ইতিহাস সংকোচন)। দীর্ঘ সময়ের কাজে শত হাজার টোকেনের উইন্ডোও সীমিত। OpenHands-এ এর জন্য কন্ডেন্সার দায়ী: এটি পুরোনো ইভেন্টগুলোকে একটি সংক্ষিপ্ত সারমর্মে গুটিয়ে ফেলে, যা ডকুমেন্টেশন অনুযায়ী দীর্ঘ কথোপকথনে ল্যাটেন্সি এবং টোকেন খরচ কমায়। Agent Canvas-এ এটি Settings > Condenser সেকশনে কনফিগার করা হয়; আমাদের CLI রানে এটি স্বয়ংক্রিয়ভাবে ৮০টি ইভেন্টের থ্রেশহোল্ডে চালু হয়েছিল।

মডেল লিমিটস। OpenHands কনটেক্সট উইন্ডো এবং রেসপন্স সিলিং LiteLLM ডিরেক্টরি থেকে নেয়, কিন্তু এতে Gonka নেটওয়ার্কের আইডেন্টিফায়ার নেই (আমরা LiteLLM 1.81-এ পরীক্ষা করেছি), তাই এজেন্টের কাছে এই মডেলগুলোর জন্য নিজস্ব কোনো মান নেই। এটি কাজের ক্ষেত্রে কোনো বাধা সৃষ্টি করে না: গেটওয়ে উপরের টেবিল অনুযায়ী নিজেই রেসপন্স সিলিং প্রয়োগ করে। আপনি যদি স্পষ্টভাবে লিমিট সেট করতে চান — SDK-তে এগুলো হলো max_input_tokens এবং max_output_tokens ফিল্ড, আর Canvas-এ প্রোফাইলের সম্পূর্ণ ফিল্ড দেখার জন্য All ট্যাবটি খুলুন। ডিফল্ট মডেল সম্পর্কে বিস্তারিত তথ্যের জন্য দেখুন DeepSeek V4 Flash পর্যালোচনা।

অনুরোধগুলি প্রকৃতপক্ষে গেটওয়ের মাধ্যমে যাচ্ছে কিনা তা দুটি দিক থেকে নিশ্চিত করা যেতে পারে। OpenHands-এর দিক থেকে — একটি নতুন কথোপকথন শুরু করুন এবং একটি সংক্ষিপ্ত কাজ দিন যেমন «README পড়ুন এবং এক বাক্যে সারসংক্ষেপ করুন»: এজেন্টকে অবশ্যই একটি টুল কল করতে হবে এবং উত্তর দিতে হবে। গেটওয়ের দিক থেকে — ড্যাশবোর্ডে «ব্যবহার» (Usage) বিভাগে যান: অনুরোধটি «মডেল অনুযায়ী» ব্রেকডাউনে প্রদর্শিত হবে এবং «কী অনুযায়ী» ব্লকে শেষ অনুরোধের সময় আপডেট হবে। যদি এটি খালি থাকে, তবে কথোপকথন অন্য প্রোফাইলে চলছে: পরীক্ষা করুন কোনটি সক্রিয় হিসেবে চিহ্নিত আছে।

OpenHands ডকুমেন্টেশন অনুযায়ী, 429 ত্রুটির ক্ষেত্রে পুনঃপ্রচেষ্টার সংখ্যা এবং বিরতি LLM_NUM_RETRIES, LLM_RETRY_MIN_WAIT এবং LLM_RETRY_MAX_WAIT ভেরিয়েবল দ্বারা কনফিগার করা যায়। ডকুমেন্টেশন এবং SDK-এর ডিফল্ট মান আলাদা, তাই বাস্তব মানের উপর নির্ভর করুন: CLI 1.16.0 কথোপকথনের অবস্থায় আমরা 8 থেকে 64 সেকেন্ডের বিরতিসহ 5টি প্রচেষ্টা দেখেছি।

JoinGonka Gateway-এর মাধ্যমে টোকেনের খরচ হলো ইনপুটের প্রতি মিলিয়নে $0.0069 এবং আউটপুটের প্রতি মিলিয়নে $0.021 — নেটওয়ার্কের সমস্ত মডেলের জন্য দাম একই এবং এই পৃষ্ঠায় লাইভ সোর্স থেকে নেওয়া হয়।

ডানদিকের কলামের অনুমানগুলো ২০২৬ সালের সেপ্টেম্বর মাসের দামের ওপর ভিত্তি করে; AI এজেন্টের অর্থনীতি কীভাবে কাজ করে, তা AI-এজেন্টের জন্য সবচেয়ে সস্তা API নিবন্ধে বিস্তারিত আলোচনা করা হয়েছে।

খরচের সিলিং। OpenHands খরচের সীমা নির্ধারণের পরামর্শ দেয় — গেটওয়েতে এটি সরাসরি পেমেন্ট মডেলে তৈরি করা আছে: ব্যালেন্স প্রি-পেইড, এবং অ্যাকাউন্টে যা আছে তার চেয়ে বেশি এজেন্ট খরচ করতে পারবে না। অবশিষ্ট এবং দৈনিক খরচ ড্যাশবোর্ডে দেখা যায়। CI এবং ব্যাকগ্রাউন্ড অটোমেশনের জন্য একটি আলাদা কী তৈরি করুন যাতে তাদের খরচ আপনার সাথে মিশে না যায়; দৈনিক লিমিটসহ চাইল্ড কী সম্পর্কে ম্যানেজমেন্ট কিজ (Management Keys) নিবন্ধে বর্ণনা করা হয়েছে।

বিশ্বাসের সীমানা। npm-এর মাধ্যমে চালিত Agent Canvas আপনার ব্যবহারকারীর অধিকার নিয়ে কাজ করে এবং সম্পূর্ণ ফাইল সিস্টেম দেখতে পায়। অজানা কোডের জন্য Docker সংস্করণ ব্যবহার করুন: এজেন্ট শুধুমাত্র মাউন্ট করা ডিরেক্টরি দেখতে পাবে। এটি OpenHands-এর নিজস্ব বৈশিষ্ট্য, এটি মডেল প্রোভাইডারের ওপর নির্ভর করে না।

কথোপকথন আপনার কাছেই থাকে। OpenHands কথোপকথনের ইতিহাস নিজের কাছে ~/.openhands-এ সংরক্ষণ করে এবং প্রতিটি ধাপের সাথে মডেলে পাঠায়; গেটওয়ে কোনো চিঠিপত্র সংরক্ষণ করে না — উত্তরের পর আপনার প্রম্পট এবং কোড সেখানে থাকে না।

কাজে যদি ছবি থাকে — ইন্টারফেসের স্ক্রিনশট, ডায়াগ্রাম — তাহলে সেটির জন্য vision-মডেলসহ একটি আলাদা প্রোফাইল তৈরি করুন: Gonka নেটওয়ার্কের মডেলগুলো টেক্সট-ভিত্তিক। কোড, কমান্ড এবং ফাইলের জন্য এটি কোনো সীমাবদ্ধতা নয়।