OpenHands + JoinGonka Gateway: अपने एंडपॉइंट पर एजेंट

आज प्रोजेक्ट के कई इंटरफ़ेस हैं, और कौन सा आपके पास चल रहा है, इस पर निर्भर करता है कि मॉडल की सेटिंग्स कहाँ खोजनी हैं। मान (values) हर जगह समान हैं — बस उन तक पहुँचने का रास्ता अलग है।

Agent Canvas के लिए Node.js और uv की आवश्यकता होती है — एजेंट का स्थानीय सर्वर उसी पर चलता है (विवरण इंस्टॉलेशन निर्देश में हैं)। निर्देश Node.js 22.12 या नए का उल्लेख करते हैं, लेकिन 1.17 संस्करण से पैकेज को Node.js 24 और नए की आवश्यकता होती है — असंगत संस्करण की चेतावनी से बचने के लिए 24 इंस्टॉल करें। कंटेनर में एक विकल्प भी है: इमेज ghcr.io/openhands/agent-canvas http://localhost:8000/canvas पर इंटरफ़ेस प्रदान करती है और केवल उन निर्देशिकाओं को देखती है जिन्हें आपने माउंट किया है।

JoinGonka कुंजी। gate.joingonka.ai/register पर पंजीकरण करें, पता सत्यापित करें और "API-कुंजी" अनुभाग में jg- उपसर्ग के साथ एक कुंजी बनाएं। एक कुंजी और एक बैलेंस नेटवर्क के सभी मॉडलों के लिए काम करते हैं। @joingonka/setup इंस्टॉलर के टूल की सूची में OpenHands नहीं है, और यह कोई चूक नहीं है: इसकी सेटिंग्स इंटरफ़ेस और बैकएंड के सुरक्षित स्टोरेज में रहती हैं, न कि टेक्स्ट कॉन्फ़िग में जिसे बाहर से आसानी से बदला जा सके।

चरण 1. Agent Canvas शुरू करें और Settings > LLM खोलें। पहला स्टार्टअप विज़ार्ड अपना खुद का OpenHands प्रदाता प्रस्तावित करता है — इस चरण को छोड़ा जा सकता है, सेटिंग्स पर बाद में वापस आना आसान है।

चरण 2. Add LLM Profile दबाएं और Advanced टैब पर जाएं: Basic टैब केवल अंतर्निहित सूची के प्रदाता और मॉडल प्रदान करता है।

चरण 3. तीन फ़ील्ड भरें:

चरण 4. प्रोफ़ाइल सहेजें। सहेजने से पहले, Canvas बैकएंड से अनुरोध के साथ कॉन्फ़िगरेशन की जांच करता है: यदि कुंजी अस्वीकार कर दी जाती है या मॉडल उपलब्ध नहीं है, तो प्रोफ़ाइल सहेजी नहीं जाएगी और आप एक त्रुटि संदेश देखेंगे।

चरण 5. नई बातचीत शुरू करें और एक छोटा संदेश भेजें। पहले से खुली हुई बातचीत उसी मॉडल पर काम करना जारी रखती है जिसके साथ वे शुरू हुई थीं।

openai/ क्यों। LiteLLM मॉडल प्रीफ़िक्स द्वारा प्रदाता को निर्धारित करता है। प्रीफ़िक्स openai/ का मतलब "OpenAI का मॉडल" नहीं है, बल्कि "OpenAI Chat Completions प्रोटोकॉल का उपयोग करके सर्वर से बात करना" है। केवल पहला खंड काटा जाता है, इसलिए गेटवे तक वास्तविक पहचानकर्ता पहुँचता है — deepseek-ai/DeepSeek-V4-Flash-0731। OpenHands दस्तावेज़ीकरण में यही योजना openai/qwen/qwen3.6-35b-a3b के उदाहरण के साथ दिखाई गई है। प्रीफ़िक्स के बिना, LiteLLM LLM Provider NOT provided संदेश के साथ काम करने से मना कर देगा।

/v1 और कुछ भी क्यों नहीं। LiteLLM आधिकारिक OpenAI क्लाइंट के माध्यम से सर्वर पर जाता है, और वह स्वयं /chat/completions जोड़ता है। इसलिए पता /v1 पर समाप्त होना चाहिए: सफ़िक्स के बिना अनुरोध API से चूक जाएगा, और अतिरिक्त सफ़िक्स के साथ — ऐसे पथ पर जाएगा जो मौजूद नहीं है। और Canvas की एक और आवश्यकता: पता केवल ब्राउज़र से ही नहीं, बल्कि बैकएंड से भी सुलभ होना चाहिए। गेटवे एक सार्वजनिक HTTPS पता है, Docker कंटेनर से यह होस्ट की तरह ही दिखाई देता है; host.docker.internal जैसी तरकीबें केवल आपकी मशीन पर मौजूद मॉडल के लिए आवश्यक हैं।

तीनों मॉडल के लिए प्रोफ़ाइल। नेटवर्क के प्रत्येक मॉडल के लिए एक प्रोफ़ाइल बनाएं और उन्हें छोटा नाम दें — उदाहरण के लिए deepseek, glm और minimax (दस्तावेज़ीकरण दस प्रोफाइल की सीमा के बारे में बात करता है)। आप संदर्भ खोए बिना बातचीत में ही स्विच कर सकते हैं: इनपुट फ़ील्ड में प्रोफ़ाइल चयन बटन के साथ या /model glm कमांड के साथ; बिना तर्क के /model सूची दिखाएगा। हर प्रोफ़ाइल में कुंजी न डालने के लिए, इसे Provider Connections ब्लॉक में एक बार सहेजा जा सकता है — यह स्थानीय बैकएंड पर उपलब्ध है।

Docker में पिछला इंटरफ़ेस। फ़ील्ड वही हैं: Settings → LLM टैब → Advanced सक्षम करें → Custom Model, Base URL, API Key → Save Changes।

CLI uv से एक कमांड में इंस्टॉल हो जाता है और पहली बार चलाने पर ख़ुद मॉडल सेटअप कराता है; बाद में Ctrl+P → Settings से उस पर लौटा जा सकता है:

uv tool install openhands --python 3.12
openhands

स्क्रिप्ट के लिए एनवायरनमेंट वेरिएबल ज़्यादा सुविधाजनक हैं। एक ज़रूरी बात: डिफ़ॉल्ट रूप से CLI इन्हें नज़रअंदाज़ करता है और सिर्फ़ --override-with-envs फ़्लैग के साथ लागू करता है — एक बार के लिए, कुछ सेव किए बिना:

export LLM_MODEL="openai/deepseek-ai/DeepSeek-V4-Flash-0731"
export LLM_BASE_URL="https://gate.joingonka.ai/v1"
export LLM_API_KEY="jg-your-key"

openhands --override-with-envs

यही सेट बिना इंटरफ़ेस के भी काम करता है — CI और बैच कामों के लिए:

openhands --headless --override-with-envs -t "Read calc.py and tell me in one sentence whether it has a bug."

headless मोड में एजेंट हमेशा ऑटो-अप्रूवल के साथ चलता है, इसलिए इसे वहाँ चलाएँ जहाँ उसे सब कुछ करने की छूट हो: अलग डायरेक्टरी या कंटेनर में। --json फ़्लैग आउटपुट को JSONL इवेंट स्ट्रीम में बदल देता है — पाइपलाइन में पार्स करने के लिए सुविधाजनक। ठीक इसी तरह हमने 21 सितंबर 2026 को CLI 1.16.0 पर यह जोड़ी जाँची थी: CLI के हेडर में Agent initialized with model: openai/deepseek-ai/DeepSeek-V4-Flash-0731 छपता है, फिर एजेंट फ़ाइल पढ़ता है और सारगर्भित जवाब देता है।

CLI की सेव की गई सेटिंग ~/.openhands/agent_settings.json में रहती है: उसमें मॉडल llm ब्लॉक के तीन फ़ील्ड — model, api_key और base_url — एडिट करके बदला जाता है। फ़ाइल शून्य से बनाना ठीक नहीं: पहले रन का विज़ार्ड वहाँ एजेंट की बाक़ी सेटिंग भी लिखता है, जिसमें हिस्ट्री कंप्रेशन भी शामिल है, जिसके बिना लंबी बातचीत कॉन्टेक्स्ट विंडो पर अटक जाएगी।

अगर आप एजेंट को अपने कोड में जोड़ रहे हैं, तो यही तीन वैल्यू OpenHands SDK लेता है:

from pydantic import SecretStr
from openhands.sdk import LLM

llm = LLM(
    model="openai/deepseek-ai/DeepSeek-V4-Flash-0731",
    base_url="https://gate.joingonka.ai/v1",
    api_key=SecretStr("jg-your-key"),
)

नेटवर्क के सभी मॉडलों की कीमत एक समान है, इसलिए चुनाव उनके व्यवहार पर निर्भर करता है। स्वायत्त एजेंट (autonomous agent) के लिए दो आंकड़े महत्वपूर्ण हैं। कॉन्टेक्स्ट विंडो: हर चरण में इतिहास फिर से भेजा जाता है, और विंडो जितनी लंबी होगी, एजेंट उतना ही बेहतर बिना डेटा खोए काम करेगा। रिस्पॉन्स की सीमा: वह चरण जहाँ एजेंट पूरी बड़ी फ़ाइल लिखता है, वह एक ही रिस्पॉन्स में फिट होना चाहिए। तालिका में OpenHands CLI 1.16.0 और SDK 1.21.0 के साथ एक ही कार्य (फ़ाइल पढ़ना और त्रुटि ढूँढना) के हमारे परीक्षण के परिणाम दिए गए हैं।

लंबे कार्यों के लिए काम करने का सही तरीका OpenHands के दस्तावेज़ों की सलाह को दोहराता है — एक मॉडल के साथ योजना बनाएँ, दूसरे के साथ निष्पादित करें। glm प्रोफाइल पर बातचीत शुरू करें और फ़ाइल में बदलाव किए बिना एक योजना का अनुरोध करें; फिर /model deepseek कमांड भेजें और निष्पादन का निर्देश दें। स्विच करते समय इतिहास, फ़ाइलें और कार्य की स्थिति बनी रहती है। minimax प्रोफाइल को तीसरे स्थान पर रखें: पीक ऑवर्स में जब अन्य दो की क्षमता समाप्त हो जाए, तो इस पर स्विच करना सुविधाजनक है, और इसे Settings > Application में वार्तालाप शीर्षक जनरेट करने का कार्य भी दिया जा सकता है।

इतिहास का संपीड़न (Compression)। घंटों चलने वाले कार्यों में सैकड़ों हजारों टोकन की विंडो भी सीमित होती है। OpenHands में इसके लिए एक कंडेंसर होता है: यह पुरानी घटनाओं को एक संक्षिप्त सारांश में सिकोड़ देता है, जो दस्तावेज़ों के अनुसार, लंबी बातचीत में देरी और टोकन की खपत को कम करता है। Agent Canvas में इसे Settings > Condenser अनुभाग में कॉन्फ़िगर किया जाता है; हमारे CLI रन में इसने इसे 80 घटनाओं की सीमा के साथ स्वचालित रूप से सक्षम कर लिया था।

मॉडल सीमाएँ। OpenHands कॉन्टेक्स्ट विंडो और रिस्पॉन्स सीमा को LiteLLM निर्देशिका से लेता है, और उसमें Gonka नेटवर्क के पहचानकर्ता नहीं हैं (हमने LiteLLM 1.81 पर जाँच की है), इसलिए एजेंट के पास इन मॉडलों के लिए अपने कोई मान नहीं हैं। यह काम में बाधा नहीं डालता: गेटवे ऊपर दी गई तालिका के अनुसार रिस्पॉन्स सीमा को स्वयं लागू करता है। यदि आप सीमाएँ स्पष्ट रूप से निर्धारित करना चाहते हैं — तो SDK में ये max_input_tokens और max_output_tokens फ़ील्ड हैं, और Canvas में All टैब प्रोफाइल फ़ील्ड का पूरा सेट खोलता है। डिफ़ॉल्ट मॉडल के बारे में विवरण DeepSeek V4 Flash समीक्षा में उपलब्ध हैं।

आप दो तरफ से यह सुनिश्चित कर सकते हैं कि अनुरोध वास्तव में गेटवे के माध्यम से जा रहे हैं। OpenHands की ओर से — एक नई बातचीत और एक संक्षिप्त कार्य जैसे "README पढ़ें और एक वाक्य में सारांश दें": एजेंट को टूल को कॉल करना चाहिए और उत्तर देना चाहिए। गेटवे की ओर से — डैशबोर्ड, "उपयोग" अनुभाग: अनुरोध "मॉडल के अनुसार" ब्रेकडाउन में दिखाई देगा, और "कुंजियों के अनुसार" ब्लॉक में अंतिम अनुरोध का समय अपडेट हो जाएगा। यदि यह खाली है, तो इसका मतलब है कि बातचीत किसी अन्य प्रोफ़ाइल पर हो रही है: जांचें कि उनमें से कौन सा सक्रिय के रूप में चिह्नित है।

OpenHands के दस्तावेज़ीकरण के अनुसार, 429 त्रुटि होने पर पुनरावृत्तियों की संख्या और उनके बीच के अंतराल को LLM_NUM_RETRIES, LLM_RETRY_MIN_WAIT और LLM_RETRY_MAX_WAIT चर द्वारा कॉन्फ़िगर किया जाता है। दस्तावेज़ीकरण और SDK में डिफ़ॉल्ट मान अलग-अलग हैं, इसलिए वास्तविक मानों पर ध्यान दें: CLI 1.16.0 की बातचीत स्थिति में हमने 8 से 64 सेकंड के अंतराल के साथ 5 प्रयास देखे।

JoinGonka Gateway के माध्यम से टोकन की कीमत इनपुट पर प्रति मिलियन $0.0069 और आउटपुट पर प्रति मिलियन $0.021 है — कीमत नेटवर्क के सभी मॉडल के लिए समान है और इस पृष्ठ पर लाइव स्रोत से ली गई है।

दाएं कॉलम में अनुमान सितंबर 2026 की कीमतों पर आधारित हैं; एजेंटों की अर्थव्यवस्था को AI-एजेंटों के लिए सबसे सस्ते API के बारे में लेख में विस्तार से समझाया गया है।

खर्च की सीमा। OpenHands खर्च की सीमा तय करने की सलाह देता है — गेटवे में इसे भुगतान मॉडल में ही बनाया गया है: शेष राशि प्रीपेड है, और एजेंट आपके खाते से अधिक खर्च नहीं करेगा। शेष राशि और दैनिक खपत डैशबोर्ड में दिखाई देती है। CI और बैकग्राउंड ऑटोमेशन के लिए, एक अलग कुंजी बनाएं ताकि उनकी खपत आपके मुख्य खर्चों के साथ न मिले; दैनिक सीमा वाली चाइल्ड कुंजियों के बारे में Management Keys लेख में बताया गया है।

विश्वास की सीमा। npm के माध्यम से चलाया गया Agent Canvas, आपके उपयोगकर्ता के अधिकारों के साथ काम करता है और पूरी फ़ाइल प्रणाली को देख सकता है। बाहरी कोड के लिए, Docker संस्करण का उपयोग करें: एजेंट केवल माउंट की गई निर्देशिका को देखेगा। यह स्वयं OpenHands की एक विशेषता है, यह मॉडल प्रदाता पर निर्भर नहीं करता है।

पत्राचार आपके पास रहता है। OpenHands बातचीत का इतिहास अपने पास, ~/.openhands में रखता है, और हर कदम के साथ इसे मॉडल को भेजता है; गेटवे बातचीत को संग्रहीत नहीं करता है — उत्तर के बाद आपके प्रॉम्प्ट और कोड उस पर नहीं रहते हैं।

यदि कार्य में चित्र हैं — इंटरफ़ेस के स्क्रीनशॉट, आरेख — तो इसके लिए विजन-मॉडल के साथ एक अलग प्रोफ़ाइल बनाएं: Gonka नेटवर्क के मॉडल टेक्स्ट-आधारित हैं। कोड, कमांड और फाइलों के लिए यह कोई सीमा नहीं है।