OpenHands + JoinGonka Gateway: ahente sa sariling endpoint

Ang proyekto ngayon ay may ilang interface, at depende sa kung alin ang tumatakbo sa iyo, nakadepende kung saan hahanapin ang mga setting ng modelo. Ang mga halaga mismo ay pare-pareho sa lahat — ang path lang ang nagkakaiba.

Para sa Agent Canvas, kailangan ng Node.js at uv — dito tumatakbo ang lokal na server ng agent (mga detalye sa mga tagubilin sa pag-install). Ang instruksyon ay tumutukoy sa Node.js 22.12 o mas bago, ngunit ang package mismo simula sa bersyon 1.17 ay nangangailangan ng Node.js 24 o mas bago — mag-install ng 24 upang hindi makatanggap ng babala tungkol sa hindi compatible na bersyon. Mayroon ding opsyon sa container: ang image na ghcr.io/openhands/agent-canvas ay nagbibigay ng interface sa http://localhost:8000/canvas at nakikita lamang ang mga directory na iyong na-mount.

JoinGonka Key. Mag-register sa gate.joingonka.ai/register, kumpirmahin ang address, at gumawa ng key na may prefix na jg- sa seksyong "API keys". Isang key at isang balance ang gumagana para sa lahat ng mga modelo ng network. Wala ang OpenHands sa listahan ng mga tool ng installer na @joingonka/setup, at hindi ito pagkakamali: ang mga setting nito ay nasa interface at sa secure na storage ng backend, hindi sa text config na maaaring i-edit mula sa labas.

Hakbang 1. Patakbuhin ang Agent Canvas at buksan ang Settings > LLM. Ang unang setup wizard ay nagmumungkahi ng sariling provider ng OpenHands — ang hakbang na ito ay maaaring laktawan, madaling bumalik sa mga setting mamaya.

Hakbang 2. I-click ang Add LLM Profile at pumunta sa tab na Advanced: ang tab na Basic ay nag-aalok lamang ng mga provider at model mula sa built-in na listahan.

Hakbang 3. Punan ang tatlong field:

Hakbang 4. I-save ang profile. Bago i-save, tinitingnan ng Canvas ang configuration sa pamamagitan ng request mula sa backend: kung ang key ay tinanggihan o ang model ay hindi available, hindi mase-save ang profile at makakakita ka ng error message.

Hakbang 5. Magsimula ng bagong usapan at magpadala ng maikling mensahe. Ang mga kasalukuyang bukas na usapan ay patuloy na tatakbo sa model kung saan sila nagsimula.

Bakit openai/. Tinutukoy ng LiteLLM ang provider batay sa prefix ng model. Ang prefix na openai/ ay hindi nangangahulugang «model mula sa OpenAI», kundi «makipag-usap sa server gamit ang OpenAI Chat Completions protocol». Ang unang segment lamang ang pinuputol, kaya ang nakakarating sa gateway ay ang tamang identifier — deepseek-ai/DeepSeek-V4-Flash-0731. Sa dokumentasyon ng OpenHands, ang parehong scheme ay ipinapakita gamit ang halimbawa ng openai/qwen/qwen3.6-35b-a3b. Kung walang prefix, tatanggihan ng LiteLLM na gumana at magpapakita ng mensaheng LLM Provider NOT provided.

Bakit /v1 at wala nang iba pa. Ang LiteLLM ay kumokonekta sa server sa pamamagitan ng opisyal na OpenAI client, at ito mismo ang nagdaragdag ng /chat/completions. Kaya naman ang address ay dapat magtapos sa /v1: kung walang suffix, ang request ay lalampas sa API, at kung may sobrang buntot, ito ay pupunta sa path na wala namang umiiral. Isa pang requirement ng Canvas: ang address ay dapat accessible mula sa backend, hindi lang mula sa browser. Ang gateway ay isang public HTTPS address, makikita ito mula sa Docker container gaya ng sa host; ang mga paraan gaya ng host.docker.internal ay kailangan lamang para sa mga model sa iyong sariling makina.

Mga profile para sa lahat ng tatlong model. Gumawa ng profile para sa bawat model ng network at pangalanan ang mga ito nang maikli — halimbawa deepseek, glm, at minimax (ang dokumentasyon ay nagbabanggit ng limitasyon na sampung profile). Maaari kang lumipat direkta sa usapan nang hindi nawawala ang context: gamit ang profile selection button sa input field o sa pamamagitan ng command na /model glm; ang /model nang walang argument ay magpapakita ng listahan. Upang hindi na ilagay ang key sa bawat profile, maaari itong i-save nang isang beses sa Provider Connections block — ito ay available sa local backend.

Dating interface sa Docker. Pareho lang ang mga field: Settings → tab na LLM → i-enable ang Advanced → Custom Model, Base URL, API Key → Save Changes.

Ang CLI ay ini-install sa isang command gamit ang uv at sa unang pagpapatakbo ay kusa kang gagabayan sa setup ng modelo; pagkatapos, makakabalik ka rito gamit ang Ctrl+P → Settings:

uv tool install openhands --python 3.12
openhands

Para sa mga script, mas maginhawa ang mga environment variable. Mahalagang detalye: bilang default, binabalewala sila ng CLI at inilalapat lamang sa flag na --override-with-envs — para sa isang pagpapatakbo, walang iniimbak:

export LLM_MODEL="openai/deepseek-ai/DeepSeek-V4-Flash-0731"
export LLM_BASE_URL="https://gate.joingonka.ai/v1"
export LLM_API_KEY="jg-your-key"

openhands --override-with-envs

Gumagana rin ang parehong set nang walang interface — para sa CI at batch na mga gawain:

openhands --headless --override-with-envs -t "Read calc.py and tell me in one sentence whether it has a bug."

Sa headless mode, laging kumikilos ang agent nang may auto-approval, kaya patakbuhin ito kung saan pinapayagan ang lahat: sa hiwalay na direktoryo o container. Ang flag na --json ay ginagawang stream ng JSONL events ang output — maginhawa itong i-parse sa pipeline. Ganito mismo namin sinuri ang koneksyon noong Setyembre 21, 2026 sa CLI 1.16.0: sa header, ipinapakita ng CLI ang Agent initialized with model: openai/deepseek-ai/DeepSeek-V4-Flash-0731, pagkatapos ay binabasa ng agent ang file at sumasagot nang matino.

Ang mga naimbak na setting ng CLI ay nasa ~/.openhands/agent_settings.json: ang modelo rito ay binabago sa pag-edit ng tatlong field ng block na llm — model, api_key at base_url. Hindi dapat gumawa ng file mula sa wala: ang unang-run wizard ay nagsusulat din doon ng iba pang setting ng agent, kasama na ang history compression, kung wala ito ay sasagad sa context window ang mahabang usapan.

Kung ini-integrate mo ang agent sa sarili mong code, tinatanggap ng OpenHands SDK ang parehong tatlong value:

from pydantic import SecretStr
from openhands.sdk import LLM

llm = LLM(
    model="openai/deepseek-ai/DeepSeek-V4-Flash-0731",
    base_url="https://gate.joingonka.ai/v1",
    api_key=SecretStr("jg-your-key"),
)

Ang presyo ng mga model sa network ay pare-pareho, kaya ang pagpili ay tungkol sa behavior. Dalawang numero ang mahalaga para sa isang autonomous agent. Context window: bawat step ay muling nagpapadala ng kasaysayan, at habang mas mahaba ang window, mas matagal na gumagana ang agent nang walang pagkawala. Response ceiling: ang step kung saan nagsusulat ang agent ng malaking file nang buo ay dapat magkasya sa isang tugon. Sa talahanayan ay ang mga resulta ng aming pagtakbo sa parehong gawain (basahin ang file at maghanap ng error) sa pamamagitan ng OpenHands CLI 1.16.0 gamit ang SDK 1.21.0.

Ang working scheme para sa mahabang gawain ay inuulit ang payo mula sa dokumentasyon ng OpenHands — magplano gamit ang isang model, isagawa gamit ang isa pa. Magsimula ng usapan sa glm profile at humingi ng plano nang walang pagbabago sa mga file; pagkatapos ay ipadala ang /model deepseek at magbigay ng command na isagawa. Ang kasaysayan, mga file, at estado ng gawain ay napananatili kapag nagpapalit. Panatilihin ang minimax profile bilang ikatlo: madaling lumipat dito kapag ang dalawa pang model ay wala nang kapasidad sa oras ng rush, at maaari rin ditong ibigay ang pag-generate ng mga pamagat ng pag-uusap sa Settings > Application.

Compression ng kasaysayan. Kahit ang window na may daan-daang libong tokens ay limitado sa isang mahabang gawain. Sa OpenHands, ang condenser ang responsable para dito: pinagsasama nito ang mga lumang kaganapan sa isang maikling buod, na ayon sa dokumentasyon, ay nagpapababa ng latency at pagkonsumo ng token sa mahahabang pag-uusap. Sa Agent Canvas, maaari itong i-configure sa seksyong Settings > Condenser; sa aming CLI run, kusa itong na-enable, na may threshold na 80 events.

Mga limitasyon ng model. Kinukuha ng OpenHands ang context window at response ceiling mula sa LiteLLM directory, ngunit walang network identifiers ng Gonka dito (sinuri namin sa LiteLLM 1.81), kaya walang sariling values ang agent para sa mga model na ito. Hindi ito nakakaabala sa trabaho: ang gateway mismo ang naglalapat ng response ceiling ayon sa talahanayan sa itaas. Kung nais mong itakda nang malinaw ang mga limitasyon — sa SDK ang mga field ay max_input_tokens at max_output_tokens, at sa Canvas, ang tab na All ay nagbubukas ng kumpletong hanay ng mga profile field. Ang mga detalye tungkol sa default model ay nasa pagsusuri ng DeepSeek V4 Flash.

Maaari mong matiyak na ang mga request ay dumadaan talaga sa gateway mula sa dalawang panig. Mula sa panig ng OpenHands — isang bagong usapan at isang maikling gawain tulad ng "basahin ang README at ibuod sa isang pangungusap": ang agent ay dapat tumawag ng tool at sumagot. Mula sa panig ng gateway — sa cabinet, sa seksyong "Paggamit" (Usage): lalabas ang request sa breakdown na "By models", at sa block na "By keys" ay mag-a-update ang oras ng huling request. Kung blanko — ibig sabihin, ang usapan ay nasa ibang profile: tingnan kung alin sa mga ito ang nakaset na aktibo.

Ayon sa dokumentasyon ng OpenHands, ang bilang ng retries at ang pause sa pagitan ng mga ito sa oras ng 429 ay nako-configure gamit ang mga variable na LLM_NUM_RETRIES, LLM_RETRY_MIN_WAIT at LLM_RETRY_MAX_WAIT. Ang default values sa dokumentasyon at sa SDK ay magkaiba, kaya magbase sa aktwal na nakikita: sa status ng usapan ng CLI 1.16.0, nakakita kami ng 5 pagtatangka na may pause mula 8 hanggang 64 na segundo.

Sa pamamagitan ng JoinGonka Gateway, ang mga token ay nagkakahalaga ng $0.0069 bawat milyon sa input at $0.021 bawat milyon sa output — ang presyo ay pareho para sa lahat ng mga model sa network at kinukuha sa pahinang ito mula sa live source.

Ang mga pagtatantya sa kanang kolum ay batay sa mga presyo noong Setyembre 2026; kung paano gumagana ang ekonomiya ng mga agent ay detalyadong tinalakay sa artikulo tungkol sa pinakamurang API para sa mga AI agent.

Limitasyon sa gastos. Pinapayo ng OpenHands ang pagtatakda ng mga limitasyon sa paggastos — sa gateway ay built-in na ito sa mismong payment model: ang balanse ay prepaid, at hindi gagastos ang agent nang higit pa sa nasa account. Ang natitirang balanse at gastos bawat araw ay makikita sa cabinet. Para sa CI at background automation, gumawa ng hiwalay na key upang hindi humalo ang gastos nito sa iyo; ang mga sub-key na may daily limit ay inilarawan sa artikulo tungkol sa Management Keys.

Hangganan ng tiwala. Ang Agent Canvas, na pinapatakbo sa pamamagitan ng npm, ay gumagana gamit ang mga karapatan ng iyong user at nakikita ang buong file system. Para sa code ng ibang tao, gamitin ang bersyon sa Docker: makikita lang ng agent ang naka-mount na directory. Ito ay katangian mismo ng OpenHands, hindi ito nakadepende sa model provider.

Ang usapan ay nananatili sa iyo. Ang history ng usapan ay iniimbak ng OpenHands sa sarili nito, sa ~/.openhands, at ipinapadala ito sa model sa bawat hakbang; hindi iniimbak ng gateway ang usapan — ang iyong mga prompt at code ay hindi naiiiwan dito pagkatapos sumagot.

Kung may mga larawan ang gawain — mga screenshot ng interface, diagram — gumawa ng hiwalay na profile para dito na may vision-model: ang mga model ng network ng Gonka ay text-based. Para sa code, command, at mga file, hindi ito isang limitasyon.