Arkitektura

Ano ang Transfer Agents sa Gonka

Kapag nagpadala ka ng kahilingan sa isang neural network sa pamamagitan ng Gonka, hindi ito direktang napupunta sa GPU, kundi sa isang Transfer Agent — isang espesyal na node na tagapamagitan. Ito ang nagpapasya kung aling GPU ang magpoproseso ng iyong kahilingan. Kung wala ang Transfer Agents, ang isang network ng libu-libong GPU ay magiging magulo.

Simpleng Paliwanag

Isipin ang isang dispatser ng taxi. Tatawag ka ng sasakyan — hahanapin ng dispatser ang pinakamalapit na bakante at ipapadala ito sa iyo. Hindi mo kailangang malaman ang mga numero at lokasyon ng lahat ng driver. Katulad nito ang paggana ng Transfer Agent: tumatanggap ito ng iyong kahilingan sa AI, naghahanap ng angkop na bakanteng ML node at idinidirekta ang kahilingan dito.

Paano Gumagana ang Transfer Agents

Tumatanggap ang Transfer Agent ng papasok na kahilingan mula sa user o application. Sinusuri ang pirma at balanse ng nagpadala. Pinipili ang isang ML node na may angkop na modelo at bakanteng resources. Iginagawa ang kahilingan sa napiling node at ibinabalik ang resulta sa client. Lahat ay nangyayari sa loob ng milliseconds — hindi napapansin ng user ang tagapamagitan.

Bakit Kailangan ang Transfer Agents

Kung walang Transfer Agents, ang bawat kliyente ay kailangang malaman ang mga IP address ng lahat ng GPU sa network, suriin ang kanilang paggamit nang mag-isa, at pumili ng angkop na node. Hindi ito praktikal para sa humigit-kumulang ~4 648 GPU sa network. Winawastuhan ng Transfer Agents ang problema ng pagbabalanse ng load, pagpapatunay ng mga pirma, at pagruruta — na ginagawang maginhawa ang network para sa mga end-user.
Ang Transfer Agent ay ang dispatser ng network ng Gonka. Tumatanggap ito ng iyong kahilingan sa AI, naghahanap ng bakanteng GPU at ibinabalik ang tugon. Kung wala ito, kailangan ng user na maghanap ng tamang node sa libu-libo.

Gusto mo bang matuto pa?

Unawain ang ekonomiya ng GNK o magsimulang kumita ngayon.

Basahin din