Architektura

Czym są Transfer Agenci w Gonka

Kiedy wysyłasz zapytanie do sieci neuronowej przez Gonka, trafia ono nie bezpośrednio do GPU, lecz do agenta transferowego – specjalnego węzła pośredniczącego. To właśnie on decyduje, która GPU przetworzy twoje zapytanie. Bez agentów transferowych sieć tysięcy GPU zamieniłaby się w chaos.

Proste wyjaśnienie

Wyobraź sobie dyspozytora taksówek. Zamawiasz samochód – dyspozytor znajduje najbliższy wolny i wysyła go do ciebie. Nie musisz znać numerów wszystkich kierowców i ich lokalizacji. Agent transferowy działa tak samo: przyjmuje twoje zapytanie AI, znajduje odpowiedni wolny węzeł ML i kieruje do niego zapytanie.

Jak działają Transfer Agenci

Agent transferowy przyjmuje przychodzące zapytanie od użytkownika lub aplikacji. Sprawdza podpis i saldo nadawcy. Wybiera węzeł ML z odpowiednim modelem i wolnymi zasobami. Kieruje zapytanie do wybranego węzła i zwraca wynik klientowi. Wszystko dzieje się w milisekundach – użytkownik nie zauważa pośrednika.

Po co są Transfer Agenci

Bez agentów transferowych każdy klient musiałby znać adresy IP wszystkich GPU w sieci, samodzielnie sprawdzać ich obciążenie i wybierać odpowiedni węzeł. Jest to niepraktyczne przy około ~4 648 GPU w sieci. Agenci transferowi rozwiązują problem równoważenia obciążenia, sprawdzania podpisów i routingu – dzięki czemu sieć jest wygodna dla użytkowników końcowych.
Agent transferowy to dyspozytor sieci Gonka. Przyjmuje twoje zapytanie AI, znajduje wolne GPU i zwraca odpowiedź. Bez niego użytkownik musiałby sam szukać odpowiedniego węzła wśród tysięcy.

Chcesz dowiedzieć się więcej?

Poznaj ekonomię GNK lub zacznij zarabiać już teraz.

Przeczytaj także