Architettura

Cosa sono i Transfer Agents in Gonka

Quando inviate una richiesta a una rete neurale tramite Gonka, essa non finisce direttamente sulla GPU, ma su un Transfer Agent, un nodo intermediario speciale. È lui a decidere quale GPU elaborerà la vostra richiesta. Senza i Transfer Agents, la rete di 1,053 GPU diventerebbe un caos.

Spiegazione semplice

Immagina un centralinista di taxi. Tu chiami un'auto — il centralinista trova la più vicina e libera e te la invia. Non hai bisogno di conoscere i numeri di tutti i tassisti e la loro posizione. Il Transfer Agent funziona allo stesso modo: riceve la tua richiesta AI, trova un nodo ML libero adatto e instradati la richiesta ad esso.

Come funzionano i Transfer Agents

Il Transfer Agent riceve una richiesta in ingresso dall'utente o dall'applicazione. Verifica la firma e il saldo del mittente. Seleziona un nodo ML con il modello appropriato e le risorse disponibili. Invia la richiesta al nodo selezionato e restituisce il risultato al client. Tutto avviene in millisecondi — l'utente non nota l'intermediario.

Perché sono necessari i Transfer Agents

Senza i Transfer Agents, ogni cliente dovrebbe conoscere gli indirizzi IP di tutte le GPU nella rete, verificare autonomamente il loro carico e scegliere il nodo adatto. Questo non è pratico con 1,053 GPU nella rete. I Transfer Agents risolvono il problema del bilanciamento del carico, della verifica delle firme e del routing, rendendo la rete facile da usare per gli utenti finali.
Il Transfer Agent è il dispatcher della rete Gonka. Riceve la vostra richiesta AI, trova una GPU libera e restituisce la risposta. Senza di esso, l'utente dovrebbe cercare da solo un nodo libero in tutta la rete.

Vuoi saperne di più?

Comprendi l'economia GNK o inizia a guadagnare subito.

Leggi anche