Architecture

Que sont les agents de transfert dans Gonka

Lorsque vous envoyez une requête à un réseau neuronal via Gonka, elle n'atteint pas directement le GPU, mais passe par un Transfer Agent — un nœud intermédiaire spécial. C'est lui qui décide quel GPU traitera votre requête. Sans Transfer Agents, un réseau de 1,053 GPU sombrerait dans le chaos.

Explication simple

Imaginez un répartiteur de taxis. Vous appelez une voiture – le répartiteur trouve le plus proche disponible et vous l'envoie. Vous n'avez pas besoin de connaître les numéros et l'emplacement de tous les chauffeurs. Un Transfer Agent fonctionne de la même manière : il reçoit votre requête IA, trouve un nœud ML-node libre approprié et achemine la requête vers celui-ci.

Comment fonctionnent les agents de transfert

Le Transfer Agent reçoit une requête entrante d'un utilisateur ou d'une application. Il vérifie la signature et le solde de l'expéditeur. Il sélectionne un ML-node avec un modèle approprié et des ressources disponibles. Il dirige la requête vers le nœud sélectionné et renvoie le résultat au client. Tout se passe en quelques millisecondes – l'utilisateur ne remarque pas l'intermédiaire.

Pourquoi les agents de transfert sont-ils nécessaires

Sans Transfer Agents, chaque client devrait connaître les adresses IP de tous les GPU du réseau, vérifier lui-même leur charge et choisir un nœud approprié. C'est irréaliste avec 1,053 GPU dans le réseau. Les Transfer Agents résolvent le problème de l'équilibrage de charge, de la vérification des signatures et du routage, rendant le réseau convivial pour les utilisateurs finaux.
Un Transfer Agent est le répartiteur du réseau Gonka. Il reçoit votre requête IA, trouve un GPU libre et renvoie la réponse. Sans lui, l'utilisateur devrait chercher lui-même un nœud libre sur tout le réseau.

Vous voulez en savoir plus ?

Comprenez l'économie GNK ou commencez à gagner dès maintenant.

Lire aussi