Architecture

Que sont les agents de transfert dans Gonka

Lorsque vous envoyez une requête à un réseau neuronal via Gonka, elle ne va pas directement à un GPU, mais à un Transfer Agent – un nœud intermédiaire spécial. C'est lui qui décide quel GPU traitera votre requête. Sans Transfer Agents, un réseau de milliers de GPU deviendrait chaotique.

Explication simple

Imaginez un répartiteur de taxis. Vous appelez une voiture – le répartiteur trouve le plus proche disponible et vous l'envoie. Vous n'avez pas besoin de connaître les numéros et l'emplacement de tous les chauffeurs. Un Transfer Agent fonctionne de la même manière : il reçoit votre requête IA, trouve un nœud ML-node libre approprié et achemine la requête vers celui-ci.

Comment fonctionnent les agents de transfert

Le Transfer Agent reçoit une requête entrante d'un utilisateur ou d'une application. Il vérifie la signature et le solde de l'expéditeur. Il sélectionne un ML-node avec un modèle approprié et des ressources disponibles. Il dirige la requête vers le nœud sélectionné et renvoie le résultat au client. Tout se passe en quelques millisecondes – l'utilisateur ne remarque pas l'intermédiaire.

Pourquoi les agents de transfert sont-ils nécessaires

Sans les Transfer Agents, chaque client devrait connaître les adresses IP de tous les GPU du réseau, vérifier indépendamment leur charge et sélectionner un nœud approprié. C'est irréalisable avec environ ~4 648 GPU dans le réseau. Les Transfer Agents résolvent le problème de l'équilibrage de charge, de la vérification des signatures et du routage, ce qui rend le réseau pratique pour les utilisateurs finaux.
Un Transfer Agent est le répartiteur du réseau Gonka. Il reçoit votre requête IA, trouve un GPU disponible et renvoie la réponse. Sans lui, l'utilisateur devrait chercher le bon nœud parmi des milliers.

Vous voulez en savoir plus ?

Comprenez l'économie GNK ou commencez à gagner dès maintenant.

Lire aussi