Architektur

Was sind Transfer Agents in Gonka

Wenn Sie eine Anfrage über Gonka an ein neuronales Netz senden, gelangt diese nicht direkt an die GPU, sondern an einen Transfer Agent – einen speziellen Vermittlerknoten. Er entscheidet, welche GPU Ihre Anfrage verarbeitet. Ohne Transfer Agents würde sich ein Netzwerk von Tausenden von GPUs in ein Chaos verwandeln.

Einfache Erklärung

Stellen Sie sich einen Taxidisponenten vor. Sie rufen ein Auto – der Disponent findet das nächstgelegene freie Auto und schickt es zu Ihnen. Sie müssen die Nummern aller Fahrer und deren Standort nicht kennen. Ein Transfer Agent funktioniert ähnlich: Er empfängt Ihre KI-Anfrage, findet einen geeigneten freien ML-Knoten und leitet die Anfrage dorthin.

Wie Transfer Agents funktionieren

Der Transfer Agent empfängt eine eingehende Anfrage vom Benutzer oder der Anwendung. Überprüft die Signatur und das Guthaben des Absenders. Wählt einen ML-Knoten mit dem passenden Modell und freien Ressourcen aus. Leitet die Anfrage an den ausgewählten Knoten weiter und gibt das Ergebnis an den Client zurück. Alles geschieht in Millisekunden – der Benutzer bemerkt den Vermittler nicht.

Warum Transfer Agents benötigt werden

Ohne Transfer Agents müsste jeder Client die IP-Adressen aller GPUs im Netzwerk kennen, deren Auslastung selbst überprüfen und den passenden Knoten auswählen. Dies ist bei ~4 648 GPUs im Netzwerk unpraktisch. Transfer Agents lösen das Problem der Lastverteilung, Signaturprüfung und Weiterleitung – und machen das Netzwerk für Endbenutzer bequem.
Ein Transfer Agent ist der Disponent des Gonka-Netzwerks. Er empfängt Ihre KI-Anfrage, findet eine freie GPU und gibt eine Antwort zurück. Ohne ihn müsste der Benutzer den gewünschten Knoten selbst unter Tausenden suchen.

Möchten Sie mehr erfahren?

Verstehen Sie die GNK-Ökonomie oder beginnen Sie jetzt zu verdienen.

Lesen Sie auch