アーキテクチャ

GonkaにおけるTransfer Agentとは

Gonka を介してニューラルネットワークにリクエストを送信すると、直接 GPU に送られるのではなく、Transfer Agent という特殊な仲介ノードに送られます。このノードが、どの GPU がリクエストを処理するかを決定します。Transfer Agent がなければ、数千の GPU からなるネットワークは混乱に陥ってしまいます。

簡単な説明

タクシーの配車係を想像してみてください。あなたが車を呼ぶと、配車係が最寄りの空いている車を見つけてあなたに送ります。あなたが必要とするのは、すべてのドライバーの番号と場所を知ることではありません。Transfer Agent も同様に機能します。AI リクエストを受け取り、適切な空いている ML-node を見つけて、そこにリクエストをルーティングします。

Transfer Agentの仕組み

Transfer Agent は、ユーザーまたはアプリケーションからの着信リクエストを受け取ります。送信者の署名と残高を確認します。適切なモデルと利用可能なリソースを持つ ML-node を選択します。選択したノードにリクエストを送信し、結果をクライアントに返します。すべてがミリ秒単位で発生するため、ユーザーは仲介者を意識しません。

Transfer Agentが必要な理由

Transfer Agent がなければ、すべてのクライアントはネットワーク内のすべての GPU の IP アドレスを知り、独立してその負荷をチェックし、適切なノードを選択する必要がありました。これは、ネットワークに約 4,648 個の GPU がある場合、現実的ではありません。Transfer Agent は、ロードバランシング、署名検証、ルーティングの問題を解決し、ネットワークをエンドユーザーにとって便利にします。
Transfer Agent は Gonka ネットワークのディスパッチャです。AI リクエストを受け取り、利用可能な GPU を見つけて応答を返します。これがなければ、ユーザーは自分で数千の中から適切なノードを探さなければならないでしょう。

もっと知りたいですか?

GNKエコノミーを学ぶか、今すぐ収益を上げ始めましょう。

こちらもご覧ください