アーキテクチャ
GonkaにおけるTransfer Agentとは
Gonka を介してニューラルネットワークにリクエストを送信すると、直接 GPU に送られるのではなく、Transfer Agent という特殊な仲介ノードに送られます。このノードが、どの GPU がリクエストを処理するかを決定します。Transfer Agent がなければ、数千の GPU からなるネットワークは混乱に陥ってしまいます。
簡単な説明
タクシーの配車係を想像してみてください。あなたが車を呼ぶと、配車係が最寄りの空いている車を見つけてあなたに送ります。あなたが必要とするのは、すべてのドライバーの番号と場所を知ることではありません。Transfer Agent も同様に機能します。AI リクエストを受け取り、適切な空いている ML-node を見つけて、そこにリクエストをルーティングします。
Transfer Agentの仕組み
Transfer Agent は、ユーザーまたはアプリケーションからの着信リクエストを受け取ります。送信者の署名と残高を確認します。適切なモデルと利用可能なリソースを持つ ML-node を選択します。選択したノードにリクエストを送信し、結果をクライアントに返します。すべてがミリ秒単位で発生するため、ユーザーは仲介者を意識しません。
Transfer Agentが必要な理由
Transfer Agent がなければ、すべてのクライアントはネットワーク内のすべての GPU の IP アドレスを知り、独立してその負荷をチェックし、適切なノードを選択する必要がありました。これは、ネットワークに約 4,648 個の GPU がある場合、現実的ではありません。Transfer Agent は、ロードバランシング、署名検証、ルーティングの問題を解決し、ネットワークをエンドユーザーにとって便利にします。
Transfer Agent は Gonka ネットワークのディスパッチャです。AI リクエストを受け取り、利用可能な GPU を見つけて応答を返します。これがなければ、ユーザーは自分で数千の中から適切なノードを探さなければならないでしょう。
こちらもご覧ください
テクノロジー
Proof of Work 2.0とは何か
テクノロジー
Proof-of-Computation V2:ノードの誠実性を検証する方法
基本概念
inference(推論)とは何か
トークノミクス
GNKはどのように分配されるか:ジェネシス vs 収益
セキュリティ
担保とスラッシング:ネットワークはどのように保護されているか
トークノミクス
ベスティング:報酬がすぐに届かない理由
テクノロジー
DiLoCo: Gonkaにおけるモデルの分散学習
テクノロジー
Sprint: Gonkaのコンセンサスの仕組み
基本概念
GNKとは: Gonkaネットワークのトークン
基本概念
Gonkaにおけるエポック: ネットワークの時間単位
トークノミクス
Community Pool: Gonkaエコシステムの共通基金