آرکیٹیکچر

گونگا میں ٹرانسفر ایجنٹس کیا ہیں

جب آپ Gonka کے ذریعے کسی نیورل نیٹ ورک کو درخواست بھیجتے ہیں، تو یہ براہ راست GPU پر نہیں جاتی، بلکہ ایک ٹرانسفر ایجنٹ — ایک خاص درمیانی نوڈ پر جاتی ہے۔ یہی نوڈ فیصلہ کرتا ہے کہ آپ کی درخواست کو کون سا GPU پروسیس کرے گا۔ ٹرانسفر ایجنٹس کے بغیر، ہزاروں GPUs کا نیٹ ورک افراتفری میں بدل جائے گا۔

سادہ وضاحت

ایک ٹیکسی ڈسپیچر کا تصور کریں۔ آپ ایک کار بلاتے ہیں — ڈسپیچر قریبی خالی کار ڈھونڈتا ہے اور اسے آپ کے پاس بھیجتا ہے۔ آپ کو تمام ڈرائیوروں کے نمبر اور ان کے مقامات جاننے کی ضرورت نہیں ہے۔ ٹرانسفر ایجنٹ بھی اسی طرح کام کرتا ہے: یہ آپ کی AI درخواست کو قبول کرتا ہے، ایک مناسب خالی ML نوڈ ڈھونڈتا ہے اور درخواست کو اس پر روٹ کرتا ہے۔

ٹرانسفر ایجنٹس کیسے کام کرتے ہیں

ٹرانسفر ایجنٹ صارف یا ایپلی کیشن سے آنے والی درخواست قبول کرتا ہے۔ بھیجنے والے کے دستخط اور بیلنس کی جانچ کرتا ہے۔ مناسب ماڈل اور خالی وسائل کے ساتھ ایک ML نوڈ منتخب کرتا ہے۔ درخواست کو منتخب کردہ نوڈ پر بھیجتا ہے اور نتیجہ کلائنٹ کو واپس کرتا ہے۔ سب کچھ ملی سیکنڈز میں ہوتا ہے — صارف درمیانی کو محسوس نہیں کرتا۔

ٹرانسفر ایجنٹس کی کیا ضرورت ہے

ٹرانسفر ایجنٹس کے بغیر، ہر کلائنٹ کو نیٹ ورک میں تمام GPUs کے IP پتے جاننے ہوں گے، ان کا بوجھ خود چیک کرنا ہوگا اور مناسب نوڈ کا انتخاب کرنا ہوگا۔ یہ نیٹ ورک میں ~4 648 GPUs کے ساتھ غیر عملی ہے۔ ٹرانسفر ایجنٹس بوجھ متوازن کرنے، دستخطوں کی تصدیق اور روٹنگ کا مسئلہ حل کرتے ہیں — جس سے نیٹ ورک اختتامی صارفین کے لیے آسان ہو جاتا ہے۔
ٹرانسفر ایجنٹ گونکا نیٹ ورک کا ڈسپیچر ہے۔ یہ آپ کی AI درخواست قبول کرتا ہے، ایک خالی GPU ڈھونڈتا ہے اور جواب واپس کرتا ہے۔ اس کے بغیر، صارف کو ہزاروں کے درمیان صحیح نوڈ خود تلاش کرنا پڑے گا۔

مزید جاننا چاہتے ہیں؟

GNK کی معیشت کو سمجھیں یا ابھی کمانا شروع کریں۔

مزید پڑھیں