علم کے مرکز کے حصے ▾
ٹیکنالوجی
گونکا نیٹ ورک کا فن تعمیر: اسپرنٹ، ٹرانسفر ایجنٹس، ڈیلکو
ٹرانسفر ایجنٹس: کلائنٹ اور GPU کے درمیان گیٹ ویز
ٹرانسفر ایجنٹس — گونگا فن تعمیر کا ایک اہم جزو ہیں، جو کلائنٹس اور ML-نوڈز کے درمیان ایک ذہین گیٹ وے کا کردار ادا کرتے ہیں۔ جب کوئی صارف AI درخواست بھیجتا ہے، تو وہ براہ راست GPU پر نہیں جاتا، بلکہ ٹرانسفر ایجنٹ پر جاتا ہے — ایک خاص مڈل مین نوڈ جو فیصلہ کرتا ہے کہ کون سا GPU اس درخواست پر کارروائی کرے گا۔
عمل اس طرح ہے: کلائنٹ OpenAI کے ساتھ ہم آہنگ API کے ذریعے ایک معیاری POST /v1/chat/completions درخواست کرتا ہے۔ ٹرانسفر ایجنٹ درخواست کی کرپٹوگرافک دستخط کی تصدیق کرتا ہے، مطلوبہ ماڈل کی نشاندہی کرتا ہے اور موزوں خصوصیات کے ساتھ ایک آزاد ML نوڈ تلاش کرتا ہے۔ ہر ML نوڈ رجسٹریشن پر اپنے پیرامیٹرز شائع کرتا ہے: وہ کن ماڈلز کو سپورٹ کرتا ہے، VRAM کی مقدار، موجودہ بینڈوتھ اور لوڈ۔ ٹرانسفر ایجنٹ ان ڈیٹا کو لوڈ بیلنسنگ کے لیے استعمال کرتا ہے — کاموں کو یکساں طور پر تقسیم کیا جاتا ہے، نہ کہ ایک نوڈ پر جمع ہوتا ہے۔
فالٹ ٹولیرنس کے لیے، نیٹ ورک میں کئی ٹرانسفر ایجنٹس ایک ساتھ کام کرتے ہیں۔ اگر ایک ناکام ہو جاتا ہے تو — کلائنٹ خود بخود دوسرے پر چلا جاتا ہے۔ ہر ٹرانسفر ایجنٹ /v1/identity اینڈ پوائنٹ کے ذریعے اپنا پتہ شائع کرتا ہے، جو نوڈز اور کلائنٹس کو ایک دوسرے کو متحرک طور پر دریافت کرنے کی اجازت دیتا ہے۔ ٹرانسفر ایجنٹس درخواستوں کی قطاروں کا بھی انتظام کرتے ہیں: اگر تمام نوڈز مشغول ہیں، تو درخواست کمیشن کی بنیاد پر ترجیح کے ساتھ قطار میں رکھی جاتی ہے۔ یہ CDN (Content Delivery Network) کی طرح کا فن تعمیر ہے، لیکن AI کمپیوٹنگ کے لیے — تقسیم شدہ، فالٹ ٹولیرنٹ اور کنٹرول کا کوئی مرکزی نقطہ نہیں۔
اسپرنٹ: حقیقی انفرنس کے ذریعے اتفاق رائے
Sprint ایک Transformer PoW 2.0 ہے، جو ایک منفرد Gonka کنسنسس ہے جو بنیادی طور پر تمام موجودہ بلاکچین پروٹوکولز سے مختلف ہے۔ Bitcoin میں، مائنرز 26 گیگا واٹ توانائی بے معنی SHA-256 ہیشز کے حساب کتاب میں ضائع کرتے ہیں — جس کا واحد مقصد یہ ثابت کرنا ہے کہ توانائی خرچ ہوئی ہے۔ Ethereum کے Proof of Stake میں، کمپیوٹیشنل کام کے تصور کو مکمل طور پر ختم کر دیا گیا ہے — ویلیڈیٹرز صرف ٹوکن لاک کرتے ہیں، جو توانائی کی کارکردگی کے لیے وکندریقرت (decentralization) کی قربانی دیتے ہیں۔ Sprint ایک تیسرا راستہ پیش کرتا ہے۔
Sprint میں ہر حساب کتاب ایک حقیقی AI-ریکویسٹ ہے۔ صارف ایک پرامپٹ بھیجتا ہے «Python میں ایک فنکشن لکھیں» → GPU، Kimi K2.6 نیورل نیٹ ورک کے ذریعے جواب تیار کرتا ہے → یہ inference بیک وقت صارف کو سروس فراہم کرتا ہے اور بلاکچین میں بلاک کی تصدیق کرتا ہے۔ نتیجہ: نیٹ ورک کے 99% وسائل مفید کام (AI inference) میں جاتے ہیں، اور صرف 1% کرپٹوگرافک سیکیورٹی میں۔ موازنہ کے لیے: Bitcoin میں 100% توانائی سیکیورٹی میں اور 0% مفید کام میں جاتی ہے۔
نیٹ ورک کا کام ادوار (epochs) میں منظم ہے۔ ہر دور میں، Transfer Agents ML-نوڈز کے درمیان AI-کام تقسیم کرتے ہیں۔ دور ختم ہونے پر، ایک بلاک بنتا ہے جس میں مکمل شدہ کام کا ثبوت ہوتا ہے۔ انعامات ہر نوڈ کے تعاون کے تناسب سے تقسیم کیے جاتے ہیں — جتنا زیادہ GPU ریکویسٹس کو پروسیس کرے گا، اتنا ہی زیادہ GNK وہ حاصل کرے گا۔ یہ ایک مارکیٹ ترغیب پیدا کرتا ہے: ہوسٹس کام کے لیے مقابلہ کرتے ہیں، کارکردگی کو بہتر بناتے ہیں اور صارفین کے لیے inference کی لاگت کم کرتے ہیں۔
ڈیلکو: ماڈلز کی تقسیم شدہ تربیت
DiLoCo — AI ماڈلز کی تقسیم شدہ تربیت کی ٹیکنالوجی، جو ایک بنیادی مسئلے کو حل کرتی ہے: اربوں پیرامیٹرز پر نیورل نیٹ ورک کو کیسے تربیت دی جائے، جب GPUs مختلف ممالک میں ہوں اور ایک ہی ڈیٹا سینٹر کے اندر NVLink پر تیز رفتار کنکشن کے بجائے عام انٹرنیٹ سے منسلک ہوں؟
تربیت کا روایتی انداز ہر قدم کے بعد پیرامیٹرز کی مطابقت پذیری کا مطالبہ کرتا ہے — یہ صرف سینکڑوں گیگابٹ/سیکنڈ کی رفتار سے ممکن ہے، یعنی ایک NVIDIA کلسٹر کے اندر۔ DiLoCo اس عمل کو نئے سرے سے سوچتا ہے: نوڈز ہر ~1000 قدموں کے بعد پیرامیٹرز کو مطابقت پذیر کرتے ہیں، نہ کہ ہر ایک کے بعد۔ مطابقت پذیری کے درمیان ہر نوڈ اپنے ڈیٹا کے ذیلی سیٹ پر مقامی طور پر تربیت حاصل کرتا ہے۔ یہ بینڈوتھ کی ضروریات کو تین ترتیب سے کم کرتا ہے، جس سے انٹرنیٹ پر تربیت عملی طور پر قابل عمل ہو جاتی ہے۔
اصلاح دو سطحوں پر کام کرتی ہے: مقامی طور پر ہر نوڈ AdamW استعمال کرتا ہے — ٹرانسفارمرز کے لیے ایک معیاری آپٹیمائزر۔ عالمی سطح پر، مطابقت پذیری کے دوران، Nesterov momentum استعمال کیا جاتا ہے — ایک الگورتھم جو اپ ڈیٹ کی سمت ”پیش گوئی“ کرتا ہے اور کنورجنس کو تیز کرتا ہے۔ نتیجہ: 30-50 بلین پیرامیٹرز والے ماڈلز کو سیارے پر تقسیم شدہ 8xH100 کے کلسٹرز پر تربیت دی جا سکتی ہے، بغیر کسی مرکزی سرور کے۔ موازنہ کے لیے: GPT-4 کی تربیت کے لیے ایک ہی ڈیٹا سینٹر میں ہزاروں GPUs اور اربوں ڈالر کی سرمایہ کاری کی ضرورت تھی۔ DiLoCo ممکنہ طور پر Gonka کے تقسیم شدہ انفراسٹرکچر پر موازنہ نتائج حاصل کرنے کی اجازت دیتا ہے۔
یہ کیوں اہم ہے؟ تربیت AI کا سب سے مہنگا حصہ ہے۔ OpenAI جیسی کمپنیاں ایک تربیت سائیکل پر سینکڑوں ملین خرچ کرتی ہیں۔ DiLoCo وقت کے ساتھ Gonka کو نیٹ ورک کی طاقت سے اپنے ماڈلز کو تربیت دینے کی اجازت دیتا ہے — اربوں ڈالر کے ڈیٹا سینٹرز بنانے کی ضرورت کے بغیر۔ یہ Gonka کو صرف ایک انفرنس نیٹ ورک ہی نہیں، بلکہ عمودی انضمام کے ساتھ ایک مکمل AI پلیٹ فارم بناتا ہے۔
PoC V2: نوڈز کی ایمانداری کی تصدیق
PoC V2 — ایک تصدیقی میکانزم جو اس بات کی ضمانت دیتا ہے کہ ہر ML-نوڈ نے واقعی گنتی کی ہے، نہ کہ صرف بے ترتیب کچرا واپس کیا ہے۔ یہ بہت اہم ہے: تصدیق کے بغیر ایک حملہ آور ایک ”نوڈ“ رجسٹر کر سکتا ہے جو جعلی جوابات دیتا ہے اور انعام حاصل کرتا ہے، بغیر GPU پر کوئی واٹ خرچ کیے ہوئے بھی۔
میکانزم کراس چیکنگ کے ذریعے کام کرتا ہے۔ نیٹ ورک بے ترتیب طور پر 1-10% کاموں کو منتخب کرتا ہے اور انہیں دوسرے نوڈ سے دوبارہ انجام دینے کے لیے بھیجتا ہے۔ اگر نتائج ملتے ہیں تو — دونوں نوڈز کو انعام ملتا ہے۔ اگر نتائج مختلف ہوتے ہیں تو — ایک ثالثی کا عمل (dispute) شروع ہوتا ہے۔ ہارنے والا نوڈ اپنی ضمانت (stake) کا 20% کھو دیتا ہے، جسے ایماندار شرکاء کے درمیان تقسیم کیا جاتا ہے۔ یہ جرمانہ دھوکہ دہی کو اقتصادی طور پر غیر منافع بخش بناتا ہے: جعلی جوابات سے ممکنہ آمدنی ضمانت کھونے کے خطرے سے نمایاں طور پر کم ہوتی ہے۔
تصدیق کی رفتار BLS-دستخطوں کے ذریعے یقینی بنائی جاتی ہے — جو ایک کرپٹوگرافک پریکٹیو ہے جو متعدد دستخطوں کو ایک میں جمع کرنے اور 10 ملی سیکنڈ سے بھی کم وقت میں اس کی تصدیق کرنے کی اجازت دیتا ہے۔ اس کا مطلب ہے کہ ایمانداری کی جانچ نیٹ ورک کے کام کو سست نہیں کرتی — صارف بغیر تاخیر کے جواب حاصل کرتا ہے، اور تصدیق متوازی ہوتی ہے۔
ماڈل کی تربیت کے کاموں کے لیے (DiLoCo کے ذریعے) ایک اضافی میکانزم استعمال ہوتا ہے — Proof-of-Learning۔ ہر نوڈ بلاک چین میں ماڈل کے وزن کے ہیش اور ہر چیک پوائنٹ پر آپٹیمائزر کی حالت کو ریکارڈ کرتا ہے۔ یہ ایک ناقابل ترمیم آڈیٹ ٹریل بناتا ہے: کوئی بھی جانچ کر سکتا ہے کہ تربیت واقعی ہوئی ہے، اور وزن کو تبدیل نہیں کیا گیا ہے۔ یہ دو سطحی تصدیق — انفرنس کے لیے PoC V2، تربیت کے لیے Proof-of-Learning — Gonka کو سب سے زیادہ محفوظ وکندریقرت AI نیٹ ورکس میں سے ایک بناتی ہے، جس کا آڈٹ CertiK نے کیا ہے۔
مزید جاننا چاہتے ہیں؟
دیگر حصوں کو دریافت کریں یا ابھی GNK کمانا شروع کریں۔
گونکا کے ذریعے AI کو آزمائیں →