สถาปัตยกรรมเครือข่าย Gonka: Sprint, Transfer Agents, DiLoCo

Transfer Agents เป็นส่วนประกอบสำคัญของสถาปัตยกรรม Gonka ซึ่งทำหน้าที่เป็นเกตเวย์อัจฉริยะระหว่างลูกค้าและ ML-โหนด เมื่อผู้ใช้ส่งคำขอ AI คำขอนั้นจะไม่ไปถึง GPU โดยตรง แต่จะไปถึง Transfer Agent — โหนดตัวกลางพิเศษที่ตัดสินใจว่า GPU ใดจะประมวลผลคำขอนั้น

กระบวนการมีดังนี้: ลูกค้าทำการร้องขอ POST /v1/chat/completions มาตรฐานผ่าน API ที่เข้ากันได้กับ OpenAI Transfer Agent จะตรวจสอบลายเซ็นการเข้ารหัสของคำขอ กำหนดโมเดลที่ต้องการ และค้นหา ML-โหนดที่ว่างที่มีคุณสมบัติเหมาะสม ML-โหนดแต่ละโหนดจะเผยแพร่พารามิเตอร์ของตนเองเมื่อลงทะเบียน: โมเดลที่รองรับ ปริมาณ VRAM แบนด์วิดท์ปัจจุบัน และโหลด Transfer Agent ใช้ข้อมูลเหล่านี้เพื่อปรับสมดุลโหลด — งานจะถูกกระจายอย่างสม่ำเสมอ ไม่ใช่กระจุกตัวที่โหนดเดียว

เพื่อให้ทนทานต่อความผิดพลาด มี Transfer Agents หลายตัวทำงานพร้อมกันในเครือข่าย หากตัวใดตัวหนึ่งล้มเหลว ลูกค้าจะสลับไปใช้งานตัวอื่นโดยอัตโนมัติ Transfer Agent แต่ละตัวจะเผยแพร่ที่อยู่ของตนเองผ่าน endpoint /v1/identity ซึ่งช่วยให้โหนดและลูกค้าสามารถค้นหากันและกันได้แบบไดนามิก Transfer Agents ยังจัดการคิวคำขอ: หากโหนดทั้งหมดไม่ว่าง คำขอจะถูกจัดคิวโดยมีลำดับความสำคัญตามค่าคอมมิชชัน นี่คือสถาปัตยกรรมที่คล้ายกับ CDN แต่สำหรับ การประมวลผล AI — กระจาย ทนทานต่อความผิดพลาด และไม่มีจุดควบคุมเดียว

Sprint คือ Transformer PoW 2.0 ซึ่งเป็นฉันทามติที่เป็นเอกลักษณ์ของ Gonka ที่แตกต่างโดยพื้นฐานจากโปรโตคอลบล็อกเชนที่มีอยู่ทั้งหมด ใน Bitcoin นักขุดใช้พลังงานไฟฟ้า 26 GW เพื่อคำนวณแฮช SHA-256 ที่ไม่มีความหมาย ซึ่งมีจุดประสงค์เดียวคือเพื่อพิสูจน์ว่ามีการใช้พลังงานไปแล้ว ใน Ethereum Proof of Stake ได้ละทิ้งการคำนวณไปโดยสิ้นเชิง โดยผู้ตรวจสอบเพียงแค่ล็อกโทเค็นไว้ ซึ่งเป็นการแลกด้วยความเป็นส่วนกลางเพื่อแลกกับประสิทธิภาพพลังงาน Sprint จึงนำเสนอเส้นทางที่สาม

ใน Sprint ทุกการคำนวณคือ AI-request ที่เกิดขึ้นจริง ผู้ใช้ส่งพรอมต์ "เขียนฟังก์ชัน Python" → GPU สร้างคำตอบผ่านโครงข่ายประสาทเทียม Kimi K2.6 → inference นี้ทำหน้าที่ให้บริการผู้ใช้และยืนยันบล็อกในบล็อกเชนไปพร้อมกัน ผลลัพธ์: 99% ของทรัพยากรเครือข่ายมุ่งเน้นไปที่งานที่มีประโยชน์ (AI inference) และมีเพียง 1% เท่านั้นที่ใช้เพื่อการรักษาความปลอดภัยด้วยรหัสลับ ในการเปรียบเทียบ: ใน Bitcoin พลังงาน 100% ถูกใช้เพื่อความปลอดภัยและ 0% สำหรับงานที่มีประโยชน์

เครือข่ายจัดระเบียบการทำงานเป็นยุค (Epochs) ในแต่ละยุค Transfer Agents จะกระจายงาน AI ไปยัง ML-nodes เมื่อสิ้นสุดยุค บล็อกจะถูกสร้างขึ้นโดยมีหลักฐานของงานที่ทำสำเร็จ รางวัลจะถูกกระจายตามสัดส่วนการมีส่วนร่วมของแต่ละโหนด ยิ่ง GPU ประมวลผลคำขอมากเท่าไหร่ ก็ยิ่งได้รับ GNK มากขึ้นเท่านั้น สิ่งนี้สร้างแรงจูงใจทางการตลาด: โฮสต์แข่งขันกันเพื่อแย่งงาน โดยการเพิ่มประสิทธิภาพการทำงานและลดต้นทุน inference สำหรับผู้ใช้

DiLoCo — เทคโนโลยีการฝึกอบรมโมเดล AI แบบกระจายศูนย์ที่แก้ปัญหาพื้นฐาน: จะฝึกอบรมเครือข่ายประสาทเทียมที่มีพารามิเตอร์นับพันล้านตัวได้อย่างไร ในเมื่อ GPU อยู่ในประเทศที่แตกต่างกัน และเชื่อมต่อกันด้วยอินเทอร์เน็ตทั่วไป ไม่ใช่ NVLink ความเร็วสูงภายในศูนย์ข้อมูลเดียวกัน?

แนวทางแบบดั้งเดิมในการฝึกอบรมต้องมีการซิงโครไนซ์พารามิเตอร์หลังจากแต่ละขั้นตอน — ซึ่งเป็นไปได้เฉพาะเมื่อความเร็วการสื่อสารอยู่ที่หลายร้อยกิกะบิต/วินาที นั่นคือภายในคลัสเตอร์ NVIDIA เดียว DiLoCo คิดค้นกระบวนการใหม่: โหนดจะซิงโครไนซ์พารามิเตอร์ประมาณทุกๆ 1000 ขั้นตอน ไม่ใช่หลังจากแต่ละขั้นตอน ระหว่างการซิงโครไนซ์แต่ละโหนดจะฝึกอบรมภายในเครื่องบนชุดข้อมูลย่อยของตนเอง ซึ่งลดข้อกำหนดด้านแบนด์วิดท์ลงสามอันดับ ทำให้การฝึกอบรมผ่านอินเทอร์เน็ตสามารถทำได้จริง

การเพิ่มประสิทธิภาพทำงานในสองระดับ: ในระดับท้องถิ่น แต่ละโหนดใช้ AdamW — เครื่องมือเพิ่มประสิทธิภาพมาตรฐานสำหรับ Transformer ในระดับโลก ในระหว่างการซิงโครไนซ์ จะใช้ Nesterov momentum — อัลกอริทึมที่ 'คาดการณ์' ทิศทางการอัปเดตและเร่งการบรรจบกัน ผลลัพธ์: โมเดลที่มีพารามิเตอร์ 30-50 พันล้านตัวสามารถฝึกอบรมบนคลัสเตอร์ 8xH100 ซึ่งกระจายอยู่ทั่วโลก โดยไม่มีเซิร์ฟเวอร์ส่วนกลาง เปรียบเทียบ: การฝึกอบรม GPT-4 ต้องใช้ GPU นับพันในศูนย์ข้อมูลเดียวด้วยการลงทุนหลายพันล้านดอลลาร์ DiLoCo มีศักยภาพที่จะบรรลุผลลัพธ์ที่เทียบเคียงได้บนโครงสร้างพื้นฐานแบบกระจายของ Gonka

ทำไมสิ่งนี้จึงสำคัญ? การฝึกอบรมเป็นส่วนที่แพงที่สุดของ AI บริษัทเช่น OpenAI ใช้เงินหลายร้อยล้านในการฝึกอบรมแต่ละรอบ DiLoCo ช่วยให้ Gonka สามารถฝึกอบรมโมเดลของตนเองด้วยพลังของเครือข่าย — โดยไม่จำเป็นต้องสร้าง ศูนย์ข้อมูลที่มีราคาเป็นพันล้าน สิ่งนี้ทำให้ Gonka ไม่ใช่แค่เครือข่ายการอนุมาน แต่เป็นแพลตฟอร์ม AI แบบครบวงจร

PoC V2 — กลไกการตรวจสอบที่รับประกันว่า ML-โหนดแต่ละโหนดได้ทำการคำนวณจริง ไม่ได้คืนค่าข้อมูลขยะแบบสุ่ม เรื่องนี้สำคัญอย่างยิ่ง: หากไม่มีการตรวจสอบ ผู้ไม่หวังดีสามารถลงทะเบียน 'โหนด' ที่ให้คำตอบปลอมและรับรางวัลโดยไม่ต้องเสียพลังงาน GPU เลย

กลไกนี้ทำงานผ่านการตรวจสอบข้ามเครือข่าย เครือข่ายจะเลือกงานแบบสุ่ม 1–10% และส่งให้โหนดอื่นดำเนินการซ้ำ หากผลลัพธ์ตรงกัน ทั้งสองโหนดจะได้รับรางวัล หากผลลัพธ์ไม่ตรงกัน จะมีการเริ่มกระบวนการอนุญาโตตุลาการ (การโต้แย้ง) โหนดที่แพ้จะสูญเสียเงินประกัน 20% ซึ่งจะถูกแจกจ่ายให้กับผู้เข้าร่วมที่ซื่อสัตย์ บทลงโทษนี้ทำให้การฉ้อโกงไม่คุ้มค่าทางเศรษฐกิจ: รายได้ที่อาจเกิดขึ้นจากคำตอบปลอมน้อยกว่าความเสี่ยงที่จะสูญเสียเงินประกันอย่างมาก

ความเร็วในการตรวจสอบรับรองโดยลายเซ็น BLS — หลักการพื้นฐานทางคริปโตที่ช่วยให้สามารถรวมลายเซ็นจำนวนมากเป็นหนึ่งเดียวและตรวจสอบได้ภายในเวลาไม่ถึง 10 มิลลิวินาที ซึ่งหมายความว่าการตรวจสอบความซื่อสัตย์ไม่ได้ทำให้การทำงานของเครือข่ายช้าลง — ผู้ใช้จะได้รับคำตอบโดยไม่ล่าช้า และการตรวจสอบจะเกิดขึ้นพร้อมกัน

สำหรับงานการฝึกอบรมโมเดล (ผ่าน DiLoCo) มีกลไกเพิ่มเติม — Proof-of-Learning โหนดแต่ละโหนดจะบันทึกแฮชของน้ำหนักโมเดลและสถานะของ Optimizer ในบล็อกเชนที่แต่ละจุดตรวจสอบ ซึ่งสร้างเส้นทางการตรวจสอบที่ไม่สามารถเปลี่ยนแปลงได้: ใครๆ ก็สามารถตรวจสอบได้ว่าการฝึกอบรมเกิดขึ้นจริง และน้ำหนักไม่ได้ถูกเปลี่ยนแปลง การตรวจสอบสองระดับนี้ — PoC V2 สำหรับการอนุมาน, Proof-of-Learning สำหรับการฝึกอบรม — ทำให้ Gonka เป็นหนึ่งในเครือข่าย AI แบบกระจายอำนาจที่ได้รับการป้องกันมากที่สุด ซึ่งได้รับการตรวจสอบจาก CertiK