Gonzo ağ mimarisi: Sprint, Transfer Aracılar, DiLoCo

Transfer Ajanları, Gonka mimarisinin anahtar bir bileşenidir ve müşteriler ile ML düğümleri arasında akıllı bir ağ geçidi rolünü üstlenir. Bir kullanıcı bir yapay zeka isteği gönderdiğinde, bu istek doğrudan GPU'ya değil, bir Transfer Ajanına - bu isteği hangi GPU'nun işleyeceğine karar veren özel bir aracı düğüme - gider.

Süreç şöyle işler: müşteri, OpenAI uyumlu API aracılığıyla standart bir POST /v1/chat/completions isteği yapar. Transfer Ajanı, isteğin kriptografik imzayı kontrol eder, gerekli modeli belirler ve uygun özelliklere sahip boş bir ML düğümü bulur. Her ML düğümü, kaydolurken parametrelerini yayınlar: hangi modelleri desteklediğini, VRAM miktarını, mevcut bant genişliğini ve yükünü. Transfer Ajanı, bu verileri yük dengeleme için kullanır - görevler eşit şekilde dağıtılır ve tek bir düğümde birikmez.

Arızaya dayanıklılık için, ağda aynı anda birkaç Transfer Ajanı çalışır. Biri arızalanırsa - istemci otomatik olarak diğerine geçer. Her Transfer Ajanı, adresini /v1/identity uç noktası aracılığıyla yayınlar, bu da düğümlerin ve istemcilerin birbirlerini dinamik olarak keşfetmesini sağlar. Transfer Ajanları ayrıca istek kuyruklarını da yönetir: tüm düğümler meşgul ise, istek komisyona dayalı öncelikli bir sıraya alınır. Bu, CDN'ye benzeyen bir mimaridir, ancak yapay zeka hesaplamaları için - dağıtılmış, arızaya dayanıklı ve tek bir kontrol noktası olmayan.

Sprint, Gonka'nın tüm mevcut blok zinciri protokollerinden temelden farklı olan benzersiz bir konsensüsü olan Transformer PoW 2.0'dır. Bitcoin'de madenciler, anlamsız SHA-256 hash'leri hesaplamak için 26 GW güç harcarlar; tek amaçları, enerjinin harcandığını kanıtlamaktır. Ethereum Proof of Stake'de, verimli enerji adına merkeziyetçilikten vazgeçilerek hesaplama işi tamamen terk edildi; doğrulayıcılar sadece tokenleri bloke ederler. Sprint üçüncü bir yol öneriyor.

Sprint'te her hesaplama gerçek bir yapay zeka isteğidir. Kullanıcı “Python'da bir fonksiyon yaz” prompt'u gönderir → GPU, Qwen3-235B sinir ağı aracılığıyla bir yanıt oluşturur → bu çıkarım aynı anda kullanıcıya hizmet eder ve blok zincirinde bir bloğu onaylar. Sonuç: ağ kaynaklarının %99'u kullanışlı işe (yapay zeka çıkarımı) giderken, sadece %1'i kriptografik güvenliğe harcanır. Karşılaştırma için: Bitcoin'de enerjinin %100'ü güvenliğe giderken, %0'ı kullanışlı işe gider.

Ağ işleyişi dönemler halinde organize edilmiştir. Her dönemde, Transfer Ajanları yapay zeka görevlerini ML-düğümleri arasında dağıtır. Dönem sonunda, tamamlanmış işin kanıtlarını içeren bir blok oluşturulur. Ödüller, her düğümün katkısına orantılı olarak dağıtılır; GPU ne kadar çok istek işlerse, o kadar çok GNK alır. Bu, piyasa teşviki yaratır: ana bilgisayarlar görevler için rekabet eder, performansı optimize eder ve kullanıcılar için çıkarım maliyetini düşürür.

DiLoCo, yapay zeka modellerinin dağıtılmış eğitimi için temel bir sorunu çözen bir teknolojidir: GPU'lar farklı ülkelerde bulunduğunda ve yüksek hızlı NVLink yerine normal internetle bağlandığında, milyarlarca parametre üzerinde bir sinir ağı nasıl eğitilir?

Geleneksel eğitim yaklaşımı, her adımdan sonra parametrelerin senkronizasyonunu gerektirir - bu yalnızca yüzlerce gigabit/saniye hızında, yani tek bir NVIDIA kümesinin içinde mümkündür. DiLoCo süreci yeniden düşünür: düğümler parametreleri her adımdan sonra değil, yaklaşık 1000 adımda bir senkronize eder. Senkronizasyonlar arasında her düğüm kendi veri alt kümesi üzerinde yerel olarak eğitilir. Bu, bant genişliği gereksinimlerini üç kat azaltır ve internet üzerinden eğitimi pratik olarak uygulanabilir hale getirir.

Optimizasyon iki düzeyde çalışır: yerel olarak her düğüm, transformatörler için standart bir iyileştirici olan AdamW'yi kullanır. Küresel olarak, senkronizasyon sırasında, güncelleme yönünü "tahmin eden" ve yakınsamayı hızlandıran Nesterov momentum algoritması uygulanır. Sonuç: 30-50 milyar parametreli modeller, tek bir veri merkezinde binlerce GPU ve milyarlarca dolarlık yatırımla GPT-4'ün eğitimini gerektirmesine kıyasla, gezegene dağılmış 8xH100 kümesinde, merkezi bir sunucu olmadan eğitilebilir. DiLoCo, Gonka'nın dağıtılmış altyapısında benzer bir sonucun elde edilmesini potansiyel olarak mümkün kılar.

Bu neden önemli? Eğitim, yapay zekanın en pahalı kısmıdır. OpenAI gibi şirketler, tek bir eğitim döngüsü için yüz milyonlarca dolar harcıyor. DiLoCo, Gonka'nın zamanla kendi modellerini ağın gücüyle eğitmesini sağlar - milyarlarca dolarlık veri merkezleri inşa etmeye gerek kalmadan. Bu, Gonka'yı sadece bir çıkarım ağı değil, dikey entegrasyonlu eksiksiz bir yapay zeka platformu haline getirir.

PoC V2 — her ML düğümünün gerçekten bir hesaplama yaptığından ve rastgele önemsiz veriler döndürmediğinden emin olmak için bir doğrulama mekanizmasıdır. Bu kritik öneme sahiptir: doğrulama olmadan, kötü niyetli bir kişi, sahte yanıtlar veren ve GPU'ya hiç güç harcamadan ödül alan bir "düğüm" kaydedebilir.

Mekanizma çapraz doğrulama yoluyla çalışır. Ağ rastgele olarak görevlerin %1-10'unu seçer ve bunları başka bir düğüm tarafından tekrar yürütülmek üzere gönderir. Sonuçlar eşleşirse - her iki düğüm de ödül alır. Sonuçlar farklılık gösterirse - bir uzlaşmazlık süreci başlar (dispute). Kaybeden düğüm, stake'inin %20'sini kaybeder ve bu dürüst katılımcılar arasında dağıtılır. Bu ceza, sahtekarlığı ekonomik olarak anlamsız hale getirir: sahte yanıtlardan elde edilebilecek potansiyel gelir, stake'i kaybetme riskinden önemli ölçüde düşüktür.

Doğrulama hızı, BLS imzalarıyla sağlanır - birden fazla imzayı tek bir imzada birleştirmeye ve 10 milisaniyeden daha kısa sürede doğrulamaya olanak tanıyan kriptografik bir temeldir. Bu, dürüstlük kontrolünün ağın çalışmasını yavaşlatmadığı anlamına gelir - kullanıcı yanıtı gecikmeden alır ve doğrulama paralel olarak gerçekleşir.

Model eğitim görevleri için ( DiLoCo aracılığıyla), ek bir mekanizma kullanılır - Proof-of-Learning. Her düğüm, her kontrol noktasında model ağırlıklarının ve optimizasyon durumunun hash'lerini blok zincirine kaydeder. Bu, değişmez bir denetim izi oluşturur: herkes, eğitimin gerçekten gerçekleştiğini ve ağırlıkların değiştirilmediğini kontrol edebilir. Bu iki seviyeli doğrulama - çıkarım için PoC V2, eğitim için Proof-of-Learning - Gonka'yı, CertiK denetiminden geçmiş en güvenli merkezi olmayan yapay zeka ağlarından biri yapar.