Yapay zeka tam değer zincirinde, model eğitimi en fazla kaynak tüketen, en yüksek teknik engel olan aşamadır ve doğrudan modelin yetenek sınırını ve gerçek uygulama etkisini belirler. Çıkarım aşamasının hafif çağrılarıyla karşılaştırıldığında, eğitim süreci sürekli olarak büyük ölçekli hesaplama gücü yatırımı, karmaşık veri işleme süreçleri ve yüksek yoğunlukta optimizasyon algoritmaları desteği gerektirir; bu, AI sistemlerinin inşasının gerçek "ağır sanayi"sidir. Mimari paradigmalar açısından, eğitim yöntemleri dört türe ayrılabilir: merkezi eğitim, dağıtık eğitim, federatif öğrenme ve bu makalede odaklanılan Merkeziyetsizlik eğitimi.
Merkeziyetsizlik eğitimi, yerel yüksek performans kümesinde tek bir kurum tarafından tüm eğitim sürecinin tamamlandığı en yaygın geleneksel yöntemdir. Donanım, alt yazılım, küme planlama sistemi ve eğitim çerçevesinin tüm bileşenleri, tek bir kontrol sistemi tarafından koordine edilerek çalıştırılır. Bu derin işbirliği mimarisi, bellek paylaşımı, gradyan senkronizasyonu ve hata toleransı mekanizmalarının verimliliğini en üst düzeye çıkarır ve GPT, Gemini gibi büyük ölçekli modellerin eğitimi için son derece uygundur. Yüksek verimlilik ve kontrol edilebilir kaynaklar gibi avantajlara sahipken, aynı zamanda veri tekelciliği, kaynak engelleri, enerji tüketimi ve tek nokta riski gibi sorunlar da barındırmaktadır.
Dağıtık eğitim, günümüz büyük model eğitiminde ana akım bir yöntemdir. Temelinde, model eğitim görevlerini parçalara ayırarak birden fazla makineye dağıtıp işbirliği içinde yürütmek yatmaktadır, bu sayede tek bir makinenin hesaplama ve depolama darboğazlarını aşmak mümkündür. Fiziksel olarak "dağıtık" özelliklere sahip olmasına rağmen, genel olarak merkezi bir kurum tarafından kontrol edilen, yönlendirilen ve senkronize edilen bir yapıdadır. Genellikle yüksek hızlı yerel alan ağı (LAN) ortamlarında çalışır ve NVLink yüksek hızlı bağlantı teknolojisi ile ana düğüm, alt görevleri koordine eder. Ana akım yöntemler arasında şunlar bulunmaktadır:
Veri paralelliği: Her bir düğüm farklı veri parametrelerini eğitir, model ağırlıkları ile eşleşmeleri gerekir.
Model paralelliği: Modelin farklı parçalarını farklı düğümlere dağıtarak güçlü ölçeklenebilirlik sağlama
Boru hattı paralel: Aşamalı seri yürütme, işlem hacmini artırır.
Tensör paralelliği: Matris hesaplamalarını ince bir şekilde bölme, paralel ayrıntı düzeyini artırma
Dağıtık eğitim, "merkezi kontrol + dağıtık yürütme" kombinasyonudur, aynı patronun uzaktan birden fazla "ofis" çalışanını görevi tamamlamak için işbirliği yapmasıyla analojik olarak. Şu anda hemen hemen tüm ana akım büyük modeller bu yöntemle eğitim tamamlamaktadır.
Merkeziyetsizlik eğitimi, daha açık ve sansüre dayanıklı bir geleceği temsil eder. Temel özellikleri şunlardır: Birbirine güvenmeyen birçok düğüm, merkezi bir koordinatör olmadan eğitim görevlerini işbirliği içinde tamamlar; genellikle protokoller aracılığıyla görev dağıtımı ve işbirliği sağlanır ve katkının dürüstlüğünü güvence altına almak için kriptografik teşvik mekanizmaları kullanılır. Bu modelin karşılaştığı ana zorluklar şunlardır:
Cihaz heterojenliği ve bölme zorluğu: Heterojen cihazların koordinasyonu zor, görev bölme verimliliği düşük
İletişim verimliliği darboğazı: Ağ iletişimi istikrarsız, gradyan senkronizasyonu darboğazı belirgin.
Birlikte koordinasyon eksikliği: Merkezî bir denetleyici yok, görev dağıtımı ve hata geri alma mekanizması karmaşık.
Merkeziyetsizlik eğitimi, dünya genelindeki bir grup gönüllünün, kendi hesaplama güçlerini katkıda bulunarak modeli birlikte eğitmesi olarak anlaşılabilir. Ancak "gerçekten uygulanabilir büyük ölçekli merkeziyetsizlik eğitimi" hala sistematik bir mühendislik zorluğudur ve sistem mimarisi, iletişim protokolleri, şifre güvenliği, ekonomik mekanizmalar, model doğrulama gibi birçok alanı kapsamaktadır. Ancak "etkili işbirliği + dürüstlüğü teşvik etme + doğru sonuçlar" sağlanıp sağlanamayacağı hala erken prototip keşif aşamasındadır.
Federated learning, bir geçiş biçimi olarak dağıtılmış ve Merkeziyetsizlik arasında, verilerin yerel olarak tutulmasını ve model parametrelerinin merkezi olarak toplanmasını vurgular, gizlilik uyumuna önem veren senaryolar için uygundur. Federated learning, dağıtılmış eğitim mühendislik yapısına ve yerel işbirliği yeteneklerine sahipken, aynı zamanda Merkeziyetsizlik eğitimindeki veri dağıtımının avantajlarını da taşır, ancak yine de güvenilir bir koordinatöre bağımlıdır ve tamamen açık ve sansüre dayanıklı özelliklere sahip değildir. Gizlilik uyumu senaryolarında "kontrollü merkeziyetsizlik" çözümü olarak düşünülebilir; eğitim görevleri, güven yapılandırması ve iletişim mekanizması açısından daha ılımlıdır ve sanayi alanında geçici dağıtım yapıları olarak daha uygundur.
Merkeziyetsizlik eğitiminin sınırları, fırsatları ve gerçek yolları
Eğitim paradigması açısından, merkeziyetsizlik eğitimi tüm görev türleri için uygun değildir. Bazı senaryolarda, görev yapısının karmaşık olması, kaynak gereksinimlerinin çok yüksek olması veya işbirliği zorluğu nedeniyle, doğal olarak heterojen, güvenilmez düğümler arasında verimli bir şekilde tamamlanması zordur. Örneğin, büyük model eğitimi genellikle yüksek bellek, düşük gecikme ve yüksek bant genişliğine dayanır, açık bir ağda etkili bir şekilde bölünmesi ve senkronize edilmesi zordur; veri gizliliği ve egemenlik kısıtlamaları olan görevler, yasal uyumluluk ve etik kısıtlamalar nedeniyle açık paylaşım yapamaz; işbirliği teşvik temelinden yoksun görevler ise dış katılım motivasyonundan yoksundur. Bu sınırlamalar, mevcut merkeziyetsiz eğitimdeki gerçek kısıtlamaları oluşturmaktadır.
Ama bu, merkeziyetsizlik eğitiminin bir sahte önerme olduğu anlamına gelmez. Aslında, yapısal olarak hafif, kolayca paralelleştirilebilen ve motive edici görev türlerinde, merkeziyetsiz eğitim belirgin uygulama potansiyeli göstermektedir. Bunlar arasında ancak bunlarla sınırlı olmamak üzere: LoRA ince ayarı, davranış hizalama sonrası eğitim görevleri, veri toplama eğitimi ve etiketleme görevleri, kaynak kontrolü altında küçük temel modellerin eğitimi ve kenar cihazların katıldığı işbirlikçi eğitim senaryoları bulunmaktadır. Bu görevler genellikle yüksek paralellik, düşük bağlılık ve heterojen hesaplama gücüne tolerans özelliklerine sahiptir ve P2P ağları, Swarm protokolleri, dağıtık optimizatörler gibi yöntemlerle işbirlikçi eğitim için oldukça uygundur.
Merkeziyetsizlik eğitim klasik proje analizi
Şu anda merkeziyetsizlik alanında eğitim ve federated learning öncülüğünde, temsilci blockchain projeleri arasında Prime Intellect, Pluralis.ai, Gensyn, Nous Research ve Flock.io bulunmaktadır. Teknik yenilikçilik ve mühendislik uygulama zorluğu açısından, Prime Intellect, Nous Research ve Pluralis.ai, sistem mimarisi ve algoritma tasarımında daha fazla özgün keşif sunarak güncel teorik araştırmanın öncü yönlerini temsil etmektedir; Gensyn ve Flock.io'nun uygulama yolları ise nispeten net olup, ilk mühendislik ilerlemeleri görülmektedir.
Prime Intellect: Eğitim yolları doğrulanabilir güçlendirme öğrenimi işbirlikçi ağ öncüsü
Prime Intellect, güvene ihtiyaç duymayan bir AI eğitim ağı inşa etmeyi hedefliyor, böylece herkes eğitime katılabilir ve hesaplama katkıları için güvenilir ödüller alabilir. Prime Intellect, PRIME-RL + TOPLOC + SHARDCAST adlı üç temel modül aracılığıyla, doğrulanabilirlik, açıklık ve teşvik mekanizması tam olan bir AI Merkeziyetsizlik eğitim sistemi inşa etmeyi amaçlıyor.
PRIME-RL, Prime Intellect'in Merkeziyetsizlik için özel olarak tasarlanmış görev modelleme ve yürütme çerçevesidir ve heterojen ağlar ile asenkron katılım için özel olarak tasarlanmıştır. Güçlendirilmiş öğrenmeyi öncelikli uyum nesnesi olarak kullanır, eğitim, çıkarım ve ağırlık yükleme süreçlerini yapısal olarak ayrıştırır, böylece her eğitim düğümü yerel olarak bağımsız olarak görev döngüsünü tamamlayabilir ve standart arayüzler aracılığıyla doğrulama ve birleştirme mekanizmalarıyla işbirliği yapabilir. Geleneksel denetimli öğrenme süreçlerine kıyasla, PRIME-RL, merkezi bir zamanlama ortamında esnek eğitimi gerçekleştirmek için daha uygundur; bu, sistem karmaşıklığını azaltır ve çoklu görev paralelliği ile strateji evrimi için bir temel oluşturur.
TOPLOC:Ağırlığı hafif eğitim davranış doğrulama mekanizması
TOPLOC, Prime Intellect tarafından önerilen eğitim doğrulanabilirlik çekirdek mekanizmasıdır ve bir düğümün gerçekten gözlem verilerine dayalı olarak etkili bir strateji öğrenimi gerçekleştirdiğini belirlemek için kullanılır. ZKML gibi ağır çözümlerden farklı olarak, TOPLOC tam model yeniden hesaplamasına dayanmaz, bunun yerine "gözlem dizisi↔strateji güncelleme" arasındaki yerel tutarlılık izlerini analiz ederek hafif yapı doğrulaması gerçekleştirir. Eğitim sürecindeki davranış izlerini doğrulanabilir nesnelere dönüştüren ilk uygulamalardan biridir ve güvene ihtiyaç duymadan eğitim ödül dağıtımını gerçekleştirmenin anahtar yeniliğidir. Denetlenebilir ve teşvik edici merkeziyetsiz işbirliği eğitim ağları kurmak için uygulanabilir bir yol sunar.
SHARDCAST: Asenkron Ağırlık Birleştirme ve Yayılma Protokolü
SHARDCAST, Prime Intellect tarafından tasarlanan bir ağırlık yayılımı ve birleştirme protokolüdür ve gerçek ağ ortamları için asenkron, bant genişliği sınırlı ve düğüm durumu değişkenliğine yönelik olarak optimize edilmiştir. Bu, gossip yayılım mekanizması ile yerel senkronizasyon stratejilerini birleştirerek, birden fazla düğümün senkronize olmadan sürekli kısmi güncellemeler göndermesine olanak tanır ve ağırlıkların kademeli yakınsamasını ve çoklu versiyon evrimini sağlar. Merkezi veya senkronize AllReduce yöntemlerine kıyasla, SHARDCAST merkeziyetsizlikte eğitim için ölçeklenebilirliği ve hata toleransını önemli ölçüde artırır ve kararlı ağırlık konsensüsü ve sürekli eğitim iterasyonu inşa etmek için temel bir temeldir.
OpenDiLoCo:Seyrek Asenkron İletişim Çerçevesi
OpenDiLoCo, Prime Intellect ekibi tarafından DeepMind'ın önerdiği DiLoCo kavramını bağımsız olarak gerçekleştiren ve açık kaynak olarak sunulan bir iletişim optimizasyon çerçevesidir. Özellikle merkeziyetsizlik eğitiminde yaygın olarak karşılaşılan bant genişliği kısıtlamaları, cihaz heterojenliği ve düğüm istikrarsızlığı gibi zorluklar için tasarlanmıştır. Mimarisi veri paralelliğine dayanmakta olup, Ring, Expander, Small-World gibi seyrek topoloji yapıları inşa ederek küresel senkronizasyonun yüksek iletişim maliyetlerinden kaçınmayı sağlamakta ve yalnızca yerel komşu düğümlere dayanarak model iş birliği eğitimini tamamlamaktadır. Asenkron güncellemeler ve kesme tolerans mekanizması ile birleştirildiğinde, OpenDiLoCo, tüketici düzeyindeki GPU'ların ve kenar cihazlarının eğitim görevlerine istikrarlı bir şekilde katılmasını sağlamakta ve küresel iş birliği eğitimine katılımı önemli ölçüde artırmakta, merkeziyetsizlik eğitim ağı oluşturmanın önemli iletişim altyapılarından biri olmaktadır.
PCCL: İşbirliği İletişim Kütüphanesi
PCCL, Prime Intellect tarafından merkeziyetsizlik AI eğitim ortamı için özel olarak tasarlanmış hafif bir iletişim kütüphanesidir ve geleneksel iletişim kütüphanelerinin heterojen cihazlar ve düşük bant genişliği ağlarındaki uyum sorunlarını çözmeyi amaçlamaktadır. PCCL, seyrek topolojileri, gradyan sıkıştırmasını, düşük hassasiyetli senkronizasyonu ve kesinti kurtarmayı destekler, tüketici sınıfı GPU'lar ve istikrarsız düğümler üzerinde çalışabilir ve OpenDiLoCo protokolünün asenkron iletişim yeteneklerinin temel bileşenidir. Eğitim ağının bant genişliği toleransını ve cihaz uyumluluğunu önemli ölçüde artırarak, gerçekten açık ve güvene dayanmayan işbirlikçi eğitim ağlarını oluşturmanın "son bir mil" iletişim altyapısını sağlamaktadır.
Prime Intellect Teşvik Ağı ve Rol Dağılımı
Prime Intellect, herhangi birinin görevlere katılmasını ve gerçek katkılara dayalı olarak ödüller kazanmasını sağlayan, izin gerektirmeyen, doğrulanabilir ve ekonomik teşvik mekanizmalarına sahip bir eğitim ağı inşa etti. Protokol, üç temel rolün etrafında çalışmaktadır:
Görev başlatıcısı: Eğitim ortamını, başlangıç modelini, ödül fonksiyonunu ve doğrulama standartlarını tanımlar.
Eğitim düğümü: Yerel eğitim gerçekleştirin, ağırlık güncellemelerini ve gözlem izlerini gönderin
Doğrulama düğümü: Eğitim davranışının gerçekliğini doğrulamak için TOPLOC mekanizmasını kullanın ve ödül hesaplaması ile strateji birleştirmesine katılın.
Protokolün temel süreci, görev yayınlama, düğüm eğitimi, iz doğrulama, ağırlık birleştirme ve ödül dağıtımını içerir ve "gerçek eğitim davranışı" etrafında bir teşvik kapalı döngü oluşturur.
INTELLECT-2: İlk doğrulanabilir Merkeziyetsizlik eğitim modelinin yayınlanması
Prime Intellect, 2025 yılının Mayıs ayında INTELLECT-2'yi piyasaya sürdü. Bu, dünya çapında asenkron, güven gerektirmeyen Merkeziyetsizlik düğümleri işbirliği ile eğitilen ilk büyük ölçekli pekiştirmeli öğrenme modelidir ve parametre ölçeği 32B'ye ulaşmaktadır. INTELLECT-2 modeli, üç kıtada yer alan 100'den fazla GPU heterojen düğüm tarafından işbirliği içinde eğitilmiştir. Tamamen asenkron bir mimari kullanarak, eğitim süresi 400 saatten fazla sürmüş ve asenkron işbirliği ağının uygulanabilirliği ile istikrarını göstermiştir. Bu model sadece bir performans atılımı değil, aynı zamanda Prime Intellect tarafından önerilen "eğitim, konsensüs demektir" paradigmasının ilk sistematik uygulamasıdır. INTELLECT-2, merkeziyetsiz eğitim ağının eğitim sürecini açık, doğrulayıcı ve ekonomik teşvik kapalı döngü olarak gerçekleştirdiğini gösteren PRIME-RL, TOPLOC ve SHARDCAST gibi temel protokol modüllerini entegre etmiştir.
performans açısından, INTELLECT-2 QwQ-32B üzerinde eğitildi ve kod ile matematikte özel bir RL eğitimi yapıldı, mevcut açık kaynaklı RL ince ayar modellerinin öncü seviyesindedir. Henüz GPT-4'ü geçmemiştir veya
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Merkeziyetsizlik eğitimi: AI alanında yeni bir paradigma ve öncü keşifler
Merkeziyetsizlik eğitiminde öncü keşif
Yapay zeka tam değer zincirinde, model eğitimi en fazla kaynak tüketen, en yüksek teknik engel olan aşamadır ve doğrudan modelin yetenek sınırını ve gerçek uygulama etkisini belirler. Çıkarım aşamasının hafif çağrılarıyla karşılaştırıldığında, eğitim süreci sürekli olarak büyük ölçekli hesaplama gücü yatırımı, karmaşık veri işleme süreçleri ve yüksek yoğunlukta optimizasyon algoritmaları desteği gerektirir; bu, AI sistemlerinin inşasının gerçek "ağır sanayi"sidir. Mimari paradigmalar açısından, eğitim yöntemleri dört türe ayrılabilir: merkezi eğitim, dağıtık eğitim, federatif öğrenme ve bu makalede odaklanılan Merkeziyetsizlik eğitimi.
Merkeziyetsizlik eğitimi, yerel yüksek performans kümesinde tek bir kurum tarafından tüm eğitim sürecinin tamamlandığı en yaygın geleneksel yöntemdir. Donanım, alt yazılım, küme planlama sistemi ve eğitim çerçevesinin tüm bileşenleri, tek bir kontrol sistemi tarafından koordine edilerek çalıştırılır. Bu derin işbirliği mimarisi, bellek paylaşımı, gradyan senkronizasyonu ve hata toleransı mekanizmalarının verimliliğini en üst düzeye çıkarır ve GPT, Gemini gibi büyük ölçekli modellerin eğitimi için son derece uygundur. Yüksek verimlilik ve kontrol edilebilir kaynaklar gibi avantajlara sahipken, aynı zamanda veri tekelciliği, kaynak engelleri, enerji tüketimi ve tek nokta riski gibi sorunlar da barındırmaktadır.
Dağıtık eğitim, günümüz büyük model eğitiminde ana akım bir yöntemdir. Temelinde, model eğitim görevlerini parçalara ayırarak birden fazla makineye dağıtıp işbirliği içinde yürütmek yatmaktadır, bu sayede tek bir makinenin hesaplama ve depolama darboğazlarını aşmak mümkündür. Fiziksel olarak "dağıtık" özelliklere sahip olmasına rağmen, genel olarak merkezi bir kurum tarafından kontrol edilen, yönlendirilen ve senkronize edilen bir yapıdadır. Genellikle yüksek hızlı yerel alan ağı (LAN) ortamlarında çalışır ve NVLink yüksek hızlı bağlantı teknolojisi ile ana düğüm, alt görevleri koordine eder. Ana akım yöntemler arasında şunlar bulunmaktadır:
Dağıtık eğitim, "merkezi kontrol + dağıtık yürütme" kombinasyonudur, aynı patronun uzaktan birden fazla "ofis" çalışanını görevi tamamlamak için işbirliği yapmasıyla analojik olarak. Şu anda hemen hemen tüm ana akım büyük modeller bu yöntemle eğitim tamamlamaktadır.
Merkeziyetsizlik eğitimi, daha açık ve sansüre dayanıklı bir geleceği temsil eder. Temel özellikleri şunlardır: Birbirine güvenmeyen birçok düğüm, merkezi bir koordinatör olmadan eğitim görevlerini işbirliği içinde tamamlar; genellikle protokoller aracılığıyla görev dağıtımı ve işbirliği sağlanır ve katkının dürüstlüğünü güvence altına almak için kriptografik teşvik mekanizmaları kullanılır. Bu modelin karşılaştığı ana zorluklar şunlardır:
Merkeziyetsizlik eğitimi, dünya genelindeki bir grup gönüllünün, kendi hesaplama güçlerini katkıda bulunarak modeli birlikte eğitmesi olarak anlaşılabilir. Ancak "gerçekten uygulanabilir büyük ölçekli merkeziyetsizlik eğitimi" hala sistematik bir mühendislik zorluğudur ve sistem mimarisi, iletişim protokolleri, şifre güvenliği, ekonomik mekanizmalar, model doğrulama gibi birçok alanı kapsamaktadır. Ancak "etkili işbirliği + dürüstlüğü teşvik etme + doğru sonuçlar" sağlanıp sağlanamayacağı hala erken prototip keşif aşamasındadır.
Federated learning, bir geçiş biçimi olarak dağıtılmış ve Merkeziyetsizlik arasında, verilerin yerel olarak tutulmasını ve model parametrelerinin merkezi olarak toplanmasını vurgular, gizlilik uyumuna önem veren senaryolar için uygundur. Federated learning, dağıtılmış eğitim mühendislik yapısına ve yerel işbirliği yeteneklerine sahipken, aynı zamanda Merkeziyetsizlik eğitimindeki veri dağıtımının avantajlarını da taşır, ancak yine de güvenilir bir koordinatöre bağımlıdır ve tamamen açık ve sansüre dayanıklı özelliklere sahip değildir. Gizlilik uyumu senaryolarında "kontrollü merkeziyetsizlik" çözümü olarak düşünülebilir; eğitim görevleri, güven yapılandırması ve iletişim mekanizması açısından daha ılımlıdır ve sanayi alanında geçici dağıtım yapıları olarak daha uygundur.
Merkeziyetsizlik eğitiminin sınırları, fırsatları ve gerçek yolları
Eğitim paradigması açısından, merkeziyetsizlik eğitimi tüm görev türleri için uygun değildir. Bazı senaryolarda, görev yapısının karmaşık olması, kaynak gereksinimlerinin çok yüksek olması veya işbirliği zorluğu nedeniyle, doğal olarak heterojen, güvenilmez düğümler arasında verimli bir şekilde tamamlanması zordur. Örneğin, büyük model eğitimi genellikle yüksek bellek, düşük gecikme ve yüksek bant genişliğine dayanır, açık bir ağda etkili bir şekilde bölünmesi ve senkronize edilmesi zordur; veri gizliliği ve egemenlik kısıtlamaları olan görevler, yasal uyumluluk ve etik kısıtlamalar nedeniyle açık paylaşım yapamaz; işbirliği teşvik temelinden yoksun görevler ise dış katılım motivasyonundan yoksundur. Bu sınırlamalar, mevcut merkeziyetsiz eğitimdeki gerçek kısıtlamaları oluşturmaktadır.
Ama bu, merkeziyetsizlik eğitiminin bir sahte önerme olduğu anlamına gelmez. Aslında, yapısal olarak hafif, kolayca paralelleştirilebilen ve motive edici görev türlerinde, merkeziyetsiz eğitim belirgin uygulama potansiyeli göstermektedir. Bunlar arasında ancak bunlarla sınırlı olmamak üzere: LoRA ince ayarı, davranış hizalama sonrası eğitim görevleri, veri toplama eğitimi ve etiketleme görevleri, kaynak kontrolü altında küçük temel modellerin eğitimi ve kenar cihazların katıldığı işbirlikçi eğitim senaryoları bulunmaktadır. Bu görevler genellikle yüksek paralellik, düşük bağlılık ve heterojen hesaplama gücüne tolerans özelliklerine sahiptir ve P2P ağları, Swarm protokolleri, dağıtık optimizatörler gibi yöntemlerle işbirlikçi eğitim için oldukça uygundur.
Merkeziyetsizlik eğitim klasik proje analizi
Şu anda merkeziyetsizlik alanında eğitim ve federated learning öncülüğünde, temsilci blockchain projeleri arasında Prime Intellect, Pluralis.ai, Gensyn, Nous Research ve Flock.io bulunmaktadır. Teknik yenilikçilik ve mühendislik uygulama zorluğu açısından, Prime Intellect, Nous Research ve Pluralis.ai, sistem mimarisi ve algoritma tasarımında daha fazla özgün keşif sunarak güncel teorik araştırmanın öncü yönlerini temsil etmektedir; Gensyn ve Flock.io'nun uygulama yolları ise nispeten net olup, ilk mühendislik ilerlemeleri görülmektedir.
Prime Intellect: Eğitim yolları doğrulanabilir güçlendirme öğrenimi işbirlikçi ağ öncüsü
Prime Intellect, güvene ihtiyaç duymayan bir AI eğitim ağı inşa etmeyi hedefliyor, böylece herkes eğitime katılabilir ve hesaplama katkıları için güvenilir ödüller alabilir. Prime Intellect, PRIME-RL + TOPLOC + SHARDCAST adlı üç temel modül aracılığıyla, doğrulanabilirlik, açıklık ve teşvik mekanizması tam olan bir AI Merkeziyetsizlik eğitim sistemi inşa etmeyi amaçlıyor.
Çekirdek Mekanizma Ayrıntılı Açıklama
PRIME-RL: Decoupled Asynchronous Reinforcement Learning Task Architecture
PRIME-RL, Prime Intellect'in Merkeziyetsizlik için özel olarak tasarlanmış görev modelleme ve yürütme çerçevesidir ve heterojen ağlar ile asenkron katılım için özel olarak tasarlanmıştır. Güçlendirilmiş öğrenmeyi öncelikli uyum nesnesi olarak kullanır, eğitim, çıkarım ve ağırlık yükleme süreçlerini yapısal olarak ayrıştırır, böylece her eğitim düğümü yerel olarak bağımsız olarak görev döngüsünü tamamlayabilir ve standart arayüzler aracılığıyla doğrulama ve birleştirme mekanizmalarıyla işbirliği yapabilir. Geleneksel denetimli öğrenme süreçlerine kıyasla, PRIME-RL, merkezi bir zamanlama ortamında esnek eğitimi gerçekleştirmek için daha uygundur; bu, sistem karmaşıklığını azaltır ve çoklu görev paralelliği ile strateji evrimi için bir temel oluşturur.
TOPLOC:Ağırlığı hafif eğitim davranış doğrulama mekanizması
TOPLOC, Prime Intellect tarafından önerilen eğitim doğrulanabilirlik çekirdek mekanizmasıdır ve bir düğümün gerçekten gözlem verilerine dayalı olarak etkili bir strateji öğrenimi gerçekleştirdiğini belirlemek için kullanılır. ZKML gibi ağır çözümlerden farklı olarak, TOPLOC tam model yeniden hesaplamasına dayanmaz, bunun yerine "gözlem dizisi↔strateji güncelleme" arasındaki yerel tutarlılık izlerini analiz ederek hafif yapı doğrulaması gerçekleştirir. Eğitim sürecindeki davranış izlerini doğrulanabilir nesnelere dönüştüren ilk uygulamalardan biridir ve güvene ihtiyaç duymadan eğitim ödül dağıtımını gerçekleştirmenin anahtar yeniliğidir. Denetlenebilir ve teşvik edici merkeziyetsiz işbirliği eğitim ağları kurmak için uygulanabilir bir yol sunar.
SHARDCAST: Asenkron Ağırlık Birleştirme ve Yayılma Protokolü
SHARDCAST, Prime Intellect tarafından tasarlanan bir ağırlık yayılımı ve birleştirme protokolüdür ve gerçek ağ ortamları için asenkron, bant genişliği sınırlı ve düğüm durumu değişkenliğine yönelik olarak optimize edilmiştir. Bu, gossip yayılım mekanizması ile yerel senkronizasyon stratejilerini birleştirerek, birden fazla düğümün senkronize olmadan sürekli kısmi güncellemeler göndermesine olanak tanır ve ağırlıkların kademeli yakınsamasını ve çoklu versiyon evrimini sağlar. Merkezi veya senkronize AllReduce yöntemlerine kıyasla, SHARDCAST merkeziyetsizlikte eğitim için ölçeklenebilirliği ve hata toleransını önemli ölçüde artırır ve kararlı ağırlık konsensüsü ve sürekli eğitim iterasyonu inşa etmek için temel bir temeldir.
OpenDiLoCo:Seyrek Asenkron İletişim Çerçevesi
OpenDiLoCo, Prime Intellect ekibi tarafından DeepMind'ın önerdiği DiLoCo kavramını bağımsız olarak gerçekleştiren ve açık kaynak olarak sunulan bir iletişim optimizasyon çerçevesidir. Özellikle merkeziyetsizlik eğitiminde yaygın olarak karşılaşılan bant genişliği kısıtlamaları, cihaz heterojenliği ve düğüm istikrarsızlığı gibi zorluklar için tasarlanmıştır. Mimarisi veri paralelliğine dayanmakta olup, Ring, Expander, Small-World gibi seyrek topoloji yapıları inşa ederek küresel senkronizasyonun yüksek iletişim maliyetlerinden kaçınmayı sağlamakta ve yalnızca yerel komşu düğümlere dayanarak model iş birliği eğitimini tamamlamaktadır. Asenkron güncellemeler ve kesme tolerans mekanizması ile birleştirildiğinde, OpenDiLoCo, tüketici düzeyindeki GPU'ların ve kenar cihazlarının eğitim görevlerine istikrarlı bir şekilde katılmasını sağlamakta ve küresel iş birliği eğitimine katılımı önemli ölçüde artırmakta, merkeziyetsizlik eğitim ağı oluşturmanın önemli iletişim altyapılarından biri olmaktadır.
PCCL: İşbirliği İletişim Kütüphanesi
PCCL, Prime Intellect tarafından merkeziyetsizlik AI eğitim ortamı için özel olarak tasarlanmış hafif bir iletişim kütüphanesidir ve geleneksel iletişim kütüphanelerinin heterojen cihazlar ve düşük bant genişliği ağlarındaki uyum sorunlarını çözmeyi amaçlamaktadır. PCCL, seyrek topolojileri, gradyan sıkıştırmasını, düşük hassasiyetli senkronizasyonu ve kesinti kurtarmayı destekler, tüketici sınıfı GPU'lar ve istikrarsız düğümler üzerinde çalışabilir ve OpenDiLoCo protokolünün asenkron iletişim yeteneklerinin temel bileşenidir. Eğitim ağının bant genişliği toleransını ve cihaz uyumluluğunu önemli ölçüde artırarak, gerçekten açık ve güvene dayanmayan işbirlikçi eğitim ağlarını oluşturmanın "son bir mil" iletişim altyapısını sağlamaktadır.
Prime Intellect Teşvik Ağı ve Rol Dağılımı
Prime Intellect, herhangi birinin görevlere katılmasını ve gerçek katkılara dayalı olarak ödüller kazanmasını sağlayan, izin gerektirmeyen, doğrulanabilir ve ekonomik teşvik mekanizmalarına sahip bir eğitim ağı inşa etti. Protokol, üç temel rolün etrafında çalışmaktadır:
Protokolün temel süreci, görev yayınlama, düğüm eğitimi, iz doğrulama, ağırlık birleştirme ve ödül dağıtımını içerir ve "gerçek eğitim davranışı" etrafında bir teşvik kapalı döngü oluşturur.
INTELLECT-2: İlk doğrulanabilir Merkeziyetsizlik eğitim modelinin yayınlanması
Prime Intellect, 2025 yılının Mayıs ayında INTELLECT-2'yi piyasaya sürdü. Bu, dünya çapında asenkron, güven gerektirmeyen Merkeziyetsizlik düğümleri işbirliği ile eğitilen ilk büyük ölçekli pekiştirmeli öğrenme modelidir ve parametre ölçeği 32B'ye ulaşmaktadır. INTELLECT-2 modeli, üç kıtada yer alan 100'den fazla GPU heterojen düğüm tarafından işbirliği içinde eğitilmiştir. Tamamen asenkron bir mimari kullanarak, eğitim süresi 400 saatten fazla sürmüş ve asenkron işbirliği ağının uygulanabilirliği ile istikrarını göstermiştir. Bu model sadece bir performans atılımı değil, aynı zamanda Prime Intellect tarafından önerilen "eğitim, konsensüs demektir" paradigmasının ilk sistematik uygulamasıdır. INTELLECT-2, merkeziyetsiz eğitim ağının eğitim sürecini açık, doğrulayıcı ve ekonomik teşvik kapalı döngü olarak gerçekleştirdiğini gösteren PRIME-RL, TOPLOC ve SHARDCAST gibi temel protokol modüllerini entegre etmiştir.
performans açısından, INTELLECT-2 QwQ-32B üzerinde eğitildi ve kod ile matematikte özel bir RL eğitimi yapıldı, mevcut açık kaynaklı RL ince ayar modellerinin öncü seviyesindedir. Henüz GPT-4'ü geçmemiştir veya