Ali Open Source'nın QwQ-32B büyük modeli: Küçük Parametreler büyük performansa mal oldu, eğitim DeepSeek r1

Birçok insan bugün "genel bir istihbarat" Manus ateş ediyor, ancak Ali'nin açtığı yeni QwQ-32B modelinin daha fazla aramaya değer olduğunu düşünüyorum.

I. QwQ-32B'deki temel atılımlar ve teknolojik yenilikler

Aliyun serbest bırakıldı ve yeni bir sebep modeli açtı, QwQ-32B, 6 Mart 2025'te bir görüşle:32 milyar parametreBu çok basit bir ölçek, gelişmiş öğrenme teknikleri aracılığıyla elde edilenDeepSeek-R1 için 671 milyar parametreEşdeğer performans, bazı alanlarda bile. Aşağıdaki temel vurgulamaktadır:

Parametre verimliliği devrimi devrimi
QwQ-32B parametresi sadece DeepSeek-R11/21Ama aracılığıylaİki aşamalı yoğun öğrenme (RL)“Küçük Model + Gelişmiş Öğrenme” teknolojisi rotasının fizibilitesi, matematiksel nedenleme (AIME24 değerlendirme) ve kod nesli (LiveCodeBench). Bu tasarım, parametrelerin yığınına geleneksel güven yolunu bozar ve AI modelinin “ ölçekli rekabet”ten “emesel optimizasyon”a geçişini işaret eder.
Agent'ın entegrasyon kapasitesi ve dinamik akıl yürütme kapasitesi
İlk kez, model akıl yürütme modelinde derinleşmişti.Akıllı Ajanability, çevresel geri bildirimler tarafından yönlendirilen seferberlik, kritik düşünme ve dinamik akıl yürütme düzenlemeleri için destek araçları. Örneğin, çok adımlı matematiksel konularla ilgili olarak, model otomatik olarak ara sonuçları doğrulamak ve geri bildirim döngüleri aracılığıyla nihai cevabı optimize etmek için bilişim aracı çağırır. Bu kapasite karmaşık görevlerin uygulanmasında daha esnek ve güvenilir hale getirir.
Düşük maliyetli dağıtım ve kapsayıcı uygulamalar
QwQ-32B destekliyorTüketici ölçek grafik kartları (e.g. NVIDIA RTX 4070)Yerel olarak dağıtıldı, sadece DeepSeek-R1 deduction maliyeti.1/10(Tek çıkış maliyeti yaklaşık US $ 0.25), bu da işletme uygulamaları için eşiğini önemli ölçüde azaltır. Bu özellik özellikle tıbbi, finansal ve periferik bilişim cihazları gibi veriye duyarlı senaryolar için ilgilidir.
Gelişen öğrenme için teknolojik atılımlar
Ali ekibi geleneksel ödül modelini reddetti ve kabul etti.Fazd RL eğitim stratejisi:
- Aşama IMatematik ve programlama görevleri için, cevabın doğrulığı doğrudan kod ve eğitim verimliliği ile doğrulanmıştır.
- Aşama II: Matematik ve programlama performansını sürdürürken genel görevlerdeki modellerin yeteneklerini genişletmek için genel teşvik modelleri ve kurallar. Çalışma, RL eğitim turlarının yöntemi doğrulayan sürekli yükseltme modelinin performansını artırdığını gösterdi.

Yaygın modellerin bütün karşılaştırması

QwQ-32B diğer ana modellerle birden fazla boyuttan karşılaştırıldığında (DeepSeek-R1, OpenAI o1-Mini, Meta Llama3-400B):

Ölçüler	QwQ-32B	DeepSeek-R1	OpenAI o1-mini	Meta Llama3-400B
Tartışmalar	32 milyar dolar.	671 milyar (yaklaşık 37 milyar)	Yaklaşık yüz milyar.	40 milyar.
Eğitim yöntemleri	İki aşamalı yoğun öğrenme (mathematics/programming general)	Karma uzman modeli (MoE)	Öğrenmenin Süperı	Self-return pre-training + command fine-tuning
Eleştirel yetenekler	Matematiksel nedenleme, kod nesli R1 olarak aynıdır.	En iyilerden biri.	Daha yaygın görevler, daha zayıf matematik / kod	Mükemmelliğe destek, orta akıl yürütme
Deployment maliyetleri	$ 25/kilotoken pahasına tüketici sınıfı grafik kartları	Meslek, $2.5 /kilotoken	Cloud API çağrısı, daha yüksek maliyet.	Yüksek uç GPU kümesi gerekli
Açık kaynak ekolojisi	Apache 2.0 protokolü, tam platform açık kaynak	Katılımcı açık kaynak	Kapalı Kapalı Kapalı Kapalı Kapalı	Açık kaynaklı topluluklar aktiftir, daha az Türev modelleri ile
Ajan kapasite kapasitesi	Destek aracı çağrıları, dinamik ayarlama düzenlemeleri	No specified entegrasyon	Sınırlı Araç Desteği	Hiçbir şey yok

Performans testi parlak noktalar

Matematiksel sebep (AIME24): QwQ-32B DeepSeek-R1 ile aynı ve o1-mini önemli ölçüde üstün.
Code Generation (LiveCodeBench): QwQ-32B, R1 ile karşılaştırılabilir, aynı büyüklükteki distillasyon modelini% 50 oranında aşmaktadır.
LifeBech: QwQ-32B R1'i aşıyor (70) 72.5 puana yakın, o3-mini (75) sadece 1/20 maliyetine yakın.

QwQ-32B'yi kullanarak dağıtmak için ayrıntılı adımlar

Olama LLM çalıştırmak için yerel bir araçtır. Aşağıdakiler QwQ-32B'yi yüklemek ve dağıtmak için adımlar:

Download Download Download Download Download
- Ziyaretler sosyal web sitesi, işletim sistemine göre executable indir.
Yükleme olama:
- Tamamen yükleme için indirilebilir executable çalıştırın.
Başlangıç olama sunucusu:
- Açık terminal, komutlar ollama serveBilmiyorum.
QwQ-32B modelleri çizin:
- komut kullanın ollama pull QwQ:32b Modeli indirin.

Run modelleri:
- Use Use Use Use Use Use ollama run QwQ:32b --input "你的提示" Modellerle etkileşim.

Açık kaynak ekolojisi ve toplum etkileri

Tüm Açık Kaynak ve Geliştirici Desteği
QwQ-32B Apache 2.0 protokolünin Açık Kaynağı, Hugging Face, ModelScope, Magic Community gibi platformları kapsar.Yerel dağıtım aracı zinciri (e.g. Ollama)veCloud API Service (Platform)Bilmiyorum. Geliştiriciler hızla iyi örnek modelleri, değerlendirme ve konteynerleme dağıtımlarını değerlendirebilir (örneğin Aliyun PAI platformu aracılığıyla).
Dünyanın en büyük açık kaynak modeli topluluğu
2023'ten bu yana, Ali'de 200'den fazla model açıldı, tüm metin, vizyon, ses, vb. biçimleri kapsayan, 0,5B'den 110B'ye kadar. Qwen serisi türev modelleri 100.000'i aştı, Llama serisinin ötesine küresel olarak en büyük açık kaynak model kümesine taşındı. Örneğin, görsel nesil modeli “bir boyutlu-fits-all” ve kod modeli “peripheric code” endüstriyel manzaraya yaygın olarak entegre edilmiştir.
Topluluk cevabı ve iş değeri
Aynı gün, Ali stoğu fiyatı günde yüzde 7 oranında yükseldi, teknoloji inişlerindeki sermaye piyasasının güvenini yansıtıyor. Açık kaynak stratejisi, geliştiricinin ekolojik refahını teşvik eder, QwQ-32B'nin Hugging Face topluluğunda hızlı damlaları ile eğitim, finans ve sağlık gibi alanları kapsayan türev uygulamaları ile.

IV. Sektör sonuçları ve gelecekteki beklentileri

Teknik paradigma değişimi
QwQ-32B'nin başarısı, AI R & D'nin bir “kayeseli bir mucize”den “ekiz bilgeliği”ye taşındığını kanıtlıyor ve bu parametre büyüklüğü artık tek gösterge değildir ve algoritmaların ve eğitim yöntemlerinin optimizasyonu yeni odak noktasıdır. Örneğin, gelişmiş öğrenmenin canlanması AGI yolu için yeni fikirler sunar.
İstihbaratın keşfi ve uzun vadeli neden
Ali, istihbarat yeteneklerini daha da entegre etmeyi planlıyor ve keşfedinUzun vadeli sebepÖrneğin, karmaşık planlama sorunları çoklu ortamlarda ele alınmaktadır. Bu, AI’nın “tools”tan evrimlerini “kok ortaklar” için kolaylaştıracaktır.
Açık kaynak yarışması ve kapsayıcı eğilimler
Modelin ışık ölçümleme ve düşük maliyetli dağıtım kapasitesi, AI'nın teknolojik dahil edilmesini hızlandırır ve KOBİ'ler, mega hesaplarını kırmak için QwQ-32B'ye dayanan özel bir program oluşturabilir. Örneğin, tıbbi alanda yerel olarak kullanılan modeller, bulutlara güvenmek zorunda kalmadan hassas hasta verileri idare edebilir.

Tartışmalar

QwQ-32B'nin serbest bırakılması sadece teknolojik bir atılım değil, açık kaynak ekolojik ve iş modellerinde kapsamlı bir yenilikdir. Öğrenme ve istihbarat bedenlerinin entegrasyonunu artırmak için küçük parametre modellerinin performansında bir adım önde gelir; ve tüm kaynak ve düşük maliyetli dağıtımlar aracılığıyla AI uygulamalarının rekabetçi modelini yeniden kurdu. Gelecekte, model, AGI sürecini380 milyar dolarlık AI altyapı girişinin inişiyle ileriye taşımak için önemli bir dönüm noktası olacaktır.