हिन्दी

← सूची पर वापस जाएँ

अली ओपन सोर्स का QwQ-32B बड़ा मॉडल: छोटे पैरामीटर्स बड़े प्रदर्शन, प्रशिक्षण लागत 1/10 दीप-Seek r1

itadol5j

बहुत से लोग आज एक "सामान्य खुफिया" मानस को फायर कर रहे हैं, लेकिन मुझे लगता है कि अली ने अभी खोला है और भी लायक है।

अली ओपन सोर्स का QwQ-32B बड़ा मॉडल: छोटे पैरामीटर्स बड़े प्रदर्शन, प्रशिक्षण लागत 1/10 दीप-Seek r1

I. QwQ-32B में कोर सफलताओं और तकनीकी नवाचार

अलीयून ने 6 मार्च, 2025 को तर्क मॉडल, QwQ-32B की एक नई पीढ़ी को जारी किया और खोला, जिसमें देखने को मिला:32 बिलियन पैरामीटरयह एक बहुत ही सरल स्केल है, जिसे उन्नत शिक्षण तकनीकों के माध्यम से हासिल किया गया है671 बिलियन मापदंडों के लिए डीपसेक-R1कुछ क्षेत्रों में भी समतुल्य प्रदर्शन। निम्नलिखित इसकी मुख्य विशेषताएं हैं:

  1. पैरामीटर दक्षता क्रांति
    QwQ-32B पैरामीटर केवल DeepSeek-R1 है1/21लेकिनदो चरण गहन शिक्षा (आरएल)"छोटे मॉडल + उन्नत लर्निंग" प्रौद्योगिकी मार्ग की व्यवहार्यता प्रशिक्षण द्वारा मान्य की गई थी, जिसे बाद में गणितीय तर्क (AIME24 आकलन) और कोड जनरेशन (LiveCodeBench) जैसे कार्यों में किया गया था। यह डिज़ाइन मापदंडों के स्टैकिंग पर पारंपरिक निर्भरता के रास्ते को तोड़ देता है और "स्केल प्रतियोगिता" से "प्रभावीता अनुकूलन" तक एआई मॉडल की शिफ्ट को चिह्नित करता है।
  2. एकीकरण और गतिशील तर्क के लिए एजेंट की क्षमता
    पहली बार, मॉडल को तर्क मॉडल में गहरी एकीकृत किया गया था।स्मार्ट एजेंसी क्षमतापर्यावरण प्रतिक्रिया द्वारा संचालित गतिशीलता, महत्वपूर्ण सोच और गतिशील तर्क समायोजन के लिए समर्थन उपकरण। उदाहरण के लिए, बहु-चरण गणितीय मुद्दों को संबोधित करने में, मॉडल स्वचालित रूप से मध्यवर्ती परिणामों को मान्य करने और फीडबैक चक्र के माध्यम से अंतिम उत्तर को अनुकूलित करने के लिए कंप्यूटिंग टूल को कहता है। यह क्षमता जटिल जनादेशों के संचालन में अधिक लचीला और विश्वसनीय बनाती है।
  3. कम लागत वाली तैनाती और समावेशी अनुप्रयोग
    QwQ-32B समर्थनउपभोक्ता स्केल ग्राफिक कार्ड (जैसे NVIDIA RTX 4070)स्थानीय रूप से तैनात, केवल DeepSeek-R1 कटौती लागत।1/10(एकल आउटपुट लागत लगभग US$ 0.25 है), जो उद्यम अनुप्रयोगों के लिए सीमा को काफी कम करता है। यह सुविधा विशेष रूप से डेटा-संवेदनशील परिदृश्यों जैसे चिकित्सा, वित्तीय और परिधीय कंप्यूटिंग उपकरणों के लिए प्रासंगिक है।
  4. उन्नत सीखने के लिए तकनीकी सफलता
    अली टीम ने पारंपरिक पुरस्कार मॉडल को खारिज कर दिया और इसे अपनाया।चरणबद्ध आर एल प्रशिक्षण रणनीति:
    • चरण I: गणितीय और प्रोग्रामिंग कार्यों के लिए, उत्तर की शुद्धता सीधे कोड और प्रशिक्षण दक्षता के माध्यम से सत्यापित की जाती है।
    • चरण II: गणितीय और प्रोग्रामिंग प्रदर्शन को बनाए रखते हुए जेनेरिक मिशनों में मॉडल की क्षमताओं का विस्तार करने के लिए जेनेरिक प्रोत्साहन मॉडल और नियम-प्रमाणक का परिचय। अध्ययन से पता चला कि आर एल प्रशिक्षण दौर निरंतर उन्नयन मॉडल के प्रदर्शन में वृद्धि हुई, जिसने विधि को मान्य किया।

मुख्यधारा मॉडल की एकीकृत तुलना

QwQ-32B की तुलना अन्य मुख्यधारा मॉडलों (DeepSeek-R1, OpenAI o1-Mini, Meta Llama3-400B) के साथ कई आयामों से की जाती है।

आयाम QwQ-32B DeepSeekR1 ओ 1-मिनी मेटा Llama3-400B
तर्क $32 बिलियन। 671 बिलियन (सक्रिय 37 बिलियन) यह लगभग सौ अरब है। 40 अरब डॉलर।
प्रशिक्षण दो चरण गहन सीखने (mathematics/programming जेनेरिक) मिश्रित विशेषज्ञ मॉडल (एमओई) सीखने का पर्यवेक्षण स्व-वापसी पूर्व प्रशिक्षण + कमांड ठीक ट्यूनिंग
महत्वपूर्ण क्षमताओं गणितीय तर्क, कोड जनरेशन R1 के समान है। यह सबसे अच्छा है। अधिक सामान्य कार्य, कमजोर गणित / कोड उत्कृष्टता, मध्यम तर्क के लिए बहुभाषी समर्थन
तैनाती लागत $ 0.25/kilotoken की लागत पर उपभोक्ता ग्रेड ग्राफिक कार्ड पेशे, लागत $2.5 / किलोटोकन क्लाउड एपीआई कॉल, उच्च लागत। उच्च अंत GPU क्लस्टर की आवश्यकता
ओपन सोर्स पारिस्थितिकी अपाचे 2.0 प्रोटोकॉल, पूर्ण मंच खुला स्रोत आंशिक खुला स्रोत बंद ओपन सोर्स समुदाय सक्रिय हैं, कम व्युत्पन्न मॉडल के साथ
एजेंट क्षमता समर्थन उपकरण कॉल, गतिशील तर्क समायोजन कोई निर्दिष्ट एकीकरण नहीं सीमित उपकरण समर्थन कोई नहीं

प्रदर्शन परीक्षण उज्ज्वल स्पॉट

  • गणितीय तर्क (AIME24)QwQ-32B DeepSeek-R1 के समान है और o1-mini से काफी बेहतर है।
  • कोड जनरेशन (LiveCodeBench)QwQ-32B R1 के बराबर है, 50% से अधिक समान आकार आसवन मॉडल से अधिक है।
  • लाइफ बीच: QwQ-32B केवल 1/20 की लागत से 72.5 अंक, o3-mini (75) के करीब R1 (70) से अधिक है।

ओलामा का उपयोग करके QwQ-32B को तैनात करने के लिए विस्तृत कदम

अली ओपन सोर्स का QwQ-32B बड़ा मॉडल: छोटे पैरामीटर्स बड़े प्रदर्शन, प्रशिक्षण लागत 1/10 दीप-Seek r1

ओलामा एलएलएम चलाने के लिए एक स्थानीय उपकरण है। निम्नलिखित QwQ-32B स्थापित करने और तैनात करने के लिए कदम हैं:

अली ओपन सोर्स का QwQ-32B बड़ा मॉडल: छोटे पैरामीटर्स बड़े प्रदर्शन, प्रशिक्षण लागत 1/10 दीप-Seek r1
  1. डाउनलोड
  2. ओलामा स्थापित करें:
    • स्थापना को पूरा करने के लिए डाउनलोड करने योग्य निष्पादन को चलाता है।
  3. ओलामा सर्वर शुरू करें:
    • ओपन टर्मिनल, रन कमांड ollama serveमुझे नहीं पता।
  4. QwQ-32B मॉडल ड्रॉ:
    • कमांड का उपयोग करें ollama pull QwQ:32b मॉडल डाउनलोड करें।
अली ओपन सोर्स का QwQ-32B बड़ा मॉडल: छोटे पैरामीटर्स बड़े प्रदर्शन, प्रशिक्षण लागत 1/10 दीप-Seek r1
  1. रन मॉडल:
    • उपयोग ollama run QwQ:32b --input "你的提示" मॉडल के साथ बातचीत करें।

ओपन सोर्स इकोलॉजी और सामुदायिक प्रभाव

  1. सभी ओपन सोर्स और डेवलपर समर्थन
    QwQ-32B अपाचे 2.0 प्रोटोकॉल का ओपन सोर्स, हगिंग फेस, मॉडलस्कोप, मैजिक कम्युनिटी आदि जैसे प्लेटफार्मों को कवर करता है।स्थानीय तैनाती उपकरण श्रृंखला (जैसे ओलमा)औरक्लाउड एपीआई सेवा (प्लेटफॉर्म)मुझे नहीं पता। डेवलपर्स जल्दी से ठीक ट्यून मॉडल कर सकते हैं, मूल्यांकन और कंटेनरीकरण तैनाती (जैसे अलीयून PAI प्लेटफॉर्म के माध्यम से)।
  2. दुनिया का सबसे बड़ा खुला स्रोत मॉडल समुदाय
    2023 से, अली में 200 से अधिक मॉडल खोले गए हैं, जिसमें पाठ, दृष्टि, आवाज आदि के सभी मॉड्यूलर रूपों को शामिल किया गया है, जो 0.5B से 110B तक है। Qwen श्रृंखला व्युत्पन्न मॉडल की संख्या 100,000 से अधिक है, जो वैश्विक स्तर पर सबसे बड़े ओपन सोर्स मॉडल क्लस्टर में Llama श्रृंखला से आगे बढ़ रहा है। उदाहरण के लिए, दृश्य पीढ़ी मॉडल "one-size-fits-all" और कोड मॉडल "peripheric code" व्यापक रूप से औद्योगिक परिदृश्य में एकीकृत किया गया है।
  3. सामुदायिक प्रतिक्रिया और व्यापार मूल्य
    उसी दिन, अली स्टॉक की कीमत दिन में 7 फीसदी बढ़ गई, जो प्रौद्योगिकी लैंडिंग में पूंजी बाजार के विश्वास को दर्शाती है। ओपन सोर्स रणनीति डेवलपर्स की पारिस्थितिक समृद्धि को बढ़ावा देती है, जिसमें हगिंग फेस कम्युनिटी में QwQ-32B की तेजी से गिरावट होती है, जिसमें शिक्षा, वित्त और स्वास्थ्य जैसे क्षेत्रों को कवर किया जाता है।

IV क्षेत्र निहितार्थ और भविष्य की संभावनाओं

  1. तकनीकी प्रतिमान बदलाव
    QwQ-32B की सफलता का सबूत है कि एआई आर एंड डी एक "मिश्रित चमत्कार" से "निष्क्रिय ज्ञान" तक चल रहा है, यह पैरामीटर आकार अब एकमात्र सूचक नहीं है, और एल्गोरिदम और प्रशिक्षण विधियों का अनुकूलन नया फोकस है। उदाहरण के लिए, बढ़ी हुई शिक्षा का पुनरुद्धार एजीआई पथ के लिए नए विचार प्रदान करता है।
  2. खुफिया और दीर्घकालिक तर्क की खोज
    अली खुफिया क्षमताओं को आगे बढ़ाने और अन्वेषण करने की योजना बना रही हैदीर्घकालिक तर्कउदाहरण के लिए, जटिल योजना के मुद्दों को वातावरण के कई दौरों में संबोधित किया जाता है। यह "उपकरण" से "सहयोगी भागीदारों" तक एआई के विकास को सुविधाजनक बना देगा।
  3. ओपन सोर्स प्रतियोगिता और समावेशी रुझान
    मॉडल की हल्की मात्रा और कम लागत वाली तैनाती क्षमता एआई के तकनीकी समावेश को तेज करती है, और एसएमई मेगा-कैल्कुशन्स एकाधिकार को तोड़ने के लिए जल्दी से QwQ-32B पर आधारित एक अनुकूलित कार्यक्रम का निर्माण कर सकते हैं। उदाहरण के लिए, स्थानीय रूप से चिकित्सा क्षेत्र में तैनात मॉडल बादलों पर भरोसा किए बिना संवेदनशील रोगी डेटा को संभाल सकते हैं।

निष्कर्ष

QwQ-32B की रिहाई सिर्फ एक तकनीकी सफलता नहीं है, बल्कि ओपन सोर्स पारिस्थितिक और व्यावसायिक मॉडल में व्यापक नवाचार है। यह सीखने और खुफिया निकायों के एकीकरण को बढ़ाकर छोटे पैरामीटर मॉडल के प्रदर्शन में एक लीप आगे हासिल करता है; और पूर्ण स्रोत और कम लागत वाली तैनाती के माध्यम से एआई अनुप्रयोगों के प्रतिस्पर्धी पैटर्न को फिर से इंजीनियर किया। भविष्य में, मॉडल AGI प्रक्रिया को आगे बढ़ाने में एक महत्वपूर्ण मील का पत्थर होगा जिसमें $380 बिलियन AI इन्फ्रास्ट्रक्चर इनपुट की लैंडिंग होगी।