QwQ-32B stor modell av Ali Open Source: Små Parametrar pry stora prestanda, utbildning kostar 1/10 av DeepSeek r1

Många människor skjuter en "allmän intelligens" Manus idag, men jag tror att den nya QwQ-32B-modellen som Ali just har öppnat är ännu mer värd att söka efter.

I. Kärngenombrott och teknisk innovation i QwQ-32B

Aliyun släppte och öppnade en ny generation resonemangsmodeller, QwQ-32B, den 6 mars 2025, i syfte att:32 miljarder parametrarDet är en mycket enkel skala, uppnås genom förbättrade inlärningsteknikerDeepSeek-R1 för 671 miljarder parametrarLikvärdig prestanda, även i vissa områden. Följande är dess kärnhöjdpunkter:

Parametereffektivitet revolution
QwQ-32B-parametern är bara DeepSeek-R11/21Men genomTvåstegs intensivt lärande (RL)Möjligheten av teknikrutten "Small Model + Enhanced Learning" validerades av utbildning, som utfördes på eller bortom den senare i uppgifter som matematisk resonemang (AIME24 bedömning) och kodgenerering (LiveCodeBench). Denna design bryter vägen för traditionellt beroende på stapling av parametrar och markerar förändringen av AI-modellen från "skala konkurrens" till "effektivitetsoptimering".
Agents kapacitet för integration och dynamisk resonemang
För första gången integrerades modellen djupt i resonemangsmodellen.Smart Agency kapacitetStödverktyg för mobilisering, kritiskt tänkande och dynamiska resonemangsjusteringar som drivs av miljöåterkoppling. Till exempel, för att ta itu med multistegs matematiska problem, kallar modellen automatiskt datorverktyget för att validera mellanliggande resultat och optimerar det slutliga svaret genom återkopplingscykler. Denna kapacitet gör den mer flexibel och tillförlitlig i hanteringen av komplexa mandat.
Lågkostnadsutplacering och inkluderande applikationer
QwQ-32B stöderKonsumentskala grafiska kort (t.ex. NVIDIA RTX 4070)Lokalt utplacerade, endast DeepSeek-R1 avdragskostnad.1/10(Den inre produktionskostnaden är cirka 0,25 USD), vilket avsevärt sänker tröskeln för företagsapplikationer. Denna funktion är särskilt relevant för datakänsliga scenarier som medicinska, finansiella och perifera datorer.
Tekniska genombrott för förbättrat lärande
Ali-teamet avvisade den traditionella belöningsmodellen och antog den.Phased RL utbildningsstrategiFrån:
- Fas IFör matematiska och programmeringsuppgifter verifieras korrektheten av svaret direkt via koden och träningseffektiviteten förbättras.
- Fas IIIntroduktion av generiska incitamentsmodeller och regelcertifierare för att utöka kapaciteten hos modeller i generiska uppdrag samtidigt som man behåller matematisk och programmeringsprestanda. Studien visade att RL-träningsrundor ökade prestandan hos den ständiga uppgraderingsmodellen, som validerade metoden.

Integrerad jämförelse av vanliga modeller

Jämför QwQ-32B från flera dimensioner med andra vanliga modeller (DeepSeek-R1, OpenAI o1-Mini, Meta Llama3-400B):

Dimensioner	QwQ-32B	DeepSeek-R1	OpenAI O1-mini	Meta Llama3-400B
Argument	32 miljarder dollar.	671 miljarder (aktiverat 37 miljarder)	Det är cirka hundra miljarder.	40 miljarder.
Utbildningsmetoder	Tvåstegs intensivt lärande (matematik/programmering generisk)	Blandad expertmodell (MoE)	Övervakning av lärande	Self-return pre-training + kommando finjustering
Kritiska möjligheter	Matematisk resonemang, kodgenerering är densamma som R1.	Det är en av de bästa.	Fler vanliga uppgifter, svagare matematik/kod	Flerspråkigt stöd för excellens, måttlig resonemang
Utplaceringskostnader	Konsumentkvalitet grafikkort till en kostnad av $ 0,25/kilotoken	Profession, kostar $ 2,5/kilotoken	Cloud API call, högre kostnad.	High-end GPU-kluster krävs
Open source ekologi	Apache 2.0 protokoll, full plattform öppen källkod	Partiell öppen källkod	Stängt	Open-source-samhällen är aktiva, med färre derivatmodeller
Agentkapacitet	Supportverktygssamtal, dynamiska resonemangsjusteringar	Ingen specificerad integration	Begränsat verktygsstöd	Ingen

Prestanda test ljusa fläckar

Matematiska resonemang (AIME24)QwQ-32B är densamma som DeepSeek-R1 och betydligt överlägsen o1-mini.
Kodgenerering (LiveCodeBench)QwQ-32B är jämförbar med R1 och överstiger samma storleksdestillationsmodell med mer än 50 %.
LifeBechQwQ-32B överstiger R1 (70) med 72,5 poäng, nära o3-mini (75) till en kostnad av endast 1/20.

Detaljerade steg för att distribuera QwQ-32B med olama

olama är ett lokalt verktyg för att köra LLM. Följande är steg för att installera och distribuera QwQ-32B:

Ladda ner
- Besök llama av social webbplatsLadda ner körbarheten enligt operativsystemet.
Installera olama:
- Kör nedladdningsbar körbar för att slutföra installationen.
Starta olama server:
- Öppen terminal, kör kommandon ollama serveJag vet inte.
Rita QwQ-32B-modeller:
- Använd kommandot ollama pull QwQ:32b Ladda ner modellen.

Kör modeller:
- Användning ollama run QwQ:32b --input "你的提示" Interagera med modeller.

Open source ekologi och samhällspåverkan

All Open Source och Developer Support
QwQ-32B Open Source av Apache 2.0-protokollet, som täcker plattformar som Hugging Face, ModelScope, Magic Community etc.Lokal distributionsverktygskedja (t.ex. Ollama)ochCloud API Service (Plattform)Jag vet inte. Utvecklare kan snabbt finjustera modeller, utvärdera och behålla distributioner (t.ex. via Aliyun PAI-plattformen).
Världens största open source-modellgemenskap
Sedan 2023 har mer än 200 modeller öppnats i Ali, som täcker all-modulära former av text, vision, röst etc., allt från 0,5B till 110B. Antalet derivatmodeller i Qwen-serien har överstigit 100 000, som går bortom Llama-serien till det största open source-modellklustret globalt. Exempelvis har den visuella generationsmodellen "one-size-fits-all" och kodmodellen "periferkod" blivit allmänt integrerad i industrilandskapet.
Gemenskapens svar och affärsvärde
Samma dag ökade priset på Ali-aktien med 7 procent per dag, vilket återspeglar kapitalmarknadens förtroende för tekniklandningar. Den öppna källkodsstrategin främjar det ekologiska välståndet hos utvecklare, med snabba droppar QwQ-32B i Hugging Face-gemenskapen, med derivatapplikationer som täcker områden som utbildning, ekonomi och hälsa.

IV. sektorns konsekvenser och framtidsutsikter

Tekniskt paradigmskifte
Framgången för QwQ-32B är bevis för att AI R & D flyttar från ett "blandat mirakel" till en "exakt visdom", att parameterstorlek inte längre är den enda indikatorn, och att optimering av algoritmer och träningsmetoder är det nya fokuset. Till exempel ger återupplivningen av förbättrad inlärning nya idéer för AGI-vägen.
Utforskning av intelligens och långsiktig resonemang
Ali planerar att ytterligare integrera intelligenskapacitet och utforskaLångsiktig resonemangExempelvis hanteras komplexa planeringsfrågor i flera omgångar av miljöer. Detta kommer att underlätta utvecklingen av AI från "verktyg" till "samarbetspartners".
Öppen källkonkurrens och inkluderande trender
Den lätta kvantifieringen och lågkostnadsutbyggnadskapaciteten för modellen accelererar den tekniska inkluderingen av AI, och små och medelstora företag kan bygga upp ett anpassat program baserat på QwQ-32B snabbt för att bryta megaberäkningarna monopol. Till exempel kan lokalt utplacerade modeller inom det medicinska området hantera känsliga patientdata utan att behöva förlita sig på moln.

Avslutande kommentarer

Frisläppandet av QwQ-32B är inte bara ett tekniskt genombrott, utan en omfattande innovation i open-source ekologiska och affärsmodeller. Det uppnår ett språng framåt i prestanda av små-parameter modeller genom att förbättra integrationen av inlärnings- och underrättelseorgan; och omkonstruerade det konkurrenskraftiga mönstret av AI-applikationer genom hela källan och låg kostnad utplaceringar. I framtiden kommer modellen att vara en viktig milstolpe för att flytta AGI-processen framåt med landningen av AI-infrastrukturinsatsen på 380 miljarder dollar.