Čeština

← Zpět na seznam

QwQ-32B velký model Ali Open Source: Malé parametry vry velký výkon, školení náklady 1 / 10 DeepSeek r1

itadol5j

Mnoho lidí dnes vyhazuje "všeobecnou inteligenci" Manuse, ale myslím, že nový model QwQ-32B, který Ali právě otevřel, stojí za to hledat.

QwQ-32B velký model Ali Open Source: Malé parametry vry velký výkon, školení náklady 1 / 10 DeepSeek r1

I. Hlavní průlomy a technologické inovace v QwQ-32B

Aliyun vydal a otevřel novou generaci modelů uvažování, QwQ-32B, 6. března 2025, s cílem:32 miliard parametrůJe to velmi jednoduché měřítko, dosažené díky zdokonaleným učením.DeepSeek- R1 pro 671 miliard parametrůEkvivalentní výkon, dokonce i v určitých oblastech. Níže jsou uvedeny hlavní body:

  1. Přechod účinnosti parametru
    Parametr QwQ-32B je pouze DeepSeek- R11/21, ale skrzIntenzivní učení ve dvou etapách (RL)proveditelnost technologické trasy "Small Model + Enhanced Learning" byla ověřena odbornou přípravou, která byla provedena na této trase nebo mimo ni v úkolech, jako je matematické uvažování (posouzení AIME24) a vytváření kódů (LiveCodeBench). Tento design narušuje cestu tradičního spoléhání se na skládání parametrů a označuje posun modelu AI od "škálové soutěže" k "optimalizaci účinnosti".
  2. Kapacita agenta pro integraci a dynamické uvažování
    Model byl poprvé začleněn hluboko do modelu uvažování.Smart Agency Schopnost, podpůrné nástroje pro mobilizaci, kritické myšlení a dynamické úpravy uvažování v důsledku zpětné vazby od životního prostředí. Například při řešení vícestupňových matematických otázek model automaticky volá počítačový nástroj, aby potvrdil mezilehlé výsledky a optimalizoval konečnou odpověď prostřednictvím zpětných cyklů. Díky této kapacitě je flexibilnější a spolehlivější při vyřizování složitých mandátů.
  3. Využití nízkých nákladů a inkluzivní aplikace
    QwQ-32B podporujeGrafické karty v měřítku spotřebitele (např. NVIDIA RTX 4070)Lokálně rozmístěné, pouze náklady na dedukci DeepSeek- R1.1/10(Jednotné výstupní náklady jsou přibližně 0,25 USD), což významně snižuje práh pro podnikové aplikace. Tato funkce je důležitá zejména pro scénáře citlivé na data, jako jsou lékařská, finanční a periferní výpočetní zařízení.
  4. Technologické průlomy pro zdokonalené učení
    Aliho tým odmítl tradiční model odměny a přijal ho.Strategie postupného výcviku RL:
    • Fáze I: Pro matematické a programovací úkoly je správnost odpovědi ověřena přímo prostřednictvím kódu a účinnost výcviku se zvyšuje.
    • Fáze II: Zavedení generických pobídkových modelů a rulecertifikátorů pro rozšíření schopností modelů v generických misích při zachování matematické a programové výkonnosti. Studie ukázala, že výcviková kola RL zvýšila výkonnost modelu konstantní modernizace, který metodu validoval.

Integrované srovnání modelů hlavního proudu

Porovnejte QwQ-32B z více rozměrů s dalšími modely hlavního proudu (DeepSeek- R1, OpenAI o1-Mini, Meta Llama3-400B):

Rozměry QwQ-32B DeepSeek- R1 OpenAI o1- mini Meta Llama3-400B
Argumenty 32 miliard dolarů. 671 miliard (aktivováno 37 miliard) Je to asi sto miliard. 40 miliard.
Metody výcviku Intenzivní učení ve dvou etapách (matematika / programování generické) Model smíšeného odborníka (MoE) Dohled nad vzděláváním Self- return pre- training + command fine- ladění
Kritické schopnosti Matematické uvažování, generování kódu je stejné jako R1. Je to jeden z nejlepších. Další společné úkoly, slabší matematika / kód Vícejazyčná podpora excelence, umírněné uvažování
Náklady na nasazení Grafické karty konzumního stupně za cenu 0,25 dolaru / kilotoken Profese, náklady $2.5 / kilotoken Cloud API volá, vyšší náklady. Požadovaný high- end GPU cluster
Ekologie otevřených zdrojů Apache 2.0 protokol, plná platforma open source Částečný open source Zavřeno Opensource komunity jsou aktivní, s méně derivátových modelů
Kapacita agenta Výzvy podpůrných nástrojů, dynamické úpravy uvažování Žádná specifikovaná integrace Omezená podpora nástroje Žádné

Zkouška výkonnosti světlé skvrny

  • Matematická úvaha (AIME24): QwQ-32B je stejný jako DeepSeek- R1 a výrazně lepší než o1-mini.
  • Generace kódu (LiveCodeBench): QwQ-32B je srovnatelná s R1, větší než stejný velikost destilačního modelu o více než 50%.
  • LifeBech: QwQ-32B přesahuje R1 (70) o 72,5 bodu, v blízkosti o3mini (75) za cenu pouze1 /20.

Podrobné kroky k nasazení QwQ-32B pomocí olama

QwQ-32B velký model Ali Open Source: Malé parametry vry velký výkon, školení náklady 1 / 10 DeepSeek r1

Olama je místní nástroj pro vedení LLM. Následující kroky k instalaci a nasazení QwQ-32B:

QwQ-32B velký model Ali Open Source: Malé parametry vry velký výkon, školení náklady 1 / 10 DeepSeek r1
  1. Stáhnout
  2. Nainstalujte Olama:
    • Spustí stažitelné provedení k dokončení instalace.
  3. Spustit Olama server:
    • Otevřít terminál, spustit příkazy ollama serveNevím.
  4. Kreslit modely QwQ-32B:
    • Použít příkaz ollama pull QwQ:32b Stáhněte si model.
QwQ-32B velký model Ali Open Source: Malé parametry vry velký výkon, školení náklady 1 / 10 DeepSeek r1
  1. Spustit modely:
    • Použití ollama run QwQ:32b --input "你的提示" Interakce s modelkami.

Ekologie otevřených zdrojů a dopady společenství

  1. All Open Source and Developer Support
    QwQ-32B Open Source of the Apache 2.0 protocol, cover platforms, jako je objímací tvář, ModelScope, Magic Community, atd.Místní řetězec nástrojů pro nasazení (např. Ollama)aCloud API Service (platforma)Nevím. Vývojáři mohou rychle zdokonalit modely, vyhodnotit a absorbovat nasazení (např. prostřednictvím platformy Aliyun PAI).
  2. Největší komunita open source modelu na světě
    Od roku 2023 bylo v Ali otevřeno více než 200 modelů, které pokrývají všechny modulární formy textu, vidění, hlasu atd., od 0,5B do 110B. Počet derivátových modelů řady Qwen překročil 100 000, což se přesunulo za sérii Llama do největšího celosvětového modelu open source. Například model vizuální generace "one-size-fits- all" a kódový model "periferní kód" byly široce začleněny do průmyslové krajiny.
  3. Reakce Společenství a obchodní hodnota
    Ve stejný den cena akcií Ali vzrostla o 7% denně, což odráží důvěru kapitálového trhu v vylodění technologií. Strategie open source podporuje ekologickou prosperitu developerů s rychlým poklesem QwQ-32B v komunitě Objímající tvář, s derivátovými aplikacemi pokrývajícími oblasti, jako je vzdělávání, finance a zdraví.

IV. Důsledky odvětví a budoucí vyhlídky

  1. Technická změna paradigmatu
    Úspěch QwQ-32B je důkazem toho, že se AI R & D přesouvá z "smíšeného zázraku" na "přesnou moudrost", že velikost parametru již není jediným ukazatelem a že optimalizace algoritmů a metod výcviku je novým zaměřením. Obnovení zdokonaleného učení například přináší nové nápady pro cestu AGI.
  2. Průzkum inteligence a dlouhodobé úvahy
    Ali plánuje dále integrovat zpravodajské schopnosti a prozkoumatDlouhodobé odůvodněníNapříklad složité otázky plánování se řeší v několika kolech prostředí. To usnadní vývoj AI od "nástrojů" až po "spolupracujících partnerů".
  3. Konkurence otevřených zdrojů a inkluzivní trendy
    Light kvantification and low-cost employment capacity of the model aspart the technological inclusion of AI, and SMEs can build up a customized programme based on QwQ-32B full to break the mega- calculations monopoly. Například místně rozmístěné modely v oblasti medicíny mohou zacházet s citlivými údaji o pacientech, aniž by se musely spoléhat na mraky.

Závěrečné poznámky

Uvolnění QwQ-32B není pouhým technologickým průlomem, ale komplexní inovací v otevřených ekologických a obchodních modelech. Dosahuje posunu vpřed ve výkonu modelů s malými parametry tím, že zvyšuje integraci vzdělávacích a zpravodajských orgánů a přepracovává konkurenční model aplikací AI prostřednictvím nasazení plného zdroje a nízkých nákladů. V budoucnosti bude tento model klíčovým milníkem při posunu procesu AGI vpřed s přistáním vstupu do infrastruktury v hodnotě 380 miliard dolarů.