Nederlands

← Terug naar overzicht

QwQ-32B groot model van de Ali Open Bron: Kleine Parameters pry grote prestaties, training kosten 1/10 van DeepSeek r1

itadol5j

Veel mensen ontslaan vandaag een "algemene intelligentie" Manus, maar ik denk dat het nieuwe QwQ-32B model dat Ali net heeft geopend nog meer de moeite waard is om naar te zoeken.

QwQ-32B groot model van de Ali Open Bron: Kleine Parameters pry grote prestaties, training kosten 1/10 van DeepSeek r1

I. Kerndoorbraken en technologische innovatie in QwQ-32B

Aliyun heeft op 6 maart 2025 een nieuwe generatie redenerende modellen, QwQ-32B, uitgebracht en geopend met het oog op:32 miljard parametersHet is een zeer eenvoudige schaal, bereikt door verbeterde leertechniekenDeepSeek-R1 voor 671 miljard parametersGelijkwaardige prestaties, zelfs op bepaalde gebieden. De kernpunten zijn:

  1. Parameter-efficiëntierevolutie
    De QwQ-32B parameter is alleen DeepSeek-R11/21, maar doorIntensief leren in twee fasen (RL)De haalbaarheid van de "Small Model + Enhanced Learning" technologie route werd gevalideerd door middel van training, die werd uitgevoerd op of voorbij de laatste in taken zoals wiskundig redeneren (AIME24 assessment) en code generation (LiveCodeBench). Dit ontwerp breekt het pad van de traditionele afhankelijkheid van het stapelen van parameters en markeert de verschuiving van de AI-model van de schaal competitie .
  2. Het vermogen van de agent tot integratie en dynamische redenering
    Voor het eerst werd het model diep in het model geïntegreerd.Vermogen van het Slimme Agentschap, ondersteuningsinstrumenten voor mobilisatie, kritisch denken en dynamische redeneringsaanpassingen die worden veroorzaakt door milieufeedback. Bijvoorbeeld, bij het aanpakken van multi-step wiskundige kwesties, het model roept automatisch de computer tool te valideren tussenresultaten en optimaliseert het uiteindelijke antwoord door middel van feedback cycli. Deze capaciteit maakt het flexibeler en betrouwbaarder in de afhandeling van complexe mandaten.
  3. Uitrol tegen lage kosten en inclusieve toepassingen
    QwQ-32B ondersteuntGrafische kaarten op consumentenschaal (bv. NVIDIA RTX 4070)Lokaal ingezet, alleen DeepSeek-R1-aftrekkosten.1/10(De enige productiekosten zijn ongeveer US$ 0,25), wat de drempel voor bedrijfstoepassingen aanzienlijk verlaagt. Deze functie is met name relevant voor gegevensgevoelige scenario's zoals medische, financiële en perifere computerapparatuur.
  4. Technologische doorbraken voor beter leren
    Het Ali team verwierp het traditionele beloningsmodel en adopteerde het.Gefaseerde RL-opleidingsstrategie:
    • Fase I: Voor wiskundige en programmeertaken wordt de correctheid van het antwoord direct gecontroleerd via de code en wordt de trainingsefficiëntie verbeterd.
    • Fase II: Invoering van algemene stimuleringsmodellen en regel-certificatoren om de mogelijkheden van modellen in generieke missies uit te breiden met behoud van wiskundige en programmeerprestaties. Uit de studie bleek dat RL-trainingsronden de prestaties van het model voor constante upgrade verhoogden, waardoor de methode werd gevalideerd.

Geïntegreerde vergelijking van standaardmodellen

Vergelijk QwQ-32B vanuit meerdere dimensies met andere mainstream modellen (DeepSeek-R1, OpenAI o1-Mini, Meta Llama3-400B):

Afmetingen QwQ-32B DeepSeek-R1 OpenAI o1-mini Meta Llama3-400B
Argumenten 32 miljard dollar. 671 miljard (geactiveerd 37 miljard) Het is ongeveer honderd miljard. 40 miljard.
Opleidingsmethoden Intensive learning in twee fasen (wiskunde/programmering generiek) Gemengd deskundigenmodel (MoE) Toezicht op het leren Zelf-terugkeer pre-training + commando fine-tuning
Kritische vermogens Wiskundige redenering, code generatie is hetzelfde als R1. Het is een van de beste. Meer voorkomende taken, zwakkere wiskunde/code Meertalige steun voor uitmuntendheid, gematigde redenering
Inzetkosten Grafische kaarten van consumentenkwaliteit tegen een prijs van $0,25/kilotoken Beroep, kost $2,5/kilotoken Cloud API oproep, hogere kosten. High-end GPU cluster vereist
Open bron ecologie Apache 2.0 protocol, volledige platform open source Gedeeltelijke open bron Gesloten Opensource gemeenschappen zijn actief, met minder afgeleide modellen
Agentcapaciteit Hulpmiddeloproepen, dynamische redeneeraanpassingen Geen gespecificeerde integratie Beperkte gereedschapsondersteuning Geen

Prestatietest heldere plekken

  • Wiskundige redenering (AIME24)QwQ-32B is hetzelfde als DeepSeek-R1 en is aanzienlijk superieur aan o1-mini.
  • Codegeneratie (LiveCodeBench): QwQ-32B is vergelijkbaar met R1, met meer dan 50% meer dan hetzelfde distillatiemodel.
  • LifeBech: QwQ-32B overschrijdt R1 (70) met 72,5 punten, dicht bij o3-mini (75) tegen een kostprijs van slechts 1/20.

Gedetailleerde stappen om QwQ-32B te implementeren met behulp van olama

QwQ-32B groot model van de Ali Open Bron: Kleine Parameters pry grote prestaties, training kosten 1/10 van DeepSeek r1

Olama is een lokaal hulpmiddel om LLM te draaien. De volgende stappen zijn om QwQ-32B te installeren en te implementeren:

QwQ-32B groot model van de Ali Open Bron: Kleine Parameters pry grote prestaties, training kosten 1/10 van DeepSeek r1
  1. Downloaden
  2. Olama installeren:
    • Draait het downloadbare uitvoerbare programma om de installatie te voltooien.
  3. Olama-server starten:
    • Terminal openen, commando's uitvoeren ollama serveIk weet het niet.
  4. Teken QwQ-32B modellen:
    • Opdracht gebruiken ollama pull QwQ:32b Download het model.
QwQ-32B groot model van de Ali Open Bron: Kleine Parameters pry grote prestaties, training kosten 1/10 van DeepSeek r1
  1. Start modellen:
    • Gebruik ollama run QwQ:32b --input "你的提示" Interact met modellen.

Open source ecologie en impact op de gemeenschap

  1. Alle ondersteuning voor open bron en ontwikkelaar
    QwQ-32B Open Source van het Apache 2.0 protocol, die platforms zoals Hugging Face, ModelScope, Magic Community, enz.Lokaal inzetgereedschap (bv. Ollama)enCloud API Service (Platform)Ik weet het niet. Ontwikkelaars kunnen snel modellen verfijnen, de implementaties evalueren en containeriseren (bijvoorbeeld via het Aliyun PAI-platform).
  2. De grootste open source modelgemeenschap ter wereld
    Sinds 2023 zijn er meer dan 200 modellen geopend in Ali, die alle-modulaire vormen van tekst, visie, stem, enz. omvatten, variërend van 0,5B tot 110B. Het aantal afgeleide modellen van de Qwen-serie is meer dan 100.000, en gaat verder dan de Llama-serie in de grootste open source model cluster wereldwijd. Zo zijn bijvoorbeeld het visuele generatiemodel "one-size-fits-all" en het codemodel "periferische code" op grote schaal geïntegreerd in het industriële landschap.
  3. Communautaire respons en bedrijfswaarde
    Op dezelfde dag steeg de prijs van de Ali-voorraad met 7% per dag, wat het vertrouwen van de kapitaalmarkt in de technologielandingen weerspiegelt. De open source strategie bevordert de ecologische welvaart van ontwikkelaars, met snelle dalingen van QwQ-32B in de Hugging Face gemeenschap, met afgeleide toepassingen die gebieden zoals onderwijs, financiën en gezondheid bestrijken.

IV. Gevolgen voor de sector en vooruitzichten

  1. Technische paradigmaverschuiving
    Het succes van QwQ-32B is het bewijs dat AI R & D verhuist van een gemengd wonder naar een exacte wijsheid. De parametergrootte is niet langer de enige indicator, en dat optimalisatie van algoritmen en trainingsmethoden de nieuwe focus is. Zo biedt de heropleving van verbeterd leren nieuwe ideeën voor het AGI-pad.
  2. Verkenning van inlichtingen en redenering op lange termijn
    Ali is van plan inlichtingencapaciteiten verder te integreren en te onderzoekenMotivering op lange termijnZo worden complexe planningskwesties in meerdere rondes van omgevingen aangepakt. Dit zal de evolutie van AI vergemakkelijken van "tools" tot "collaboratieve partners."
  3. Open-source concurrentie en inclusieve trends
    De lichte kwantificatie en lage kosten inzetcapaciteit van het model versnelt de technologische integratie van AI, en KMO's kunnen een op maat gemaakt programma op basis van QwQ-32B opbouwen snel om het mega-berekeningen monopolie te doorbreken. Zo kunnen lokaal geïmplementeerde modellen op medisch gebied gevoelige patiëntengegevens verwerken zonder op wolken te hoeven vertrouwen.

Conclusie

De release van QwQ-32B is niet alleen een technologische doorbraak, maar een uitgebreide innovatie in open-source ecologische en bedrijfsmodellen. Het bereikt een sprong voorwaarts in de prestaties van kleine parametermodellen door de integratie van leer- en intelligentie-instanties te verbeteren; en herontworpen het competitieve patroon van AI-toepassingen door de full-source en low-cost implementaties. In de toekomst zal het model een belangrijke mijlpaal zijn in het vooruitzetten van het AGI-proces met de landing van de infrastructuurinvoer van $380 miljard AI.