Deutsch

← Zurück zur Liste

QwQ-32B großes Modell des Ali Open Source: Kleine Parameter pry große Leistung, Training Kosten 1/10 von DeepSeek r1

itadol5j

Viele Leute feuern heute einen "allgemeinen Geheimdienst" Manus ab, aber ich denke, dass das neue QwQ-32B-Modell, das Ali gerade eröffnet hat, noch mehr wert ist, nach ihm zu suchen.

QwQ-32B großes Modell des Ali Open Source: Kleine Parameter pry große Leistung, Training Kosten 1/10 von DeepSeek r1

I. Kerndurchbrüche und technologische Innovationen in QwQ-32B

Aliyun veröffentlichte und eröffnete am 6. März 2025 eine neue Generation von Argumentationsmodellen, QwQ-32B, mit dem Ziel:32 Mrd. ParameterEs ist eine sehr einfache Skala, erreicht durch verbesserte LerntechnikenDeepSeek-R1 für 671 Milliarden ParameterGleichwertige Leistung, auch in bestimmten Bereichen. Die folgenden sind seine Kern-Highlights:

  1. Parametereffizienzrevolution
    Der QwQ-32B Parameter ist nur DeepSeek-R11/21, aber durchZweistufiges intensives Lernen (RL)Die Machbarkeit der Technologieroute „Small Model + Enhanced Learning wurde durch Schulungen validiert, die auf oder über letztere in Aufgaben wie mathematischem Denken (AIME24-Bewertung) und Codegenerierung (LiveCodeBench) durchgeführt wurden. Dieses Design bricht den Weg der traditionellen Abhängigkeit von Parametern und markiert die Verschiebung des KI-Modells von "Skalenwettbewerb" zu "Effizienzoptimierung".
  2. Fähigkeit des Agenten zur Integration und dynamische Argumentation
    Zum ersten Mal wurde das Modell tief in das Argumentationsmodell integriert.Smart Agency FähigkeitenUnterstützungswerkzeuge für Mobilisierung, kritisches Denken und dynamische Schlussfolgerungsanpassungen, die durch Umweltfeedback angetrieben werden. Zum Beispiel ruft das Modell bei der Behandlung mehrstufiger mathematischer Probleme das Computertool automatisch auf, um Zwischenergebnisse zu validieren, und optimiert die endgültige Antwort durch Feedback-Zyklen. Diese Kapazität macht es flexibler und zuverlässiger im Umgang mit komplexen Mandaten.
  3. Kostengünstige Bereitstellung und inklusive Anwendungen
    QwQ-32B unterstütztGrafikkarten im Verbrauchermaßstab (z. B. NVIDIA RTX 4070)Lokal eingesetzt, nur DeepSeek-R1 Abzug Kosten.1/10(Die einzelnen Ausgabekosten betragen etwa 0,25 US-Dollar), was die Schwelle für Unternehmensanwendungen deutlich senkt. Diese Eigenschaft ist besonders für datensensible Szenarien wie medizinische, finanzielle und periphere Computer relevant.
  4. Technologische Durchbrüche für verbessertes Lernen
    Das Ali-Team lehnte das traditionelle Belohnungsmodell ab und nahm es an.Phased RL Trainingsstrategie:
    • Phase I: Bei mathematischen und Programmieraufgaben wird die Richtigkeit der Antwort direkt über den Code verifiziert und die Trainingseffizienz erhöht.
    • Phase IIEinführung von generischen Anreizmodellen und Regelzertifizierern, um die Fähigkeiten von Modellen in generischen Missionen zu erweitern und gleichzeitig die mathematische und programmierbare Leistung zu erhalten. Die Studie zeigte, dass RL-Trainingsrunden die Leistung des konstanten Upgrade-Modells erhöhten, das die Methode validierte.

Integrierter Vergleich von Mainstream-Modellen

Vergleichen Sie QwQ-32B aus mehreren Dimensionen mit anderen Mainstream-Modellen (DeepSeek-R1, OpenAI o1-Mini, Meta Llama3-400B):

Abmessungen QwQ-32B DeepSeek-R1 OpenAI o1-mini Meta Llama3-400B
Argumente 32 Milliarden Dollar. 671 Mrd. (aktiviert 37 Mrd.) Es sind ungefähr hundert Milliarden. 40 Milliarden.
Schulungsmethoden Zweistufiges intensives Lernen (Mathematik/Programmierung generisch) Gemischtes Expertenmodell (MoE) Überwachung des Lernens Self-return Pre-Training + Kommando Feinabstimmung
Kritische Fähigkeiten Mathematische Argumentation, Codegenerierung ist die gleiche wie R1. Es ist eines der besten. Häufigere Aufgaben, schwächere Mathematik/Code Mehrsprachige Unterstützung für Exzellenz, moderate Argumentation
Bereitstellungskosten Consumer-Grafikkarten zu einem Preis von 0,25 $ / Kilotoken Beruf, Kosten $2.5/Kilotoken Cloud API Call, höhere Kosten. High-End-GPU-Cluster erforderlich
Open Source Ökologie Apache 2.0 Protokoll, vollständige Plattform Open Source Teilweise Open Source Geschlossen Open-Source-Communities sind aktiv, mit weniger Derivatemodellen
Agentenkapazität Support Tool Calls, dynamische Argumentationsanpassungen Keine angegebene Integration Begrenzter Tool Support Keine

Leistungsprüfung helle Flecken

  • Mathematisches Denken (AIME24): QwQ-32B ist das gleiche wie DeepSeek-R1 und deutlich überlegen zu o1-mini.
  • Codegenerierung (LiveCodeBench)QwQ-32B ist mit R1 vergleichbar und übertrifft das Destillationsmodell gleicher Größe um mehr als 50%.
  • LifeBechQwQ-32B überschreitet R1 (70) um 72,5 Punkte, nahe an o3-mini (75) zu einem Preis von nur 1/20.

Detaillierte Schritte zum Einsatz von QwQ-32B mit olama

QwQ-32B großes Modell des Ali Open Source: Kleine Parameter pry große Leistung, Training Kosten 1/10 von DeepSeek r1

Olama ist ein lokales Tool, um LLM zu betreiben. Im Folgenden finden Sie Schritte zum Installieren und Bereitstellen von QwQ-32B:

QwQ-32B großes Modell des Ali Open Source: Kleine Parameter pry große Leistung, Training Kosten 1/10 von DeepSeek r1
  1. Download
  2. Olama installieren:
    • Führt die herunterladbare ausführbare Datei aus, um die Installation abzuschließen.
  3. Starten Sie olama server:
    • Offenes Terminal, Befehle ausführen ollama serveIch weiß es nicht.
  4. QwQ-32B Modelle zeichnen:
    • Verwendungsbefehl ollama pull QwQ:32b Laden Sie das Modell herunter.
QwQ-32B großes Modell des Ali Open Source: Kleine Parameter pry große Leistung, Training Kosten 1/10 von DeepSeek r1
  1. Laufmodelle:
    • Verwendung ollama run QwQ:32b --input "你的提示" Interagieren Sie mit Modellen.

Open-Source-Ökologie und Community-Auswirkungen

  1. Alle Open Source und Entwickler-Support
    QwQ-32B Open Source des Apache 2.0-Protokolls, das Plattformen wie Hugging Face, ModelScope, Magic Community usw. abdecktLokale Bereitstellungstoolkette (z. B. Ollama)undCloud API Service (Plattform)Ich weiß es nicht. Entwickler können Modelle schnell verfeinern, Deployments bewerten und containerisieren (z.B. über die Aliyun PAI Plattform).
  2. Die weltweit größte Open Source Model Community
    Seit 2023 wurden mehr als 200 Modelle in Ali eröffnet, die alle modularen Formen von Text, Vision, Stimme usw. abdecken und von 0,5B bis 110B reichen. Die Anzahl der Derivatemodelle der Qwen-Serie hat 100.000 überschritten und ist damit über die Llama-Serie hinaus zum größten Open-Source-Modellcluster weltweit geworden. So wurden beispielsweise das visuelle Erzeugungsmodell „one-size-fits-all“ und das Codemodell „peripheric code“ weitgehend in die Industrielandschaft integriert.
  3. Reaktion der Gemeinschaft und Geschäftswert
    Am selben Tag stieg der Kurs der Ali-Aktie um 7 Prozent pro Tag, was das Vertrauen des Kapitalmarktes in Technologielandungen widerspiegelt. Die Open-Source-Strategie fördert den ökologischen Wohlstand von Entwicklern, mit schnellen Rückgängen von QwQ-32B in der Hugging Face-Community, mit derivativen Anwendungen in Bereichen wie Bildung, Finanzen und Gesundheit.

IV. Auswirkungen auf den Sektor und künftige Perspektiven

  1. Technischer Paradigmenwechsel
    Der Erfolg von QwQ-32B ist ein Beweis dafür, dass sich die KI-Forschung von einem „gemischten Wunder“ zu einer „genauen Weisheit“ entwickelt, dass die Parametergröße nicht mehr der einzige Indikator ist und dass die Optimierung von Algorithmen und Trainingsmethoden im Mittelpunkt steht. Zum Beispiel bietet die Wiederbelebung des erweiterten Lernens neue Ideen für den AGI-Pfad.
  2. Die Erforschung von Intelligenz und langfristiges Denken
    Ali plant, die Intelligenzfähigkeiten weiter zu integrieren und zu erkundenLangfristige ArgumentationZum Beispiel werden komplexe Planungsprobleme in mehreren Runden von Umgebungen angesprochen. Dies wird die Entwicklung von KI von „Tools“ zu „Kollaborativen Partnern“ erleichtern.
  3. Open Source Wettbewerb und inklusive Trends
    Die Quantifizierung von Licht und die kostengünstige Bereitstellungskapazität des Modells beschleunigen die technologische Einbeziehung von KI, und KMU können schnell ein maßgeschneidertes Programm auf Basis von QwQ-32B aufbauen, um das Megakalkulationsmonopol zu durchbrechen. So können lokal eingesetzte Modelle im medizinischen Bereich mit sensiblen Patientendaten umgehen, ohne auf Clouds angewiesen zu sein.

Abschließende Bemerkungen

Die Veröffentlichung von QwQ-32B ist nicht nur ein technologischer Durchbruch, sondern eine umfassende Innovation in Open-Source-Ökologie- und Geschäftsmodellen. Es erreicht einen Sprung in der Leistung von Small-Parameter-Modellen, indem es die Integration von Lern- und Geheimdiensten verbessert und das Wettbewerbsmuster von KI-Anwendungen durch die Full-Source- und Low-Cost-Bereitstellungen neu gestaltet. In Zukunft wird das Modell ein wichtiger Meilenstein sein, um den AGI-Prozess mit der Landung der KI-Infrastruktur in Höhe von 380 Milliarden US-Dollar voranzutreiben.