Italiano

← Torna all’elenco

Grande modello QwQ-32B dell'Ali Open Source: Piccoli Parametri a grandi prestazioni, costo di formazione 1/10 di DeepSeek r1

itadol5j

Un sacco di gente sta licenziando un "intelligenza generale" Manus oggi, ma penso che il nuovo modello QwQ-32B che Ali ha appena aperto sia ancora più degno di ricerca.

Grande modello QwQ-32B dell'Ali Open Source: Piccoli Parametri a grandi prestazioni, costo di formazione 1/10 di DeepSeek r1

I. Principali innovazioni e innovazione tecnologica nel QwQ-32B

Aliyun ha rilasciato e ha aperto una nuova generazione di modelli di ragionamento, QwQ-32B, il 6 marzo 2025, al fine di:32 miliardi di parametriÈ una scala molto semplice, ottenuta attraverso tecniche di apprendimento potenziateDeepSeek-R1 per 671 miliardi di parametriPrestazioni equivalenti, anche in determinate aree. I seguenti sono i suoi punti salienti principali:

  1. Rivoluzione dell'efficienza dei parametri
    Il parametro QwQ-32B è solo DeepSeek-R11/21, ma attraversoApprendimento intensivo a due fasi (RL)La fattibilità del percorso tecnologico “Small Model + Enhanced Learning” è stata convalidata dalla formazione, che è stata eseguita su o oltre quest’ultima in attività come il ragionamento matematico (valutazione AIME24) e la generazione di codice (LiveCodeBench). Questo progetto rompe il percorso di dipendenza tradizionale sull’impilamento dei parametri e segna lo spostamento del modello AI dalla “concorrenza su scala” alla “ottimizzazione dell’efficienza”.
  2. Capacità dell'agente di integrazione e ragionamento dinamico
    Per la prima volta, il modello è stato integrato nel modello di ragionamento.Capacità dell'agenzia intelligente, strumenti di supporto per la mobilitazione, il pensiero critico e le regolazioni di ragionamento dinamiche guidate dal feedback ambientale. Ad esempio, nell'affrontare questioni matematiche multi-step, il modello chiama automaticamente lo strumento di calcolo per convalidare i risultati intermedi e ottimizza la risposta finale attraverso i cicli di feedback. Questa capacità lo rende più flessibile e affidabile nella gestione di mandati complessi.
  3. Distribuzione a basso costo e applicazioni inclusive
    Supporti QwQ-32BCarte grafiche a scala di consumo (ad esempio NVIDIA RTX 4070)Localmente schierato, solo DeepSeek-R1 costo di deduzione.1/10(Il costo di uscita singolo è di circa US$ 0.25), che abbassa significativamente la soglia per le applicazioni aziendali. Questa funzione è particolarmente rilevante per gli scenari sensibili ai dati, come dispositivi medici, finanziari e periferici.
  4. I progressi tecnologici per l'apprendimento migliorato
    Il team Ali ha respinto il modello tradizionale di ricompensa e l'ha adottato.Strategia di formazione RL:
    • Fase I: Per i compiti matematici e di programmazione, la correttezza della risposta viene verificata direttamente tramite il codice e l'efficienza della formazione viene migliorata.
    • Fase II: Introduzione di modelli generici di incentivazione e di regola-certificatori per espandere le capacità dei modelli in missioni generiche pur mantenendo le prestazioni matematiche e di programmazione. Lo studio ha dimostrato che i turni di formazione RL hanno aumentato le prestazioni del modello di aggiornamento costante, che ha convalidato il metodo.

Confronto integrato dei modelli mainstream

Confronta QwQ-32B da dimensioni multiple con altri modelli mainstream (DeepSeek-R1, OpenAI o1-Mini, Meta Llama3-400B):

Dimensioni QwQ-32B DeepSeek-R1 OpenAI o1-mini Meta Llama3-400B
Argomenti 32 miliardi di dollari. 671 miliardi (attivato 37 miliardi) Sono circa cento miliardi. 40 miliardi.
Metodi di formazione Apprendimento intensivo a due fasi (matematica/programma generico) Modello esperto misto (MoE) Supervisione dell'apprendimento Auto-ritorno pre-formazione + comando fine-tuning
Capacità critiche Il ragionamento matematico, la generazione del codice è la stessa di R1. E' uno dei migliori. Compiti più comuni, matematica/codice più debole Supporto multilingue per eccellenza, ragionamento moderato
Costi di distribuzione Carte grafiche di livello di consumo a un costo di $0.25/kilotoken Professione, costo $2.5/kilotoken Chiamata API cloud, costo più alto. cluster GPU di fascia alta richiesto
Ecologia open source Protocollo Apache 2.0, open source piattaforma completa sorgente aperta parziale Chiuso Le comunità open source sono attive, con meno modelli derivati
Capacità dell'agente Chiamate degli strumenti di supporto, regolazioni di ragionamento dinamiche Nessuna integrazione specificata Supporto per utensili Nessuno

Test di prestazioni macchie luminose

  • ragionamento matematico (AIME24): QwQ-32B è lo stesso di DeepSeek-R1 e significativamente superiore a o1-mini.
  • Generazione di codice (LiveCodeBench): QwQ-32B è paragonabile a R1, superando la stessa dimensione del modello di distillazione di oltre il 50%.
  • LifeBech: QwQ-32B supera R1 (70) di 72.5 punti, vicino a o3-mini (75) ad un costo di soli 1/20.

Passi dettagliati per distribuire QwQ-32B utilizzando olama

Grande modello QwQ-32B dell'Ali Open Source: Piccoli Parametri a grandi prestazioni, costo di formazione 1/10 di DeepSeek r1

olama è uno strumento locale per eseguire LLM. I seguenti sono passaggi per installare e distribuire QwQ-32B:

Grande modello QwQ-32B dell'Ali Open Source: Piccoli Parametri a grandi prestazioni, costo di formazione 1/10 di DeepSeek r1
  1. Scarica
  2. Installare olama:
    • Esegue il eseguibile scaricabile per completare l'installazione.
  3. Avviare olama server:
    • Terminale aperto, comandi di esecuzione ollama serveNon lo so.
  4. Disegna modelli QwQ-32B:
    • Utilizzare il comando ollama pull QwQ:32b Scarica il modello.
Grande modello QwQ-32B dell'Ali Open Source: Piccoli Parametri a grandi prestazioni, costo di formazione 1/10 di DeepSeek r1
  1. Modelli di corsa:
    • Uso ollama run QwQ:32b --input "你的提示" Interagire con i modelli.

ecologia open source e impatti della comunità

  1. Tutto il supporto Open Source and Developer
    QwQ-32B Open Source del protocollo Apache 2.0, che copre piattaforme come Hugging Face, ModelScope, Magic Community, ecc.Catena degli strumenti di distribuzione locale (ad esempio Ollama)eServizio API cloud (Platform)Non lo so. Gli sviluppatori possono ottimizzare rapidamente i modelli, valutare e containerizzare le implementazioni (ad esempio attraverso la piattaforma Aliyun PAI).
  2. La più grande comunità di modelli open source del mondo
    Dal 2023, più di 200 modelli sono stati aperti in Ali, coprendo tutte le forme modulari di testo, visione, voce, ecc, che vanno da 0.5B a 110B. Il numero di modelli derivati della serie Qwen ha superato i 100.000, passando oltre la serie Llama nel più grande cluster open source a livello globale. Ad esempio, il modello di generazione visiva “one-size-fits-all” e il modello di codice “codice periferica” sono stati ampiamente integrati nel paesaggio industriale.
  3. Risposta comunitaria e valore aziendale
    Lo stesso giorno, il prezzo dello stock Ali è aumentato del 7 per cento al giorno, riflettendo la fiducia del mercato dei capitali negli sbarchi tecnologici. La strategia open source promuove la prosperità ecologica degli sviluppatori, con gocce rapide di QwQ-32B nella comunità Hugging Face, con applicazioni derivate che coprono aree come l'istruzione, la finanza e la salute.

IV. Implicazioni settoriali e prospettive future

  1. Cambiamento del paradigma tecnico
    Il successo di QwQ-32B è la prova che AI R & S si sta muovendo da un “mixed miracoli” a una “sapevolezza esatta”, che la dimensione dei parametri non è più l’unico indicatore, e che l’ottimizzazione di algoritmi e metodi di formazione è il nuovo obiettivo. Ad esempio, il rilancio dell'apprendimento potenziato fornisce nuove idee per il percorso AGI.
  2. L'esplorazione dell'intelligenza e il ragionamento a lungo termine
    Ali progetta di integrare ulteriormente le capacità di intelligenza ed esplorareragionamento a lungo termineAd esempio, i problemi di pianificazione complessi sono affrontati in più turni di ambienti. Ciò faciliterà l’evoluzione dell’IA da “tools” a “partner collaborativi”.
  3. Concorso open source e tendenze inclusive
    La quantificazione della luce e la capacità di distribuzione a basso costo del modello accelera l'inclusione tecnologica di AI, e le PMI possono costruire un programma personalizzato basato su QwQ-32B rapidamente per rompere il monopolio mega-calculations. Ad esempio, i modelli localmente implementati nel campo medico possono gestire i dati sensibili del paziente senza dover fare affidamento sulle nuvole.

Conclusioni

Il rilascio di QwQ-32B non è solo una svolta tecnologica, ma un'innovazione completa nei modelli ecologici e aziendali open source. Consegui un balzo in avanti nelle prestazioni dei modelli di piccoli parametri, migliorando l'integrazione dei corpi di apprendimento e di intelligenza; e ha riprogettato il modello competitivo delle applicazioni AI attraverso le implementazioni full-source e low-cost. In futuro, il modello sarà una pietra miliare chiave nel spostare il processo AGI in avanti con l'atterraggio dell'input dell'infrastruttura AI di 380 miliardi di dollari.