Suomi

← Takaisin luetteloon

QwQ-32B suuri malli Ali Open Source: Pieni Parametrit pry suuri suorituskyky, koulutuskustannukset 1/10 DeepSeek r1

itadol5j

Monet ampuvat tänään "yleistä älykkyyttä" Manusta, - mutta mielestäni uusi QwQ-32B-malli, jonka Ali on juuri avannut, on vielä etsittävä.

QwQ-32B suuri malli Ali Open Source: Pieni Parametrit pry suuri suorituskyky, koulutuskustannukset 1/10 DeepSeek r1

I. Keskeiset läpimurrot ja teknologiset innovaatiot QwQ-32B:ssä

Aliyun julkaisi ja avasi uuden sukupolven päättelymalleja, QwQ-32B, 6. maaliskuuta 2025 tarkoituksenaan:32 miljardia muuttujaaSe on hyvin yksinkertainen mittakaava, saavutettu parannettujen oppimistekniikoiden avullaDeepSeek-R1 671 miljardin parametrin osaltaVastaava suoritus, jopa tietyillä alueilla. Sen keskeisiä kohokohtia ovat seuraavat:

  1. Parametrin hyötysuhteen kierros
    QwQ-32B-parametri on vain DeepSeek-R11/21, mutta läpiKaksivaiheinen intensiivioppiminenPienen mallin ja parannetun Learning Tämä muotoilu murtaa polun perinteisen riippuvuus pinoaminen parametreja ja merkitsee siirtymistä tekoälymalli ... mittakaavassa kilpailuun.................
  2. Agentin integrointikyky ja dynaamiset perustelut
    Ensimmäistä kertaa malli on integroitu syvälle päättelymalliin.Smart Agency Capability, tukityökaluja mobilisointiin, kriittiseen ajatteluun ja dynaamiseen päättelyyn, jotka perustuvat ympäristöpalautteeseen. Esimerkiksi monivaiheisten matemaattisten kysymysten käsittelyssä malli kutsuu automaattisesti laskentatyökalua vahvistamaan välituloksia ja optimoi lopullisen vastauksen palautesyklien kautta. Tämän kapasiteetin ansiosta se on joustavampi ja luotettavampi monimutkaisten toimeksiantojen käsittelyssä.
  3. Edullinen käyttöönotto ja osallistavat sovellukset
    QwQ-32B-tuetKuluttajien näytönohjaimet (esim. NVIDIA RTX 4070)Paikallisesti käytössä vain DeepSeek-R1-vähennyskustannukset.1/10(Yhtenäistuotannon kustannukset ovat noin 0,25 dollaria), mikä alentaa merkittävästi yrityssovellusten kynnysarvoa. Tämä ominaisuus on erityisen merkityksellinen tietoherkissä skenaarioissa, kuten lääketieteellisissä, taloudellisissa ja oheislaitteissa.
  4. Teknologiset läpimurrot oppimisen parantamiseksi
    Ali-tiimi hylkäsi perinteisen palkkiomallin ja hyväksyi sen.Vaiheinen RL-koulutusstrategia:
    • Vaihe I: Matematiikan ja ohjelmoinnin osalta vastaus todennetaan suoraan koodin avulla ja koulutuksen tehokkuutta parannetaan.
    • Vaihe II: Otetaan käyttöön yleiset kannustinmallit ja sääntösertifikaatit, joilla laajennetaan mallien valmiuksia yleisissä tehtävissä säilyttäen samalla matemaattiset ja ohjelmointisuoritukset. Tutkimus osoitti, että RL-koulutuskierrokset paransivat menetelmän validoivan jatkuvan päivityksen mallia.

Yleisten mallien integroitu vertailu

Vertaa QwQ-32B useista mitoista muihin valtavirtamalleihin (DeepSeek-R1, OpenAI o1-Mini, Meta Llama3-400B):

Mitat QwQ-32B DeepSeek-R1 OpenAI o1-mini Meta Llama3-400B
Argumentit 32 miljardia dollaria. 671 miljardia (aktivoitu 37 miljardia) Noin sata miljardia. 40 miljardia.
Koulutusmenetelmät Kaksivaiheinen intensiivioppiminen (matematiikka/yleisohjelma) Sekalainen asiantuntijamalli Oppimisen valvonta Itsepalauttaminen esikoulutus + komennon hienosäätö
Kriittiset valmiudet Matemaattinen päättely, koodin generointi on sama kuin R1. Se on yksi parhaista. Yleisempiä tehtäviä, heikompi matematiikka/koodi Monikielinen tuki huippuosaamiselle, kohtuulliset perustelut
Käyttökustannukset Kuluttajatason näytönohjaimet hintaan 0,25 dollaria / kilotoken Ammatti, maksaa $2,5 / kiloton Cloud API puhelu, korkeampi hinta. Vaaditaan huippuluokan GPU-klusteri
Avoimen lähdekoodin ekologia Apache 2.0 -protokolla, täysi alusta avoin lähdekoodi Osittainen avoin lähdekoodi Suljettu Avoimen lähdekoodin yhteisöt ovat aktiivisia, ja johdannaismalleja on vähemmän
Toimijan kapasiteetti Tukityökalukutsut, dynaamiset perustelut Ei tiettyä integrointia Rajoitettu työkalutuki Ei ole

Suorituskykytestin kirkkaat pisteet

  • Matemaattinen päättely (AIME24): QwQ-32B on sama kuin DeepSeek-R1 ja huomattavasti parempi kuin o1-mini.
  • Koodin generointi (LiveCodeBench): QwQ-32B on verrattavissa R1, joka ylittää saman kokoisen tislausmallin yli 50 prosentilla.
  • LifeBech: QwQ-32B ylittää R1 (70) 72.5 pistettä, lähellä o3-mini (75) hintaan vain 1/20.

Yksityiskohtaiset vaiheet QwQ-32B:n käyttöönottamiseksi olaman avulla

QwQ-32B suuri malli Ali Open Source: Pieni Parametrit pry suuri suorituskyky, koulutuskustannukset 1/10 DeepSeek r1

Olama on paikallinen työkalu LLM. Seuraavat ovat vaiheet asentaa ja ottaa käyttöön QwQ-32B:

QwQ-32B suuri malli Ali Open Source: Pieni Parametrit pry suuri suorituskyky, koulutuskustannukset 1/10 DeepSeek r1
  1. Lataa
  2. Asenna olama:
    • Suorittaa ladattavan suoritettavan asennuksen.
  3. Käynnistä Olama- palvelin:
    • Avaa pääte, suorita komennot ollama serveEn tiedä.
  4. Piirrä QwQ-32B-mallit:
    • Käytä komentoa ollama pull QwQ:32b Lataa malli.
QwQ-32B suuri malli Ali Open Source: Pieni Parametrit pry suuri suorituskyky, koulutuskustannukset 1/10 DeepSeek r1
  1. Suorita mallit:
    • Käyttö ollama run QwQ:32b --input "你的提示" Yhteys malleihin.

Avoimen lähdekoodin ekologia ja yhteisön vaikutukset

  1. Kaikki avoimen lähdekoodin ja kehittäjän tuki
    QwQ-32B Apache 2.0 -protokollan avoin lähde, joka kattaa alustat kuten Hugging Face, ModelScope, Magic Community jne.Paikallinen käyttöönottotyökaluketju (esim. Ollama)sekäCloud API -palvelu (Platform)En tiedä. Kehittäjät voivat nopeasti hienosäätää malleja, arvioida ja kondensoida käyttöönottoa (esim. Aliyun PAI -alustan kautta).
  2. Maailman suurin avoimen lähdekoodin malliyhteisö
    Alissa on vuodesta 2023 lähtien avattu yli 200 mallia, jotka kattavat tekstin, vision, äänen jne. kaikki muodot, jotka vaihtelevat 0,5B:stä 110B:een. Qwen-sarjan johdannaismallien määrä on ylittänyt 100 000, mikä on siirtynyt Llama-sarjan ulkopuolelle maailman suurimpaan avoimen lähdekoodin malliklusteriin. Esimerkiksi visuaalinen sukupolven malli ...one-size-fits-all... ja koodimalli ...periferiic code... on integroitu laajasti teolliseen maisemaan.
  3. Yhteisön toimet ja liiketoiminnan arvo
    Samana päivänä Alin osakkeiden hinta nousi 7 prosenttia päivässä, mikä johtui pääomamarkkinoiden luottamuksesta teknologian purkamiseen. Avoimen lähdekoodin strategia edistää kehittäjien ekologista hyvinvointia, sillä QwQ-32B putoaa nopeasti Hugging Face -yhteisössä.

IV. Alakohtaiset vaikutukset ja tulevaisuudennäkymät

  1. Teknisen ajattelutavan muutos
    QwQ-32B:n menestys on osoitus siitä, että tekoälyn tutkimus- ja kehittämistoiminta on siirtymässä Esimerkiksi tehostetun oppimisen elvyttäminen tarjoaa uusia ideoita AGI-polulle.
  2. Tiedustelun tutkiminen ja pitkän aikavälin perustelut
    Ali aikoo edelleen integroida tiedusteluvalmiuksia ja tutkiaPitkän aikavälin perustelutEsimerkiksi monissa ympäristöissä käsitellään monimutkaisia suunnittelukysymyksiä. Tämä helpottaa tekoälyn kehittämistä työkaluista yhteistyökumppaneihin.
  3. Avoimen lähdekoodin kilpailu ja osallistavat suuntaukset
    Mallin kevyt määrällinen ja halpa käyttöönottokapasiteetti nopeuttaa tekoälyn teknologista integrointia, ja pk-yritykset voivat kehittää QwQ-32B:hen perustuvan räätälöidyn ohjelman nopeasti megalaskennan monopolin purkamiseksi. Esimerkiksi paikallisesti käytössä olevat lääketieteen alan mallit voivat käsitellä arkaluonteisia potilastietoja ilman, että niiden tarvitsee luottaa pilviin.

Päätelmät

QwQ-32B:n julkaisu ei ole vain teknologinen läpimurto vaan kattava innovaatio avoimen lähdekoodin ekologisissa ja liiketoimintamalleissa. Se saavuttaa harppauksen eteenpäin pienparametrimallien suorituskyvyssä tehostamalla oppimis- ja tiedusteluelinten integrointia ja muotoilemalla tekoälysovellusten kilpailurakenteen uudelleen täyden lähteen ja edullisen käyttöönoton avulla. Tulevaisuudessa malli on keskeinen virstanpylväs AGI-prosessin eteenpäin viemisessä 380 miljardin dollarin tekoälyn infrastruktuuripanoksen purkamisella.