Indonesia

← Kembali ke daftar

QwQ- 32B model besar dari Ali Open Source: Parameter Kecil membongkar kinerja besar, pelatihan biaya 1 / 10 dari DeepSeek r1

itadol5j

Banyak orang yang menggunakan "kecerdasan umum" Manus hari ini, tapi saya pikir model QwQ-32B baru saja dibuka Ali bahkan lebih layak dicari.

QwQ- 32B model besar dari Ali Open Source: Parameter Kecil membongkar kinerja besar, pelatihan biaya 1 / 10 dari DeepSeek r1

I. Core terobosan dan inovasi teknologi di QwQ- 32B

Aliyun dirilis dan membuka generasi baru model penalaran, QwQ-32B, pada 6 Maret 2025, dengan pandangan ke:32 miliar parameterIni adalah skala yang sangat sederhana, dicapai melalui teknik belajar yang ditingkatkanDeepSeek-R1 untuk 671 miliar parameterPenampilan yang sama, bahkan di daerah tertentu. Berikut ini adalah highlights intinya:

  1. Revolusi efisiensi parameter
    Parameter QwQ-32B hanya DeepSeek-R11/21, tapi melaluiDua tahap pembelajaran intensif (RL)Kemungkinan dari "Small Model + Enhanced Learning" rute teknologi divalidasi oleh pelatihan, yang dilakukan pada atau di luar tugas-tugas terakhir seperti penalaran matematika (AIME24 penilaian) dan pembuatan kode (LiveCodeBench). Rancangan ini mematahkan jalur ketergantungan tradisional pada susunan parameter dan menandai pergeseran model AI dari "kompetisi skala" menjadi "optimasi efisiensi".
  2. kapasitas Agen untuk integrasi dan alasan dinamis
    Untuk pertama kalinya, model itu terintegrasi jauh dalam model alasan.Smart Agency Capability, alat dukungan untuk mobilisasi, pemikiran kritis dan penalaran dinamis penyesuaian didorong oleh umpan balik lingkungan. Sebagai contoh, dalam menangani masalah matematika multi- langkah, model secara otomatis panggilan alat komputasi untuk memvalidasi hasil menengah dan mengoptimalkan jawaban akhir melalui siklus umpan balik. Kapasitas ini membuatnya lebih fleksibel dan dapat diandalkan dalam menangani mandat kompleks.
  3. Penyebaran biaya rendah dan aplikasi inklusif
    QwQ- 32B mendukungKartu grafik skala konsumen (misalnya NVIDIA RTX 4070)Local dikerahkan, hanya DeepSeek - R1 biaya deduksi.1/10(Biaya output tunggal adalah sekitar US $0.25), yang secara signifikan menurunkan ambang batas untuk aplikasi perusahaan. Fitur ini sangat relevan untuk skenario data-sensitif seperti perangkat komputer medis, keuangan, dan perifer.
  4. Teknologi terobosan untuk meningkatkan pembelajaran
    Tim Ali menolak model imbalan tradisional dan mengadopsinya.Strategi pelatihan RL Phased:
    • Tahap IUntuk tugas matematika dan pemrograman, pembenaran jawabannya diverifikasi langsung melalui kode dan efisiensi pelatihan ditingkatkan.
    • Tahap II: Pengantar model insentif generik dan sertifikat aturan untuk memperluas kemampuan model dalam misi umum sambil mempertahankan kinerja matematika dan pemrograman. Penelitian menunjukkan bahwa putaran pelatihan RL meningkatkan kinerja model upgrade konstan, yang memvalidasi metode.

Perbandingan terpadu dari model mainstream

Bandingkan QwQ-32B dari beberapa dimensi dengan model utama lain (DeepSeek-R1, OpenAI o1- Mini, Meta Llama3- 400B):

Dimensi QwQ- 32B DeepSeek-R1 OpenAI o1- mini Meta Llama3-400B
Argumen 32 miliar dolar. 671 miliar (diaktifkan 37 miliar) Sekitar seratus miliar. 40 miliar.
Metode pelatihan Dua tahap pembelajaran intensif (matematika / pemrograman generik) Model ahli campuran (MoE) Supervisi pembelajaran Self-return pre-training + command fine-tuning
Kemampuan kritis Alasan Mathematis, generasi kode sama dengan R1. Ini salah satu yang terbaik. Lebih banyak tugas umum, lebih lemah matematika / kode Dukungan multibahasa untuk keunggulan, penalaran moderat
Biaya keberangkatan Konsumer - kelas kartu grafis dengan biaya $0.25 / kilotoken Profesi, biaya $2,5 / kilotoken Panggilan API Cloud, biaya yang lebih tinggi. diperlukan kelompok GPU High-end
Ekologi open source Protokol Apache 2.0, sumber terbuka platform penuh Sumber terbuka sebagian Tutup Komunitas open-source aktif, dengan model turunan lebih sedikit
Kapasitas Agen Dukung panggilan alat, penyesuaian penalaran dinamis Integrasi tidak ditentukan Dukungan Alat Terbatas Nihil

Performance test titik terang

  • Penjelasan matematis (AIME24)QwQ-32B sama dengan DeepSeek -R1 dan jauh lebih unggul dari o1- mini.
  • Generasi Kode (LiveCodeBench)QwQ- 32B sebanding dengan R1, melebihi ukuran model distilasi yang sama lebih dari 50%.
  • LifeBechQwQ-32B melebihi R1 (70) dengan 72,5 poin, dekat O3-mini (75) dengan biaya hanya 1 / 20.

Langkah-langkah rinci untuk menyebarkan QwQ-32B menggunakan olama

QwQ- 32B model besar dari Ali Open Source: Parameter Kecil membongkar kinerja besar, pelatihan biaya 1 / 10 dari DeepSeek r1

olama adalah alat lokal untuk menjalankan LLM. Berikut ini adalah langkah-langkah untuk memasang dan menyebarkan QwQ- 32B:

QwQ- 32B model besar dari Ali Open Source: Parameter Kecil membongkar kinerja besar, pelatihan biaya 1 / 10 dari DeepSeek r1
  1. Unduh
  2. Pasang olama:
    • Menjalankan pengeksekusi yang dapat diunduh untuk menyelesaikan instalasi.
  3. Mulai server Olama:
    • Buka terminal, jalankan perintah ollama serveAku tidak tahu.
  4. Gambar model QwQ-32B:
    • Gunakan perintah ollama pull QwQ:32b Unduh modelnya.
QwQ- 32B model besar dari Ali Open Source: Parameter Kecil membongkar kinerja besar, pelatihan biaya 1 / 10 dari DeepSeek r1
  1. Jalankan model:
    • Gunakan ollama run QwQ:32b --input "你的提示" Berinteraksi dengan model.

Dampak ekologi dan komunitas open source

  1. Semua Dukungan Pengembang dan Sumber Terbuka
    QwQ--32B Open Source dari protokol Apache 2.0, meliputi platform seperti Hugging Face, ModelScope, Magic Community, dll.Rantai alat penyebaran lokal (misalnya Ollama)danLayanan API Cloud (Platform)Aku tidak tahu. Pengembang dapat dengan cepat menemukan model-tune, mengevaluasi dan memasang pengiriman (misalnya melalui platform Aliyun PAI).
  2. Komunitas model open source terbesar di dunia
    Sejak 2023, lebih dari 200 model telah dibuka di Ali, meliputi semua bentuk modular teks, visi, suara, dll., mulai dari 0.5B sampai 110B. Jumlah model turunan seri Qwen telah melampaui 100.000, bergerak di luar seri Llama ke dalam gugus model open source terbesar secara global. Sebagai contoh, model generasi visual "satu-size- fits- semua" dan model kode "kode periferic" telah secara luas terintegrasi ke dalam lanskap industri.
  3. Respon komunitas dan nilai bisnis
    Pada hari yang sama, harga saham Ali naik sebesar 7 persen per hari, mencerminkan kepercayaan pasar modal dalam pendaratan teknologi. Strategi open source mendorong kemakmuran ekologi pengembang, dengan penurunan cepat QwQ-32B dalam komunitas Hugging Face, dengan aplikasi turunan mencakup daerah seperti pendidikan, keuangan dan kesehatan.

IV. Implikasi sektor dan prospek masa depan

  1. Pergantian paradigma teknis
    Keberhasilan QwQ-32B adalah bukti bahwa AI R & D bergerak dari "keajaiban campuran" menjadi "kebijaksanaan yang tepat", bahwa ukuran parameter tidak lagi menjadi satu-satunya indikator, dan optimasi algoritma dan metode pelatihan adalah fokus baru. Sebagai contoh, kebangkitan pembelajaran yang ditingkatkan menyediakan ide-ide baru bagi jalur AGI.
  2. Eksperimen kecerdasan dan jangka panjang penalaran
    Ali berencana untuk mengintegrasikan kemampuan intelijen dan mengeksplorasiAlasan jangka panjangSebagai contoh, masalah perencanaan yang rumit ditujukan dalam beberapa putaran lingkungan. Ini akan memfasilitasi evolusi AI dari "alat" menjadi "mitra kolaboratif".
  3. Kompetisi open source dan kecenderungan inklusif
    Kuantifikasi cahaya dan kapasitas penyebaran biaya rendah dari model mempercepat penyertaan teknologi AI, dan SMEs dapat membangun program disesuaikan berdasarkan QwQ-32B dengan cepat untuk memecahkan monopoli perhitungan mega-. Sebagai contoh, model lokal di bidang medis dapat menangani data pasien yang sensitif tanpa harus bergantung pada awan.

Menggabungkan komentar

Pelepasan QwQ-32B bukan hanya terobosan teknologi, tapi inovasi komprehensif dalam terbuka sumber ekologi dan model bisnis. Ini mencapai lompatan ke depan dalam kinerja model kecil-parameter dengan meningkatkan integrasi tubuh belajar dan intelijen; dan direkayasa pola kompetitif aplikasi AI melalui sepenuhnya sumber dan rendah biaya pengiriman. Di masa depan, model akan menjadi tonggak kunci dalam memindahkan proses ADI ke depan dengan pendaratan masukan infrastruktur AI sebesar $380 miliar.