QwQ-32B голям модел на Ali Open Source: Малки параметри pry големи производителност, обучение струва 1/10 от DeepSeek r1

Много хора уволняват "Общо разузнаване" Манус днес, но мисля, че новият QwQ-32B модел, който Али току-що отвори, е още по-струва си да се търси.

I. Основни открития и технологични иновации в QwQ-32B

Aliyun публикува и откри ново поколение модели за разсъждения, QwQ-32B, на 6 март 2025 г., с оглед на:32 милиарда параметъраТова е много прост мащаб, постигнат чрез подобрени техники на обучениеDeepSeek-R1 за 671 милиарда параметриЕквивалентни резултати, дори и в определени области. Основни акценти са следните:

Функционалност на параметрите
Параметърът QwQ-32B е само DeepSeek-R11/21, но презДвуетапно интензивно обучение (RL)Възможността на маршрута на технологиите за обучение е потвърдена чрез обучение, което се извършва на или извън него в задачи като математически разсъждения (AIME24 оценка) и генериране на код (LiveCodeBench). Този дизайн разчупва пътя на традиционното разчитане на подреждане на параметри и отбелязва смяната на модела AI от мащабната конкуренция .
Капацитет на агента за интеграция и динамични разсъждения
За първи път моделът е бил интегриран дълбоко в модела на разсъждение.Възможности за интелигентни агенции, инструменти за подпомагане на мобилизацията, критичното мислене и динамичните корекции на разсъжденията, предизвикани от обратната информация за околната среда. Например при решаването на многостъпкови математически въпроси моделът автоматично призовава изчислителния инструмент да валидира междинните резултати и оптимизира окончателния отговор чрез цикли на обратна връзка. Този капацитет го прави по-гъвкав и надежден при работата със сложни мандати.
Нискотарифно внедряване и приобщаващи приложения
QwQ-32B поддържаГрафични карти с потребителски мащаб (напр. NVIDIA RTX 4070)Местно разположени, само разходите за приспадане на DeepSeek-R1.1/10(Единната изходна цена е приблизително $0.25), което значително понижава прага за кандидатстване на предприятията. Тази функция е особено важна за чувствителни към данни сценарии като медицински, финансови и периферни изчислителни устройства.
Технологични пробиви за засилено обучение
Екипът на Али отхвърли традиционния модел на наградата и го прие.Фазана стратегия за обучение RL:
- Фаза I: За математически и програмни задачи точността на отговора се проверява директно чрез кода и ефективността на обучението се увеличава.
- Фаза II: Въвеждане на генерични стимули модели и правила-сертификатори за разширяване на възможностите на моделите в общи мисии, като същевременно се поддържа математически и програмни резултати. Проучването показа, че курсовете за обучение на RL са увеличили ефективността на модела за постоянно подобрение, който е валидирал метода.

Интегрирано сравнение на основните модели

Сравни QwQ-32B от множество размери с други основни модели (DeepSeek-R1, OpenAI o1-Mini, Meta Llama3-400B):

Размери	QwQ-32B	DeepSeek-R1	OpenAI o1- mini	Meta Llama3-400B
Доводи	32 милиарда долара.	671 милиарда (активирани 37 милиарда)	Около 100 милиарда.	40 милиарда.
Методи на обучение	Двустепенно интензивно обучение (математика/програмиране генерично)	Смесен експертен модел (MoE)	Надзор на обучението	Преобучение за самозавръщане + фино регулиране на командата
Критични възможности	Математически мотиви, код поколение е същото като R1.	Един от най-добрите.	По-често срещани задачи, по-слаба математика/код	Многоезична подкрепа за високи постижения, умерени разсъждения
Разходи за разполагане	Потребителски графични карти на цена от $0.25/kilotoken	Професия, струва $2.5/kilotoken	Облак API повикване, по-висока цена.	Изисква се висококачествен GPU клъстер
Екология с отворен код	Апачи 2.0 протокол, пълна платформа отворен код	Частичен отворен код	Затворено	Общностите с отворен код са активни, с по-малко модели деривати
Капацитет на агента	Призиви за подкрепа, динамични корекции на мотивите	Не е посочена интеграция	Ограничена поддръжка на инструменти	Няма

Изпитване на действието ярки петна

Математически мотиви (AIME24): QwQ-32B е същото като DeepSeek-R1 и значително превъзхожда o1-mini.
Генериране на код (LiveCodeBench): QwQ-32B е сравнима с R1, надхвърляща същия модел на дестилация с повече от 50%.
LifeBech: QwQ-32B надвишава R1 (70) със 72.5 точки, близо до O3-mini (75) на цена само 1/20.

Подробни стъпки за разполагане на QwQ-32B чрез олама

Олама е местен инструмент за управление на LLM. Следните са стъпки за инсталиране и разполагане на QwQ-32B:

Изтегляне
- Посещения лама на социалния сайт, изтегли изпълнимото съгласно операционната система.
Инсталиране на олама:
- Стартира изтеглянето изпълнимо за пълна инсталация.
Старт на сървъра за олама:
- Отворете терминала, изпълнявайте командите. ollama serveНе знам.
Чертете QwQ-32B модели:
- Използване на команда ollama pull QwQ:32b Свали модела.

Изпълнение на модели:
- Използване ollama run QwQ:32b --input "你的提示" Връзка с модели.

Екология с отворен код и въздействие върху общността

Всички отворени източници и поддръжка на разработчиците
QwQ-32B Open Source of the Apache 2.0 protocol, covering platforms like Hugging Face, ModelScope, Magic Community and др.Верига с инструменти за местно разполагане (напр. Олама)както иОблачна API услуга (Platform)Не знам. Разработчиците могат бързо фино-тун модели, оценка и контейнеризиране разполагане (например чрез платформата Aliyun PAI).
Най-голямата в света общност за модели с отворен код
От 2023 г. насам в Али са открити повече от 200 модела, обхващащи всички модулни форми на текст, визия, глас и др., вариращи от 0.5B до 110B. Броят на дериватните модели от серията Qwen е надхвърлил 100 000, като се е преместил отвъд серията Llama в най-големия модел с отворен код в световен мащаб. Например визуалният модел на поколението по един-размер-фит-всички и кодовият модел гол-периферен код са широко интегрирани в индустриалния пейзаж.
Отговор на Общността и бизнес стойност
В същия ден цената на акциите на Ali се покачи със 7% на ден, отразявайки доверието на капиталовия пазар при кацането на технологии. Стратегията с отворен код насърчава екологичния просперитет на разработчиците, с бързи спадове от QwQ-32B в общността "Прегръщане с лице," като дериватите обхващат области като образование, финанси и здравеопазване.

IV. Последици от сектора и бъдещи перспективи

Промяна на техническата парадигма
Успехът на QwQ-32B е доказателство, че AI R & D се мести от едно чудо до една exact мъдрост, че параметър размер вече не е единственият индикатор, и че оптимизирането на алгоритми и методи за обучение е нов фокус. Например възраждането на засиленото обучение осигурява нови идеи за пътя на AGI.
Проучване на разузнаването и дългосрочни разсъждения
Ali планира допълнително интегриране на разузнавателните способности и проучванеДългосрочна обосновкаНапример проблемите със сложното планиране са разгледани в множество кръгове от среди. Това ще улесни развитието на AI от голове до сътрудничество.
Конкуренция с отворен код и приобщаващи тенденции
Мотивацията за количествено определяне на леките и ниските разходи на модела ускорява технологичното включване на AI, а МСП могат да изградят персонализирана програма, базирана на QwQ-32B, за бързо прекъсване на монопола на мега-изчисленията. Например местно разположени модели в областта на медицината могат да се справят с чувствителни данни за пациентите, без да се налага да разчитат на облаци.

Заключителни бележки

Освобождаването на QwQ-32B не е просто технологичен пробив, а цялостна иновация в екологични и бизнес модели с отворен код. Той постига скок напред в изпълнението на малките параметрични модели чрез засилване на интеграцията на учебните и разузнавателните органи; и преработи конкурентния модел на AI приложения чрез внедряването на пълен източник и ниски разходи. В бъдеще моделът ще бъде ключов етап в придвижването на процеса на AGI напред с кацането на входните 380 милиарда AI инфраструктура.