Русский

← Вернуться к списку

QwQ-32B модель Ali Open Source: Small Parameters отличается высокой производительностью, стоимость обучения 1/10 DeepSeek r1

itadol5j

Многие люди сегодня увольняют "общего разведчика" Мануса, но я думаю, что новая модель QwQ-32B, которую только что открыл Али, еще более достойна поиска.

QwQ-32B модель Ali Open Source: Small Parameters отличается высокой производительностью, стоимость обучения 1/10 DeepSeek r1

Основные прорывы и технологические инновации в QwQ-32B

6 марта 2025 года Aliyun выпустила и открыла новое поколение моделей рассуждений, QwQ-32B, с целью:32 миллиарда параметровЭто очень простая шкала, достигнутая с помощью улучшенных методов обучения.DeepSeek-R1 для 671 млрд параметровЭквивалентная производительность даже в определенных областях. Ниже приводятся основные моменты:

  1. Революция эффективности параметров
    Параметр QwQ-32B — это только DeepSeek-R1.1/21но черезДвухступенчатое интенсивное обучение (RL)Осуществимость технологического маршрута «Малая модель + расширенное обучение» была подтверждена обучением, которое выполнялось на последнем или за его пределами в таких задачах, как математическое мышление (оценка AIME24) и генерация кода (LiveCodeBench). Этот дизайн ломает путь традиционной зависимости от укладки параметров и знаменует переход модели ИИ от «масштабной конкуренции» к «оптимизации эффективности».
  2. Способность агента к интеграции и динамическим рассуждениям
    Впервые модель была интегрирована глубоко в модель рассуждения.Умные возможности агентстваИнструменты поддержки для мобилизации, критического мышления и динамических корректировок рассуждений, обусловленных обратной связью с окружающей средой. Например, при решении многоступенчатых математических задач модель автоматически вызывает вычислительный инструмент для проверки промежуточных результатов и оптимизации окончательного ответа с помощью циклов обратной связи. Этот потенциал делает его более гибким и надежным при выполнении сложных мандатов.
  3. Дешевое развертывание и инклюзивные приложения
    Поддержка QwQ-32BГрафические карты потребительского масштаба (например, NVIDIA RTX 4070)Локально развернутый, только вычет DeepSeek-R1.1/10(Единая себестоимость продукции составляет примерно 0,25 доллара США), что значительно снижает порог для корпоративных приложений. Эта функция особенно актуальна для чувствительных к данным сценариев, таких как медицинские, финансовые и периферийные вычислительные устройства.
  4. Технологические прорывы для расширенного обучения
    Команда Али отвергла традиционную модель вознаграждения и приняла её.Поэтапная стратегия обучения RL:
    • Этап IДля математических и программных задач правильность ответа проверяется непосредственно с помощью кода, а эффективность обучения повышается.
    • Этап IIВнедрение общих стимулирующих моделей и сертификатов правил для расширения возможностей моделей в общих миссиях при сохранении математической и программной эффективности. Исследование показало, что учебные раунды RL увеличили производительность модели постоянного обновления, которая подтвердила метод.

Комплексное сравнение основных моделей

Сравните QwQ-32B из нескольких измерений с другими основными моделями (DeepSeek-R1, OpenAI o1-Mini, Meta Llama3-400B):

Размеры QwQ-32B DeepSeek-R1 OpenAI o1-mini Мета-Llama3-400B
аргументы 32 миллиарда долларов. 671 млрд (активировано 37 млрд) Это около ста миллиардов. 40 миллиардов.
Методы обучения Двухступенчатое интенсивное обучение (математика/общее программирование) Смешанная экспертная модель (MoE) Надзор за обучением Самовозврат предварительной подготовки + командная настройка
Критические возможности Математические рассуждения, генерация кода — это то же самое, что R1. Это один из лучших. Более распространенные задачи, более слабая математика / код Многоязычная поддержка совершенства, умеренные рассуждения
Расходы на развертывание Графические карты потребительского класса стоимостью $0,25 / килотокен Профессия, стоимость $ 2,5 / килотокен Облачный вызов API, более высокая стоимость. Требуется высокопроизводительный кластер GPU
Open Source Экология Протокол Apache 2.0 с открытым исходным кодом Частичный open source Закрытый Открытые сообщества активны, с меньшим количеством производных моделей.
Агентская способность Поддержка вызовов инструментов, динамические корректировки рассуждений Никакой конкретной интеграции Поддержка ограниченного инструмента Никто

Тест производительности яркие пятна

  • Математические рассуждения (AIME24)QwQ-32B такой же, как DeepSeek-R1, и значительно превосходит o1-mini.
  • Поколение кода (LiveCodeBench)QwQ-32B сопоставим с R1, превышая размер модели дистилляции более чем на 50%.
  • LifeBechQwQ-32B превышает R1 (70) на 72,5 пункта, близко к o3-mini (75) по стоимости всего 1/20.

Подробные шаги по развертыванию QwQ-32B с использованием оламы

QwQ-32B модель Ali Open Source: Small Parameters отличается высокой производительностью, стоимость обучения 1/10 DeepSeek r1

Олама является местным инструментом для запуска LLM. Ниже приведены шаги по установке и развертыванию QwQ-32B:

QwQ-32B модель Ali Open Source: Small Parameters отличается высокой производительностью, стоимость обучения 1/10 DeepSeek r1
  1. скачать
  2. Установите олама:
    • Запускает загружаемый исполняемый файл для завершения установки.
  3. Запуск сервера olama:
    • Открыть терминал, запустить команды ollama serveЯ не знаю.
  4. Модель QwQ-32B:
    • Используйте команду ollama pull QwQ:32b Скачать модель.
QwQ-32B модель Ali Open Source: Small Parameters отличается высокой производительностью, стоимость обучения 1/10 DeepSeek r1
  1. Запуск моделей:
    • Использовать ollama run QwQ:32b --input "你的提示" Взаимодействие с моделями.

Экология с открытым исходным кодом и влияние сообщества

  1. Поддержка Open Source и разработчиков
    QwQ-32B Open Source протокола Apache 2.0, охватывающий такие платформы, как Hugging Face, ModelScope, Magic Community и др.Локальная цепочка инструментов развертывания (например, Ollama)иОблачный API сервис (платформа)Я не знаю. Разработчики могут быстро настраивать модели, оценивать и контейнеризировать развертывания (например, через платформу Aliyun PAI).
  2. Крупнейшее в мире сообщество моделей с открытым исходным кодом
    С 2023 года в Али открыто более 200 моделей, охватывающих всемодульные формы текста, зрения, голоса и т.д., начиная от 0,5В до 110В. Количество производных моделей серии Qwen превысило 100 000, перейдя за пределы серии Llama в крупнейший в мире кластер моделей с открытым исходным кодом. Например, модель визуального поколения «один размер подходит всем» и модель кода «периферийный код» были широко интегрированы в промышленный ландшафт.
  3. Реакция сообщества и ценность бизнеса
    В тот же день цена акций Ali росла на 7 процентов в день, что отражает уверенность рынка капитала в технологических посадках. Стратегия с открытым исходным кодом способствует экологическому процветанию разработчиков, с быстрым падением QwQ-32B в сообществе Hugging Face, с производными приложениями, охватывающими такие области, как образование, финансы и здравоохранение.

IV. Последствия для сектора и будущие перспективы

  1. Технический сдвиг парадигмы
    Успех QwQ-32B свидетельствует о том, что ИИ R&D переходит от «смешанного чуда» к «точной мудрости», что размер параметра больше не является единственным показателем, и что оптимизация алгоритмов и методов обучения является новым фокусом. Например, возрождение расширенного обучения дает новые идеи для пути AGI.
  2. Исследование интеллекта и долгосрочные рассуждения
    Али планирует еще больше интегрировать разведывательные возможности и исследоватьДолгосрочные рассужденияНапример, сложные вопросы планирования решаются в различных средах. Это будет способствовать эволюции ИИ от «инструментов» до «сотрудничающих партнеров».
  3. Конкуренция с открытым исходным кодом и инклюзивные тенденции
    Легкая количественная оценка и низкая стоимость развертывания модели ускоряют технологическое включение ИИ, и МСП могут быстро создать индивидуальную программу на основе QwQ-32B, чтобы сломать монополию мега-расчетов. Например, локально развернутые модели в области медицины могут обрабатывать конфиденциальные данные пациентов без необходимости полагаться на облака.

Заключительные замечания

Выпуск QwQ-32B является не просто технологическим прорывом, а всеобъемлющей инновацией в экологических и бизнес-моделях с открытым исходным кодом. Он достигает скачка вперед в производительности моделей с малыми параметрами за счет улучшения интеграции органов обучения и разведки; и реинжиниринг конкурентной модели приложений ИИ за счет полного и недорогого развертывания. В будущем модель станет ключевой вехой в продвижении процесса AGI с посадкой на 380 миллиардов долларов.