QwQ-32B 알리 오픈 소스의 큰 모델: 작은 매개 변수 큰 성능, 교육 비용 1/10 DeepSeek r1의

많은 사람들이 "일반적인 인텔리전스"매우스를 오늘 벌리고 있지만, Ali가 오픈 한 새로운 QwQ-32B 모델도 검색 할 가치가 있다고 생각합니다.

I. QwQ-32B에 있는 핵심 돌파구 그리고 기술 혁신

Aliyun은 3 월 6 일, 2025 년 QwQ-32B의 신세대를 공개했습니다.32 억 매개 변수그것은 향상된 학습 기술을 통해 달성 된 매우 간단한 규모입니다.671 억 매개 변수에 대한 DeepSeek-R1특정 지역에서도 동등한 성능. 다음은 핵심 하이라이트입니다:

모수 효율성 혁명
QwQ-32B 모수는 DeepSeek-R1만입니다1/21, 하지만 통해2단계 집중 학습(RL)“소형 모델 + 향상된 학습” 기술 경로의 우정은 수학적 소싱 (AIME24 평가) 및 코드 생성 (LiveCodeBench)과 같은 작업에서 후자의 수행 또는 초과하는 훈련에 의해 검증되었습니다. 이 디자인은 매개 변수를 겹쳐 쌓이는 전통적인 종교의 경로를 파괴하고 "수량 최적화"에 AI 모델의 이동을 표시한다.
통합 및 동적 이유를 위한 에이전트의 용량
처음에는 모델이 깊숙히 통합되었습니다.Smart Agency 기능, 환경 피드백에 의해 구동되는 mobilization, 긴요한 사고 및 동적인 이유 조정을 위한 지원 공구. 예를 들어, 다중 단계 수학 문제를 해결하기 위해, 모델을 자동으로 중간 결과를 검증하고 피드백 사이클을 통해 최종 답을 최적화하는 컴퓨팅 도구를 호출합니다. 이 용량은 복잡한 위임의 취급에서 더 유연하고 신뢰할 수 있습니다.
Low-cost 배포 및 포괄적 인 응용
QwQ-32B 지원소비자 규모 그래픽 카드 (e.g. NVIDIA RTX 4070)로컬 배포, DeepSeek-R1 감응작용 비용.1/10(단 하나 산출 비용은 대략 US$ 0.25입니다), 두드러지게 기업 신청을 위한 문턱을 낮춥니다. 이 기능은 의료, 금융 및 주변 컴퓨팅 장치와 같은 데이터 감지 시나리오에 특히 관련이 있습니다.
향상된 학습을 위한 Technological breakthroughs
Ali 팀은 전통적인 보상 모델을 거부하고 채택했습니다.RL 교육 전략::
- 단계 I: 수학 및 프로그래밍 작업의 경우, 응답의 교정은 코드와 훈련 효율을 통해 직접 확인됩니다.
- 단계 II: 유전적 인 인 인센티브 모델 및 규칙식의 도입은 유전적 임무에서 모델의 기능을 확장하고 수학 및 프로그래밍 성능을 유지하면서. 연구에 따르면 RL 교육 라운드는 일정한 업그레이드 모델의 성능을 증가 시켰습니다. 이는 방법을 검증했습니다.

주류 모델의 통합 비교

다른 주류 모형 (DeepSeek-R1, OpenAI o1-Mini, Meta Llama3-400B)를 가진 다수 차원에서 QwQ-32B 비교하십시오:

크기 (mm)	모델 번호: QwQ-32B	딥스카이-R1	OpenAI o1 미니	메타 Llama3-400B
관련 기사	$32 억.	671 억 (37 억 활성화)	약 100 억입니다.	40억.
교육 방법	2단계 집중 학습(mathematics/programming generic)	혼합 전문가 모델 (MoE)	학습의 감독	Self-return pre-training + 명령 미세 조정
긴 수명	Mathematic reasoning, 코드 생성은 R1와 동일합니다.	그것은 최고의 중 하나입니다.	더 일반적인 작업, 약한 수학 / 코드	탁월한 다국어 지원, 온건한 이유
Deployment 비용	소비자 등급 그래픽 카드 비용 $0.25/kilotoken	직업, 비용 $2.5/kilotoken	Cloud API 호출, 더 높은 비용.	필요한 고급 GPU 클러스터
오픈 소스 생태	Apache 2.0 프로토콜, 전체 플랫폼 오픈 소스	Partial 오픈 소스	【특징】	Open-source 커뮤니티는 몇 가지 파생 모델과 함께 활성화됩니다.
공급 능력	지원 도구 호출, 동적 reasoning 조정	지정된 통합 없음	한정된 공구 지원	이름 *

성과 시험 밝은 반점

수학적인 이유 (AIME24): QwQ-32B는 DeepSeek-R1과 동일하며 o1-mini에 크게 우수합니다.
코드 생성 (LiveCodeBench): QwQ-32B는 R1과 비교하여 50 % 이상의 동일한 크기 증류 모델을 초과합니다.
생활Bech: QwQ-32B는 R1 (70)를 72.5 포인트로 초과하여 1/20의 비용으로 o3-mini (75)에 가깝습니다.

olama를 사용하여 QwQ-32B를 배치하는 상세한 단계

olama는 LLM을 실행하는 로컬 도구입니다. 다음은 QwQ-32B를 설치하고 배포하는 단계입니다.

다운로드
- 관련 기사 소셜 웹 사이트의 llama, 운영 체계에 따라 실행할 수 있는 다운로드.
olama 설치 :
- 다운로드 가능한 실행을 실행하여 설치를 완료합니다.
olama 서버 시작:
- 열기 터미널, 실행 명령 ollama serve나는 모른다.
끌기 QwQ-32B 모형:
- 명령어 ollama pull QwQ:32b 다운로드

모델:
- 제품 정보 ollama run QwQ:32b --input "你的提示" 모델과 상호 작용.

오픈 소스 생태 및 커뮤니티 영향

모든 오픈 소스 및 개발자 지원
QwQ-32B Apache 2.0 프로토콜의 오픈 소스, Hugging Face, ModelScope, Magic Community 등과 같은 플랫폼 커버.로컬 배포 도구 체인 (예 : Ollama)이름 *Cloud API 서비스 (플랫폼)나는 모른다. 개발자는 빠르게 미세 톤 모델, 평가 및 컨테이너 배포 (예 : Aliyun PAI 플랫폼을 통해).
세계에서 가장 큰 오픈 소스 모델 커뮤니티
2023년부터, 200 이상 모형은 알리에서 열리고, 0.5B에서 110B에 배열하는 원본, 시각, 음성, 등의 모든 형태를 덮는. Qwen 시리즈 유래 모델의 수는 전 세계적으로 가장 큰 오픈 소스 모델 클러스터로 Llama 시리즈를 넘어 100,000을 초과했습니다. 예를 들어, 시각적 생성 모델 “one-size-fits-all” 및 코드 모델 “peripheric code” 산업 풍경에 널리 통합되었습니다.
커뮤니티 응답 및 비즈니스 가치
같은 날에 Ali 주식의 가격은 하루 7 %로 상승하여 기술 착륙의 자본 시장의 신뢰를 반영합니다. 오픈 소스 전략은 개발자의 생태 번영을 촉진하고, 교육, 금융 및 건강과 같은 파생 응용 분야를 다루는 Hugging Face 커뮤니티에서 QwQ-32B의 급속한 하락과 함께.

IV. 분야 임의 및 미래 전망

기술적인 paradigm 이동
QwQ-32B의 성공은 AI R & D가 "mixed miracle"에서 "exact wisdom"로 이동하는 증거이며, 매개 변수 크기는 더 이상 지표가 없으며 알고리즘 및 교육 방법의 최적화는 새로운 초점입니다. 예를 들어, 향상된 학습의 부활은 AGI 경로에 대한 새로운 아이디어를 제공합니다.
지능과 장기적인 이유의 탐험
Ali는 더 지능 기능을 통합하고 탐구 할 계획장기적인 이유예를 들어, 복잡한 계획 문제는 여러 라운드 환경에서 해결됩니다. 이것은 "tools"에서 "collaborative Partner"로 AI의 진화를 촉진합니다.
오픈 소스 경쟁 및 포괄적 인 추세
모델의 가벼운 정량 및 저비용 배치 용량은 AI의 기술 포함을 가속화하고 SME는 QwQ-32B에 따라 사용자 정의 프로그램을 구축 할 수 있습니다. 예를 들어, 로컬 배포 모델은 의료 분야에서 민감한 환자 데이터를 처리 할 수 있습니다.