アリのオープンソースのQwQ-32Bの大きいモデル:小さい変数は大きい性能を、訓練しますDeepSeek r1の1/10を乾燥します
今日は「一般知能」を題材にした人が多いですが、Aliが開いている新しいQwQ-32Bモデルは、探す価値が高まっていると思います。
I. QwQ-32Bのコアブレークスルーと技術革新
アリユンは、2025年3月6日、推論モデル「QwQ-32B」の新世代を発売し、次のように発表しました。32億パラメータ高度な学習技術によって達成される非常に簡単なスケールです671億パラメータのDeepSeek-R1特定の分野でも同等の性能。 以下はコアのハイライトです。
- 変数効率の回転
QwQ-32BパラメータはDeepSeek-R1のみです。1/21・・・2段集中学習(RL)数学推論(AIME24評価)やコード生成(LiveCodeBench)など、後者のタスクで実行されたトレーニングによって「小型モデル+強化学習」技術ルートの実現可能性が検証されました。 この設計は、パラメータの積み重ねに関する伝統的な信頼性のパスを破り、「スケール競争」から「効率の最適化」までのAIモデルのシフトをマークします。 - 統合と動的推論のためのエージェントの能力
初めて、推論モデルではモデルが深く統合されました。スマートエージェンシーの機能、環境のフィードバックによって運転される動員、重大な思考および動的推論の調節のためのサポート ツール。 たとえば、マルチステップの数学的問題に対処することで、モデルは自動的に計算ツールを呼び出して、中間結果を検証し、フィードバックサイクルを通じて最終回答を最適化します。 この容量は、複雑な義務の処理において、より柔軟で信頼性が高くなります。 - 低コストの展開と包括的なアプリケーション
QwQ-32Bサポート消費者スケールグラフィックカード(NVIDIA RTX 4070など)ローカルにデプロイされ、DeepSeek-R1 の控除費用だけ。1/10(単体出力の費用は、企業用途のしきい値を大幅に下げる約US $ 0.25)です。 この機能は、医療、金融、周辺機器などのデータに敏感なシナリオに特に関連しています。 - 強化された学習のための技術進歩
アリチームは従来の報酬モデルを拒絶し、採用しました。フェーズド RL トレーニング戦略: : :- フェーズI: 数学的、プログラミングのタスクのために、回答の正しさは、コードとトレーニングの効率によって直接検証されます。
- フェーズII: 汎用的なインセンティブモデルとルール認証器の導入により、数学的およびプログラミングのパフォーマンスを維持しながら、一般的なミッションにおけるモデルの機能を拡大します。 この研究では、RL トレーニング ラウンドが一定のアップグレード モデルのパフォーマンスを向上したことがわかりました。これにより、メソッドが検証されます。
メインストリームモデルの統合比較
他の主流モデル(DeepSeek-R1、OpenAI o1-Mini、Meta Llama3-400B)と複数の次元からのQwQ-32Bを比較して下さい:
| サイズ: | QwQ-32Bの特長 | DeepSeek-R1の特長 | オープンAI o1-mini | メタLlama3-400B |
|---|---|---|---|---|
| カテゴリー | $32 億. | 671億円(約37億円) | 約100億円。 | 資本金40億円 |
| トレーニング方法 | 2段集中学習(数学/プログラミングジェネリック) | 混合エキスパートモデル(MoE) | 学習の監督 | 自己復帰事前トレーニング + コマンド微調整 |
| 重要な機能 | 数学的な推論、コード生成はR1と同じです。 | 一番の1つです。 | より一般的なタスク、より弱い数学/コード | 卓越性、適度な推論のための多言語サポート |
| 導入コスト | 消費者グレードのグラフィックカードは、$ 0.25 /キロトケンのコストで | 職業、費用 $2.5/kilotoken | クラウド API 呼び出し、より高いコスト。 | 要求される上限GPUのクラスター |
| オープンソースエコロジー | Apache 2.0 プロトコル、フルプラットフォームのオープンソース | 部分的なオープンソース | 休館日 | オープンソースのコミュニティはアクティブで、デリバティブモデルが少ない |
| エージェント容量 | サポート ツールの呼び出し、動的推論調整 | 指定の統合無し | 限られた用具サポート | なし |
性能テスト明るい点
- 数学的推論 (AIME24): QwQ-32BはDeepSeek-R1と同じで、o1-miniよりも大幅に優れています。
- コード生成(LiveCodeBench): QwQ-32BはR1に匹敵し、同じサイズの蒸留モデルを50%以上超える。
- ライフブナ: QwQ-32B は R1 (70) を 72.5 ポイント超え、1/20 の費用で o3-mini (75) に近いです。
olamaを使用してQwQ-32Bをデプロイする詳細な手順
olama は LLM を実行するためのローカルツールです。 QwQ-32Bをインストールおよびデプロイする手順は次のとおりです。
- ダウンロード
- アクセス ソーシャルウェブサイトのラマ、オペレーティング システムに従って実行可能をダウンロードして下さい。
- olama をインストールする:
- ダウンロード可能な実行を有効にしてインストールを完了します。
- olamaサーバーを始めて下さい:
- ターミナルを開き、コマンドを実行
ollama serveお問い合わせ
- ターミナルを開き、コマンドを実行
- QwQ-32Bモデルを引く:
- コマンドを使用する
ollama pull QwQ:32bモデルをダウンロード
- コマンドを使用する
- モデルを実行して下さい:
- 使用条件
ollama run QwQ:32b --input "你的提示"モデルとの相互作用。
- 使用条件
オープンソースのエコロジーとコミュニティの影響
- すべてのオープンソースおよび開発者サポート
QwQ-32B Apache 2.0 プロトコルのオープンソース、 Hugging Face、ModelScope、Magic Community などのプラットフォームをカバーしています。ローカル展開ツールチェーン(オラマなど)そして、クラウドAPIサービス(プラットフォーム)お問い合わせ 開発者は、Aliyun PAIプラットフォームを通じて、素早く細かいモデル、評価、展開をコンテナ化することができます。 - 世界最大級のオープンソースモデルコミュニティ
2023年以降、200以上のモデルが Ali にオープンし、0.5B から 110B までのテキスト、ビジョン、音声などのすべての形式をカバーしています。 Qwenシリーズのデリバティブモデルの数は10万を超え、Llamaシリーズをグローバル規模で展開しています。 たとえば、ビジュアル生成モデル「ワンサイズフィットオール」とコードモデル「周辺コード」は、産業景観に広く統合されています。 - コミュニティ対応とビジネス価値
同じ日に、アリ株式の価格は、1日7セントで上昇し、技術の着陸における資本市場の自信を反映しています。 オープンソース戦略は、開発者の生態学的繁栄を促進し、ハッギング・フェイス・コミュニティのQwQ-32Bの急速な低下を促進し、教育、財務、健康などの分野を網羅するデリバティブ・アプリケーションを備えています。
IV。 セクターの影響と将来の見通し
- 技術的なパラダイムシフト
QwQ-32Bの成功は、AI R&Dが「混合奇跡」から「正確な知恵」へと移行する証拠であり、そのパラメータサイズはもはや唯一の指標であり、アルゴリズムとトレーニング方法の最適化は新しい焦点です。 たとえば、強化された学習の復活は、AGIパスの新しいアイデアを提供します。 - 知性と長期的な推論の探求
人工知能能力をさらに統合し、探求するアリの計画長期推論たとえば、複雑な計画の問題は、複数の環境のラウンドで対処されます。 「ツール」から「コラボレーションパートナー」までのAIの進化を促進します。 - オープンソースの競争と包括的な傾向
モデルの軽量化と低コストの展開能力は、AIの技術的インクルードを加速し、SMEは、メガ計算モノポリを分解するためにすぐにQwQ-32Bに基づいてカスタマイズされたプログラムを構築することができます。 例えば、医療分野におけるローカル展開モデルでは、クラウドに依存することなく、敏感な患者データを処理できます。
特定商取引法に基づく表示
QwQ-32Bのリリースは単なる技術革新ではなく、オープンソースの生態学的およびビジネスモデルの包括的な革新です。 学習と知能体の統合を強化することで、小型パラメータモデルの性能を飛躍的に加速し、フルソースと低コストの展開でAIアプリケーションの競争パターンを再設計しました。 将来的には、AGI プロセスを転送し、$380億の AI インフラ入力の着陸に移行するモデルが重要なマイルストーンとなります。