Español

← Volver a la lista

QwQ-32B modelo grande de la Fuente Abierta Ali: Parámetros pequeños pry gran rendimiento, costo de entrenamiento 1/10 de DeepSeek r1

itadol5j

Mucha gente está disparando una "inteligencia general" Manus hoy, pero creo que el nuevo modelo QwQ-32B que Ali acaba de abrir es aún más digno de buscar.

QwQ-32B modelo grande de la Fuente Abierta Ali: Parámetros pequeños pry gran rendimiento, costo de entrenamiento 1/10 de DeepSeek r1

I. Principales avances e innovación tecnológica en QwQ-32B

Aliyun lanzó y abrió una nueva generación de modelos de razonamiento, QwQ-32B, el 6 de marzo de 2025, con miras a:32 mil millones de parámetrosEs una escala muy simple, alcanzada a través de técnicas de aprendizaje mejoradasDeepSeek-R1 para 671 mil millones de parámetrosEquivalente rendimiento, incluso en ciertas áreas. Los siguientes son sus puntos más destacados:

  1. Revolución de eficiencia parámetro
    El parámetro QwQ-32B es sólo DeepSeek-R11/21, pero porAprendizaje intensivo de dos etapas (RL)La viabilidad de la ruta de tecnología “Small Model + Enhanced Learning” fue validada por el entrenamiento, que se realizó en o más allá de este último en tareas como el razonamiento matemático (evaluación AIME24) y la generación de códigos (LiveCodeBench). Este diseño rompe el camino de la dependencia tradicional en el apilamiento de parámetros y marca el cambio del modelo AI de la “competición de escala” a “ optimización de eficiencia”.
  2. Capacidad del agente para la integración y razonamiento dinámico
    Por primera vez, el modelo se integró profundamente en el modelo de razonamiento.Capacidad de la agencia inteligente, herramientas de apoyo para la movilización, pensamiento crítico y ajustes de razonamiento dinámico impulsados por la retroalimentación ambiental. Por ejemplo, al abordar problemas matemáticos de varios pasos, el modelo llama automáticamente a la herramienta informática para validar resultados intermedios y optimizar la respuesta final a través de ciclos de retroalimentación. Esta capacidad lo hace más flexible y fiable en el manejo de mandatos complejos.
  3. Implementación de bajo costo y aplicaciones inclusivas
    Soportes QwQ-32BTarjetas gráficas de escala de consumo (por ejemplo, NVIDIA RTX 4070)Localmente desplegado, solo cuesta deducción DeepSeek-R1.1/10(El coste de salida es de aproximadamente 0,25 dólares, lo que reduce significativamente el umbral para aplicaciones empresariales. Esta característica es particularmente relevante para escenarios sensibles a los datos, como dispositivos médicos, financieros y informáticos periféricos.
  4. Avances tecnológicos para mejorar el aprendizaje
    El equipo Ali rechazó el modelo de recompensa tradicional y lo adoptó.Estrategia de capacitación gradual:
    • Fase I: Para tareas matemáticas y de programación, la corrección de la respuesta se verifica directamente a través del código y la eficiencia de entrenamiento se mejora.
    • Fase II: Introducción de modelos de incentivos genéricos y certificadores de reglas para ampliar las capacidades de los modelos en misiones genéricas manteniendo al mismo tiempo el desempeño matemático y de programación. El estudio mostró que las rondas de formación RL aumentaron el rendimiento del modelo de actualización constante, que validó el método.

Comparación integrada de los modelos principales

Compare QwQ-32B de múltiples dimensiones con otros modelos principales (DeepSeek-R1, OpenAI o1-Mini, Meta Llama3-400B):

Dimensiones QwQ-32B DeepSeek-R1 OpenAI o1-mini Meta Llama3-400B
Argumentos 32 mil millones. 671 mil millones (activados 37 mil millones) Son unos cien mil millones. 40 mil millones.
Métodos de capacitación Aprendizaje intensivo de dos etapas (mathematics/programming genérico) Modelo mixto de expertos (MoE) Supervisión del aprendizaje Auto-retorno pre-entrenamiento + comando de ajuste fino
Capacidades críticas El razonamiento matemático, la generación de código es la misma que R1. Es uno de los mejores. Más tareas comunes, matemáticas más débiles/código Soporte multilingüe para la excelencia, razonamiento moderado
Gastos de despliegue Tarjetas gráficas de calidad de consumidor a un costo de $0.25/kilotoken Profesión, costo $2.5/kilotoken Llamada de Cloud API, costo más alto. Grupo de GPU de alto nivel necesario
Ecología de código abierto Protocolo Apache 2.0, fuente abierta de plataforma completa Fuente abierta parcial Cerrado Las comunidades de código abierto están activas, con menos modelos derivados
Capacidad del agente Llamadas de herramientas de soporte, ajustes de razonamiento dinámico No especifica integración Soporte de herramientas limitado Ninguno

Prueba de rendimiento puntos brillantes

  • Razonamiento matemático (AIME24): QwQ-32B es el mismo que DeepSeek-R1 y significativamente superior a o1-mini.
  • Code Generation (LiveCodeBench): QwQ-32B es comparable a R1, superando el mismo modelo de destilación en más del 50%.
  • LifeBech: QwQ-32B excede R1 (70) por 72,5 puntos, cerca de o3-mini (75) a un costo de sólo 1/20.

Pasos detallados para desplegar QwQ-32B utilizando olama

QwQ-32B modelo grande de la Fuente Abierta Ali: Parámetros pequeños pry gran rendimiento, costo de entrenamiento 1/10 de DeepSeek r1

olama es una herramienta local para ejecutar LLM. Los siguientes son pasos para instalar y desplegar QwQ-32B:

QwQ-32B modelo grande de la Fuente Abierta Ali: Parámetros pequeños pry gran rendimiento, costo de entrenamiento 1/10 de DeepSeek r1
  1. Descargar
  2. Instalar olama:
    • Corre el ejecutable descargable para completar la instalación.
  3. Inicio olama servidor:
    • Terminal abierta, ejecutar comandos ollama serveNo lo sé.
  4. Dibujar modelos QwQ-32B:
    • Usar comando ollama pull QwQ:32b Descargar el modelo.
QwQ-32B modelo grande de la Fuente Abierta Ali: Parámetros pequeños pry gran rendimiento, costo de entrenamiento 1/10 de DeepSeek r1
  1. Modelos de ejecución:
    • Uso ollama run QwQ:32b --input "你的提示" Interactuar con modelos.

Ecología de código abierto e impactos comunitarios

  1. Todas las fuentes abiertas y soporte para desarrolladores
    Fuente abierta del protocolo Apache 2.0, plataformas de cobertura como Hugging Face, ModelScope, Magic Community, etc.Cadena de herramientas de despliegue local (por ejemplo, Ollama)yCloud API Service (Platform)No lo sé. Los desarrolladores pueden ajustar rápidamente modelos, evaluar y containerizzar implementaciones (por ejemplo, a través de la plataforma de Aliyun PAI).
  2. La comunidad modelo de código abierto más grande del mundo
    Desde 2023, se han abierto más de 200 modelos en Ali, que abarcan formas de texto, visión, voz, etc., desde 0,5B hasta 110B. El número de modelos derivados de la serie Qwen ha superado los 100.000, pasando más allá de la serie Llama al mayor grupo de modelos de código abierto a nivel mundial. Por ejemplo, el modelo de generación visual “para todo un tamaño” y el modelo de código “código periférico” han sido ampliamente integrados en el paisaje industrial.
  3. Respuesta comunitaria y valor comercial
    Ese mismo día, el precio de la reserva Ali aumentó un 7% al día, lo que refleja la confianza del mercado de capitales en los aterrizajes tecnológicos. La estrategia de código abierto promueve la prosperidad ecológica de los desarrolladores, con rápidas gotas de QwQ-32B en la comunidad Hugging Face, con aplicaciones derivadas que abarcan áreas como educación, finanzas y salud.

IV. Consecuencias para el sector y perspectivas futuras

  1. Cambio de paradigma técnico
    El éxito de QwQ-32B es evidencia de que AI R & D está pasando de un “milagro mezclado” a una “sabiduría exacta”, que el tamaño del parámetro ya no es el único indicador, y que la optimización de algoritmos y métodos de entrenamiento es el nuevo enfoque. Por ejemplo, la reactivación del aprendizaje mejorado proporciona nuevas ideas para el camino AGI.
  2. La exploración de la inteligencia y el razonamiento a largo plazo
    Ali planea seguir integrando las capacidades de inteligencia y explorarRazonamiento a largo plazoPor ejemplo, las cuestiones complejas de planificación se abordan en múltiples rondas de entornos. Esto facilitará la evolución de la IA desde “herramientas” a “colaboradores colaborativos”.
  3. Competencia de código abierto y tendencias inclusivas
    La capacidad de cuantificación ligera y despliegue de bajo costo del modelo acelera la inclusión tecnológica de la IA, y las PYMES pueden desarrollar un programa personalizado basado en QwQ-32B para romper rápidamente el monopolio de las megacalculaciones. Por ejemplo, los modelos desplegados localmente en el campo médico pueden manejar datos de pacientes sensibles sin tener que confiar en las nubes.

Observaciones finales

La liberación de QwQ-32B no es sólo un avance tecnológico, sino una innovación integral en modelos ecológicos y empresariales de código abierto. Se logra un salto adelante en el rendimiento de los modelos de pequeños parámetros mejorando la integración de los órganos de aprendizaje e inteligencia; y se reingeneró el patrón competitivo de las aplicaciones de IA a través de los despliegues de recursos completos y de bajo costo. En el futuro, el modelo será un hito clave en el avance del proceso AGI con el aterrizaje de la entrada de infraestructura AI de $380 mil millones.