阿里发布开源推理模型千问 QwQ-32B

1 个月前 语言模型 136

3月6日凌晨,阿里巴巴发布并开源全新的推理模型通义千问QwQ-32B:

  • 模型性能
    • 媲美大参数模型:拥有320亿参数,性能可与具备6710亿参数(其中370亿被激活)的DeepSeek - R1媲美,很大程度上证明了参数规模不再是模型性能的决定性因素。
    • 超越同类模型:在一系列权威基准测试中表现出色,几乎完全超越了OpenAI去年9月发布的尺寸相近的o1 - mini模型。在测试数学能力的AIME24评测集、评估代码能力的LiveCodeBench中,表现与DeepSeek - R1相当,远胜于o1 - mini及相同尺寸的R1蒸馏模型;在LiveBench、谷歌提出的IFEval评测集、加州大学伯克利分校等提出的BFCL测试中,得分均超越了DeepSeek - R1。
  • 技术特点
    • 本地部署优势:突破性地让高性能推理模型在消费级显卡上实现本地部署,英伟达4090的增强版就能部署,大幅降低了模型应用成本,成本是R1的1/10以内,更利于推理模型的应用和普及。
    • 集成Agent能力:集成了与智能体(Agent)相关的能力,使其能够在使用工具的同时进行批判性思考,并根据环境反馈调整推理过程。
    • 大规模强化学习:在冷启动的基础上,针对数学和编程任务、通用能力分别进行了两轮大规模强化学习,在32B的模型尺寸上获得了令人惊喜的推理能力提升,印证了大规模强化学习可显著提高模型性能。与依赖传统的奖励模型不同,通过校验生成答案的正确性来为数学问题提供反馈,并通过代码执行服务器评估生成的代码是否成功通过测试用例来提供代码的反馈。
  • 开源情况:采用Apache 2.0开源协议,已在魔搭社区、HuggingFace及GitHub等平台开源,所有人都可免费下载及商用QwQ - 32B模型,可通过网页版Qwen Chat进行体验,也将免费上架通义APP。
相关资讯