在人工智能领域,一项重大技术突破近日由九章云极DataCanvas公司携手中国人民大学STILL项目团队及北京智源研究院团队共同实现。他们在大模型慢思考推理技术上取得了显著进展,成功复现了类R1推理模型,并将其实现细节及训练技巧全面开源。这一成果不仅标志着技术的深度共享,更为AI推理技术的发展注入了新的活力。
更为引人注目的是,该联合团队创新性地引入了代码工具以增强模型推理性能,这一策略在AIME数学推理测试中取得了显著成效,超越了DeepSeek-R1模型的性能表现。相关研究成果已凝聚成论文《An Empirical Study on Eliciting and Improving R1-like Reasoning Models》,并在预印版论文网站arXiv上公开发表,供全球学者研究参考。
为了推动AI技术的工业化应用,九章云极DataCanvas联合团队进一步公布了DeepSeek-R1全参数微调开源方案,并发布了全新的强化学习训练模型STILL-3-Tool-32B。该方案不仅涵盖了从模型训练到推理部署的全链路工程代码,还同步分享了经过实践验证的技术经验与调优策略,为开发者提供了一个可直接部署的、工业化级的大模型训练框架。在AIME 2024基准测试中,STILL-3-Tool-32B模型取得了81.70%的准确率(采样),这一成绩超越了DeepSeek-R1满血版,彰显了其强大的推理能力。
STILL-3-Tool-32B模型的问世,是九章云极DataCanvas联合团队在长链复杂推理模型训练框架上的又一次重要创新。研究论文指出,即使在已接近性能巅峰的蒸馏模型上,通过该强化学习训练方法也能大幅提升AIME 2024的准确率。这一发现对于提升大模型的回复长度和推理准确性具有重要意义。为了克服语言推理中可能存在的精准性不足问题,STILL-3-Tool-32B模型引入了外部工具来增强AI模型的复杂推理能力,从而在AIME 2024上取得了显著优势。
在DeepSeek-R1技术报告公布后,开源模型的复现仍面临诸多挑战,如代码完整性缺失、超参数调试等。九章云极DataCanvas联合团队通过AI基础设施的深度融合,成功突破了这些难题。他们开源了该模型在DataCanvas Alaya NeW智算操作系统上完成的全过程训练日志、奖励函数代码及容器化部署方案,为开发者提供了宝贵的参考。研究结果显示,在Alaya NeW中采用on-policy学习策略是成功的关键因素,这一策略充分探索了相关的超参数设置及训练技巧。
值得注意的是,DeepSeek及蒸馏模型在推理过程中无法调用外部代码工具,这一直是复现过程中的关键难点。而Alaya NeW智算操作系统在开源工具链与基座模型适配、算法与算力协同、逻辑推理与多步决策等复杂任务框架方面展现出了明显优势。这一突破有望推动AI技术的进一步发展,为人工智能领域带来更多的创新和应用。
九章云极DataCanvas联合团队还分享了他们在AIME 2024测试中的具体表现。STILL-3-Tool-32B模型以15.56%的显著优势超越了其基座训练模型,与OpenAI的o3-mini持平,并超越了o1和DeepSeek-R1在同场景下的表现。这一成绩不仅验证了团队的技术实力,也为AI推理技术的发展树立了新的标杆。
随着人工智能技术的不断发展,九章云极DataCanvas联合团队的这一成果无疑将为AI推理技术带来更多的可能性。他们通过开源技术、分享经验,不仅推动了AI技术的工业化应用,也为全球学者和开发者提供了宝贵的研究资源。未来,我们期待看到更多基于这一技术的创新应用,为人类社会带来更多的便利和进步。