财通证券报告深入分析了s1-32B模型的技术架构与创新机制。s1-32B的核心突破在于“预算强制”策略——通过在测试阶段精确控制模型思考token的最大和最小数量,实现测试时计算量与推理性能的正向缩放。在AIME24测试中,该策略使准确率从50%提升至57%。研究还发现顺序缩放策略效果远优于并行缩放,为推理模型优化提供了明确方向。财通证券认为测试时缩放范式正在成为AI模型性能提升的新核心驱动力。
测试时缩放——从训练计算向推理计算的范式转移
当前语言模型性能提升主要依赖训练阶段大规模计算投入,而“测试时缩放”作为新兴范式,通过增加测试阶段计算量增强模型性能。OpenAI o1即为典型案例,但其技术细节未公开,学界多次复现失败。李飞飞团队发布的s1论文聚焦于探索实现测试时缩放的最优路径,并发现s1-32B准确率随平均思考时间增加而提高,验证了测试时缩放的有效性。财通证券指出,测试时缩放范式将推动行业从“盲目扩大训练算力”转向“优化推理计算分配”,为算力投资逻辑带来结构性变化。
预算强制策略的实现机制——最大与最小token的双向控制
预算强制策略通过双向控制实现精确的测试时计算管理。当模型生成的思考token数达到或超过设定的最大限制时,自动添加结束思考令牌分隔符,促使模型在合理时间内输出当前最佳答案。当希望模型深入思考时,抑制结束思考令牌的生成并添加“Wait”字符串,鼓励模型对当前推理进行反思和改进。这种方法有效解决了推理模型的两个核心痛点:推理时间不可控和过早停止导致错误。财通证券认为,预算强制本质上是将训练阶段的“监督信号”后置到测试阶段,通过外部干预引导模型自我修正,代表了推理优化思路的根本性转变。
顺序缩放优于并行缩放——推理时间连续性的重要性
s1团队对比了顺序和并行两种测试时缩放策略。顺序缩放(预算强制)在AIME24中展现出明显的缩放趋势且可进行一定程度外推,准确率从50%升至57%。并行缩放虽整体也呈现一定准确率提升趋势,但相比顺序缩放提升幅度较小且在输出tokens数量增加时趋于平稳。这一发现表明:推理能力的提升不仅依赖于计算量增加,更依赖于推理过程的连续性和有序性——让模型沿着一条思考路径持续深入,比让模型并行探索多条路径更有效。财通证券认为,这一结论对推理模型的工程设计具有直接指导意义,顺序缩放策略应成为当前推理优化的优先选择。
蒸馏数据的质量维度——Gemini API生成的推理痕迹价值
s1K数据集中的推理痕迹和解决方案均通过Google Gemini Flash Thinking API生成,而非人工标注。这种方法被验证有效的前提是:Gemini自身具备较强的推理能力,能够生成高质量的推理链。研究团队从59,029个初始三元组中通过质量、难度、多样性三重筛选最终获得1,000个样本。其中质量筛选的关键在于剔除含格式问题的低质量推理痕迹,难度筛选的关键在于选择两个Qwen模型都无法正确解答的问题,多样性筛选的关键在于覆盖50个不同的数学领域。财通证券认为,蒸馏数据的质量远重于数量,s1的成功证明了高质量推理链作为训练信号的价值,这一发现将对AI数据工程方法论产生广泛影响。
| 策略组件 | 技术细节 | 效果 |
|---|---|---|
| 最大token控制 | 达到设定上限时自动添加结束令牌 | 防止推理无限延长,控制响应时间 |
| 最小token控制 | 抑制结束令牌并添加“Wait” | 强制模型继续思考,激活自我修正 |
| 顺序缩放 | 沿单一思考路径延长推理时间 | AIME24准确率从50%升至57% |
| 并行缩放 | 同时探索多条推理路径 | 提升幅度较小,趋于平稳 |
| 数据蒸馏 | Gemini Flash Thinking API生成推理痕迹 | 低成本获取高质量推理链 |
点击阅读报告原文:
最新报告
中英对照
全文搜索
报告精选
PDF上传翻译
多格式文档互转
入驻&报告售卖
会员权益
机构报告
券商研报
财报库
专题合集
英文报告
数据图表
会议报告
其他资源
新质生产力
DeepSeek
低空经济
大模型
AI Agent
AI Infra
具身智能
自动驾驶
宠物
银发经济
人形机器人
企业出海
算力
微短剧
薪酬
白皮书
创新药
行业分析
个股研究
年报财报
IPO招股书
会议纪要
宏观策略
政策法规
其他
人工智能
信息科技
互联网
消费经济
汽车交通
电商零售
传媒娱乐
医疗健康
投资金融
能源环境
地产建筑
传统产业
英文报告
其它
行业聚焦
芯片产业
热点概念
全球咨询智库
人工智能
500强
新质生产力
会议峰会
新能源汽车
企业年报
互联网
公司研究
行业综观
消费教育
科技通信
医药健康
人力资源
投资金融
汽车产业
物流地产
电子商务
传统产业
传媒营销
其它
十五五规划系列报告合集(共54套打包)
2026年宠物经济/它经济报告合集(共46套打包)
AI、科技与通信
广告、传媒与营销
消费、零售与支付
HR、文化与旅游
金融、保险与投资
能源、环境与工业
医疗制药与大健康
物流、地产与建筑
其他行业
AI ▪ 科技 ▪ 通信
数字化
金融财经
智能制造
电商传媒
地产建筑
医疗医学
能源化工
其他行业

收藏
下载
2026-07-20

AI查数
行业数据
政策法规
商业模式
产业链
竞争格局
市场规模
产业概述
自研数据
其它
2026年
AI读财报
年报
一季报
半年报
三季报
IPO招股书
社会责任报告
A股
IPO申报
港股
美股&全球
新三板
2026-07-30
计算机产业
15页
3张图表
0731-84720580
商务合作:really158d
微信扫码登录
手机快捷登录
账号登录