《SuperCLUE:中文大模型基准测评2025年3月报告(46页).pdf》由会员分享,可在线阅读,更多相关《SuperCLUE:中文大模型基准测评2025年3月报告(46页).pdf(46页珍藏版)》请在三个皮匠报告上搜索。
1、中文大模型基准测评中文大模型基准测评2022025 5年年3 3月月报告报告 2025.03.18 2025中文大模型阶段性进展3月评估SuperCLUE团队精准量化通用人工智能(AGI)进展,定义人类迈向AGI的路线图Accurately quantifying the progress of AGI,defining the roadmap for humanitys journey towards AGI.报告目录报告目录一、一、2025年度关键进展及趋势年度关键进展及趋势2025年大模型关键进展 2025年值得关注的中文大模型全景图2025年国内外大模型差距二、年度通用测评介绍二、年度
2、通用测评介绍SuperCLUE基准介绍 SuperCLUE大模型综合测评体系SuperCLUE通用测评基准数据集及评价方式 各维度测评说明及示例测评模型列表 三、总体测评结果与分析三、总体测评结果与分析SuperCLUE通用能力测评总榜SuperCLUE模型象限SuperCLUE推理模型总榜SuperCLUE推理任务总榜 SuperCLUE基础模型总榜性价比区间分布综合效能区间分布国内大模型成熟度-SC成熟度指数评测与人类一致性验证开源模型榜单10B级别小模型榜单端侧5B级别小模型榜单四、四、DeepSeek系列模型深度分析系列模型深度分析DeepSeek-R1及其蒸馏模型对比DeepSeek
3、-R1和国内外头部推理模型对比DeepSeek-R1第三方平台联网搜索能力测试(网页端)DeepSeek-R1第三方平台稳定性测试 (网页端、App端、API端)报告摘要(一)o3-mini(high)稳居第一,推理能力全面领先稳居第一,推理能力全面领先o3-mini(high)在 SuperCLUE-3月评测中表现卓越,以 76.01 分和 84.51分稳居总榜和推理任务总榜第一,双榜均领先国内第一近5分,展现出强大的通用推理能力。推理模型较基础模型优势明显,且国内较海外头部推理模型略有领先推理模型较基础模型优势明显,且国内较海外头部推理模型略有领先国内模型推理DeepSeek-R1在总榜上
4、领先Claude 3.7 Sonnet近2.32分,QwQ-32B在推理任务榜单上领先Gemini-2.0-Flash-Thinking-Exp-01-21近7.65分。大模型在推理速度和性价比的两级分化逐渐大模型在推理速度和性价比的两级分化逐渐明显明显国内推理模型DeepSeek-R1和QwQ-32B虽然推理任务上表现出色,但推理时间也随之变长;在性价比方面,DeepSeek、Qwen系列模型具有极高的性价比优势,但Claude 3.7 Sonnet由于高性能仍保持较高的API价格。小参数模型表现超出小参数模型表现超出预期预期多款开源小参数量模型展现出惊人潜力。尤其是DeepSeek-R1-
5、Distill系列,其中7B和14B版本在数学推理任务上分别取得了77.23分和79.46分的高分,超越了众多闭源大模型。3报告摘要(二)4数据来源:SuperCLUE,2025年3月18日;推理任务得分为推理任务总分:数学推理、科学推理和代码的平均分。开源模型如QwQ-32B使用方式为API,价格信息均来自官方信息。部分模型API的价格是分别基于输入和输出的 tokens 数量确定的。这里我们依照输入 tokens 与输出 tokens 3:1 的比例来估算其整体价格。价格信息取自官方在3月的标准价格(非优惠价格)。数据来源:SuperCLUE,2025年3月18日。DeepSeek-R1和
6、国内外推理模型能力对比大 模 型 性 价 比 分 布第1部分 20252025年度年度关键进展及趋势关键进展及趋势1.2025年大模型关键进展 2.2025年值得关注的中文大模型全景图3.2025年国内外大模型差距5关键进展时间跃跃进期进期自2022年11月30日ChatGPT发布以来,AI大模型在全球范围内掀起了有史以来规模最大的人工智能浪潮。国内外AI机构在过去2年有了实质性的突破。具体可分为:准备期、跃进期、繁荣期和深化期。2025年大模型关键进展2022.122023.062024.062025.032023.12SuperCLUE:AI大模型大模型2025年关键进展年关键进展6深化期