蒸馏等技术支持下，低参数量成为2025年大模型的重要特征，为AI终端落地提供有利条件。德邦证券计算机团队指出，2024年之前在Scaling Law推动下大模型预训练参数规模持续增长，2025年越来越考虑AI的落地与普及，低参数量小模型逐渐增多。DeepSeek-R1-Distill-Qwen-7B仅需约14GB显存（RTX 3090/4090可运行），在AIME 2024中达55.5% Pass@1，超越最先进开源模型。IDC预测2027年中国AI终端渗透率接近80%，端侧AI低延迟、隐私保护、个性化优势推动AI处理重心从云端向边缘转移。

DeepSeek通过蒸馏技术将大模型能力迁移至小模型，大幅降低端侧部署门槛。DeepSeek-R1-Distill-Qwen-7B在AIME 2024中达55.5%的Pass@1，超越QwQ-32B-Preview（44.0%），在MATH-500中达92.8%；14B版本AIME 2024达69.7%，MATH-500达93.9%；32B版本AIME 2024达72.6%，MATH-500达94.3%，CodeForces rating达1691。7B模型仅需约14GB显存，单张RTX 3090或RTX 4090即可运行，使高性能AI推理从云端服务器扩展至消费级GPU。2024年之前，在“大力出奇迹”的Scaling Law推动下，大模型厂商纷纷推动预训练参数规模增长，而在2025年越来越考虑AI的落地与普及，低参数量小模型或将逐渐增多，为AI终端大规模部署提供硬件基础。

端侧AI具有低延迟、隐私性、低功耗、个性化等优势，是AI实现规模化扩展和应用落地的关键。低延迟方面，端侧AI在本地设备上即时响应，无需等待云端数据传输，对实时性要求较高的应用场景可快速给出结果。隐私保护方面，数据不需要传输到云端，在很大程度上减少了数据泄露的风险，用户查询和个人信息安全保留在终端上。个性化方面，端侧AI可以在不侵犯用户隐私的情况下，根据用户独特的语音模式、表情、反应、使用模式、环境等形成精准用户画像，并随时间推移持续学习和演进，提供个性化服务。端侧汇聚了个人轨迹数据，为大模型训练提供了内容基础，端侧大模型更能理解用户使用习惯。AI处理重心正从云端向端侧转移，越来越多的AI推理工作在手机、笔记本电脑、XR头显、汽车等边缘终端上运行。

AI技术正在加速渗透广泛终端。2016年谷歌Pixel和苹果iPhone7发布，AI技术开始渗透到智能手机硬件层面；华为、三星等厂商加入竞争。近年来AI技术已全面融入智能终端方方面面，在摄影、电池管理、用户界面等领域大放异彩，并随着5G技术推广扩展到AIoT领域，如智能家居、可穿戴设备等。IDC预测2024年中国终端设备市场中超过半数设备在硬件层面具备AI算力基础，至2027年这一比例将攀升至接近80%并进入平稳提升阶段。高通骁龙8 Elite NPU算力达80 TOPS，联发科天玑9400 AI功耗降低35%，为端侧AI提供算力底座。AI技术正在从“云端计算”走向“端云协同”，端侧AI让AI真正触手可及，成为AI Agent的最佳载体。

表：DeepSeek蒸馏小模型性能对比

模型	参数量	AIME 2024	MATH-500	硬件需求
DeepSeek-R1-Distill-Qwen-7B	7B	55.5%	92.8%	~14GB显存
DeepSeek-R1-Distill-Qwen-14B	14B	69.7%	93.9%	~28GB显存
DeepSeek-R1-Distill-Qwen-32B	32B	72.6%	94.3%	~64GB显存
QwQ-32B-Preview	32B	44.0%	90.6%	—