慧博智能投研报告指出，在推理算力需求爆发的同时，国产AI芯片的替代进程正在加速。寒武纪思元590单卡算力超过英伟达A100，互联集群性能可达A100的80%（部分场景可达甚至超过）；华为昇腾构建了从处理器到应用使能的全栈AI计算生态，覆盖“端、边、云”全场景。随着美国对高端芯片出口限制持续加码，国产推理芯片凭借性价比优势和本土生态适配，有望在3-5年内占据更大的市场份额。

寒武纪是国内智算芯片领域的龙头企业，2024年其思元590产品在互联网大厂广泛送样测试。据公开资料，思元590单卡性能超过英伟达A100，互联集群性能可以达到A100的80%，某些场景甚至可以达到或超过A100。公司背靠中科院计算所，2021-2023年研发开支合计超过37亿元（11.36亿/15.23亿/11.18亿），处于A股芯片上市公司前列。自2021年思元370发布以来，高算力产品已在阿里、百度、字节、腾讯等互联网大厂受到广泛测试和批量采用。思元590作为性能更强、开发者工具更完善的产品，2024年下半年通过互联网大客户的测试，相关产品有望在2025年迎来加速出货。据不完全统计，仅字节、阿里、腾讯等互联网厂商就有数十万台的AI服务器需求，短中期市场空间可达千亿元人民币。

华为昇腾计算产业是基于昇腾系列AI处理器和基础软件构建的全栈AI计算基础设施，包括昇腾系列处理器、系列硬件、CANN（异构计算架构）、AI计算框架、应用使能、开发工具链等。产品形态覆盖Atlas系列模块、板卡、小站、服务器、集群，面向“端、边、云”全场景。昇腾为客户打造了多类场景化解决方案：国家区域AI计算中心（以AI算力集群赋能产业集群）、城市AI中枢（推动城市感知/认知/决策/执行深度协同）、通用训练服务器场景（互联网/金融/运营商等行业）、视频与图像分析（中心+边缘推理，各行业环境实时智能分析）。昇腾不断扩大合作纵深，DeepSeek R1/V3等模型已上线昇腾社区，支持昇腾硬件平台开箱即用。

海光信息的DCU（深度计算单元）是另一重要国产算力力量。深算一号（7nm，4096核心，显存32GB HBM2，带宽1024GB/s）性能达到国际上同类型高端产品的水平；2023年三季度发布的深算二号实现了在大数据、人工智能、商业计算等领域的商用，性能较深算一号提升100%以上。海光DCU基于“类CUDA”环境研发，全精度浮点数据和各种常见整型数据计算能力完备。在推理端，海光DCU可适配主流AI框架，提供从训练到推理的完整算力支持。

国产AI芯片在推理端的替代路径比训练端更为清晰。推理任务对单卡绝对算力的要求相对较低，更关注时延、吞吐量和功耗，国产芯片在性价比和本土化服务方面的优势更容易体现。据测算，未来3-5年内，高性价比的国产AI芯片有望在推理市场占据更大份额。从替代节奏看，互联网厂商的推理端（搜索推荐、内容审核等传统AI场景）已批量采用国产芯片；大模型推理端（生成式AI）正在从小规模试点向规模化部署过渡。2025年有望成为国产推理芯片在大模型推理端的规模化放量元年。

国产推理芯片核心产品与英伟达对标

厂商	芯片型号	算力对标	部署进展
寒武纪	思元590	单卡超A100，集群~80% A100	24H2通过大客户测试，25年加速出货
华为昇腾	昇腾910	对标A100	互联网/金融/运营商广泛部署
海光信息	深算二号	较深算一号提升100%	AI/大数据/商业计算商用