《与非网：2024中国智算产业全景调研：技术重构与演进报告（41页）.pdf》由会员分享，可在线阅读，更多相关《与非网：2024中国智算产业全景调研：技术重构与演进报告（41页）.pdf（41页珍藏版）》请在三个皮匠报告上搜索。

1、与非研究院资深行业分析师 张慧娟2024中国智算产业全景调研：技术重构与演进SupplyFrame Media+E-Commerce2Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.智算产业现状总览?智算产业运行状况?智算中心核心驱动力?智算产业关键技术?智算产业竞争格局生成式AI驱动的变革?生成式AI对智算产业的影响?生成式AI发展挑战?大模型对智算产业的作用?智算产业是否过度依赖大模型算力基础设施架构和国产化情况?智算中心如何影响我国算力分配?算力卡供应情况?国产算力卡替代情况?智算中心AI芯片

2、主要方向?智算中心利好AI芯片类型未来挑战与趋势?如何提高智算中心运行效率?智算产业要解决的关键问题?智算产业发展挑战?智算产业应用领域?智算产业投资趋势Agenda3Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.1.智算产业现状总览核心点：驱动力 AI训练与推理需求激增，驱动算力基础设施快速迭代技术体系全景 覆盖芯片器件层（CPU/GPU/TPU）、硬件设施层（AI服务器/液冷）、平台调度层（弹性调度/绿色节能）、应用场景层（AI训练/边缘智能）规模与增长 2024年中国智能算力规模达725.3

3、EFLOPS，同比增速74.1%，市场规模190亿美元，增速超通用算力3倍未来趋势 2026年智能算力规模将达2024年两倍（1,460.3EFLOPS），市场规模增至337亿美元4Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.1.智算产业现状总览智算中心技术体系全景图应用场景层 AI训练 实时推理 边缘智能 科学仿真算力资源层 基础算力 智能算力GPU集群 HPC 边缘算力平台调度层 异构资源管理 弹性调度系统 数据湖仓 绿色节能控制 安全可信框架硬件设施层 AI服务器 存储阵列 高速网络 边缘

4、节点 液冷机柜芯片器件层 CPU/GPU/NPU/TPU HBM DPU 供电/散热模组算法理论层 深度学习框架 分布式训练 模型压缩 联邦学习 能效优化来源：与非研究院5Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.1.智算产业现状总览我国智算产业主要驱动力来源：与非研究院AI算法和芯片是核心驱动力，大数据和云计算提供重要支撑，政府政策与企业需求发挥推动作用。6Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distrib

5、ute.1.智算产业现状总览我国智算产业发展的关键技术来源：与非研究院智算产业关键技术，高性能AI芯片和大模型技术占比最高。云原生、云数据库、5G/6G通信、算力网络等也发挥重要作用。7Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.1.智算产业现状总览我国智算中心运行现状大部分满负荷运行，满足当前算力需求部分满负荷运行，存在一定程度的算力闲置多数未满负荷运行，算力闲置情况较普遍几乎没有满负荷运行，算力闲置问题严重不确定来源：与非研究院我国智算中心整体运行良好，但需优化资源分配以提升整体效率。8Su

6、pplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.1.智算产业现状总览影响智算中心满负荷运行的主要因素市场需求不足，导致算力利用不充分运维管理能力不足，影响算力发挥电力消耗大，运营成本高，限制了满负荷运行硬件资源利用率低，技术问题导致算力未充分利用不确定来源：与非研究院市场需求不足、促成更多商用落地是目前最大障碍，但运维管理、成本控制和资源利用等问题也不容忽视。9Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.

7、1.智算产业现状总览智算产业发展格局与演进趋势来源：与非研究院智算产业呈现高度集中与多元化并存的格局，技术创新和政策驱动为主要推动力，绿色低碳与国产替代成为新趋势。10Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.1.智算产业现状总览我国智能算力规模和增长趋势：2024年，中国智能算力规模达725.3EFLOPS，同比增长74.1%，增幅是同期通用算力增幅(20.6%)的3倍以上；市场规模为190亿美元，同比增长86.9%。未来两年，中国智能算力仍将保持高速增长：中国智能算力规模：2025年将达到

8、1,037.3 EFLOPS，较2024年增长43%；2026年将达到1,460.3 EFLOPS，为2024年的两倍。中国人工智能市场规模：2025年将达到259亿美元，较2024年增长36.2%；2026年将达到 337亿美元，为2024年的1.77倍。数据来源：2025年中国人工智能计算力发展评估报告11Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.2.算力基础设施架构和国产化情况核心点：基础地位 算力基础设施是智算产业底座，我国在用/在建算力规模反映产业发展潜力。架构选择 AI训练主要依赖

9、GPU集群，推理向边缘算力延伸，需异构资源管理与高速网络支持。国产替代 国产算力卡逐步替代进口，但关键芯片仍依赖国际供应链。能耗挑战 单机柜性能提升导致能耗压力，需液冷技术等绿色节能方案优化。12Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.2.算力基础设施架构和国产化情况智算中心对我国算力格局的影响集中度提高，算力更加集中在少数大型数据中心推动算力向边缘计算下沉，满足实时数据处理需求促进区域平衡，缩小不同地区的算力差距影响算力价格，由于技术进步和规模经济，价格更加亲民提高智算中心服务效率，促进产

10、业高质量发展来源：与非研究院智算中心建设提升了算力集中度和效率，对促进区域算力平衡、降低算力成本、支撑产业高质量发展具有重要作用。13Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.2.算力基础设施架构和国产化情况智算算力卡供应稳定性表现来源：与非研究院算力卡供应主要受供应链和国际市场政策的影响，大多数情况下供应较为稳定，但仍有相当比例存在波动。14Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.2.算力

11、基础设施架构和国产化情况智算算力卡价格分布来源：与非研究院高端算力卡技术门槛和成本偏高，不同品牌和型号之间存在价格差异。超过半数认为价格偏高，合理价格产品占近三成，低价产品较少。15Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.2.算力基础设施架构和国产化情况国产算力卡替代情况来源：与非研究院算力卡国产化进展显著，但整体进程仍需继续提升。16Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.2.算力基础设

12、施架构和国产化情况智算中心利好芯片类型来源：与非研究院GPU占据主导地位，CPU作为基础通用算力紧随其后。FPGA、AI ASIC芯片、DPU网络芯片和NPU等专用芯片则在特定应用中发挥着重要作用。17Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.2.算力基础设施架构和国产化情况人工智能训练和推理工作负载选用的计算架构推理训练AI训练和推理工作负载所选用的计算架构，来源：IDC在人工智能训练和推理中，CPU+GPU架构在训练中占据主导，推理中CPU+GPU和CPU Only架构并重，ASIC和FP

13、GA应用于特定场景下。18Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.2.算力基础设施架构和国产化情况智算中心AI芯片主要方向引入存算一体技术，解决存储带宽和功耗问题引入稀疏化计算能力提升能效芯片设计支持更复杂的AI算子提升芯片推理的实时性和并行能力来源：与非研究院智算中心AI芯片发展主要集中在存算一体等架构创新、能效提升、支持更复杂AI模型，以及增强推理的实时性和并行能力等方向。19Supplyframe,Inc.Confidential&Proprietary.Do not reproduc

14、e or distribute.2.算力基础设施架构和国产化情况国产AI算力芯片提升市场竞争力的关键持续的技术研发和创新，包括架构优化、制程工艺等持续提升性能与可靠性，实现自主可控更好的成本控制与价格竞争力确保稳定的供应链管理和原材料供应持续提高市场需求适应性有力的政策支持与资金投入加强生态建设与上下游合作伙伴关系其他来源：与非研究院国产AI算力芯片提升市场竞争力的关键在于持续的技术研发和创新，以及性能与可靠性的提升，逐步实现自主可控。20Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.3.生成式A

15、I驱动的变革核心点：范式革新 生成式AI推动高性能算力需求，加速云-边-端覆盖与多元异构算力协同。产业升级 技术突破催生新玩家（如大模型服务商），降低应用门槛并催生微调服务模式。服务格局 传统算力机制无法满足大模型需求，定制化服务（独占式/大规模算力）成主 流。成本优化 缩短部署周期、提升数据控制能力，助力企业降本增效。21Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.3.生成式AI驱动的变革发展生成式AI的关键技术来源：与非研究院算力芯片和大模型是生成式AI性能提升的关键。同时，AI算法、存储技

16、术、网络技术等都非常重要。22Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.3.生成式AI驱动的变革生成式AI对智算产业的最大影响驱动技术创新，加速新产品研发和迭代提高产业生产效率引发对数据安全和隐私保护的重视使就业结构发生变化，某些工作职能自动化推动基础设施升级，包括数据中心和云计算平台创造新的商业模式和收入来源其他来源：与非研究院生成式AI主要通过更高效的数据处理和模型训练，驱动技术创新和提高生产效率，对智算产业产生了显著影响。23Supplyframe,Inc.Confidential&Pr

17、oprietary.Do not reproduce or distribute.3.生成式AI驱动的变革生成式AI面临的最大挑战来源：与非研究院生成式AI的主要挑战集中在数据获取和质量上，其次是模型性能和计算资源，安全和隐私问题也不容忽视，这些都是实现商业化的重要考量。24Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.3.生成式AI驱动的变革解决生成式AI发展挑战的途径加强模型的研究和开发，提高生成能力和泛化性投入更多资源来获取和处理数据，提高数据的质量和多样性采用更高效的计算和优化方法，提高模

18、型的能效其他来源：与非研究院解决生成式AI发展挑战的主要途径包括提高模型的能效、加强模型研究与开发、提升数据质量和多样性等，其中提高能效最为关键。25Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.3.生成式AI驱动的变革大模型对AI智算产业的作用至关重要，是推动行业发展的核心力量比较重要，但还有其它关键技术共同推动行业发展一般重要，主要影响特定领域或任务不太重要，对行业发展的贡献有限完全不重要来源：与非研究院大模型确实对智算产业发展起到了关键作用，同时，其他技术如硬件加速、数据处理和算法优化等也不

19、可忽视。26Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.3.生成式AI驱动的变革大模型发展的途径更高效的训练方法，如减少训练时间和成本更广泛的应用场景，覆盖更多行业和领域更严格的伦理和监管，确保模型的公正性和透明度更开放的合作与共享，促进知识交流和技术进步更好的数据隐私保护，增强模型的安全性和可靠性其他来源：与非研究院大模型的发展应重点关注高效训练方法和广泛的应用场景，同时兼顾伦理监管、合作共享和数据隐私保护。27Supplyframe,Inc.Confidential&Proprietary.

20、Do not reproduce or distribute.3.生成式AI驱动的变革智算产业是否过度依赖大模型来源：与非研究院大模型驱动智算产业发展，成为算力主赛道。但同时应注重技术多样性，以实现更高效、更灵活的发展。28Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.3.生成式AI驱动的变革避免过度依赖大模型的解决方案推动跨学科研究、结合不同模域的知识，提高算力资源的使用效率，优化资源分配开发使用多种规模和类型的模型，减少对单一大模型依赖强化数据隐私和安全性措施，减少对大量数据的依赖加强模型的可

21、解释性研究，提高对模型决策过程的理解研发更高效的轻量级模型，满足不同场景需求提高算力资源的使用效率，优化资源分配制定行业标准和最佳实践，引导合理使用大模型其他来源：与非研究院大模型固然重要，但过度依赖有风险。技术多样性可以降低对单一技术依赖，针对不同场景提高效率和效果，还可促进创新，推动产业的长期发展。29Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.4.未来挑战与趋势核心点：技术挑战 集群规模扩大导致故障率上升，算法效率提升与算力需求增长并存。架构演进 单节点性能提升+横向扩展并行，推理需求驱动

22、芯片架构创新。应用落地 AI与实体经济深度融合，需解决算力利用率低、场景适配不足问题。长期趋势 DeepSeek等算法优化主导发展，智算中心成为数字经济核心驱动力，前景广阔但需持续突破能耗与成本瓶颈。30Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.4.未来挑战与趋势智算产业对传统ICT的影响作为转型推动力，促使产业向智能化、自动化方向发展引入新的竞争者，增加了市场竞争激烈程度推动了业务模式创新，如云服务、大数据服务等影响投资和研发方向，更多资源被投入到智能技术的研发中通过提供高效的计算能力，提升

23、运营效率对从业人员技能要求变化，需掌握AI、机器学习等新技能带来了新的安全和隐私保护挑战，需要采取新的技术和策略来应对其他来源：与非研究院智算产业通过推动智能化转型、引入新竞争者、促进业务模式创新和调整投资研发方向，对传统ICT行业产生了深远影响，同时也带来了新的技能和安全挑战。31Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.4.未来挑战与趋势提高智算中心运行效率的途径优化运维管理，提升硬件资源利用率提高算力需求，增加使用场景降低运营成本，如通过绿色节能技术减少电力消耗加强技术创新，提升智算中心

24、的算力服务能力不确定来源：与非研究院优化运维管理、提升硬件资源利用率是提高智算中心运行效率的关键，同时增加算力需求、降低运营成本等也是重要途径。32Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.4.未来挑战与趋势智算中心应用预测来源：与非研究院智慧金融、医疗健康、多媒体和娱乐等领域对智算需求较高，智能驾驶、教育研究等领域正在发展阶段。33Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.4.未来挑战与趋势

25、我国智算产业发展的最大挑战来源：与非研究院我国智算产业发展挑战主要集中在技术研发、国际竞争压力和供应链挑战等。这表明我国智算产业在技术创新、全球竞争力和供应链稳定性方面面临较大压力。34Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.4.未来挑战与趋势智算产业未来五年内最需要解决的问题来源：与非研究院智算产业未来五年内最需要解决的问题是算力供给与需求的匹配、国产AI芯片的研发与应用，同时也要关注智算区域协同、绿色低碳发展和其他相关问题。35Supplyframe,Inc.Confidential&P

26、roprietary.Do not reproduce or distribute.4.未来挑战与趋势预测未来五年我国智算中心的行业应用程度仅在少数行业得到应用，主要作为技术探索和试点在多个行业中得到应用，成为推动行业数字化转型的重要力量在几乎所有行业中得到广泛应用，成为行业标准和基础设施无法判断来源：与非研究院未来五年，我国智算中心应用将主要集中在少数行业作为技术探索和试点，同时在多个行业中逐步推广，成为推动行业数字化转型的重要力量。36Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.4.未来挑战

27、与趋势预测未来五年我国智算中心的区域发展程度主要集中在经济发达地区，作为区域创新发展的驱动力在全国范围内得到推广，但地区之间存在发展不平衡实现全国范围内的均衡发展，不同地区的智算中心各具特色、协同发展无法判断来源：与非研究院未来五年，我国智算中心将主要集中在经济发达地区，作为区域创新发展的驱动力。同时有望在全国范围内逐步推广，地区之间仍存在一定的不平衡性。37Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.4.未来挑战与趋势预测我国智算产业未来两年的投资趋势基础设施投资持续增加，特别是在数据中心和算

28、力网络建设方面AI应用开发将成为投资热点，尤其是能够落地实体经济场景的应用AI基础技术开发将成为投资热点，尤其是具备突破性的领域云服务和AI原生应用的融合成为重点资本市场对智算领域的投资将保持活跃其他来源：与非研究院预测未来两年，我国智算产业投资将重点聚焦于基础设施建设、AI应用开发、基础技术研究、云服务与AI融合。同时，资本的持续投入将为产业发展提供强有力支持。38Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.4.未来挑战与趋势中国智能算力和通用算力规模及预测，2020-20282020-202

29、8，中国智能算力和通用算力规模及预测，来源：IDC我国智能算力和通用算力均呈现持续增长趋势，智能算力增长尤为显著，反映出人工智能技术的快速发展和应用需求的激增。39Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.4.未来挑战与趋势DeepSeek驱动的AI浪潮下，智算中心的发展：1.Scaling Law的主导地位?算法效率提升：DeepSeek等算法优化并未抑制算力需求。?用户与场景增加：推动大模型普及，带动智算中心、边缘及端侧算力建设。?算力需求增长：算力需求持续攀升。2.DeepSeek的算法

30、创新?算法核心：算法成为AI发展的核心动力，引领算力发展。?架构变革：驱动计算架构和智算中心变革。3.计算架构变革?单节点性能提升：满足大模型高计算资源需求。?横向扩展：增加节点数量，提高互连效率。?推理需求：面向应用和推理需求的芯片和系统架构设计。4.智算中心挑战?故障率上升：集群规模扩大导致节点故障率上升。?能耗挑战：单机柜性能提升导致能耗增加。?算力利用率：部分智算中心算力利用率未达预期，需解决资源利用率低的问题。40Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.总结1.核心驱动力?智算产业

31、：作为数字经济的核心驱动力，智算产业正迎来前所未有的发展机遇。?生成式AI：进一步推动了智算产业的变革，从计算范式到产业动量再到算力服务格局，都发生了深刻的变化。2.技术创新与行业变革?DeepSeek等AI技术：通过算法创新，提升了算法效率，降低了AI模型的训练成本，提高了模型性能，推动了AI技术的广泛应用。?行业影响：这些创新不仅在中国，也在全球范围内引发了科技版图的新变数，为智算产业带来了新的发展机遇。3.未来挑战与前景?技术突破：智算产业将面临技术突破的挑战，需要不断推动技术创新。?应用落地：AI应用开发的落地将推动智算产业与实体经济的结合，实现更广泛的应用。?成本优化：优化成本结构，提高算力资源的利用效率，是智算产业持续发展的关键。41Supplyframe,Inc.Confidential&Proprietary.Do not reproduce or distribute.THANK YOU！