《华为：迈向智能世界白皮书2024-云计算（20页）.pdf》由会员分享，可在线阅读，更多相关《华为：迈向智能世界白皮书2024-云计算（20页）.pdf（20页珍藏版）》请在三个皮匠报告上搜索。

1、2目录趋势一：构建AI原生基础设施，提供弹性、高效、多元的算力01趋势二：构建以知识为中心的数据底座，为大模型高效供数02趋势三：构建多模态多尺寸模型，实现场景与模型的最佳匹配03趋势四：开放价值场景，使AI Agent成为企业AI落地的新方向043趋势一：构建AI原生基础设施，提供弹性、高效、多元的算力014趋势一：构建AI原生基础设施，提供弹性、高效、多元的算力GPUCPU内存NPUDPU基于主从架构的单体算力基于全对等池化的矩阵算力联算比、容算比、存算比配比失衡，带来性能扩展、成本、效率全面挑战，AI基础设施架构需进行系统性变革AI算力基础设施从单体算力到矩阵算力Transformer大

2、模型过去20年16.8倍/2年1.4倍/2年11.2倍/2年60,000倍100倍2倍/2年参数量运算量内部连接带宽内存容量硬件计算能力内存带宽联算比=联接带宽/算力容算比=内存容量/算力存算比=内存带宽/算力NPUGPUCPU内存DPU统一高速互联总线5行动建议：建设多样算力全对等、池化、可组合的新型AI算力基础设施资源统一池化突破算力边界CPU/XPU/内存/网卡统一资源标识统一通信访问统一资源访问高速互联总线CPU池内存池DPU池NPU池统一访问地址内存共享总线对等互联突破网络边界超高带宽总线总线服务化总线网络化总线资源化总线智能化算力灵活组合突破使用边界调度系统AI for Syste

3、m服务器为粒度调度-矩阵为粒度调度算力类型可组合算力规模可组合资源统一池化：突破单服务器的能力边界，实现CPU、NPU、GPU、内存等多样资源统一池化。总线对等互联：提供超高带宽Scale-up网络，网络带宽对比传统网络提升一个数量级以上，达到 Tb级。算力灵活组合：通过调度系统匹配最优算力，覆盖百亿到万亿级模型训练推理场景，提供最优性能、最佳性价比的AI算力。TPTT6行业实践：华为云数据中心系统性架构升级，模型训练及推理效率大幅提升NPU池CPU池内存池GPU池DPU池AI-Native云基础设施CloudMatrix新一代的多元算力对等全互联架构模型训练：算力按模型参数量自动匹配效率提升

4、比模型参数量Pangu U(230B)Pangu U(550B)Pangu S(xT)Pangu S(xT)71%68%28%26%30%传统架构推理效率*数据基于盘古U系列（2300亿）模型算力平台模型推理：算力最优配比，效率提升CloudMatrix702趋势二：构建以知识为中心的数据底座，为大模型高效供数8趋势二：构建以知识为中心的数据底座，为大模型高效供数自动抽取多模态数据语义自动处理大模型所需的高质量数据自动构建企业知识图谱数据湖BI等业务应用非结构化、结构化、半结构化数据知识湖BI等业务应用AI模型、语义、图谱、专家经验、规则等当前很多企业都建有数据仓库和数据湖用于企业商业智能，但

5、面对AI大模型，当前数据平台还不能很好地为大模型使用，需要进行大量数据清洗、知识抽取，从而构建服务于AI模型的、以知识为中心的数据底座：1、对数据湖的数据进行语义抽取，将数据与业务语义进行关联，转化为知识；2、通过AI自动生成大模型所需要的问答对、图文对，能将业务知识高效供给大模型预训练和微调；3、基于企业已积累的大规模数据，通过AI自动构建起企业的知识图谱。让业务人员可以通过企业大模型，用自然语言对话方式来快速实现各类任务。9行动建议：三层架构为大模型高效供数知识湖层智能决策层数智服务层智能搜索数智助手智能Workflow智能洞察AI4Data Engine决策应用自助可视分析应用自助数智应

6、用发布数智应用市场RAGGraphRAG数据准备算子数据集成算子特征处理Data4AI Engine(training/serving ready datasets)ModelArtsOther AI/ML PlatformsLLM/SLMNL2SQL引擎AutoETL视图优化查询优化增强分析DaaS Engine数据服务模型服务业务仿真运维/运营优化AutoAI/MLMaaS Engine模型服务信息爬取与集成知识定义知识生成知识融合知识湖-知识处理层业务决策/数智应用AI训练推理服务工具第三方开发应用Other Apps动态本体知识图谱智能索引知识管理&安全知识湖-知识服务层 知识处理层：