华为:迈向智能世界白皮书2024-云计算(20页).pdf

编号:175766 PDF  PPTX 20页 3.32MB 下载积分:VIP专享
下载报告请您先登录!

华为:迈向智能世界白皮书2024-云计算(20页).pdf

1、2目录趋势一:构建AI原生基础设施,提供弹性、高效、多元的算力01趋势二:构建以知识为中心的数据底座,为大模型高效供数02趋势三:构建多模态多尺寸模型,实现场景与模型的最佳匹配03趋势四:开放价值场景,使AI Agent成为企业AI落地的新方向043趋势一:构建AI原生基础设施,提供弹性、高效、多元的算力014趋势一:构建AI原生基础设施,提供弹性、高效、多元的算力GPUCPU内存NPUDPU基于主从架构的单体算力基于全对等池化的矩阵算力联算比、容算比、存算比配比失衡,带来性能扩展、成本、效率全面挑战,AI基础设施架构需进行系统性变革AI算力基础设施从单体算力到矩阵算力Transformer大

2、模型过去20年16.8倍/2年1.4倍/2年11.2倍/2年60,000倍100倍2倍/2年参数量运算量内部连接带宽内存容量硬件计算能力内存带宽联算比=联接带宽/算力容算比=内存容量/算力存算比=内存带宽/算力NPUGPUCPU内存DPU统一高速互联总线5行动建议:建设多样算力全对等、池化、可组合的新型AI算力基础设施资源统一池化突破算力边界CPU/XPU/内存/网卡统一资源标识统一通信访问统一资源访问高速互联总线CPU池内存池DPU池NPU池统一访问地址内存共享总线对等互联突破网络边界超高带宽总线总线服务化总线网络化总线资源化总线智能化算力灵活组合突破使用边界调度系统AI for Syste

3、m服务器为粒度调度-矩阵为粒度调度算力类型可组合算力规模可组合资源统一池化:突破单服务器的能力边界,实现CPU、NPU、GPU、内存等多样资源统一池化。总线对等互联:提供超高带宽Scale-up网络,网络带宽对比传统网络提升一个数量级以上,达到 Tb级。算力灵活组合:通过调度系统匹配最优算力,覆盖百亿到万亿级模型训练推理场景,提供最优性能、最佳性价比的AI算力。TPTT6行业实践:华为云数据中心系统性架构升级,模型训练及推理效率大幅提升NPU池CPU池内存池GPU池DPU池AI-Native云基础设施CloudMatrix新一代的多元算力对等全互联架构模型训练:算力按模型参数量自动匹配效率提升

4、比模型参数量Pangu U(230B)Pangu U(550B)Pangu S(xT)Pangu S(xT)71%68%28%26%30%传统架构推理效率*数据基于盘古U系列(2300亿)模型算力平台模型推理:算力最优配比,效率提升CloudMatrix702趋势二:构建以知识为中心的数据底座,为大模型高效供数8趋势二:构建以知识为中心的数据底座,为大模型高效供数自动抽取多模态数据语义自动处理大模型所需的高质量数据自动构建企业知识图谱数据湖BI等业务应用非结构化、结构化、半结构化数据知识湖BI等业务应用AI模型、语义、图谱、专家经验、规则等当前很多企业都建有数据仓库和数据湖用于企业商业智能,但

5、面对AI大模型,当前数据平台还不能很好地为大模型使用,需要进行大量数据清洗、知识抽取,从而构建服务于AI模型的、以知识为中心的数据底座:1、对数据湖的数据进行语义抽取,将数据与业务语义进行关联,转化为知识;2、通过AI自动生成大模型所需要的问答对、图文对,能将业务知识高效供给大模型预训练和微调;3、基于企业已积累的大规模数据,通过AI自动构建起企业的知识图谱。让业务人员可以通过企业大模型,用自然语言对话方式来快速实现各类任务。9行动建议:三层架构为大模型高效供数知识湖层智能决策层数智服务层智能搜索数智助手智能Workflow智能洞察AI4Data Engine决策应用自助可视分析应用自助数智应

6、用发布数智应用市场RAGGraphRAG数据准备算子数据集成算子特征处理Data4AI Engine(training/serving ready datasets)ModelArtsOther AI/ML PlatformsLLM/SLMNL2SQL引擎AutoETL视图优化查询优化增强分析DaaS Engine数据服务模型服务业务仿真运维/运营优化AutoAI/MLMaaS Engine模型服务信息爬取与集成知识定义知识生成知识融合知识湖-知识处理层业务决策/数智应用AI训练推理服务工具第三方开发应用Other Apps动态本体知识图谱智能索引知识管理&安全知识湖-知识服务层 知识处理层:

友情提示

1、下载报告失败解决办法
2、PDF文件下载后,可能会被浏览器默认打开,此种情况可以点击浏览器菜单,保存网页到桌面,就可以正常下载了。
3、本站不支持迅雷下载,请使用电脑自带的IE浏览器,或者360浏览器、谷歌浏览器下载即可。
4、本站报告下载后的文档和图纸-无水印,预览文档经过压缩,下载后原文更清晰。

本文(华为:迈向智能世界白皮书2024-云计算(20页).pdf)为本站 (散文诗) 主动上传,三个皮匠报告文库仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对上载内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知三个皮匠报告文库(点击联系客服),我们立即给予删除!

温馨提示:如果因为网速或其他原因下载失败请重新下载,重复下载不扣分。
客服
商务合作
小程序
服务号
折叠