《从云计算看AI投资的ROI:企业上云具备性价比云业务具备较高回报率-241018(39页).pdf》由会员分享,可在线阅读,更多相关《从云计算看AI投资的ROI:企业上云具备性价比云业务具备较高回报率-241018(39页).pdf(39页珍藏版)》请在三个皮匠报告上搜索。
1、企业上云具备性价比,云业务具备较高回报率 西南证券研究发展中心 海外研究团队 2024年10月 AI专题从云计算看AI投资的ROI 2 核心观点 小型企业及高成长性企业云化驱动力较强,云上部署相较于私有化部署具备更高性价比。私有化部署即自建数据中心,云上部署则采用云服务提供商的配套服务。1)部署考虑因素:在AI时代下,GPU的供需缺口是导致众多企业难以进行私有化部署的关键,当前,众多中小企业和初创公司难以获得高性能芯片以自建算力集群;且云上部署相较于自建IDC,开通效率更高。从长期来看,企业自建IDC的情况下,业务曲线和资源曲线之间容易产生短缺和浪费,云上部署则可以根据业务情况灵活增减,实现资
2、源按需付费,成本更加可控。2)企业部署画像:根据HG Insights数据,初创企业和小微企业多数选择上云为主,而大型企业和中型企业在上云的同时,还会选择自建数据中心。且当业务具备较高成长性时,企业可以选择分阶段、增量式上云。3)部署成本测算:基于AI时代下模型预训练的算力需求,我们对企业是否选择云上部署进行成本探讨,根据测算,在各种模型规模下,私有化部署成本远高于云上预训练成本。云服务商加大投入力度,云业务具备较高回报率。1)云服务商投入力度:亚马逊/微软/谷歌/甲骨文等大厂方面,资本开支持续增加,云计算基础设施加速布局;CoreWeave、Lambda等初创企业方面,近年来积极融资,以寻求
3、更多算力资源。2)CPU IaaS与GPU IaaS对比:Semianalysis数据表明,GPU数据中心总拥有成本显著提升,在英伟达DGX H100服务器中,GPU成本中占比约7成,而内存和存储成本占比相较于CPU服务器显著下降;此外,在CPU IaaS时代,云计算通过虚拟化和容器等技术可实现资源的超卖,而在GPU IaaS时代,服务器在模型训练时通常处于满额利用状态,优化MFU成为提升可用算力的有效手段之一。3)投资回报:根据各厂商官网数据,H100的租赁价格从2$/h13$/h不等,其中云服务大厂的算力租赁价格较为稳定。假设数据中心算力使用率为80%、且推出五折优惠,则云厂商每小时对应的
4、实际收益为H100租赁价格的40%。若租赁价格为10$/h、对应实际收入为4$/h,扣除成本0.88$/h,利润率则可达78%,回本周期仅需1年。相关标的:英伟达(NVDA.O)、微软(MSFT.O)、亚马逊(AMZN.O)、谷歌(GOOGL.O)、甲骨文(ORCL.N)等。风险提示:市场需求不及预期;行业竞争加剧;投资回报不及预期等风险。1 目 录 2 1.1 企业私有化部署和云上部署的考虑因素 支出水平 业务特性 GPU可获得性 建设或部署周期 使用弹性 部署成本等 企业规模 微型支出客户占比约八成,北美地区客户分布较多微型支出客户占比约八成,北美地区客户分布较多 稳态企业可选择自建机房,
5、高成长性企业云化驱动力较强稳态企业可选择自建机房,高成长性企业云化驱动力较强 众多企业难以获得高性能芯片以自建数据中心众多企业难以获得高性能芯片以自建数据中心 自建IDC需三个月以上,云服务可做到分钟级开通 自建IDC需三个月以上,云服务可做到分钟级开通 云资源可以根据业务情况灵活增减 云资源可以根据业务情况灵活增减 实现资源按需付费,成本更加可控实现资源按需付费,成本更加可控 微小型企业选择上云为主,大型企业配备私有化部署 微小型企业选择上云为主,大型企业配备私有化部署 1.2 企业私有化部署和云上部署的客户画像 数据中心控制权 企业私有化部署对数据中心具有更高控制权企业私有化部署对数据中心
6、具有更高控制权 GPU峰值算力 算力利用率(MFU)模型大小 H100在FP16 Tensor核心性能下的算力水平为1979TFOPSH100在FP16 Tensor核心性能下的算力水平为1979TFOPS 万卡集群MFU可达40%,GPU数量越少、MFU越高万卡集群MFU可达40%,GPU数量越少、MFU越高 企业AI模型多为业务场景设计,部署中等模型即可满足需求 企业AI模型多为业务场景设计,部署中等模型即可满足需求 1.3 企业私有化部署与云上部署的成本探讨 GPU成本或租赁价格 单张H100成本在2.03.5万美金,云租赁价格在2$13$/GPU/h单张H100成本在2.03.5万美金