谷歌云：2025如何利用容器加速 AI 创新：技术领导者指南（23页）.pdf

1、1如何利用容器加速 AI 创新：技术领导者指南 Google Kubernetes Engine 如何帮助您成功运用 AI。2AI 时代已经到来。您的基础设施准备好了吗？AI 正在从根本上重塑行业和竞争格局，技术领导者面临着以极快的速度交付有影响力的 AI 解决方案的巨大压力。然而，旨在实现这种创新的基础设施本身往往会成为瓶颈，因为它们复杂、昂贵，并且难以满足现代 AI 的需求。好消息是，您无需重新设计方法。您现有的容器、Kubernetes 技能和投资，已经为 AI 工作负载奠定了坚实的基础。借助 Google Kubernetes Engine(GKE)，您的团队可以将基础设施转化为战略优

2、势，帮助他们在 AI 新时代脱颖而出。这本电子书介绍了如何利用现有的 Kubernetes 投资，快速将您的基础设施转变为 AI 创新的高性能引擎。简介23目录1.AI 的现实检验：五大挑战3.大规模释放 AI 的潜力是首要事项49713194.经济高效的 AI 推理是实现盈利的途径2.机会：借助 AI 和容器将愿景转化为规模5.利用无缝基础设施为每个 AI 角色赋能，助力业务成功4AI 的现实检验：五大挑战 第 1 章生成式 AI(gen AI)和大语言模型(LLM)正在彻底改变各行各业，释放新功能并加速创新。但这种爆炸式增长也带来了代价，即在成本、性能需求和安全性之间取得平衡的压力不断增大

3、。核心挑战是什么？跟上 AI 不断发展的步伐，同时应对日益复杂的基础设施。随着 AI 模型规模的扩大和工作负载的增加，一些关键趋势正在推动技术领导者重新评估其基础设施策略。随着生成式 AI 采用率的飙升，平台正成为瓶颈。尽管 98%的组织都在积极尝试或部署生成式 AI，但全球有高达 45%的企业领导者难以构建稳健、可扩缩的 AI 平台。1这不仅仅是技术问题，还会直接导致错失竞争优势。这会延迟关键产品的上市时间，并造成资源分配效率低下，减少本可用于核心业务计划的宝贵预算。打造可扩缩的机器学习平台，为开发者、科学家、IT 运维人员等不同用户提供服务，需要周密的规划和合适的加速器。此外，还需要能够大

4、规模管理流量、提供卓越性价比并确保可观测性的基础设施，同时不会减缓创新或组织敏捷性。11 Google Cloud，2025 年，AI 基础设施现状研究报告51 Google Cloud，2025 年，AI 基础设施现状研究报告 2 Google Cloud，2025 年，AI 基础设施现状研究报告 3 Tech Monitor，2023 年，到 2026 年，AI 支出将翻一番，超过 3,000 亿美元AI 模型的规模和智能水平呈指数级增长，公司必须跟上这一趋势。45%的全球企业领导者表示，在评估生成式 AI 基础设施系统时，高效的可伸缩性是最重要的因素之一。1但这种增长不仅会增加基础设施成

5、本和复杂性，还需要大量的计算能力来训练和运行，迫使企业重新思考如何构建和扩展基础设施。AI 模型规模的不断扩大可能会导致成本飙升和巨大的运营负担。83%的技术领导者表示，成本是评估解决方案时的关键因素。2由于规模、模型复杂性、数据量和人才等因素，利用 AI 可能会导致意想不到的支出。企业需要能够提供经济高效解决方案的云提供商。不可预见的 AI 成本可能会影响利润，迫使企业在创新和预算之间做出艰难的权衡。有效的成本管理对于 AI 项目至关重要，不仅能带来实际的投资回报率，还能降低消耗。目前，对 GPU 等硬件加速器的需求严重超过供应，造成了全球硬件瓶颈。据估计，2026 年 AI 系统软件、硬件

6、和服务的支出将达到 3,000 亿美元。3这种稀缺性导致开发周期延长、成本增加，并且无法跟上 AI 快速创新的步伐。要以更少的资源实现更多目标，您需要更智能的方法来最大限度地利用现有硬件并确保未来的容量。模型大小没有限制，基础设施面临挑战。我们正面临 AI 加速器的短缺危机。成本效益对于实现 AI 计划至关重要。23464 McKinsey Digital，“Open source in the age of AI”（AI 时代的开源）76%的技术领导者预计，未来几年开源 AI 技术的采用率将会提高。4随着新工具、框架和 API 几乎每周都会出现，企业需要无缝访问，而不会被锁定在专有平台中。合