尹海文-Oracle OCI生成式AI解决方案2.0.pdf

1、Oracle OCI生成式生成式AI解决方解决方案案某科技公司 DBA总监 尹海文尹海文Oracle ACE Associate:Database（Oracle与MySQL）10年数据库行业经验，现主要从事数据库服务工作拥有OCM 11g/12c/19c、MySQL 8.0 OCP、Exadata、CDP等认证墨天轮MVP、认证技术专家，ITPUB认证专家，OCM讲师圈内拥有“总监”、“保安”、“国产数据库最大敌人”等称号，非著名社恐（社交恐怖分子）公众号：胖头鱼的鱼缸；CSDN：胖头鱼的鱼缸（尹海文）；墨天轮：胖头鱼的鱼缸；ITPUB：yhw1809。OCI AI/LLM领域能力概览 OCI

2、 生成式AI服务介绍目录OCI AI/LLM领域能力概览Oracle AI 全景图IntegrationML for data platformsDataScienceMachine Learning/AI Vector Search in Oracle DatabaseData Integration Data CatalogGoldenGate&Oracle Data IntegratorAI servicesLanguage数字助手数字助手SpeechVisionNVIDIA AI EnterpriseNVIDIA AI EnterpriseDGX CloudDGX CloudOpen

3、SourceOpen SourceMySQL HeatWave AutoMLStreamingDocument UnderstandingDataLabelingPartner ecosystemPartner ecosystemOCI Generative OCI Generative AIAI-CohereCohereCloud InfrastructureCloud InfrastructureComputeNetworkingStorageSecurityCloud NativeAI InfrastructureData ManagementDataFlowBig Data Servi

4、ceAutonomous DatabaseObject Storage一切都与 OCI 深度集成构建您自己的机器学习服务预建人工智能服务摄取、转换、策划、创造Business applications,industry applications,Oracle SaaS portfolioAI Apps横跨云服务、应用、数据资产的统一AI/ML平台Oracle&Nvidia 助力大模型训练和机器学习OCI更好地支持大模型训练更好地支持大模型训练提供超级集群(OCI Superclusters)，提供基于融合以太网(RoCE)v2上的RDMA 的超级集群，15微秒延迟，1600Gbps目前支持单集

5、群最大4096节点（32,768 个NVIDIA A100 GPU）NVIDIA H100 GPU：用于LLM培训的最新一代GPU将在Oracle云上提供，并提供NVIDIA AI Enterprise，其中包括AI工作流程每个步骤的基本处理引擎，从数据处理和AI模型训练到模拟和大规模部署。快速训练支持多种框架快速协同/反复迭代支持多种芯片Bare MetalComputeVMOCI（GPU&Supercluster）2023年3月 甲骨文扩展了与 NVIDIA 的合作，包括在OCI Supercluster 上运行战略性 NVIDIA AI 应用程序。NVIDIA 已选择 OCI 作为第一家

6、提供大规模人工智能超级计算服务 NVIDIA DGX Cloud 的超大规模云提供商。此外，NVIDIA 还在 OCI 上运行 NVIDIA AI Foundations，这是其新的生成式 AI 云服务，可通过 DGX Cloud 获得。2022年10月 甲骨文和 NVIDIA 今天宣布建立多年合作伙伴关系，以扩大他们的长期联盟，以帮助客户通过加速计算和 AI 解决业务挑战。此次合作旨在将完整的 NVIDIA 加速计算堆栈从 GPU 到系统再到软件引入Oracle 云基础设施(OCI)。Oracle与微软生成式AI深度合作 Bing(CoPilot)采用OCI AI Infra.甲骨文甲骨文正