Oracle：Oracle生成式AI和检索增强生成解决方案（33页）.pdf

1、OracleAIOracle China4/1/2024Copyright 2024,Oracle and/or its affiliates 4 OracleAI Oracle OracleAI5生成式AI 模型（LLM）Prompt问题提示内容创作文案编辑（语法、风格）语义搜索聊天/问答实体提取违规检测语义分析总结Copyright 2024,Oracle and/or its affiliates预训练阶段微调阶段LLMLLM博览群书1000GPU，几十天专域知识生成式AI（Generative AI），AIGC（AI生成内容），AI文章概括总结和续写，文字转图像，AI数字化主持人等，都

2、属于生成式AI的范畴。大语言模型（LLM）指的是生成式AI中的参数巨大的自然语言模型。4/1/2024推理OracleAIAIOracleAIOracle AIOCI AILLMAIGPU AI LLM，包括Cohere创建的LLM，需要在OCI上建立大规模的AI基础设施，以经济高效的方式训练，微调和部署其生成式AI模型。OCI客户可直接使用生成式AI能力，支持微调和部署自定义模型。提供RAG框架相关服务和加速开发包，以及向量检索的数据库能力Oracle将在Oracle的云应用、行业应用，其他AI服务和数据库产品组合中嵌入生成式AI能力。Copyright 2024,Oracle and/or

3、 its affiliates 64/1/2024集成数据平台和机器学习数据科学数据库内机器学习数据集成数据目录GoldenGate&Oracle Data IntegratorAI services和OCIOCI深度集成构建自定义机器学习MLML服务预置的AIAI服务获取，转换，精炼和创建NVIDIA AI EnterpriseDGX Cloud开源MySQL HeatWave 自动化机器学习流AI 应用 自定义,Fusion,Cerner,NetSuite,垂直应用数据标签合作伙伴生态OCI 生成式AI云基础架构计算网络存储安全云原生AI基础架构数据管理数据流大数据服务自治数据库对象存储C

4、opyright 2024,Oracle and/or its affiliates 74/1/2024Digital AssistantLanguageVisionSpeechDocument UnderstandingAnomaly DetectionOCIGPUOCI(OCI Superclusters)(RoCE)v2RDMA 151600Gbps409632,768 NVIDIA A100 GPUNVIDIA H100 GPUGPUOCI(3200Gbps)NVIDIA AI EnterpriseAIAICopyright 2024,Oracle and/or its affilia

5、tesOCI（GPU&Supercluster）Nvidia AI EnterpriseNvidia DGX CloudOCI生成式AI/AI ServiceOCI数据科学服务大语言模型的训练，部署，推理4/1/20248安全和隐私端到端，简化为企业设计可针对客户数据定制API调用或独立部署OracleAICommand模型此模型可接收用户的提示并生成文本。Command 有两种不同的大小，可根据业务用例进行高度定制化，包括文本生成、文本汇总、RAG 和聊天。Summarize模型此模型可对文本进行抽象汇总，支持用户根据特殊用例需求，使用各种参数来配置结果。Embed模型可将文本转换为数值向量

6、。提供了英语和多语言模型（支持100 多种语言），包括语义搜索、文本分类、RAG 搜索引擎和旧版搜索改进。Oracle生成式AI Agent RAG Service*Copyright 2024,Oracle and/or its affiliates 94/1/2024AIOCI AI Services 4/1/2024Copyright 2024,Oracle and/or its affiliates10Language语言 语言检测 实体识别 类别识别 关键短语提取 情感分析Speech语音 语音转文本 语音翻译 文本转语音 识别发言者 发言者语气情绪识别Vision图像 图像说明 图