Microsoft Azure：如何借GPT快速建构应用？掌握9大通用规则让开发快人一步（13页）.pdf

《Microsoft Azure：如何借GPT快速建构应用？掌握9大通用规则让开发快人一步（13页）.pdf》由会员分享，可在线阅读，更多相关《Microsoft Azure：如何借GPT快速建构应用？掌握9大通用规则让开发快人一步（13页）.pdf（13页珍藏版）》请在三个皮匠报告上搜索。

1、1如何借 快速构建应用？如何借 快速构建应用？掌握 9 大通用规则让开发快人一步掌握 9 大通用规则让开发快人一步GPT2自 2022 年 12 月以来，越来越多的企业加入开拓大型语言模型的大军中来。我们相信，有一些 AI 应用将引领全球性的产业变革。众所周知，OpenAI 及微软产品（如 Microsoft 365 和 Microsoft Power Platform）中的生成式 AI 能力由 Azure 国际版提供企业级支持。开发者可以利用最先进的生成式 AI 构建自己的企业级对话应用程序，以全新的方式解决紧迫的业务问题。例如，用户 ODP 正在构建一个由 AI 驱动的聊天机器人，以支持内

2、部流程和人员沟通；Icertis 正在构建一个智能助手，助力世界上最大的合同数据库之一，解锁合同全生命周期的洞察。公共部门领域，新加坡的智能国家数字政府办公室，也在通过 AI 和大型语言模型来为选民和雇员提供更好的服务。生成式 AI 代表了人工智能领域的重大进步，将彻底改变我们生活的方方面面。上述客户案例表明，人工智能可以走得更远，通过自然语言生成，让信息获取更容易，且更有针对性，以节省人们有限的时间和精力。具有前瞻性的企业正在利用 Azure OpenAI 的优势，了解和使用生成式 AI 技术，探寻当前乃至未来的解决方案。我们经常听到的一个问题是：“我如何以自己的数据为基础，构建一个 GPT

3、 的应用？”Azure 认知搜索加上 Azure OpenAI 服务的搭配将是这一问题的完美解决方案。企业现在可以整合 Azure 的企业级服务、认知搜索在大型知识库中索引、理解和检索数据片段的能力，以及 GPT 令人印象深刻的以自然语言互动回答问题或多轮对话的能力。最近 Azure 在数据与人工智能方面的更新，再一次明确了 Azure 是构建生成式人工智能应用程序的最佳平台。这些新功能突出了数据、人工智能和云计算基础设施之间关键的互连作用，以提高开发人员的生产力，优化云计算成本。前言前言-3在 Azure Cosmos DB Conf 2023 峰会上，我们宣布了 Azure Cosmos

4、DB for MongoDB vCore 的公开预览，在全托管的 Azure 服务中，为 MongoDB 开发人员提供熟悉的架构。现在，MongoDB 的开发者可以利用 Azure Cosmos DB 的可扩展性和灵活性，为工作负载提供两种数据库架构选择：用于 MongoDB 现代化的 vCore 服务，和用于云原生应用开发的基于 Request Unit(请求单元)按用量来调用的服务。创业公司和成长型企业选择使用 Azure Cosmos DB，以低成本实现大规模、高性能、安全性和快速部署。例如，以云为先的创业公司 The Postage 就使用 Azure Cosmos DB 建立了资产规

5、划平台。尽管受管制行业的准入门槛很高，但这家初创企业通过微软的企业级安全、稳定和数据处理能力，拿到了与金融服务公司的交易订单。这些初创公司的创始人强调，无服务器和自动扩展、免费层级和灵活的模式，助力他们事半功倍。加速数据迁移和现代化1.3加速数据迁移和现代化-构建生成式人工智能应用程序的最佳平台-Azure42023 年 3 月，我们发布了 Data API builder，使现代开发者能够在极短的时间内创建全栈或后端解决方案。以前，开发人员不得不手动开发所需的后端 API，以启动数据库对象（如集合、表、视图或存储过程）的应用。现在，这些对象可以很容易地通过 REST 或 GraphQL AP

6、I 自动曝光，提高了开发者的速度。Data API builder 支持所有 Azure 数据库服务。我们还宣布了 Azure Data Studio 的 Azure PostgreSQL 迁移扩展。由 Azure Database Migration Service(数据库迁移服务)提供支持。它帮助客户评估迁移到 Azure Database for PostgreSQL-Flexible Server 的准备情况，确定合适的 Azure 规模，计算总拥有成本（TCO），并为从 PostgreSQL 的利用全新数据库提升开发生产力2.迁移创建用例。在 Azure 开源日，我们还分享了新的 M

7、icrosoft Power Platform 集成，在 Azure Database for MySQL 中更高效地自动化业务流程，获取 Azure Database for PostgreSQL 中新的可观测性和企业安全功能。Peapod Digital Labs（PDL）正在进行现代化改造，以打造一个以云为先的运营环境，将开发、运营和一系列的内部数据库都迁移到了 Azure Database for PostgreSQL。通过从单一的数据设置转向使用微软智能数据平台的模块化数据和分析架构，PDL 的开发人员正在为美国零售企业更快地建立和扩展解决方案，减少店内员工的服务失误，提高生产力。4

8、利用全新数据库提升开发生产力-5我们宣布了微软 Florence foundation model 国际版的公开预览，您可以在 Azure Cognitive Service for Vision 中获取预览。通过 Florence，最先进的计算机视觉功能将视觉数据转化为下游应用。自动生成字幕、智能裁剪、分类和搜索图片等功能可以帮助企业提升内容的可发现性、可访问性和审核性。Reddit 已经为每张图片添加了自动字幕。LinkedIn 国际版使用 Vision Services 来提供自动字幕和 alt-text 描述，助力更多人访问内容并加入对话。由于微软研究院利用数十亿的文本-图像对训练 F

9、lorence，现在开发者只需用少量的图像就可以高精度地定制模型。微软最近被评为 IDC Marketspace for Vision 领导者。我们全面的视觉认知服务（Cognitive Services for Vision）为图像和视频分析、文本识别、面部识别、图像字幕、模型定制等提供了一系列预建和定制的API，开发者可以轻松地将其整合到他们的应用程序中。这些功能在各个行业都很有用。例如，美国冲浪协会通过分析冲浪视频来量化和比较速度、力量和流量等变量，使用计算机视觉来提高冲浪者的表现和安全。H&R Block 使用计算机视觉实现更高效的数据输入和检索，为客户和员工节省了宝贵的时间。Uber

10、 使用计算机视觉，根据档案中的照片快速验证司机的身份，以防止欺诈，为司机和乘客提供安心保障。现在，Florence 使这些视觉功能更容易在应用程序中部署，且不需要机器学习经验。宣布计算机视觉 AI 的复兴3.宣布计算机视觉 AI 的复兴-6在 Azure 开源日上，我们宣布即将公开预览 Azure 机器学习的基础模型。Azure 机器学习将提供原生功能，以便客户能够大规模地构建和运营开源基础模型。有了这些新功能，企业将获得策划环境和 Azure AI 基础设施，而不必手动管理和优化相互关系。Azure 机器学习专业人员可以轻松开始他们的数据科学任务，利用 Azure 机器学习组件和管道，从多个

11、开源存储库（包括 Hugging Face）中微调和部署基础模型。构建并运行开源的大型 AI 模型4.6构建并运行开源的大型 AI 模型-7Azure 的专用 AI 基础设施可以支持 OpenAI 大模型的成功部署和可扩展性。这些系统需要基础设施能够快速扩展，具有足够的并行处理能力、低延迟和互连的图形处理单元（GPU），以训练和推理复杂的人工智能模型这是微软多年来一直在努力的事情。微软和我们的合作伙伴继续推进 AI 基础设施建设，以跟上日益增长的指数级更复杂和更大模型的需求。我们宣布预览 ND H100 v5 系列虚拟机（VM），为大型 AI 工作负载和高性能计算 GPU 提供动力。ND H1

12、00 v5 是我们迄今为止性能最强、目的最明确的 AI 虚拟机，利用 GPU、Mellanox InfiniBand 实现闪电般的吞吐量。这意味着依赖大型 AI 模型的行业，如医疗、制造、娱乐和金融服务，将可以轻松获得足够的计算能力来运行大型 AI 模型和工作负载，而不需要大规模物理硬件或软件投入。此外，我们很高兴宣布针对 GPU 工作负载的 Azure Confidential 虚拟机。该虚拟机提供了基于硬件的安全增强功能，以更好地保护使用中的 GPU 数据。我们很高兴为最新的 NVIDIA GPU-Hopper 带来这一功能。在医疗保健领域，保密计算被用于多方计算场景，以加快新疗法的发现，

13、同时保护个人健康信息。在金融服务和多银行环境中，保密计算被用来分析多个金融机构的金融交易，以检测和防止欺诈。Azure 保密计算有助于加速创新，同时提供安全、治理和合规保障，以保护正在使用的和历史敏感数据及代码。微软在与客户和合作伙伴的合作中感受到，AI 时代有着前所未有的巨大机遇。我们将持续利用数据和人工智能的力量，助力各行各业安全和负责任地提高全球生产力，造福更多人。微软面向 AI 优化的虚拟机预览发布5.微软面向 AI 优化的虚拟机预览发布-8如何利用 GPT 开发智能应用？#1 如果模型可以做到就不要写代码作为微软 CVP、Deputy CTO 的 Sam Schillace 基于其在

14、一系列大语言模型（LLM）人工智能系统中的开发经验提出了九项原则，即 Schillace Laws of Semantic AI（语义 AI 的 Schillace 法则）。这九大原则可视为 Sam Schillace 在利用 GPT 技术革新软件开发的前沿实操总结，也许对正在思考如何重构软件工程领域的你也会有所启迪模型会进化会变得更好，但编译之后代码不会。系统设计的总目标，应该是利用 LLM 的规划和理解意图的能力来构建具备杠杆效应的应用程序。开发者很容易陷入更加命令式的思维模式，并为程序的某些方面编写代码。要抵制这种诱惑在您能够让模型可靠地执行某些操作的程度上，随着模型的发展，它将变得更好

15、、更稳健。如何利用 GPT 开发智能应用？-9#2 用精度换取代码杠杆用交互来优化代码用于语法和过程模型用于语义和意图#3 沿着上一原则的思索，编写 LLM 时的正确心态不是“让我们看看我们能让跳舞的熊做什么”，而是尽可能地放大 AI 系统的能力。例如，可以先构建非常通用的模式，如“从数据库生成报告”或“编写一年的备课目录”，再使用纯文本提示词进行参数化，轻松地产生极具价值和差异化的结果。大模型有很多不同的表述方式，但从根本上说，当模型被要求推理意义和目标时，它们更强大。而当它们被要求执行特定的计算和过程时，则变现较弱。举例而言，高级模型很容易写出一般性的数独求解代码，但很难让它们自己解决数独

16、。每种类型的代码都有不同的优势，因此使用正确类型的代码解决正确类型的问题非常重要。语法和语义之间的边界是这些程序的难点。9如何利用 GPT 开发智能应用？-10#4#5系统的脆弱程度取决于其最脆弱的部分聪明的问题才能获取聪明的答案这适用于任何一种代码。我们正在努力实现灵活性和高度杠杆效应，因此谨记别硬编码任何东西。尽可能地在提示词中加入推理和灵活性，并最小化使用命令式代码，以使 LLM 发挥作用。新兴的 LLM AI 模型都非常强大，并显得“受过良好教育”。但它们缺乏上下文和主动性。如果您向它们提出简单或开放式问题，您将得到简单或通用的答案。如果您想要更多细节和精细度，问题必须更加智能化这是“

17、垃圾进，垃圾出”在人工智能时代的回声。如何利用 GPT 开发智能应用？-11#6#7不确定性是异常处理文本是通用的传输协议因为我们在用精确度换取代码杠杆，所以当模型对意图不确定时，我们需要依靠与用户的交互来校正。当我们在程序中有一组嵌套的提示词时，并且其中一个提示词在其结果上不确定时（“一个可能的方式是.”），正确的做法是等效于“异常处理”（Exception Throw）将这种不确定性向上传播，直到能够澄清或与用户交互的级别。由于 LLM 善于解析自然语言、意图以及语义，因此文本是在提示词、模块和基于 LLM 的服务之间传递指令的自然格式。自然语言对于某些用途来说不够精确，可以适当地使用结构

18、化语言，如 XML，但总体来说，在提示词之间传递自然语言非常有效，并且对于大多数用途而言，自然语言比结构化语言更加反脆弱。随着这些基于模型的程序的不断增多，这是一种自然的“未来证明”，可以使不同的提示词能够像人类一样相互理解。11如何利用 GPT 开发智能应用？-12如何利用 GPT 开发智能应用？-#9谨防“意识幻觉”模型可以用来对抗它自己我们很容易会想象 LLM 里面有一个所谓“头脑”。但人类思考与模型之间的差异是意义重大的。其中一个可以被利用的重要区别是，目前的模型无法记住几分钟前的交互。因此，虽然我们永远不会要求一个人在他们刚刚编写的东西中查找漏洞或恶意代码，但我们可以让模型这样做。它

19、可能会在两个地方犯同样的错误，但它无法“欺骗”我们，因为它不知道代码最初来自何处。这意味着我们可以在某些地方“利用模型对抗自己”它可以用作代码的安全监控器、测试策略的组成部分、生成内容的内容过滤器等。#8对人类来说很难的话对模型一样难在给模型一个具有挑战性的任务时，常见的模式是它需要“仔细思考”。这看起来很有趣，非常有趣，但是当将提示符作为程序的一部分使用时就会出现问题，因为在程序中所需要的只是推理的结果。但是，使用一个“元”提示，将问题和详细答案给出，并要求提取答案，这样做效果相当好。这是一项对人来说更容易的认知任务（可以想象只需要给某人一个通用任务：“阅读这个并找到答案”，并且在用户没有专业知识的情况下，这项任务可以在许多领域中完成，因为自然语言非常强大）。因此，在编写程序时，请记住，对人来说困难的事情很可能对模型也很困难，将模式分解成更容易的步骤通常会得到更稳定的结果。13如需了解更多内容，请您扫描右侧二维码填写表单信息我们将第一时间接收您的反馈将会由微软的技术人员与您取得联系