计算机行业专题研究：GPT4模型能力提升推动应用升级-230316（19页）.pdf

《计算机行业专题研究：GPT4模型能力提升推动应用升级-230316（19页）.pdf》由会员分享，可在线阅读，更多相关《计算机行业专题研究：GPT4模型能力提升推动应用升级-230316（19页）.pdf（19页珍藏版）》请在三个皮匠报告上搜索。

1、 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。1 证券研究报告 计算机计算机 GPT4：模型能力提升推动应用升级：模型能力提升推动应用升级 华泰研究华泰研究 计算机计算机 增持增持 (维持维持)研究员 谢春生谢春生 SAC No.S0570519080006 SFC No.BQZ938 +(86)21 2987 2036 联系人 彭钢彭钢 SAC No.S0570121070173 +(86)21 2897 2228 联系人 袁泽世，袁泽世，PhD SAC No.S0570122080053 +(86)21 2897 2228 行业行业走势图走势图 资料来源：Wind，华泰研究

2、 2023 年 3 月 16 日中国内地 专题研究专题研究 GPT-4：多模态确认，在专业和学术上表现亮眼多模态确认，在专业和学术上表现亮眼 北京时间 3 月 15 日 GPT-4 正式发布，支持图片、文字等多模态输入，以及文本输出。根据相关技术文档，1）模型架构（包括模型大小）、硬件、训练计算、数据集构造、训练方法等细节未公布；2）GPT-4 于 2022 年 8 月完成训练，此后 OpenAI 一直在评估、对抗性测试并迭代和改进模型；3）OpenAI搭建了开源 OpenAI Evals 模型评估框架，支持现有准则和自定义准则。4）GPT-4 API 已开放等待列表（waitlist），价格

3、提升明显。实验结果表明，GPT-4在各种专业和学术基准上表现出了人类的水平。技术拆解：构建深度学习堆栈，新增奖励训练模型技术拆解：构建深度学习堆栈，新增奖励训练模型 GPT-4 项目重点之一是构建大范围可预测的深度学习堆栈。堆栈（stack）能够通过评估小计算量模型的性能，准确预测大计算量模型的性能，减少训练成本。训练方法上，预训练之后，GPT-4 采用了与 InstructGPT 同样的方法进行基于人类反馈的强化学习，并添加了基于规则的奖励模型来进一步引导模型产生人类预期的结果。多模态输入上，支持图片和文本的多模态输入，但是，OpenAI 未在技术文档中给出图片模态的相关技术细节。安全性讨论

4、：引入专家提高模型安全性和一致性安全性讨论：引入专家提高模型安全性和一致性 OpenAI 在技术文档中耗费大量篇幅讨论模型安全性问题。从目前结果看，GPT-4 仍然存在“幻觉”和推理错误，并在模型校准上表现不佳。为了进一步提高模型安全性，OpenAI 聘请了来自 AI 对齐风险、网络安全、生物风险和国际安全等领域的 50 多名专家对模型进行对抗性测试，涉及幻觉、有害内容、虚假信息、武器扩散、隐私、网络安全等 11 个方面。我们认为，OpenAI对模型安全性的关注，或是为未来大规模商业化应用做铺垫。模型能力提升，应用或进一步升级模型能力提升，应用或进一步升级 GPT4 相比 GPT3.5 在多模

5、态、推理能力、支持文本长度方面有了较明显的提升，有望推动应用进一步升级。对多模态的支持有望加速 PDF、图像等领域的生产力应用升级，或将推动生产力应用效率的进一步提升。相关公司包括：万兴科技、福昕软件、金山办公。更强的推理能力与语言理解能力有助于进一步优化服务型应用的使用效果，包含垂类信息的搜索引擎、客服等产品的功能有望进一步升级。相关公司包括：三六零、同花顺。风险提示：宏观经济波动，技术进步不及预期。本报告内容均基于客观信息整理，不构成投资建议。(25)(14)(3)819Mar-22Jul-22Nov-22Mar-23(%)计算机沪深300 免责声明和披露以及分析师声明是报告的一部分，请务

6、必一起阅读。2 计算机计算机 正文目录正文目录 GPT-4：多模态确认，在专业和学术上表现亮眼：多模态确认，在专业和学术上表现亮眼.3 GPT-4：支持多模态输入，安全问题或成为 LLM 关注焦点.3 能力测试：在专业和学术基准上表现出了人类的水平.4 技术拆解：构建深度学习堆栈，新增奖励训练模型技术拆解：构建深度学习堆栈，新增奖励训练模型.8 项目重点：构建大范围可预测的深度学习堆栈.8 训练方法：在 InstructGPT 方法基础上增加新的奖励模型.9 多模态：支持图片输入，未提供具体算法.10 安全性讨论：引入专家提高模型安全性和一致性安全性讨论：引入专家提高模型安全性和一致性.12

7、局限性：仍存在推理错误与校准下降等问题.12 风险与改进：聘请专家进行对抗性测试.13 模型能力进一步提升，应用有望进一步升级模型能力进一步提升，应用有望进一步升级.15 风险提示.16 oOrQ3ZcVaYbZoWeXMB8ObP6MmOrRtRmPjMqQmPlOpOoQ9PnMqPNZnOzQNZpMoM 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。3 计算机计算机 GPT-4：多模态确认，在专业和学术上表现亮眼多模态确认，在专业和学术上表现亮眼 GPT-4：支持支持多模态多模态输入输入，安全问题或成为，安全问题或成为 LLM 关注焦点关注焦点 GPT-4 支持多模态输入

8、，安全问题或成关注焦点。支持多模态输入，安全问题或成关注焦点。北京时间 3 月 15 日凌晨，OpenAI 召开发布会，正式宣布 GPT 模型家族中最新的大型语言模型（LLM）GPT-4。GPT-4 可以接受图像和文本输入并产生文本输出。同时，OpenAI 发布了 GPT-4 相关技术文档。从技术文档结构看，OpenAI 并未对 GPT-4 模型本身做过多介绍，而是将大量篇幅留给模型安全性相关讨论。我们认为，在 LLM 走向大规模应用的过程中，随着模型规模和能力的提升，将暴露出更多安全方面的问题，或将成为未来 LLM 的重要关注点。图表图表1：GPT-4 技术报告结构拆解技术报告结构拆解 资料

9、来源：GPT-4 Technical Report，OpenAI（2023）、华泰研究 GPT-4 于于 2022 年年 8 月完成训练，技术细节未完全公布。月完成训练，技术细节未完全公布。据 GPT-4 技术文档，GPT-4 于 2022年 8 月完成训练，此后，OpenAI 一直在评估、对抗性测试并迭代和改进模型，并提出各种系统级安全缓解措施。此外，OpenAI 在 GPT-4 文档中明确提出，考虑到竞争格局和大型模型（如 GPT-4）的安全影响，本文档没有包含有关架构（包括模型大小）、硬件、训练计算、数据集构造、训练方法或类似内容的进一步细节。文档明确提供的内容包括：1）GPT-4是一个

10、基于 transformer 的预训练模型，用于预测文字的下一个 token；2）使用公开可用数据（如互联网数据）和第三方提供商授权的数据；3）使用来自人类反馈的强化学习（RLHF）对模型进行微调。GPT-4技术报告技术报告附录附录安全性讨论安全性讨论1-2223-3839-98各类考试题的来源和设置，RLHF对模型的影响，专业、学术考试数据和学术测试基准的污染情况讨论，更多GPT-4图像输入示例大量篇幅讨论关于模型安全性问题及改进GPT-4基本技术信息，包括能力测试、构建大范围可预测的深度学习堆栈等 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。4 计算机计算机 图表图表2：O

11、penAI 关于不透露技术细节的说明关于不透露技术细节的说明 资料来源：GPT-4 Technical Report，OpenAI（2023）、华泰研究 OpenAI 搭建了搭建了开源开源 OpenAI Evals 模型评估框架模型评估框架。OpenAI Evals 模型评估框架（https:/ Evals 与现有的基准测试兼容，并可用于跟踪部署中的模型性能。未来，OpenAI 计划逐步增加测试基准的多样性，以代表更广泛的故障模式和更难的任务集。GPT-4 API 已开放等待列表（已开放等待列表（waitlist），），API 价格提升价格提升明显明显。当获得访问权限后，即可以对GPT-4 模

12、型进行纯文本请求（图像输入仍然处于有限的测试阶段），OpenAI 将自动将模型更新为推荐的稳定模型。此外，GPT-4 提供两个版本，GPT-4-8k 和 GPT-4-32k，前者支持的上下文长度为 8192 个 token，后者支持 32768-context（约 50 页文本，提供有限访问）。GPT-4-8k 定价为每 1k 提示 token 0.03 美元，每 1k 完成 token 0.06 美元。默认速率限制为每分钟 40k 个 token，每分钟 200 个请求；GPT-4-32k 定价为每 1k 提示 token 0.06 美元，每 1k 完成 token 0.12 美元。（API

13、 价格网址 https:/ API 和和 GPT-3.5-turbo API 价格对比价格对比 资料来源：GPT-4 Technical Report，OpenAI（2023）、华泰研究 能力测试能力测试：在：在专业和学术基准上表现出了人类的水平专业和学术基准上表现出了人类的水平 GPT-4 在各种专业和学术基准上表现出了人类的水平在各种专业和学术基准上表现出了人类的水平。OpenAI 在一系列不同的基准上测试了 GPT-4，包括最初为人类设计的模拟考试。考试题目包括多项选择题和自由问答题。OpenAI 为每种考试形式设计了单独的提示（prompt），并且在需要的场合增加了图像输入。GPT-4

14、 并未专门针对这些考试科目进行训练，但仍取得了优秀的成绩，例如以大约前 10%的成绩通过模拟律师资格考试，而 GPT-3.5 在该考试中成绩为后 10%。GPT-4 API 价格价格GPT-3.5 API 价格价格 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。5 计算机计算机 图表图表4：GPT-4 在各种人类考试中表现优异在各种人类考试中表现优异 资料来源：GPT-4 Technical Report，OpenAI（2023）、华泰研究 GPT-4 在考试中在考试中展现展现的能力未受到的能力未受到 RLHF 的显著影响。的显著影响。基于人类反馈的强化学习（RLHF）是 Ins

15、tructGPT 中引入的方法，通过奖励的形式让模型输出向人类希望的方向发展。为了测试 RLHF 对模型能力的影响，OpenAI 在 GPT-4 基础模型和 RLHF 后的 GPT-4 模型上运行了考试基准测试中的多项选择题部分。在所有考试中，基础模型的平均分为 73.7%，而 RLHF模型的平均分为 74.0%，这表明经过 RLHF 后并没有显著改变基础模型的能力。图表图表5：RLHF 未对未对 GPT-4 在考试中展现的能力在考试中展现的能力产生产生显著影响显著影响 资料来源：GPT-4 Technical Report，OpenAI（2023）、华泰研究 免责声明和披露以及分析师声明是报

16、告的一部分，请务必一起阅读。6 计算机计算机 GPT-4 在评估语言模型的传统基准上同样效果卓越。在评估语言模型的传统基准上同样效果卓越。在评估 GPT-4 在语言模型的测试基准时，对所有模型使用了 few-shot。测试基准涵盖问题多选、常识推理、代码、阅读理解、数学问题等。结果表明，GPT-4 大大优于 GPT-3.5，以及以前最先进的（SOTA）模型，甚至超过了某些在特定测试标准上训练过的模型。图表图表6：GPT-4 在在评估语言模型的传统基准上评估语言模型的传统基准上取得优秀取得优秀效果效果 资料来源：GPT-4 Technical Report，OpenAI（2023）、华泰研究 G

17、PT-4 在大多数语言上的结果都优于在大多数语言上的结果都优于 GPT 3.5 和现有语言模型。和现有语言模型。现有的多数机器学习测试基准都是基于英语编写的。为了测试 GPT-4 在其他语言中的表现，OpenAI 使用 Azure Translate 将 MMLU 基准测试（涵盖 57 个主题的多项选择问题）翻译成各种语言。结果表明，GPT-4 在大多数语言上的结果都优于 GPT 3.5 和现有语言模型的英语语言性能，包括全球使用人数较低的语言，如拉脱维亚语、威尔士语和斯瓦希里语。免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。7 计算机计算机 图表图表7：GPT-4 在大多数语言

18、上的结果都优于在大多数语言上的结果都优于 GPT 3.5 和现有语言模型和现有语言模型 资料来源：GPT-4 Technical Report，OpenAI（2023）、华泰研究 GPT-4 在跟踪用户意图的能力方面在跟踪用户意图的能力方面提高显著提高显著。据 OpenAI 数据，OpenAI 收集了通过ChatGPT 和 OpenAI API 提交的用户提示，过滤掉不允许、敏感内容或过于简单的提示，并将这些提示和响应发送给人工标注员。根据指示，标注人员在不知道答案来源于哪种模型的情况下，判断给出的提示是否符合用户的要求。在 5214 个提示数据集中，GPT-4 生成的响应在 70.2%的提示

19、上优于 GPT-3.5 生成的响应。免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。8 计算机计算机 技术拆解：技术拆解：构建深度学习堆栈构建深度学习堆栈，新增奖励训练模型，新增奖励训练模型 项目重点：项目重点：构建构建大范围可预测大范围可预测的深度学习堆栈的深度学习堆栈 GPT-4 项目的一大重点是构建项目的一大重点是构建大范围可预测大范围可预测的深度学习堆栈。的深度学习堆栈。简而言之，该堆栈（stack，论文中也叫基础设施和优化方法）能够通过评估小计算量模型的性能，准确预测大计算量模型的性能，减少训练成本。以 GPT-4 为例，虽然官方未给出具体的模型参数，但是指出对于 GPT

20、-4 这样的大型训练，进行广泛的特定于模型的调优是不可行的。而大范围可预测的深度学习堆栈，能够通过计算比 GPT-4 计算量少 1000 x-10000 x（x 代表倍）的模型性能，预测出“完全体”GPT-4 的性能，实现在训练之前了解模型的功能，并及时改善关于对齐、安全性和部署的决策。该方法的理论依据是：经过适当训练的大型语言模型的最终损失，很好地近似于用于训练模型的计算量的幂律。图表图表8：基于基于 final loss 构建构建的大范围可预测的大范围可预测深度学习堆栈深度学习堆栈 资料来源：GPT-4 Technical Report，OpenAI（2023）、华泰研究 除了预测最终损失

21、，还可以使用其他可解释的能力指标进行预测。除了预测最终损失，还可以使用其他可解释的能力指标进行预测。其中一个指标是HumanEval 数据集的通过率。HumanEval 数据集衡量的是合成不同复杂度的 Python 函数的能力。通过计算比 GPT-4 计算量少 1000 x 模型在 HumanEval 数据集子集的通过率，成功预测了 GPT-4 在 HumanEval 数据集子集的通过率。图表图表9：基于基于 HumanEval 数据集数据集构建构建的大范围可预测的大范围可预测深度学习堆栈深度学习堆栈 资料来源：GPT-4 Technical Report，OpenAI（2023）、华泰研究

22、免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。9 计算机计算机 训练方法训练方法：在：在 InstructGPT 方法基础上增加新的奖励模型方法基础上增加新的奖励模型 预训练之后，预训练之后，GPT-4 采用了与采用了与 InstructGPT 同样的方法进行同样的方法进行 RLHF。OpenAI 首先从人类标注员处收集演示数据（给定一个输入，演示模型应该如何响应），并对模型的输出数据进行排名（给定一个输入和几个输出，将输出从最好到最差进行排序）。然后执行以下步骤：1）利用收集到的人工标注演示数据，使用监督学习（SFT）来模拟演示中的行为以微调GPT-4；2）使用收集到的排名数据

23、来训练奖励模型（RM），该模型预测标注员对给定输出的平均偏好；3）使用奖励模型和强化学习（特别是 PPO 算法），优化 GPT-4 SFT 模型。图表图表10：InstructGPT 训练步骤训练步骤 资料来源：Training language models to follow instructions with human feedback、华泰研究 基于规则的奖励模型基于规则的奖励模型以以更细的粒度进一步引导模型。更细的粒度进一步引导模型。RLHF 微调后的模型仍然会不时出现人类不想看到的行为。因此，OpenAI 在 RLHF 基础上增加基于规则的奖励模型（RBRMs）。RBRM 是一组

24、 zero-shot 的 GPT-4 分类器（classifier）。分类器在 RLHF 微调期间针对正确行为（例如拒绝生成有害内容或不拒绝无害请求），向 GPT-4 策略模型提供额外的奖励信号。RBRM 有三个输入：提示（可选）、策略模型的输出和人类编写的用于如何评估输出的规则。在安全相关的训练提示集上，奖励 GPT-4 拒绝有害内容请求，例如非法建议；同样奖励GPT-4 没有拒绝对安全和可回答问题的请求。第一步：收集描述性数据，并训练一收集描述性数据，并训练一个有监督个有监督的策略的策略从prompt数据库中取样向一个6岁智力的模型解释强化学习由人类训练师撰写期望的输出值对行为给出奖励与惩

25、罚收集的数据用来以监督学习的方式微调GPT-3模型第二步：收集比较性数据，并训练一个奖励收集比较性数据，并训练一个奖励模型模型从prompt数据库中取样，并得到数个模型的回答向一个6岁智力的模型解释强化学习A回答A：“.”B回答B：“.”C回答C：“.”D回答D：“.”由人类训练师对回答进行排序DCAB收集的数据用来训练我们的奖励模型DCAB第三步：用用PPO强化学习算法通过奖励模型优强化学习算法通过奖励模型优化策略化策略从prompt数据库中另外取样示例：“写一段关于.的故事”示例：“很久以前”策略给出回答奖励模型对回答打分用奖励通过PPO算法优化策略PPORM 免责声明和披露以及分析师声明

26、是报告的一部分，请务必一起阅读。10 计算机计算机 多模态：支持图片输入，未提供具体算法多模态：支持图片输入，未提供具体算法 GPT-4 能够实现图片和文本的多模态输入。能够实现图片和文本的多模态输入。GPT-4 接受由图像和文本组成的提示（prompt，与纯文本设置类似），允许用户指定任何视觉或语言任务，同时输出文本信息。此外，语言模型中的 few-shot 提示和思维链等，在 GPT-4 中同样有效。但是，OpenAI 未在技术文档中给出如何实现图片的输入，以及如何对图片进一步处理以注入到模型中。图表图表11：GPT-4 视觉输入样例视觉输入样例#1 资料来源：GPT-4 Technica

27、l Report，OpenAI（2023）、华泰研究 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。11 计算机计算机 图表图表12：GPT-4 视觉输入样例视觉输入样例#2（展现出思维链能力，能一步步进行思考）（展现出思维链能力，能一步步进行思考）资料来源：GPT-4 Technical Report，OpenAI（2023）、华泰研究 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。12 计算机计算机 安全性讨论：引入专家安全性讨论：引入专家提高提高模型模型安全性和一致性安全性和一致性 局限性局限性：仍存在推理错误与校准下降等问题：仍存在推理错误与校准下降等问题

28、GPT-4 仍存在“幻觉”和推理错误。仍存在“幻觉”和推理错误。幻觉指的是产生与某些来源有关的无意义或不真实的内容。但是，与 GPT-3.5 模型相比，GPT-4 显著减少了幻觉，并在内部的对抗性事实性评估中，在所有项的准确率均分比最新的 GPT-3.5 高出 19pct。与 ChatGPT 类似，GPT-4 写的训练数据均是 2021 年 9 月之前的，因此缺乏对该日期之后的知识的掌握，会犯一些简单的推理错误，接受用户的明显错误陈述，或在在生成的代码中存在安全漏洞。图表图表13：GPT-4 在对抗性设计事实评估中的表现优在对抗性设计事实评估中的表现优于于 ChatGPT 资料来源：GPT-4

29、 Technical Report，OpenAI（2023）、华泰研究 RLHF显著提高了显著提高了GPT-4在在TruthfulQA公共基准测试上的表现公共基准测试上的表现，但程度，但程度仍欠佳仍欠佳。TruthfulQA基准测试了模型从对抗选择的一组不正确的语句中分离事实的能力。GPT-4 基本模型在TruthfulQA基准上的表现略好于GPT-3.5。经过RLHF训练后，GPT-4相比于同样经过RHLF的 GPT-3.5-turbo 在准确率上领先超 10pct。但是，即使经过 RLHF 训练，GPT-4 在TruthfulQA 上的准确率也只有 60%，未达到更高水平。图表图表14：R

30、LHF 显著提高了显著提高了 GPT-4 在在 TruthfulQA 公共基准测试上的表现公共基准测试上的表现 资料来源：GPT-4 Technical Report，OpenAI（2023）、华泰研究 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。13 计算机计算机 训练后的训练后的 GPT-4 模型在模型校准上出现性能下降。模型在模型校准上出现性能下降。预训练的模型是高度校准的，模型对答案的预测置信度通常与正确的概率相匹配。然而，在后训练（post-training）过程中，校准情况发生显著下降。OpenAI 未给出具体原因。图表图表15：训练后的训练后的 GPT-4 模型在

31、模型校准上出现性能下降模型在模型校准上出现性能下降 资料来源：GPT-4 Technical Report，OpenAI（2023）、华泰研究 风险与改进风险与改进：聘请专家进行：聘请专家进行对抗性测试对抗性测试 OpenAI 投入了大量的精力来提高投入了大量的精力来提高 GPT-4 的安全性和一致性。的安全性和一致性。GPT-4 与较小的语言模型存在类似的风险，包括生成有害的建议、有 bug 的代码或不准确的信息。然而，GPT-4 更强大的功能可能会带来新的风险面。为了了解这些风险的程度，OpenAI 聘请了来自 AI 对齐风险、网络安全、生物风险和国际安全等领域的 50 多名专家对模型进行

32、对抗性测试。图表图表16：改进后的改进后的 GPT-4 能够对有害问题进行“拒绝”能够对有害问题进行“拒绝”资料来源：GPT-4 Technical Report，OpenAI（2023）、华泰研究 OpenAI 从从 11 个方面个方面对对 GPT-4 风险风险进行了一系列定性和定量评估。进行了一系列定性和定量评估。包括幻觉、有害内容、虚假信息、武器扩散、隐私、网络安全等。通过评估，能够进一步了解 GPT-4 的能力、限制和风险，并帮助提供解决方案、迭代测试和构建模型的更安全版本等。免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。14 计算机计算机 图表图表17：OpenAI 考

33、虑到的相关风险考虑到的相关风险 风险名称（英文）风险名称（英文）风险名称（中文）风险名称（中文）风险描述风险描述 Hallucinations 幻觉 产生与某些来源有关的无意义或不真实的内容 Harmful content 有害内容 违反策略的内容，或可能对个人或社会造成伤害的内容 Harms of representation,allocation,and quality of service 表示、分配和服务质量的危害性 加强和重现特定的偏见和世界观，包括对某些边缘群体的有害刻板印象和贬损联想 Disinformation and influence operations 虚假信息和影响操

34、作 生成逼真而有针对性的内容，包括新闻文章、推文、对话和电子邮件；生成旨在误导的内容的风险 Proliferation of conventional and unconventional weapons 常规和非常规武器的扩散 某些 LLM 能力可能具有军民两用的潜力，这意味着该模型可用于“商业和军事或扩散应用”Privacy 隐私 GPT-4 从各种许可的、创建的和公开可用的数据源中学习，其中可能包括公开可用的个人信息 Cybersecurity 网络安全 没有改进现有的侦察、漏洞利用和网络导航工具，并且在复杂和高级活动（如新型漏洞识别）方面不如现有工具有效 Potential for r

35、isky emergent behaviors 潜在的危险紧急行为 创造和执行长期计划的能力，积累权力和资源（“权力寻求”）的能力，以及表现出越来越“主观”的行为等 Economic impacts 经济影响 GPT-4 或后续模型可能会导致某些工作的自动化。这可能导致劳动力流失 Acceleration 加速影响 AI 过快发展导致安全标准的下降、不良规范的扩散，加剧了与人工智能相关的社会风险 Overreliance 过度依赖 当用户过度信任和依赖模型时，就会出现过度依赖，这可能会导致未被注意到的错误和不充分的监督 资料来源：GPT-4 Technical Report，OpenAI（20

36、23）、华泰研究 OpenAI 还在还在模型层面模型层面对对 GPT-4 进行进行改进。改进。例如，在预训练阶段，过滤了 GPT-4 数据集组合，减少不适当的文本内容数量；通过内部训练的分类器和基于词典的方法来识别被标记为极有可能包含不适当内容的文件，并将其从预训练集中移除。此外，上述基于规则的奖励模型（RBRMs）引导了模型朝人类想要的方向改进。与 GPT-3.5 相比，在敏感性问题和不被允许的问题上，GPT-4 不正确的提示率大大下降。图表图表18：GPT-4 在敏感性和不被允许的话题上提供更准确的提示在敏感性和不被允许的话题上提供更准确的提示 资料来源：GPT-4 Technical R

37、eport，OpenAI（2023）、华泰研究 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。15 计算机计算机 模型能力进一步提升，应用有望进一步模型能力进一步提升，应用有望进一步升级升级 支持多模态，应用范围进一步拓宽。支持多模态，应用范围进一步拓宽。GPT-4 与仅能处理自然语言任务的 GPT-3.5 相比，它能够同时处理图像及文本输入，并生成文本输出。GPT-4 可以完成一些传统的视觉语言任务，如图像描述、生成字幕、图像分类等。此外，GPT-4 还具有较强的逻辑分析能力，可以对图像中的内容进行合理的推测，并给出用户需要的答案。基于这种能力，GPT-4 可以完成一系列更为丰

38、富和复杂的任务，比如根据数据图表回答定量问题、分析图像中主体的异常情况、依据上传的 PDF 长文档总结摘要等，进一步扩展了语言模型的应用场景。我们认为多模态的实现有望加速 PDF、图像等领域的生产力应用升级，或将推动生产力应用效率的进一步提升。图表图表19：GPT4 多模态示例及多模态示例及行业实践行业实践 资料来源：公司官网、华泰研究 具备更强推理能力。具备更强推理能力。GPT-4 在处理复杂的文本任务时表现出了比 GPT-3.5 更强的优势。OpenAI 团队分别对 GPT-4 和 GPT-3.5 在多个人类考试上进行了测试。OpenAI 团队并没有针对这些考试专门训练 GPT-4，并且在

39、测试过程中，如果发现某个考试中有和训练数据重复的问题，研究人员会剔除重复问题并生成新的考试变体，再次对模型进行测试，并取两次考试中的最低分作为最终成绩。结果显示，在大多数考试中，尤其是与数学和推理相关的考试中，GPT-4 相比于 GPT-3.5 有了显著提升，在学术和专业测试中甚至能够达到与人类相当的水平。图表图表20：GPT-4 进行的部分人类考试进行的部分人类考试 GPT-4 GPT-3.5 考试考试 考试简介考试简介 分数分数 Percentile 分数分数 Percentile Uniform Bar Exam 是一种统一的律师资格考试，包括三个部分：多州随笔考试(MEE)、多州实务考

40、试(MPT)和多州法律考试(MBE)。298/400 90th 213/400 10th LSAT 法学院入学考试，包含阅读理解、分析性推理、逻辑推理和写作 4 部分。163 88th 149 40th SAT Math 美国高考的数学部分，主要涉及三个领域：代数的核心、问题解决和数据分析、高级数学。700/800 89th 590/800 70th GRE-Quantitative 美国研究生考试的数学部分，主要涉及四个领域：算术、代数、几何和数据分析。163/170 80th 147/170 25th GRE-Verbal 美国研究生考试的语文部分，主要包括阅读理解、文字补全、句子等价三种

41、题型。169/170 99th 154/170 63rd USABO Semifinal Exam 2020 是美国生物奥林匹克竞赛的半决赛考试，包含多项选择题和自由回答题，主要考察生物学的理论知识和实验技能。87/150 99th-100th 43/150 31st-33rd 注：Percentile 代表 GPT-4 得分超过的参与考试人数占总人数的百分比 资料来源：GPT-4 Technical Report，OpenAI、华泰研究 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。16 计算机计算机 图表图表21：部分考试例题部分考试例题 资料来源：考试官网、华泰研究 支持更

42、长文本交互支持更长文本交互，语言理解生成能力进一步提升。语言理解生成能力进一步提升。GPT 系列模型属于自回归语言模型，它的任务是根据前面的单词预测下一个单词。为了生成每个单词，模型需要利用前面所有的单词作为信息。据 OpenAI 官网，GPT-3.5 的输入及输出总长度限制为 4097 个 token。GPT-4 支持最多 32768 个 token 的上下文对话，一方面可以让模型捕捉到更多的信息，从而提高语言理解和生成的质量和连贯性。另一方面更长的输入及输出能够支持更加复杂问题的解决，如利用 GPT-4 辅助报税，并得到详细的推理过程，进行跨文本处理任务，帮助用户总结两篇长文章之间的共同点

43、与差异等。我们认为更强的推理能力与语言理解能力有助于进一步优化服务型应用的使用效果，包含垂类信息的搜索引擎、客服等产品的功能有望进一步升级。图表图表22：模型支持最大输入及输出模型支持最大输入及输出 输入及输出最大输入及输出最大 token 数数 对应词数对应词数 GPT-4 32,768 22,938 GPT-3.5 4,097 2,868 GPT-3 2,049 1,434 Codex 8,001 5,601 注：对应词数按 1token=0.7 词换算 资料来源：OpenAI，华泰研究 图表图表23：提及公司列表提及公司列表 公司代码公司代码 公司简称公司简称 MSFT US 微软 GO

44、OGL US 谷歌 688095 CH 福昕软件 300624 CH 万兴科技 688111 CH 金山办公 300033 CH 同花顺 601360 CH 三六零 未上市 OpenAI 资料来源：Bloomberg、华泰研究 风险提示风险提示 宏观经济波动。宏观经济波动。若宏观经济波动，产业变革及新技术的落地节奏或将受到影响，宏观经济波动还可能对 AI 投入产生负面影响，从而导致整体行业增长不及预期。技术进步技术进步不及预期。不及预期。若 AI 技术和大模型技术进步不及预期，或将对相关的行业落地情况产生不利影响。本报告内容均基于客观信息整理，不构成投资建议。本报告内容均基于客观信息整理，不构

45、成投资建议。免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。17 计算机计算机 免责免责声明声明 分析师声明分析师声明 本人，谢春生，兹证明本报告所表达的观点准确地反映了分析师对标的证券或发行人的个人意见；彼以往、现在或未来并无就其研究报告所提供的具体建议或所表迖的意见直接或间接收取任何报酬。一般声明及披露一般声明及披露 本报告由华泰证券股份有限公司（已具备中国证监会批准的证券投资咨询业务资格，以下简称“本公司”）制作。本报告所载资料是仅供接收人的严格保密资料。本报告仅供本公司及其客户和其关联机构使用。本公司不因接收人收到本报告而视其为客户。本报告基于本公司认为可靠的、已公开的信息

46、编制，但本公司及其关联机构(以下统称为“华泰”)对该等信息的准确性及完整性不作任何保证。本报告所载的意见、评估及预测仅反映报告发布当日的观点和判断。在不同时期，华泰可能会发出与本报告所载意见、评估及预测不一致的研究报告。同时，本报告所指的证券或投资标的的价格、价值及投资收入可能会波动。以往表现并不能指引未来，未来回报并不能得到保证，并存在损失本金的可能。华泰不保证本报告所含信息保持在最新状态。华泰对本报告所含信息可在不发出通知的情形下做出修改，投资者应当自行关注相应的更新或修改。本公司不是 FINRA 的注册会员，其研究分析师亦没有注册为 FINRA 的研究分析师/不具有 FINRA 分析师的

47、注册资格。华泰力求报告内容客观、公正，但本报告所载的观点、结论和建议仅供参考，不构成购买或出售所述证券的要约或招揽。该等观点、建议并未考虑到个别投资者的具体投资目的、财务状况以及特定需求，在任何时候均不构成对客户私人投资建议。投资者应当充分考虑自身特定状况，并完整理解和使用本报告内容，不应视本报告为做出投资决策的唯一因素。对依据或者使用本报告所造成的一切后果，华泰及作者均不承担任何法律责任。任何形式的分享证券投资收益或者分担证券投资损失的书面或口头承诺均为无效。除非另行说明，本报告中所引用的关于业绩的数据代表过往表现，过往的业绩表现不应作为日后回报的预示。华泰不承诺也不保证任何预示的回报会得以

48、实现，分析中所做的预测可能是基于相应的假设，任何假设的变化可能会显著影响所预测的回报。华泰及作者在自身所知情的范围内，与本报告所指的证券或投资标的不存在法律禁止的利害关系。在法律许可的情况下，华泰可能会持有报告中提到的公司所发行的证券头寸并进行交易，为该公司提供投资银行、财务顾问或者金融产品等相关服务或向该公司招揽业务。华泰的销售人员、交易人员或其他专业人士可能会依据不同假设和标准、采用不同的分析方法而口头或书面发表与本报告意见及建议不一致的市场评论和/或交易观点。华泰没有将此意见及建议向报告所有接收者进行更新的义务。华泰的资产管理部门、自营部门以及其他投资业务部门可能独立做出与本报告中的意见

49、或建议不一致的投资决策。投资者应当考虑到华泰及/或其相关人员可能存在影响本报告观点客观性的潜在利益冲突。投资者请勿将本报告视为投资或其他决定的唯一信赖依据。有关该方面的具体披露请参照本报告尾部。本报告并非意图发送、发布给在当地法律或监管规则下不允许向其发送、发布的机构或人员，也并非意图发送、发布给因可得到、使用本报告的行为而使华泰违反或受制于当地法律或监管规则的机构或人员。本报告版权仅为本公司所有。未经本公司书面许可，任何机构或个人不得以翻版、复制、发表、引用或再次分发他人(无论整份或部分)等任何形式侵犯本公司版权。如征得本公司同意进行引用、刊发的，需在允许的范围内使用，并需在使用前获取独立的

50、法律意见，以确定该引用、刊发符合当地适用法规的要求，同时注明出处为“华泰证券研究所”，且不得对本报告进行任何有悖原意的引用、删节和修改。本公司保留追究相关责任的权利。所有本报告中使用的商标、服务标记及标记均为本公司的商标、服务标记及标记。中国香港中国香港 本报告由华泰证券股份有限公司制作,在香港由华泰金融控股（香港）有限公司向符合证券及期货条例及其附属法律规定的机构投资者和专业投资者的客户进行分发。华泰金融控股（香港）有限公司受香港证券及期货事务监察委员会监管，是华泰国际金融控股有限公司的全资子公司，后者为华泰证券股份有限公司的全资子公司。在香港获得本报告的人员若有任何有关本报告的问题,请与华

51、泰金融控股（香港）有限公司联系。免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。18 计算机计算机 香港香港-重要监管披露重要监管披露 华泰金融控股（香港）有限公司的雇员或其关联人士没有担任本报告中提及的公司或发行人的高级人员。有关重要的披露信息，请参华泰金融控股（香港）有限公司的网页 https:/.hk/stock_disclosure 其他信息请参见下方“美国“美国-重要监管披露”重要监管披露”。美国美国 在美国本报告由华泰证券（美国）有限公司向符合美国监管规定的机构投资者进行发表与分发。华泰证券（美国）有限公司是美国注册经纪商和美国金融业监管局（FINRA）的注册会员。对于

52、其在美国分发的研究报告，华泰证券（美国）有限公司根据1934 年证券交易法（修订版）第 15a-6 条规定以及美国证券交易委员会人员解释，对本研究报告内容负责。华泰证券（美国）有限公司联营公司的分析师不具有美国金融监管（FINRA）分析师的注册资格，可能不属于华泰证券（美国）有限公司的关联人员，因此可能不受 FINRA 关于分析师与标的公司沟通、公开露面和所持交易证券的限制。华泰证券（美国）有限公司是华泰国际金融控股有限公司的全资子公司，后者为华泰证券股份有限公司的全资子公司。任何直接从华泰证券（美国）有限公司收到此报告并希望就本报告所述任何证券进行交易的人士，应通过华泰证券（美国）有限公司进

53、行交易。美国美国-重要监管披露重要监管披露 分析师谢春生本人及相关人士并不担任本报告所提及的标的证券或发行人的高级人员、董事或顾问。分析师及相关人士与本报告所提及的标的证券或发行人并无任何相关财务利益。本披露中所提及的“相关人士”包括 FINRA 定义下分析师的家庭成员。分析师根据华泰证券的整体收入和盈利能力获得薪酬，包括源自公司投资银行业务的收入。华泰证券股份有限公司、其子公司和/或其联营公司,及/或不时会以自身或代理形式向客户出售及购买华泰证券研究所覆盖公司的证券/衍生工具，包括股票及债券（包括衍生品）华泰证券研究所覆盖公司的证券/衍生工具，包括股票及债券（包括衍生品）。华泰证券股份有限公

54、司、其子公司和/或其联营公司,及/或其高级管理层、董事和雇员可能会持有本报告中所提到的任何证券（或任何相关投资）头寸，并可能不时进行增持或减持该证券（或投资）。因此，投资者应该意识到可能存在利益冲突。评级说明评级说明 投资评级基于分析师对报告发布日后 6 至 12 个月内行业或公司回报潜力（含此期间的股息回报）相对基准表现的预期（A 股市场基准为沪深 300 指数，香港市场基准为恒生指数，美国市场基准为标普 500 指数），具体如下：行业评级行业评级 增持：增持：预计行业股票指数超越基准 中性：中性：预计行业股票指数基本与基准持平 减持：减持：预计行业股票指数明显弱于基准 公司评级公司评级 买

55、入：买入：预计股价超越基准 15%以上 增持：增持：预计股价超越基准 5%15%持有：持有：预计股价相对基准波动在-15%5%之间 卖出：卖出：预计股价弱于基准 15%以上 暂停评级：暂停评级：已暂停评级、目标价及预测，以遵守适用法规及/或公司政策 无评级：无评级：股票不在常规研究覆盖范围内。投资者不应期待华泰提供该等证券及/或公司相关的持续或补充信息 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。19 计算机计算机 法律实体法律实体披露披露 中国中国：华泰证券股份有限公司具有中国证监会核准的“证券投资咨询”业务资格，经营许可证编号为：91320000704041011J 香港香

56、港：华泰金融控股（香港）有限公司具有香港证监会核准的“就证券提供意见”业务资格，经营许可证编号为：AOK809 美国美国：华泰证券（美国）有限公司为美国金融业监管局（FINRA）成员，具有在美国开展经纪交易商业务的资格，经营业务许可编号为：CRD#:298809/SEC#:8-70231 华泰证券股份有限公司华泰证券股份有限公司 南京南京 北京北京 南京市建邺区江东中路228号华泰证券广场1号楼/邮政编码：210019 北京市西城区太平桥大街丰盛胡同28号太平洋保险大厦A座18层/邮政编码：100032 电话：86 25 83389999/传真：86 25 83387521 电话：86 10

57、63211166/传真：86 10 63211275 电子邮件：ht- 电子邮件：ht- 深圳深圳 上海上海 深圳市福田区益田路5999号基金大厦10楼/邮政编码：518017 上海市浦东新区东方路18号保利广场E栋23楼/邮政编码：200120 电话：86 755 82493932/传真：86 755 82492062 电话：86 21 28972098/传真：86 21 28972068 电子邮件：ht- 电子邮件：ht- 华泰金融控股（香港）有限公司华泰金融控股（香港）有限公司 香港中环皇后大道中 99 号中环中心 58 楼 5808-12 室 电话：+852-3658-6000/传真：+852-2169-0770 电子邮件： http:/.hk 华泰证券华泰证券（美国美国）有限公司有限公司 美国纽约公园大道 280 号 21 楼东（纽约 10017）电话：+212-763-8160/传真：+917-725-9702 电子邮件:Huataihtsc- http:/www.htsc- 版权所有2023年华泰证券股份有限公司