1、请务必阅读末页的免责条款和声明从海外视角看人工智能如何重构软件行业从海外视角看人工智能如何重构软件行业资料来源：各公司官网，中信证券研究部刘锐刘锐 中信证券研究部中信证券研究部 前前瞻研究分析师瞻研究分析师2023年年6月月1日日前瞻研究海外专题前瞻研究海外专题2回顾近十年的人工智能模型发展，我们发现AI技术提供商数量稀少且进入门槛不断提高。2017年起，人工智能研究从小模型转向大语言模型，导致模型体量成倍增加，需要更多GPU算力和配套设施投入，大量的前期资本投入以及过长的回报周期阻碍了许多新进入者。大模型时代大模型时代，模型体积几何式增长导致前期投入过高模型体积几何式增长导致前期投入过高，成

2、功者往往依赖科技巨头的资金成功者往往依赖科技巨头的资金、数据等支持数据等支持。在过去五年内，我们看到成功的人工智能独角兽都在寻找互联网科技大厂作为其背后的依靠，主要因为：1）能够得到充足而短时间内不求产出的资金支持；2）依靠互联网大厂的公有云等相关资源进一步降低成本；3)获取互联网大厂长期以来所积累的优质数据源。资料来源：LESSWRONG,中信证券研究部资料来源：LESSWRONG从从2018年到年到2022年，人工智能模型体积增长了年，人工智能模型体积增长了500倍倍目前成功的人工智能独角兽都离不开互联网大厂的资金支持目前成功的人工智能独角兽都离不开互联网大厂的资金支持少数科技巨头正在引领

3、少数科技巨头正在引领AI基础模型的发展基础模型的发展FZjW0XjZ9YEYgV2VnV9Y7NbP6MmOqQnPmPeRmMtNiNoOmO9PnMqQMYrQpPMYmQpR3大模型研发的高门槛让头部少数大模型研发的高门槛让头部少数AI厂商占据主导权厂商占据主导权，并开始从技术研发向商业化落地迈进并开始从技术研发向商业化落地迈进。从Bert开始到GPT-3再到谷歌的PALM，人工智能技术的发展潮流始终由OpenAI、谷歌等少数几家巨头主导，其他厂商根据先行者的开源资料以及相关论文进行模仿并创新。但从OpenAI发布GPT-3走向商业化盈利开始，谷歌也迅速效仿，不再公布T5模型及后续版本的

4、细节。头部的AI厂商希望将自身的技术优势构筑为商业化能力的核心壁垒，以延长后来者的追赶时间。人工智能头部厂商从开源走向闭源人工智能头部厂商从开源走向闭源，利用其综合优势来保持持续的领先利用其综合优势来保持持续的领先。谷歌与OpenAI作为行业内的技术领先者已经明确选择了闭源模式：本次OpenAI推出GPT-4的形式与以往不同，OpenAI既没有发布GPT-4的相关论文，也没有提供详细的框架说明，仅仅提供了一份98页的技术文档（主要描述模型能力以及相关评测的得分，几乎没有任何技术细节）。通过这一方式，OpenAI阻断了所有借鉴者参考的直接途径（模型大小、数据集构建、训练方法等），迫使想要融入GP

5、T-4能力的软件服务商与其合作，OpenAI提供对应的API接口以及部署指导。资料来源：NeurIPS，中信证券研究部资料来源：谷歌、微软、OpenAI官方技术博客，中信证券研究部谷歌谷歌+微软在微软在2022年发布了约年发布了约60%的大语言模型相关学术论文的大语言模型相关学术论文从从GPT-3开始，谷歌与开始，谷歌与OpenAI的主要模型都不再公开访问的主要模型都不再公开访问AI巨头从开源走向闭源巨头从开源走向闭源020406080100120140160180200LaMDASparrowPaLM-EGPT系列模型系列模型组织GoogleDeepMind谷歌OpenAI能否公开访问否否否

6、否否否有限有限参数量1370亿700亿5620亿1700亿及以上预训练语料库大小（词数）2.81T1.4T7800亿TokenGPT-3近5000亿Token模态文字文字多模态GPT-4具备多模态训练硬件1024块TPUv3基于TPUv3/v46144块TPUv4预计GPT-4使用千余块英伟达A100产品化进度BARD机器人NANAMicrosoft 365 CopilotMicrosoft AzureMicrosoft Bing4追赶者更倾向于通过培养开源社区追赶者更倾向于通过培养开源社区资料来源：Github，中信证券研究部当前主流的开源大语言模型项目及其基础模型当前主流的开源大语言模型项