1、端侧端侧AIAI变革将至,迎接变革将至,迎接AI PC/PhoneAI PC/Phone时代时代证券研究报告证券研究报告 行业动态报告行业动态报告发布日期:2023年11月7日本报告由中信建投证券股份有限公司在中华人民共和国(仅为本报告目的,不包括香港、澳门、台湾)提供。在遵守适用的法律法规情况下,本报告亦可能由中信建投(国际)证券有限公司在香港提供。同时请务必阅读正文之后的免责条款和声明。分析师:于芳博分析师:于芳博SAC编号:S1440522030001研究助理:辛侠平研究助理:辛侠平分析师:金戈分析师:金戈SAC编号:S1440517110001SFC编号:BPD352 核心观点:端侧核
2、心观点:端侧AIAI是是AIAI发展下一阶段发展下一阶段,其具备独立性其具备独立性、低时延等性能低时延等性能,能够完成各种能够完成各种AIAI推理任务推理任务,大模型小型化大模型小型化、端侧端侧AIAI框架开源等为终端硬件承框架开源等为终端硬件承载载AIAI算法提供了可能;端侧算法提供了可能;端侧AIAI芯片性能提升芯片性能提升,存储存储、模组等升级打通了终端硬件运行模组等升级打通了终端硬件运行AIAI算法的道路算法的道路。AIAI PCPC、AIAI PhonePhone作为端侧作为端侧AIAI的核心持续向前发的核心持续向前发展展,近期英特尔近期英特尔、高通高通、联想等国内外厂商持续发布相关
3、产品联想等国内外厂商持续发布相关产品、战略规划战略规划,打造智能终端的同时也完善相关产业生态打造智能终端的同时也完善相关产业生态,我们看好端侧我们看好端侧AIAI产业进展产业进展。端侧端侧AIAI是是AIAI发展下一阶段发展下一阶段,大模型轻量化等技术推进端侧大模型轻量化等技术推进端侧AIAI发展发展。端侧端侧AIAI具备安全性具备安全性、独立性独立性、低时延低时延、高可靠性等特点高可靠性等特点,能很好地完成各种能很好地完成各种AIAI推理任务推理任务。目前目前,多个大模型均已推出多个大模型均已推出“小型化小型化”和和“场景化场景化”版本版本,其轻量化提供了端侧运行基础其轻量化提供了端侧运行基
4、础。此外此外,对于数据精度例如对于数据精度例如INTINT4 4、INTINT8 8的支持优化的支持优化、ExecuTorchExecuTorch等等AIAI框架的开源框架的开源,为端侧为端侧AIAI进展铺平道路进展铺平道路。端侧端侧AIAI核心在于手机和核心在于手机和PCPC,AIAI PhonePhone和和AIAI PCPC将开启新时代将开启新时代。从今年从今年2 2月份举行的世界移动通信大会月份举行的世界移动通信大会,高通展示了其手机端离线运行大模型高通展示了其手机端离线运行大模型,到到5 5月份微软开发者大会高通展示其月份微软开发者大会高通展示其PCPC运行运行AIAI大模型大模型,
5、再到近期英特尔再到近期英特尔、联想等发布联想等发布AIAI PCPC加速计划加速计划、发布首款发布首款AIAI PCPC等等,可以看出可以看出,国内国内外厂商持续发力外厂商持续发力AIAI PhonePhone和和AIAI PCPC,端侧端侧AIAI将走入新的时代将走入新的时代。AIAI PCPC核心升级在于芯片核心升级在于芯片。AIAI PCPC不同于传统不同于传统PCPC的主要之处在于其的主要之处在于其SoCSoC芯片中要有芯片中要有AIAI模块模块,通过通过AIAI芯片中的芯片中的NPUNPU等模块为硬件终端提供算力支等模块为硬件终端提供算力支撑撑,从而运行端侧从而运行端侧AIAI大模型
6、大模型。过去过去PCPC芯片主要是以芯片主要是以IntelIntel为代表的为代表的x x8686架构芯片架构芯片,AIPCAIPC的提出要求了的提出要求了SOCSOC芯片有芯片有AIAI算力算力,在端侧在端侧AIAI推理能力推理能力方面方面,过去手机上就搭载了过去手机上就搭载了NPUNPU,高通经验积累深厚高通经验积累深厚,IntelIntel的笔记本芯片则是的笔记本芯片则是CPU+GPUCPU+GPU。生态上生态上,WindowsWindows也开始全力支持也开始全力支持ARMARM体系体系,自去自去年开始了多轮支持年开始了多轮支持ArmArm架构芯片的操作系统更新架构芯片的操作系统更新,