023-马越.pdf

《023-马越.pdf》由会员分享，可在线阅读，更多相关《023-马越.pdf（30页珍藏版）》请在三个皮匠报告上搜索。

1、AI专用RISC-V CPU内核构与自定义指令集扩展芯来科技 马越Confidential Nuclei.All Rights Reserved.AI技术持续进步，应用需求端稳步增长，各行业已开始广泛采用AI技术20242大模型的崛起AI技术进步与物联网的集成云AI服务机器学习、自然语言处理和计算机视觉等技术的进步，造就了更复杂的AI应用。这扩大了AI的潜在使用范围，并增加了需求AI与物联网（IoT）的集成变得更加普遍，推动了对能够处理和分析大量连接设备数据的AI解决方案的需求云端AI服务的兴起使得AI对中小企业更加普及，增加了不同规模企业对AI的采用大模型性能和效率的提升，使其在各个领域得到

2、了广泛的应用；同时大模型的部署不再局限于云端，本地设备上的轻量化大模型可以更好的满足实时处理和低延迟应用Confidential Nuclei.All Rights Reserved.芯片半导体的发展对AI起到了关键性的作用20243提升计算能力先进的半导体技术，如更小的工艺节点（例如7nm、5nm和3nm），使芯片具有更高的计算能力和效率，从而加速AI算法的训练和推理过程专用AI芯片这类芯片专门优化了机器学习和深度学习任务，显著提高了AI系统的性能和效率降低能耗新一代芯片在提高计算能力的同时，大大降低了训练和推理过程中的能耗，有助于在资源受限的环境中实现AI应用，降低成本边缘计算高性能的AI

3、计算能力可以嵌入到较小的设备中，如智能手机、物联网设备和汽车中，推动了边缘计算的发展，使得AI可以在本地设备上进行实时处理，减少了对云计算资源的依赖，提高了响应速度和数据隐私创新加速更强大的计算能力和更高效的硬件使得研究人员和开发者能够探索更复杂的模型和更广泛的应用场景，从而推动AI技术的持续进步为AI提供了强大的计算基础设施推动了AI技术的进步和广泛应用提升了AI系统的性能、效率和普及度Confidential Nuclei.All Rights Reserved.CPU是AI芯片中必不可少的部分20244对于AI基础设施来说，CPU是必不可少的存在高端AI服务器中每8个GPU需要至少搭载2

4、个CPU异构计算离不开CPU的加持CPU+GPUCPU+FPGACPU+TPUCPU在AI芯片中起到的作用负责整个服务器的运算与控制，实现高效的资源分配和任务调度具有灵活性和通用性，可以完成GPU无法完成的数据预处理以及串行计算软件兼容性上拥有极大的优势启动维护、完全保护在许多细分场景下，用异构CPU架构做并行计算更高效、成本更低SSE:Streaming SIMD Extensions,128bAVX:Advanced Vector Extensions,512bNEON:64/128bSVE+SME:Scalable Vector/Matrix Extension,128-2048bCon

5、fidential Nuclei.All Rights Reserved.RISC-V顺应了行业大趋势底层协议开放标准化20245指令集(架构)RISC-V基金会RISC-V是世界上第一个高质量、开放标准的CPU指令集RISC-V适用于所有计算系统：MCU-汽车电子-数据中心-超算RISC-V开放的架构，极大加速了生态的发展开放标准的指令集免费的CPU Core IPRISC-V基金会是非营利性组织，落户瑞士中立地区近4000基金会成员，来自大陆遍布欧美的70多个国家维护 管理 发展RISC-V已经和ARM、X86呈三分天下之势，开放的CPU标准是未来的趋势2024Confidential N

6、uclei.All Rights Reserved.61978198419862015三分天下之势逐渐淡出主流顺势而生开放性 先进性简洁性 模块化 扩展性私有化绝对封闭输出CPU IP授权相对封闭公开化的国际标准Confidential Nuclei.All Rights Reserved.RISC-V未来十年增长迅猛，将覆盖各类应用场景20247RISC-V预计2030年出货量达到160亿颗CAGR将超过40%2022年基于RISC-V的SoC总市场规模达到16.3亿美元，预计2030年达到920亿美元，其中：AI加速芯片将会成为所有RISC-V SoC中占比最高的部分，预计2030年总市场