电子行业深度研究:AI应用带动推理算力需求看好ASIC行业厂商发展-250310(20页).pdf

上传人: Fl****zo 编号:616942 2025-03-11 20页 2.46MB

下载:
word格式文档无特别注明外均可编辑修改,预览文件经过压缩,下载原文更清晰!
三个皮匠报告文库所有资源均是客户上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作商用。

相关图表

本文主要分析了AI推理降本趋势下,ASIC作为高性价比的算力方案,有望充分受益推理算力需求增长。文章指出,从ChatGPT3发布以来,大语言模型的推理成本以指数级别下降,单美元可生成的token数量持续增长,据A16zInfrastructure测算,推理成本每年降低幅度约10倍。同时,模型的能力提升,除了模型的预训练以外,推理的算法升级也不断落地,通过包括强化学习、MOE等方法提升模型推理能力。文章认为,模型的推理成本快速降低,有望带动应用的爆发,而应用爆发将带动更多的推理算力需求,同时推理算法的迭代也带动更多算力需求。ASIC相比GPU可针对业务场景做定制开发,我们认为大量的推理算力以及降本诉求将有效带动ASIC的需求增长。目前北美云厂商积极布局ASIC,已经实现规模化生产的ASIC包括谷歌的TPU、亚马逊的Trainium与Inferentia、微软的Maia以及Meta的MTIA,其中谷歌和亚马逊的产品在2025年已经开始实现较大规模出货。
AI推理降本如何带动应用爆发? 北美云厂商如何加码布局? 哪些公司有望从ASIC增长中受益?
客服
商务合作
小程序
服务号