当前位置:首页 > 报告详情

SESSION 16 Invited Industry.pdf

上传人: 张** 编号:620876 2025-03-31 108页 13.53MB

word格式文档无特别注明外均可编辑修改,预览文件经过压缩,下载原文更清晰!
三个皮匠报告文库所有资源均是客户上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作商用。
本文主要介绍了SambaNova Systems公司研发的SN40L芯片,这是一款5nm工艺的2.5D数据流加速器,具有三层内存体系结构,用于支持万亿参数级别的AI模型。SN40L芯片具有以下特点: 1. 芯片面积为12mm²,工作电压为0.55-0.83V,工作频率为533-1196MHz。 2. 芯片包含1040个分布式内存和计算单元,具有64GB的高速内存和520MB的片上内存。 3. 芯片具有638TFLOPS的计算能力,支持BF16精度。 4. 芯片采用了三层内存体系结构,包括片上SRAM、HBM和DDR,支持高速推理和低延迟模型切换。 5. 芯片具有先进的功率管理和热管理功能,能够在空气冷却的系统中实现全TFlop利用率。 6. 芯片支持多种AI模型,能够支持万亿参数级别的AI模型,具有出色的性能和能效表现。
5nm技术如何推动高性能计算? 数据流架构如何优化大型语言模型? 先进封装技术如何提升芯片能效?
客服
商务合作
小程序
服务号
折叠