计算机行业AI 2025算力系列(十):HBF技术发展下数据基础软件的机会和挑战-251218(11页).pdf

编号:995990 PDF  DOCX 11页 1.61MB 下载积分:VIP专享
下载报告请您先登录!

1、HBF技术发展下数据基础软件的机会和挑战核心观点:随着模型参数量和上下文长度的增加,其在推理过程中对于内存容量的要求也在不断提升。当前,英伟达的BlackwellUltra芯片配备8个HBM3E内存,内存容量为288GB,内存带宽为8TB/s。尽管HBM标准持续向更高带宽、更大DRAM存储密度发展,但当前大模型的参数规模已经达到万亿级别,上下文长度普遍超过128K,HBM的容量已难以满足AI大模型对于内存容量的要求。HBF或成为满足AI大模型内存容量要求的最佳方案。2025年8月,Sandisk公司宣布与SKHynix合作开发能够满足AI大模型推理场景的新型存储产品HBF(HighBandwi

2、dthFlash),计划采用BiCS和CBA晶圆键合工艺实现与GPU的高速互联。根据Sandisk官网,Sandisk在研的HBF存储容量有望达到现有HBM的8-16倍,有望将GPU的存储容量扩展至4TB。HBF的内存容量和传输速率都很好的满足了AI大模型对于内存容量较高的要求,其推出后有望在推理任务中实现大规模应用。具有数据库技术基础的公司具有开发基于HBF的数据基础软件的潜力。在针对存储介质优化的数据基础软件领域,相关产品开发厂商既包括华为、阿里等大型科技公司,也包括星环科技、PingCAP等独立第三方公司。在对于数据库有一定技术积累的背景下,相关公司均有针对HBF存储介质开发数据基础软件

3、的潜力。由于华为、阿里等公司自研的AI大模型存在较大的数据处理需求,其或自研数据基础软件用于其AI大模型的推理任务中。而包括星环科技和PingCAP等独立第三方公司的数据基础软件或可用于智谱AI、MiniMax等公司大模型的推理任务中。HBF的技术成熟有望推动相关数据基础软件的应用。星环科技的分布式数据库ArgoDB针对闪存存储硬件优化,内建细粒度的编码格式,可以充分发挥闪存的高随机读写特性。在具有一定技术积累的背景下,星环科技也有潜力开发基于包括HBF在内的其他存储介质的数据基础软件产品。基于产品研发周期和投入资源,星环科技相关产品仍需要一定时间的研发。此外,相关产品的研发节奏也取决于公司的战略发展方向和重视程度。我们认为,随着HBF相关技术的成熟,相应产品在AI推理任务中有望大规模使用,从而推动相关数据基础软件的应用。(divcenter)Table_PicQuote相对市场表现(/divcenter)风险提示。HBF相关硬件产品距离成熟还有一年左右的时间,存在技术难点克服不及预期导致产品推出时间延迟的可能;HBF在AI大模型推理场景的应用未经市场验证,下游用户认可度和商业拓展存在不确定性;HBF与传统存储介质在存储容量和传输速率上有差异,存在基于HBF的数据基础软件的性能和效果不及预期影响商业拓展的可能。

友情提示

1、下载报告失败解决办法
2、PDF文件下载后,可能会被浏览器默认打开,此种情况可以点击浏览器菜单,保存网页到桌面,就可以正常下载了。
3、本站不支持迅雷下载,请使用电脑自带的IE浏览器,或者360浏览器、谷歌浏览器下载即可。
4、本站报告下载后的文档和图纸-无水印,预览文档经过压缩,下载后原文更清晰。

本文(计算机行业AI 2025算力系列(十):HBF技术发展下数据基础软件的机会和挑战-251218(11页).pdf)为本站 (strive) 主动上传,三个皮匠报告文库仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对上载内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知三个皮匠报告文库(点击联系客服),我们立即给予删除!

温馨提示:如果因为网速或其他原因下载失败请重新下载,重复下载不扣分。
客服
商务合作
小程序
服务号
折叠