清华大学2024-01-01：忆阻器存算一体芯片与类脑计算（36页）.pdf

1、忆忆阻器存算一体阻器存算一体芯片与类脑计算芯片与类脑计算高滨高滨清华大学集成电路学院报告内容报告内容2 人工智能与芯片算力人工智能与芯片算力 存存算一体算一体技术技术 研究进展研究进展 器件测试的新挑战器件测试的新挑战3人工智能带来新机遇人工智能带来新机遇AIAI 医疗健康图形识别翻译语音识别智能家居GoogleGoogleBaiduBaiduIBMIBMMicrosoftMicrosoftAlibabaAlibabaAI CloudAI Cloud4人工智能的三大要素人工智能的三大要素 以深度学习为核心技术的人工智能有以深度学习为核心技术的人工智能有三大关键三大关键要素要素 算法算法 数据数

2、据 算力算力5算力需求的爆炸式增长算力需求的爆炸式增长 20202020年年GPTGPT-3 3一炮走红一炮走红 超越普通超越普通NLPNLP，写小说、编剧本无所不能，写小说、编剧本无所不能 5 5亿亿美元的超算中心，美元的超算中心，数千数千个个GPUGPU 训练用了三个多月的时间，电费训练用了三个多月的时间，电费几千万美元几千万美元 训练过程中发现程序训练过程中发现程序bugbug怎么办？怎么办？忍着忍着6算力需求的爆炸式增长算力需求的爆炸式增长 自动自动驾驶汽车驾驶汽车 20172017年从年从1 1颗颗GPUGPU升级为升级为2 2颗颗 20202020年升级为年升级为4 4颗颗 202

3、12021年？买不到了年？买不到了7算力需求的爆炸式增长算力需求的爆炸式增长 手机拍照手机拍照 20172017年开始全面嵌入年开始全面嵌入NPUNPU NPUNPU从单核变为多核从单核变为多核 4 4个算法只能处理半个个算法只能处理半个8芯片算力芯片算力 vs.vs.人工智能高需求的矛盾人工智能高需求的矛盾19401950196019701980199020002010202010-810-610-410-2100102104ABCNvidia GPUIntel 386LeNet-5AlphaGoZero单芯片算力(GFLOPs)年份PerceptronNETtalkENIACIntel 4

4、004Intel CoreIntel Pentium10-1210-910-610-3100103106训练算力需求(GFLOPs-day)AlexNetVGG每3.4个月翻一番！GPU并行训练日益复杂的网络算力需求快速增长算力提升放缓尖锐矛盾数据来源:Intel NVIDIA OpenAI年份9人工智能的硬件平台面临1.算力不足2.能效过低两大艰巨挑战急需颠覆性新技术急需颠覆性新技术10原因：原因：“存算分离”架构的瓶颈“存算分离”架构的瓶颈现有计算系统普遍采用存储和运算分离的架构，存在“存储墙”与“功耗墙”瓶颈，现有计算系统普遍采用存储和运算分离的架构，存在“存储墙”与“功耗墙”瓶颈，严重

5、制约了系统算力和能效的提升。严重制约了系统算力和能效的提升。总线总线处理器处理器存储器存储器冯诺依曼架构冯诺依曼架构存储速度远低于计算速度存储速度远低于计算速度10nm工艺下，数据传输和工艺下，数据传输和访问功耗占比超过访问功耗占比超过69%05010015020025030045nm32nm22nm14nm10nmEnergy(pJ)pJ/bit CompJ/bit DRAMDP RF OppJ/DP FP100pJ/bit75pJ/bitCommunicationDRAM30pJ/bit32pJ/bitOperandsFP Op11向大脑学习向大脑学习神经元神经元-突触结构突触结构高高并行

6、并行存算一体存算一体高高算力算力脉冲事件驱动脉冲事件驱动低功耗低功耗存存算算+存算一体存算一体类脑类脑芯片芯片：学习大脑的结构和：学习大脑的结构和/或工作机理或工作机理高滨,Nature Electronics,(2020)报告内容报告内容12 人工智能与芯片算力人工智能与芯片算力 存存算一体算一体技术技术 研究进展研究进展 器件测试的新挑战器件测试的新挑战13新器件：存算合一的电子突触新器件：存算合一的电子突触忆阻器忆阻器(RRAM)(RRAM)SETRESETNa+,Ca2+生物突触RRAM 电子突触O2-上电极下电极RRAM中氧离子的移动和分布导致器件阻值的变化。生物中 Na+,CA2+