《中国科学院半导体研究所:类脑神经网络技术及其应用(40页).pdf》由会员分享,可在线阅读,更多相关《中国科学院半导体研究所:类脑神经网络技术及其应用(40页).pdf(40页珍藏版)》请在三个皮匠报告上搜索。
1、类脑神经网络技术及其应用 中国科学院半导体研究所 北京智源人工智能研究院 鲁华祥 2019年10月31日 1 主要内容 1.信息处理技术面临的问题和挑战 2.集成电路发展面临的问题和思考 3.类脑神经计算芯片的国内外发展情况 4.半导体所类脑神经计算、芯片的工作 2 信息处理技术发展面临巨大的挑战 性能问题:对大量的感知数据缺乏有效计算模型,绝大部分得不到利用;需要ZB(1021)级数据处理能力,用现有技术需要100亿台服务器;能耗问题:用现有技术年用电量需137个三峡电站,相当于2009年全国发电量的3倍;芯片、系统的散热等更是个难以解决的问题;可靠性、容错性问题:上千亿个器件集成;微纳器件
2、热噪声、耦合、缺陷、失效、一致性问题;巨型计算机巨型计算机 伦敦地铁爆炸案伦敦地铁爆炸案 3 应对挑战创新芯片结构及运算方式?形象思维问题和并行思维方法形象思维问题和并行思维方法 例:下图是什么动物?例:下图是什么动物?人脑的两种思维能力 计算铁皮总计算铁皮总面积与长宽面积与长宽对高的比例对高的比例函数关系函数关系 求函求函数的数的微商微商 令微商为零令微商为零解出最佳比解出最佳比例值例值 例:做一个无盖的方形铁皮水箱,怎样选择长宽与高的比例,使在同样的容积下最省铁皮?逻辑思维问题与串行思维方法 应对挑战结构及运算方式的创新(新的计算范式)发展类脑神经计算、结构的微电子技术!4 人工智能技术是
3、推动时代变革的强大动力!2012:深度学习在图像识别领域超过人类 2013年:利用强化学习在多个游戏战胜人类 2015年:AlphaGo 击败李世石 2016年特斯拉“自动驾驶”发生交通事故 2017年:AlphaGo Zero从零开始,全凭自学,围棋完胜人类 2018年,谷歌“造人”成功,谷歌语音AI通过图灵测试 人工智能技术:人工智能技术:爆炸式发展;推动时代变革的强大动力;各国都定位为国家战略;5 芯片是人工智能技术发展的核心推动力!CPU GPUGPU 超级计算机超级计算机 神经形态芯片神经形态芯片 FPGAFPGA TPUTPU NPUNPU 高性能计算推动了人工智能技术的发展;机器
4、学习训练:云端计算,HPC,加速处理器;智能模型部署应用:移动端计算(边界计算);6 应对挑战类脑运算方式及创新芯片结构?原因:现在的微电子芯片、计算机等,其结构及运算方式与生物脑有本质的不同!蝙蝠声纳蝙蝠声纳 =活动的回活动的回声定位系统声定位系统:提取目标距离信息;搜集目标的对速度、目标大小、方位角和仰角信息;蝙蝠可以灵巧地以蝙蝠可以灵巧地以很高的成功率捕捉目标!很高的成功率捕捉目标!所有复杂计算只在李子般大小的脑中完成!谷歌大脑:1.6万个处理器核,占地数十平方米,峰值功耗10万瓦以上,学习需要数天。人脑:体积大约2升,峰值功耗20瓦,学习只需几分钟。学习识别猫脸 AlphaGoAlph
5、aGo(20152015年)年)战 胜 李 世 石 的AlphaGo,使用了1202个CPU,176个GPU,CPU功耗约100W,GPU功耗约200W,比赛时长 约 5小时;AlphaGo Zero(2017AlphaGo Zero(2017年年)AlphaGo一局所消耗的能量大约是一个成年人一天耗能的300倍!7 另一方面:集成电路发展面临新问题 摩尔定律摩尔定律 器件尺寸接近极限;芯片功耗接近极限;微纳电子器件微纳电子器件 背景电荷噪声;一致性问题(工艺误差);随机缺陷和失效;相邻耦合(电磁、量子);低驱动能力;一个一个32 nm32 nm工艺最小尺寸晶体管的有效沟道长度已小于工艺最小尺
6、寸晶体管的有效沟道长度已小于100100个硅原个硅原子,它的栅氧厚度只有子,它的栅氧厚度只有4 4个硅原子厚,沟道中只含有大约个硅原子厚,沟道中只含有大约5050个掺个掺杂原子。杂原子。目前状况目前状况 集成电路特征尺寸已达3nm,规模工业生产已达7nm;NVIDIA GPU V100,集成了210亿个晶体管,芯片面积815mm2;Intel的酷睿产品,集成了11.7亿个晶体管;IBM研的类脑神经突触计算芯片TrueNorth,集成了54亿个晶体管;华为麒麟980芯片采用TSMC 7nm工艺,集成了69亿个晶体管;新型纳米电子器件新型纳米电子器件 半导体所利用Si基或GaAs、InP基V超晶格