03智能体系架构与芯片专题论坛.pdf

《03智能体系架构与芯片专题论坛.pdf》由会员分享，可在线阅读，更多相关《03智能体系架构与芯片专题论坛.pdf（79页珍藏版）》请在三个皮匠报告上搜索。

1、 1 03智能体系架构与芯片 2 清华大学张悠慧：软硬件去耦合的类脑计算系统设计与思考整理：智源社区 王光华 张悠慧，清华大学计算机系研究员，博导，主要从事计算机体系结构，包括处理器设计、类脑计算芯片与基础软件、高性能计算等方向的研究；曾担任多个国际/国内学术会议程序委员会委员及期刊编委；在 NATURE、ASPLOS、MICRO、NIPS、DAC 等期刊/会议上发表论文近 70 篇；是国家科技进步二等奖、国家级教学成果二等奖、教育部科技进步一等奖获得者。软硬件去耦合是计算机 系统结构中非常重要的设计方法论。简单来理解，即软件研发人员不需要考虑底层硬件如何设计；而硬件开发人员则只需要遵循一定指

2、令集规范，并不用担心兼容性，也不用考虑上层软件开发问题。多年以来，软硬件去耦合确保了通用计算机体系结构的快速发展。而之所以能够做到软硬件去耦合，其背后的原理便是“图灵机与计算理论”。那么类脑计算，要超越甚至替代冯 诺依曼模型和传统计算机，是否也需要做到软硬件去耦合？该用什么方法实现？这些问题对类脑计算的研究和开发意义重大。针对这些问题，在第二届北京智源大会“智能体系架构和芯片”专题论坛上，清华大学张悠慧做了题为“软硬件去耦合的类脑计算系统设计与思考”的专题报告。张悠慧在演讲中首先介绍了类脑计算的起源、应用与发展等研究背景，并分析了以类脑芯片为核心的软硬件和基于“通用”类脑计算开发框架（语言）系

3、统两种类脑计算研究的现状，以及探讨了如何从传统计算机的发展中汲取经验，采用软硬件去耦合、软硬件协同设计等多种方法论，来探索符合类脑计算与神经形态器件特色的设计方法论，最后，张悠慧简述了通用类脑计算当前研究的最新进展和下步工作重点。一、研究背景：类脑计算的起源、应用与发展 类脑计算或者神经形态计算的历史比较悠远。神经形态计算的鼻祖之一，加州理工的 Carver Mead 教授在1990 年提出“神经形态计算”这个词，并将其定义为“采用以模拟器件仿真生物神经系统的 VLSI 来实现大规模并行的自适应计算系统”1。图 1：加州理工 Carver Mead 教授 3 但这个概念提出的初衷，并不是为了做

4、 AI 或神经网络计算等，主要是为了追求计算效能。因为传统数字架构，一条指令执行时，需要经过译码、数据传输等一系列操作再进行计算，其“耗能不单是这个计算本身的，而是执行整个计算流程所消耗的总能量”，效能不高。而生物系统的计算效能比数字计算系统计算效能高几个数量级。所以，当时的有识之士，便开始借鉴生物神经网思想，用以提升计算效能。这里主要包括两点：一是使用基本的物理现象作为计算的原语，类似于模拟计算的方法。二是，采用类似Spiking 这样的模拟相对值而不是数字的绝对值来进行信息表述。这两点是生物系统能效优势的根本原因，对于提升计算效能具有非常重要的启示。图 2：类脑计算所支持的各类应用2张悠

5、慧介绍，类脑计算应用目前比较侧重于 AI。根据综述文章2，类脑计算目前所支持的主要应用是神经网络形式的，但是也有越来越多的工作在探索利用类脑计算实现非神经网络应用。主要包括两种，一种是以神经网络的形式解决图计算、计算优化等非 AI 的问题；另一种是问题形式、表述形式、解决形式等非神经网络形式的，比如利用脉冲神经网络构建通用计算框架。但 2016 年的Nature文章提到：类脑计算作为后摩尔时代极具潜力的发展方向之一，不能把类脑计算应用只局限于 AI，要放宽一点。4 图 3：引领类脑计算的技术浪潮5那么类脑计算的未来会怎么样？2020 年初有一篇文章5指出，类脑计算可能引领下一波 Compute

6、r Engineering的浪潮。目前，GPU 驱动了第一阶段浪潮，第二个阶段将是 ASIC 加速器，而第三阶段可能就是神经形态计算。图灵奖得主 John L.Hennessy 和 David A.Patterson 在 2018 年的图灵报告3里也提到，未来 10 年是重新定义计算机体系结构的 10 年。目前体系结构因发展路径的多样性，将带来体系基础结构创新的重大契机，逐步会有越来越多的非冯处理器崛起，包括神经形态处理器，基于量子力学规律的处理器等4。二、现状分析：专用芯片 vs“通用”框架（语言）张悠慧介绍，目前已经有很多种类的类脑芯片开发，比如，斯坦佛大学 Neurogrid 团队和滑铁