光网络赋能全局弹性计算系统.pdf

1、“曦智科技光电混合的全新计算范式，致力于满足日益增长的大规模计算需求，为客户提供一系列算力跃迁解决方案，共建更智能、更可持续发展的未来。”光网络赋能全局弹性计算系统曦智科技创始人&CEO沈亦晨博士 LIGHTELLIGENCE|Confidential麻省理工科技学院 物理学博士学位Nature、Science等顶刊学术论文 40+全球专利申请数150+，已授权数30+麻省理工科技评论 全球“35岁以下科技创新35人”2022达沃斯“全球青年领袖”沈亦晨 博士由沈亦晨博士创立于2017年办公室分布于中国、美国、新加坡、比利时等拥有来自全球10余个国家约200名全球员工累计融资超2亿美金浦东新区

2、张江高科技园规划发展公司研发、设计业务，以及服务地区内客户杭州市余杭区未来科技城，毗邻阿里巴巴、之江实验室等重要下游应用端规划发展公司软件系统、应用生态业务，以及服务地区内客户波士顿中央商务区规划发展公司研发、设计业务，以及服务地区内客户南京市江北新区研创园毗邻台积电、新思等重要芯片设计、生产供应商规划发展公司生产、封装和测试业务，以及服务地区内客户加拿大新加坡比利时演讲人介绍01算力发展趋势和问题 LIGHTELLIGENCE|Confidential计算需求指数型增长对可持续发展的挑战AI模型训练时间的指数增长功耗比例：计算50%，存储35%，通信15%Source-http:/ LIGH

3、TELLIGENCE|Confidential未来计算技术的大趋势伴随半导体技术发展60多年的摩尔定律可能在2020s年代结束(Source:MIT Tech Review)DSPGPUFPGAASIC通用性计算效率基于领域专用加速器（DSA）的异构计算成为解决算力瓶颈的必然趋势Domain Specific Architecture(DSA)(John Hennessy&David Patterson:Turing Award Lecture 2018)LIGHTELLIGENCE|Confidential当前计算模式/生态无法有效挖掘异构计算潜力计算生态计算架构多样性导致软硬件生态碎片化，

4、软件适配和维护成本高资源调度计算任务无法在不同架构上平滑迁移，使得带宽和延时阻塞算力的发挥利用率计算资源配比固化导致使用不均衡、利用率低，算力闲置浪费 LIGHTELLIGENCE|Confidential数据中心资源利用效率案例不同客户的应用对计算需求量差别很大，导致目前数据中心利用率不高，资源浪费比较严重Source:OReilly Conference TensorFlow World 2019阿里云数据中心GPU使用率02愿景和挑战 LIGHTELLIGENCE|ConfidentialScale-up算力池化算力/内存抽象按需分配算力并池、并网和混合部署创新的计算范式Scale-ou

5、t算力提升算力可持续发展算力网络高性能计算架构异构计算和资源池化是算力提升的必要条件 LIGHTELLIGENCE|Confidential晶圆级GPUs计算架构创新 scale-up范例VRM+DeCapVRM+DeCapGPMGPMGPMGPMGPMGPMGPMGPMGPMGPMGPMGPMGPMGPMGPMGPMVRM+DeCapVRM+DeCapSystemSystem+I/O+I/OSystemSystem I/OI/OConnectionsConnections3D3D-stackedstackedDRAMDRAMV VintintRegulatorRegulatorSource:

6、HiPChips ISCA-2022张量加速 LIGHTELLIGENCE|ConfidentialScale-up算力池化算力/内存抽象按需分配算力并池、并网和混合部署创新的计算范式Scale-out算力提升算力可持续发展算力网络高性能计算架构异构计算和资源池化是算力提升的必要条件 LIGHTELLIGENCE|Confidential异构计算池化 scale-out范例柔性可管理经济开放ACCACCACCACCACCACCACCDRAMDRAMDRAMDRAMDRAMDRAMDRAMCPUCPUCPUCPUCPUCPUCPU物理机1物理机0物理机2虚拟机0虚拟机1虚拟机2虚拟机3虚拟机4