AI浪潮下的高速互连趋势.pdf

《AI浪潮下的高速互连趋势.pdf》由会员分享，可在线阅读，更多相关《AI浪潮下的高速互连趋势.pdf（24页珍藏版）》请在三个皮匠报告上搜索。

1、AI浪潮下的高速互连趋势中兴通讯 魏仲民提 纲AI对行业影响1234 ZTE All rights reserved3对外公开2023-AI的Iphone时刻 2022/11OpenAIChatGPT2023/03百度文心一言2023/02GoogleBard2023/01OpenAIChatGPT突破1亿2023/04阿里通义千问2023/05MicroSoftCopilot2023/08NvidiaQ2营收增长100%2023/07Meta开源Llama2模型202320222023/09腾讯混元n 2023年AI爆发元年，ChatGPT引领行业大模型井喷式爆发 ZTE All right

2、s reserved4对外公开互连带宽与算力需求鸿沟*Gholami A,Yao Z,Kim S,Mahoney MW,Keutzer K.AI and Memory Wall.RiseLab Medium Blog Post,University of California Berkeley,2021,March 29.通道更多速度更快 更紧密耦合n AI训练对算力的需求导致互连演进方向既需高带宽，又更加紧密耦合 ZTE All rights reserved5对外公开AI对互连网络的改变DCISpineSpineTORTORTORTORCPU/GPUDPU/.CPU/GPUDPU/.CPU

3、/GPUDPU/.CPU/GPUDPU/.TORTORTORTORSpineSpineFrontEnd:Ethernet(以太网）无收敛组网，东西流量 连接服务器至因特网(internet)异步计算，弱网络互连，更趋近于计算XPU(服务器/机柜）资源池化 各计算功能分离，板内/框内高速互连复杂BackEnd:IB/UEC(GPU互连）无收敛组网，东西流量，20X 以太网密度 连接特定计算节点，如GPU等 类似同步计算，更趋近于网络互连，互连网络定义数据中心!n AI直接创造增量市场，CAGR增量可观，但互连要求更加严苛 ZTE All rights reserved6对外公开AI对功耗的需求及

4、影响=*MicroSoft,VP of Cloud AI,Apr,2023“were now training models on 75MW”n 未来高速互连需要大算力和高带宽，更需要极低功耗提 纲1234高速互连趋势 ZTE All rights reserved8对外公开时间2010201520202025速率/GbpsNRZball to ballPAM4调制方式通道界定ball to ballbump to bumpball to ball25G56G112G224GPAM4PAM4Scale-Up(通道速率更快)200Gb/s New trend:bump-to-bump ILMLS

5、E with floating FFE tapsNew standards(More suitable for AI/ML/HPC)n 单通道速率持续 2X/4年左右演进 ZTE All rights reserved9对外公开Scale-Out(端口带宽更宽)单通道速率/Gbps11012510020040050Lane248163210G25G100G200G400G400G800G800G1.6T3.2T3.2T6.4T12.8Tn 叠加通道数量翻倍，行业互连带宽维持2X/2年的趋势 ZTE All rights reserved10对外公开Scale-Out(更低的功耗，更低的时延)L

6、inear方案交换芯片交换芯片RetimerDSPTIADRVPDMZ/MR光模块光模块FEC组合*IEEE 802.3df gustlin_3df_01a_220517n 低功耗/低时延的紧耦合需求下，linear成为行业热点n 224G去除部分FEC对互连提出更大的挑战提 纲1234高速互连技术进展和挑战 ZTE All rights reserved12对外公开高速互连全景图CONCPO光纤背板侧面板侧n 互连媒介存在PCB、Cable、光纤，同时出现CPC/NPC、CPO/NPO、板内Cable等互连形态n 互连接口涵盖LR、MR、VSR、XSR