A3--向阳--智能汽车软件的可观测性工程实践.pdf

1、智能汽车软件的可观测性工程实践智能汽车软件的可观测性工程实践向阳云杉网络研发 VP向阳向阳云杉网络研发 VP清华大学博士，云杉网络研发 VP，DeepFlow 开源社区负责人。曾在国际顶级学术会议 ACM SIGCOMM、ACM IMC 上发表可观测性方向的学术论文。现负责可观测性产品 DeepFlow，致力于打造一款云原生和 AI 应用的零侵扰可观测性产品。目录目录C O N T E N T S1.1.智能汽车为什么需要智能汽车为什么需要可观测性可观测性2.2.智能汽车智能汽车可观测性工程的挑战可观测性工程的挑战3.3.基于基于 eBPF eBPF 的全栈可观测性的全栈可观测性4.4.上路吧

2、：开启上路吧：开启 NOA NOA 高速高速一小时一小时为什么为什么需要需要0101车端软件栈的复杂性车端软件栈的复杂性急剧增加急剧增加智能驾驶芯片 CPU+GPU智能座舱芯片 CPU+GPULinux 操作系统Android 操作系统网关、消息队列中间件Android 消息总线中间件感知娱乐应用智能助理车载以太网跨域通信网关芯片厂主机/智驾厂规划控制全栈可观测性是系统工作需从架构设计之始全局思考云端大模型主机厂云端微服务智能算力云端消耗大、车端难扩容智能算力云端消耗大、车端难扩容MFU 低、训练时间长、推理成本高固定算力和高频 OTA 升级之间的矛盾市场竞争压力、新功能上线压力和固定算力之间

3、的矛盾工程工程挑战挑战0202传统可观测性传统可观测性工程建设方案的痛点工程建设方案的痛点智能座舱域（8155/8295芯片 Android）自动驾驶域（NVIDIA DRIVE Orin/Thor Linux）kafkkafka a汽车将以少量高性能计算单元替代大量 ECU为日益复杂的汽车软件提供算力基础；实现软硬件解耦+软件分层解耦智能座舱、自动驾驶、车控车载应用的调用路径越来越长网关进程网关进程应用进程应用进程框架代码框架代码业务代码业务代码APPSYS插桩困难追踪盲点智算盲点资源消耗#服务服务=N=N#通信通信=N N2 2?通通信信N N2 2服服务务N N全栈可观测性是必备能力XC

4、UHUFSD智能算力可观测性工具的智能算力可观测性工具的问题问题Nsight 的问题：需要重启进程、缺少 CPU Context。PyTorch Profiler 的问题：只能用于 PyTorch；性能影响大；需要改代码、重启进程。需要手工精心打造插桩、开销全栈全栈可观测性可观测性0303eBPF eBPF 的可观测性的可观测性能力能力Socket EventsFile EventsPerf EventsFunction Call EventsProcess EventsKernel EventsHW Eventscuda/ibverbscudaXXX()ncclXXX()使用使用 eBPF

5、eBPF 实现可观测性的实现可观测性的优势优势cuda/ibverbscudaXXX()ncclXXX()Zero CodeFullStack业界业界相关工作相关工作介绍介绍华为：eBPF Tracing+ROS2Meta：eBPF GPU ProfilingDeepFlowDeepFlow：零侵扰零侵扰实现智能汽车应用的实现智能汽车应用的全栈全栈可观测性可观测性调用链拓扑、全景图业务+应用+网络分布式追踪、用户旅程应用+系统+网络持续性能剖析CPU+GPU业务+应用+网络开源：https:/deepflow.io1.1.零侵扰的分布式追踪零侵扰的分布式追踪/Distributed Traci

6、ng/Distributed Tracing全栈路径：业务、进程、Pod、网关、文件读写使用使用 eBPF eBPF 实现零侵扰分布式追踪的实现零侵扰分布式追踪的挑战挑战Network-Centric Distributed Tracing with DeepFlowDeepFlow:Troubleshooting Your Microservices in Zero Code.ACM SIGCOMM 2024.ACM SIGCOMM 2024.是否能在不插桩、不注入 TraceID 的前提下实现分布式追踪？在智能汽车上实现追踪的挑战在智能汽车上实现追踪