《长安汽车:自动驾驶感知安全性的思考.pdf》由会员分享,可在线阅读,更多相关《长安汽车:自动驾驶感知安全性的思考.pdf(15页珍藏版)》请在三个皮匠报告上搜索。
1、自动驾驶感知安全性的思考长安汽车AI LAB|2023.03.232/16AI前沿算法技术研究者外部研发资源集成者产学研体系建设者我们是谁?3/16感知交互认知决策认知安全保障数据要素我们要干什么?4/16感知辨别度低传感器故障复杂环境带来的噪声感知模型有“bug”吗?5/16感知模型的“bug”有哪些?6/16从验证角度看安全 ,=.=min 0 Robust 0 =0 0Stronger Adversarial AttackComplete VerificationStronger Incomplete Verification7/16可达性优化搜索算法验证的Benchmark 及其工具8
2、/16感知模型应用场景感知结果(位置、类别.)与真值进行核验错误从测试角度看安全正确9/16YOLOv5的攻击效果长安目标检测模型的攻击效果生成对抗样本误导检测模型对抗攻击评测鲁棒性10/16暴雨暴雨摄像头噪音摄像头噪音强光强光运动模糊运动模糊ABCD深度挖掘Corner Case11/16区别高频信号和噪声滤波降噪会丢失图像细节或边缘信息深度学习可提升效果,但仍会丢失细节滤波技术手段减少噪声图像降噪算法深度学习曲率滤波BM3D算法DnCNNRIDNetSID降噪算法的难点12/16检测算法对抗样本极端天气.场景:极端天气安全性降低,接管提醒检测危险提前预警13/16攻防博弈,优化模型对抗样本原始数据被测AI模型结果对抗样本原始数据AI加固模型结果优化对抗样本生成模型攻击模型找系统弱点加固模型提升系统稳健14/16标准引领,建设体系