人工智能技术应用的网信安全新挑战-陈钟-北京大学计算机学院教授.pdf

1、人工智能技术应用的网信安全新挑战S&S Challenges with AI and Cybermatics陈钟Chen Zhong北京大学计算机学院 教授、元宇宙技术研究所所长Professor,Peking University,Director of MTI,School of CSCONTENTS目 录01.世界大变局下的安全与发展“网信事业”概念的提出，体现了互联网对于国家经济和社会发展的重要意义网络安全和信息化是一体之两翼、驱动之双轮，没有网络安全就没有国家安全，没有信息化就没有现代化02.人工智能案例分析与赛博学（Cybermatics:Safety&Security）人工智能自

2、动驾驶的两座大山：致命的L4和算法伦理道德与法律03.重塑数字信任、直面问题与挑战数字化转型需要新型数字信任理念与机制区块链引发的记账科技演进才刚刚开始，将促使商业协作和组织形态发生变革2 0 2 3 W E S T L A K ED I G I TA L S E C U R I T YC O N F E R E N C E01世界大变局下的安全与发展01.习总书记：我们正处在世界百年未有之大变局 习总书记主持第十九届中央政治局集体学习，2017年10月27日以来已经四十一次。第二次：2017年12月8日，主题：实施国家大数据战略加快建设数字中国 第九次：2018年10月31日，主题：人工智能

3、发展现状与趋势 第十八次：2019年10月24日，主题：区块链技术发展现状和趋势 第二十四次：2020年10月16日，主题：量子科技研究和应用前景 第三十四次：2021年10月18日，主题：推动我国数字经济健康发展 形势：世界百年未有之大变局 挑战：新科技革命和产业变革的时代浪潮奔腾而至，如果我们不应变、不求变，将错失发展机遇，甚至错过整个时代 机遇：新科技革命和产业变革是一次全方位变革，将对人类生产模式、生活方式、价值理念产生深刻影响。信息化为中华民族带来了千载难逢的机遇网络安全和信息化对一个国家很多领域都是牵一发而动全身的网络安全和信息化是一体之两翼、驱动之双轮，必须统一谋划、统一部署、统

4、一推进、统一实施。做好网络安全和信息化工作，要处理好安全和发展的关系没有网络安全就没有国家安全，没有信息化就没有现代化。超前识变超前识变积极应变积极应变主动求变主动求变01.党中央高度重视网络安全与信息化网信事业、数字中国 2014年2月27日，中央网络安全与信息化领导小组中央网络安全与信息化领导小组成立并召开第一次会议。习近平任组长，李克强、刘云山任副组长。十八届四中全会上决定完善网络安全保护方面的法律法规 2015年7月1日，中华人民共和国国家安全法正式生效（由第十二届全国人民代表大会常务委员第十五次会议通过的，国家主席习近平签署第29号主席令予以公布）将“建设网络与信息安全保障体系，提升

5、网络与信息安全保护能力”作为维护国家安全的重要职责。2016年11月7日中华人民共和国网络安全法于第十二届全国人民代表大会常务委员会第二十四次会议通过，2017年6月1日起正式实施。2016年12月27日，经中央网络安全和信息化领导小组批准，国家互联网信息办公室发布国家网络空间安全战略国家网络空间安全战略相较于2007年实施的信息安全等级保护管理办法所确立的等级保护1.0体系，为了适应现阶段网络安全的新形势、新变化以及新技术、新应用发展的要求，2018年公安部正式发布网络安全等级保护条例（征求意见稿），国家对信息安全技术与网络安全保护迈入等保2.0时代。2019年10月26日中华人民共和国密码

6、法于第十三届全国人民代表大会常务委员会第十四次会议通过，自2020年1月1日起施行。2021年6月10日中华人民共和国数据安全法于第十三届全国人民代表大会常务委员会第二十九次会议通过，自2021年9月1日起执行。2021年8月20日中华人民共和国个人信息保护法于第十三届全国人大常委会第三十次会议通过，自2021年11月1日施行。2021年7月30日中华人民共和国国务院第745号令，发布关键信息基础设施安全保护条例，自2021年9月1日起施行。01.网络安全标准化与制度建设快速跟进 2007年实施的信息安全等级保护管理办法所确立的等级保护1.0体系 2018年公安部正式发布网络安全等级保护条例（