浙江大学：物联网安全人工智能安全专题（105页）.pdf

《浙江大学：物联网安全人工智能安全专题（105页）.pdf》由会员分享，可在线阅读，更多相关《浙江大学：物联网安全人工智能安全专题（105页）.pdf（105页珍藏版）》请在三个皮匠报告上搜索。

1、物联网安全Internet of ThingsSecurity专题2：人工智能安全冀晓宇浙江大学目录AI安全背景AI基础知识AI安全分类数据中毒攻击对抗样本攻击模型窃取攻击大模型及其安全AI安全防护手段AI安全双刃剑-AI助力解决安全问题诈骗电话检测：使用机器学习方法，无需访问电话网络的基础设施，诈骗电话检测准确率高达901垃圾邮件分类：谷歌利用深度学习技术，垃圾邮件和网络钓鱼邮件的识别率已经达到了99.9%231 Li,Huichen,et al.“AMachine Learning Approach To Prevent Malicious Calls Over Telephony Net

2、works.”,IEEE S&P182 https:/ Automated Public Turing test to tell Computers and Humans Apart验证码自动识别：AI算法能够精确识别CAPTCH验证码1，且识别效果优于人类51 GuixinYe,etc.,“Yet Another Text Captcha Solver:A Generative Adversarial Network Based Approach”,in ACM CCS 2018AI安全双刃剑-AI带来安全问题虚假音视频合成：只需一张照片和一段音频，利用人工智能技术，创建目标人物虚假音视频我

3、说过吗？我就没听过这歌6Vougioukas,Konstantinos,Stavros Petridis,and Maja Pantic.“Realistic Speech-Driven Facial Animation with GANs.”,in CVPR19AI安全双刃剑-AI带来安全问题虚假音视频合成：DeepFake左图：将Amy Adams转换成尼古拉斯凯奇表演右图：将1994年版射雕英雄传朱茵饰演的黄蓉替换为杨幂7https:/en.wikipedia.org/wiki/DeepfakeAI安全双刃剑-AI带来安全问题AI实施电信诈骗典型案例：2023年，福州市某科技公司法人代表

4、郭先生10分钟内被骗430万元9目录AI基础知识AI定义及模型有监督分类器AI攻击相关知识针对AI的攻击数据中毒攻击对抗样本攻击逆向工程攻击大模型安全概述大模型基础知识针对大模型的攻击面向AI的防御手段数据中毒防御对抗样本防御逆向工程防御10AI基础知识AI基础知识定义1：Artificial Intelligence(AI)，又称人工智能，是指能够感知环境并采取行动以最大程度实现目标的任何设备1，也称为机器智能，与人类自然智能相反定义2：一个系统能够正确解释外部数据，从这些数据中学习并通过灵活的适应来实现特定目标和任务的能力2特点：从大量历史数据中挖掘隐含规律，并用于预测或者分类。人工智能或

5、者机器学习可以看作是一个函数，输入是样本数据，输出是期望的结果机器学习/人工智能模型不仅需要在训练样本上表现好，同时还要适应“新样本”，对新样本的适应能力称为泛化能力，泛化不好会出现过拟合、欠拟合等问题121 David Poole,Alan Mackworth,Randy Goebel,Computational Intelligence:A Logical Approach,1998AI基础知识-拟合、过拟合、欠拟合13AI模型/机器学习分类监督学习无监督学习强化学习利用一组已知类别（经过标注）的样本调整分类器参数，使其达到所要求性能的过程，需要从标签数据中推断对应函数 应用：回归、预测、

6、分类没有给定事先标记过的训练数据，需自动对输入的数据进行分类或分群，因此需从未标记的数据描述其隐藏结构 应用：聚类、密度估计强调如何基于环境而行动，以取得最大化的预期利益在环境中采取行动的模型。应用：机器人控制、博弈论14AI模型流程以监督学习为例验证模型使用独立的验证集判断模型是否学到了效的特征，如果过拟合，则需要重新调整模型部署将机器学习模型开发并部署到实际应用场景中线上调整上线后，根据线上的反馈继续更新模型（与训练类似）训练模型选择合适的模型，计算输出，比较输出与模型标签的差异，一般以损失函数描述反馈根据损失函数，利用梯度下降反向更新模型的参数选择数据收集数据，并将数据分为训练集、验证集