05 王皓 探索大模型的数据边界_11.23_脱敏.pdf

《05 王皓 探索大模型的数据边界_11.23_脱敏.pdf》由会员分享，可在线阅读，更多相关《05 王皓 探索大模型的数据边界_11.23_脱敏.pdf（31页珍藏版）》请在三个皮匠报告上搜索。

1、探索大模型的数据边界安全、透明性和合规性演讲人：王皓西安电子科技大学华山学者领军教授国家高层次人才称号高瞻远瞩、审时度势，深入推进信息化发展探索实践，为科学理论的孕育萌发提供源头活水“当今世界，信息化发展很快，不进则退，慢进亦退。”“网络安全和信息化是一体之两翼、驱动之双轮，必须统一谋划、统一部署、统一推进、统一实施。”“共同构建和平、安全、开放、合作的网络空间，建立多边、民主、透明的国际互联网治理体系。”矢志前行、谱写新篇，加快推动网信事业高质量发展，为强国建设、民族复兴作出新的更大贡献时代机遇建设网络强国，时也，势也。大模型应用2023.08Claude2盘古3.0WPS AI子曰2023

2、.072023.052023.032023.042023.062022ChatGPT3.52023.02LLaMABing ChatGPT4Claude文心一言Titan盘古SenseChat通义千问Aurora genAIPaLM2ChatGLM2星火 V1.5学而思 Mathgpt云雀XuanYuan-70B书生 浦语2023.092023.10玉言三则是生态能力：企业不仅可以打造GPTs，更能将其上架在市场内，即GPT Store，可分享给其他用户使用，以及获得分成，类App Store的商业生态由此为出发点。大模型生态初现美东时间11月6日，OpenAI开发者大会正式开启一是技术能力：

3、GPT-4Turbo升级了6大新能力，包括128K的上下文长度、更强的控制能力，模型的知识升级、多模态能力（语音和CV）、模型微调定制和更高速率的限制，性能升级的同时，还对API调用的价格进行了下调；二是可复制的能力：从原来的GPT到GPTs，用户可以打造专属于自己的GPT助手，企业可通过OpenAI提供的全套工具链“all tools”在企业内部建设有价值的工具，同时也可以深入让GPTs进化为一个个Agents，为智能体做准备；生成式人工智能对人民福祉、经济发展、国家安全和战略竞争均具有重要意义。“随着生成式人工智能技术的快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个

4、人信息权益、数据安全和偏见歧视等问题。”“国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。”“促进生成式人工智能健康发展和规范应用。”“坚持发展和安全并重、促进创新和依法治理相结合。”筑牢可信可控的数字安全屏障，切实维护网络安全，完善网络安全法律法规和政策体系数据安全西安电子科技大学是国家最早开展密码学、信息对抗研究的高校之一，学术积淀深厚。学校依托在保密通信领域的研究,于2014年成立了网络与信息安全学院;学院是全国首批设立密码学博士点、首批设立信息安全本科专业、首批获得网络空间安全一级学科博士点

5、的学位授予权的高校。2017年网络安全获批国防科工局国防特色学科,同年9月,学校以总成绩排名第一入选“国家一流网络安全学院建设示范项目”,2021年绩效评估中取得优异成绩。根据2020年、2022年以及最新的2023年公布的软科中国最好学科排名，网络空间安全位列全国第一。西安电子科技大学邪恶GPT(FraudGPT、WormGPT等恶意软件)作为专为攻击性活动设计的AI对话机器人，该软件仅根据简单提示即可创建破解工具、钓鱼邮件，甚至编写恶意攻击软件。并且没有任何限制。它允许你操纵它发挥自己的优势，并让它做任何你想做的事情，降低网络犯罪分子的门槛。此外，该软件精通创建针对特定漏洞或目标的攻击软件

6、，并能够帮助用户搜索互联网中隐藏的其他黑客组织、暗网以及用于交易被盗数据的网络黑市，亦或是为用户提供高质量的诈骗指南以及黑客技术学习资源。邪恶GPT年初ChatGPT、Bard等聊天机器人暴露出的“奶奶漏洞”就证明了这样的事实，只需要通过提示让这些聊天机器人扮演用户已故的祖母，便能欺骗它们在讲睡前故事的过程中透露大量限制信息，甚至是手机IMEI密码或Windows激活秘钥。之外，CMU和人工智能安全中心的研究员还发现了另一种通用方法，只需要附加一系列特定无意义token，就能够生成一个prompt后缀。而一旦在prompt中加入这个后缀，通过对抗攻击方式，任何人都能破解大模型的安全措施，使它们