基于深度学习的内容安全检测与管控（13页）.pdf

《基于深度学习的内容安全检测与管控（13页）.pdf》由会员分享，可在线阅读，更多相关《基于深度学习的内容安全检测与管控（13页）.pdf（13页珍藏版）》请在三个皮匠报告上搜索。

1、内容安全检测与管控1 背景介绍2 内容检测3 困难与思路4 一些计划 大背景 小行业 简单高效 接入门槛低 客户又快又猛 标准多种多样 一些想法 一些动作Facebook每日新增600T数据Twitter每日新增1.4亿条信息Youtube每分钟新增300小时视频缺乏内容安全管控经验安全管控需要一整套的舆情情报、预警、分析、响应和沉淀机制缺乏内容安全检测技术研发成本高，需要不断应付变种违规内容，对抗逐步升级安全管控耗费大量成本研发、运营、审计，投入成本过高；尤其是早期全人审阶段图片经过多年积累、训练样本亿级别针对多种场景特性，细分适配检测能力：鉴黄、图文识别、人脸、二维码 文本词库丰富，基本覆

2、盖各种场景算法高效，违规内容实时识别检测能力：敏感词、分词纠错、反垃圾 视频智能截帧，有效抓取嫁接违规视频检测能力：鉴黄网站依靠阿里云多年实战经验，不断积累/沉淀管控策略与阿里云产品联动，更高效、更灵活检测能力：挂马、网站可访问性 Open APIHttp+多语言SDK，更加通用Plug-in逐步适配多种建站系统，有效降低接入成本Saas一键开通服务，提供简单方便的审核平台，所见即所得阿里云快速接入管控尺度不一行业特性不同个性化服务快速接入，满足80%需求我要严管控，不能有漏网之鱼我是电商，商品黄图不一样我是客户，我是上帝通用模型细化算分策略提供不同模型策略+模型接入检测Bad case新算法上线算法集合服务单一算法覆盖面有限模型训练依赖样本集的收集、整理模型升级与响应速度有待提升新模型的训练与上线周期长一个场景，多种算法支持用户透明，效果更好，接入成本不变能力边界内容安全检测的能力边界清晰，可以与其它服务配合实现更好的效果与CDN配合视频直播+鉴黄与OSS配合视频文件检测词库阈值灵活用户检测事前事中事后名单频率、时间点模型、策略行为检测内容检测