世界经济论坛：2020年面部识别技术负责任使用框架报告（英文版）（20页）.pdf

1、在过去的十年中，面部识别已经成为最强大的生物识别技术之一，能够通过比较和分析基于个人面部轮廓的模式来识别和验证个人。面部识别系统的改进主要得益于机器学习和传感器的进步预计2024年该技术的市场将增至70亿美元，而2019年为32亿美元。事实上，最高效的面部识别系统在2010年的准确率达到了72%，现在很容易超过95%。人脸识别技术有很多应用，从改善银行和零售业的消费者体验到加快机场的边境管制。这项技术的发展创造了大量有益于社会的机会，同时也对人权和公民自由尤其是言论自由、集会和结社自由以及隐私权构成了严重威胁。最令人担忧的是，正如美国公民自由联盟(ACLU)所强调的那样，“收集和存储信息以备不

2、时之需”的技术正在转变为积极观察人们的技术，通常是实时的。近年来，由于各种争议，公众对人脸识别技术的关注与日俱增。一些零售商在未经通知或同意的情况下使用了这项技术，越来越多的学校正在部署这项技术来监控学生，经常报告生物特征数据泄露，个人数据被用于开发面部识别系统，而无需征得用户的许可。尽管面部识别技术在过去几年取得了长足的进步，但人们对其局限性的伦理担忧已经浮出水面。基于N的人脸识别研究可能会有不公平的表现。最近的一项研究发现，系统的准确性和性能都会受到肤色的影响，这可能导致对个人的错误识别。此外，性别、年龄、身高、眼镜或头巾也会影响准确性和性能，具体取决于系统。在实时执法场景中使用时，这可能

3、会增加错误识别的风险，并可能导致重大安全问题。在这方面，我们不能满足于现状。我们必须制定一个治理框架，确保负责任地使用面部识别技术。我们认为，该框架应以证据为基础，并通过多方利益相关者方法共同设计。为此，世界经济论坛正在法国率先开展一个多利益相关者、基于证据的政策项目，重点关注一个用例场景。这项倡议的目标是为面部识别技术建立一个治理框架，该框架已经在现场进行了测试。这里的主要挑战是围绕法国或国外的其他使用案例开展各种政策试点(考虑到当地法规、社会规范和其他背景因素)，以便不断加强这一行动框架。此外，该框架的目的是在国家、欧洲和国际各级就人脸识别技术的使用进行公众辩论。由于这是一个涉及个人和集体权利和自由问题的问题，公民及其民主代表是他们希望促进或限制的用途以及应在何种条件下使用技术的唯一合法决策者。我们的雄心壮志是在公民和代表面临不同的权衡时赋予他们权力。本白皮书是迭代过程的第一步，我们欢迎愿意参加本次辩论的组织加入我们的项目。