赛迪：面向儿童的人工智能（2022）（29页）.pdf

1、-1-2022!711#$28%&$&$547%面向儿童的人工智能面向儿童的人工智能 !#$%!#$%2022 年 3 月，世界经济论坛首次发布面向儿童的人工智能报告。人工智能可被用来教育儿童和青少年，并赋予他们力量进而积极影响社会。但是，如果在人工智能技术设计中未充分考虑潜在风险，其存在的隐患同样容易对儿童造成负面影响。因此，制定兼具创新性和责任感的人工智能设计准则，满足儿童成长需求十分必要。报告研究了人工智能设计理念、隐私安全与数据安全等关键问题，提出了以儿童为本的五项指导原则，为人工智能的儿童适龄化发展提供相应指导和启示。赛迪智库科技与标准研究所对该报告进行了编译，期望对我国有关部门有所

2、帮助。!&(%)*!&(%)*+,-.+,-./012/012 3 33 3-2-()*()*儿童和青少年的日常生活中充斥着各种人工智能产品。人工智能可被用来教育儿童和青少年，并赋予他们力量，进而对社会产生积极影响。但是，人工智能技术也将带来潜在风险，包括偏差、网络安全和无障碍性的缺失，儿童和青少年尤其容易受这些风险的影响。因此人工智能的设计必须具有包容性，要尊重儿童用户的权利。人工智能技术的发展必须兼具创新性和责任感。负责任的人工智能应当是安全、合乎伦理、透明、公平、无障碍和包容的。父母、监护人和成年人均有责任慎重选择设计上合乎伦理的人工智能产品，并帮助儿童安全地使用这些产品。本报告旨在为人

3、工智能的负责任设计、消费和使用提供指导，给企业、设计人员、父母、监护人、儿童和青少年提供帮助，确保人工智能尊重儿童权利，并给他们的生活带来积极影响。（一）企业用户（一）企业用户 企业应当了解，儿童经常会使用并非专门为其设计的人工智能产品。应慎重考虑如何为儿童和青少年争取利益，并减少技术带来的潜在风险。给高管层的清单旨在帮助企业管理层更好地了解人工智能对儿童和青少年的利弊，以便使其能够更好地对人工-3-智能进行领导、创新和发展。同时，给产品团队的指导原则可以为工程师、开发人员、产品经理及产品团队的其他成员提供指导。（二）人工智能标签系统（二）人工智能标签系统 人工智能标签系统将被用于所有人工智能

4、产品的外包装，可通过二维码在线查看，旨在向消费者展示产品的工作原理以及用户的选择。（三）消费者：父母和监护人（三）消费者：父母和监护人 父母和监护人要在进一步了解人工智能技术的基础上，谨慎地选择给孩子购买哪些人工智能技术，确保人工智能能够给孩子的生活带来积极影响。人工智能标签系统（图 1）旨在帮助父母和监护人了解人工智能的重要特性。!1#$%&()*+(,-./0123456789:+(,-./0123456789:无无障障碍碍性性年年龄龄数数据据使使用用网网络络人人工工智智能能的的使使用用传传感感器器-4-可行框架和实际指导能够帮助企业为儿童和青少年设计创新和负责任的人工智能。可行框架和实际

5、指导能够帮助企业为儿童和青少年设计创新和负责任的人工智能。在几乎没有可以依据法规的情况下，企业只能在数据捕捉和人工智能模型训练及应用方面的隐私和伦理问题上自行摸索。该清单旨在帮助高管层层及其他企业决策者反思并采取行动，为弱势群体提供负责任的人工智能。（一）面向儿童和青少年的人工智能应该是值得信赖和负责任的：给管理层的清单（一）面向儿童和青少年的人工智能应该是值得信赖和负责任的：给管理层的清单人工智能的复杂性和影响范围极广，通过审慎实施人工智能技术，可以使青少年能够按照自己的节奏和学习风格成长和发育。但是，假如草率地实施人工智能技术，或是缺乏指导，就可能侵害弱势用户的权利。在儿童发育、适用性和保

6、护隐私等方面，管理层应当追求严格的伦理和社会标准，以赢得消费者的信赖。（二）企业可能存在的不足（二）企业可能存在的不足人工智能应用正在不断提速，同时又缺乏标准和指导。企业应避免诸如拒绝披露人工智能的使用方式、放大和放任偏差、跳过以用户为中心的验证、漠视隐私保护和安全漏洞等危险行为。（三）相关行动（三）相关行动建议采取以下步骤：1了解法律义务和监管范围 1了解法律义务和监管范围 -5-利用电气和电子工程师协会（IEEE）伦理规范、世界经济论坛指导等现有法规，以及为父母和监护人以及儿童和青少年提供的资源，承诺对人工智能进行监督。使用易懂的表述披露合规且权威的措施，以便于买方了解。2 2建立建立一一