联合国儿童基金会：教育陪伴机器人案例研究（10页）.pdf

1、华为教育陪伴机器人华为中国及全球其他国家和地区人工智能（AI）系统2021 年项目旨在：+促进儿童的发展和福祉+注重平等对待每一名儿童，保护儿童免受歧视+确保儿童参与并为儿童服务+保护儿童的数据和隐私+确保儿童安全经过各个领域的专家团队（包括人工智能、机器人技术、游戏和动画设计、人因工程设计、数据安全、伦理学、教育学、发展心理学和认知心理学等）多阶段的设计过程调整，教育陪伴机器人已经可以更好地回应主要用户群体3-12 岁儿童的需求和权益。在迭代设计时，团队贯彻以儿童为中心的设计宗旨，让儿童参与其中并为儿童服务，从而提高产品的可及性、透明度、公平性和非歧视性。同时，在产品设计之初构建预防性措施，

2、将隐私和安全机制纳入机器人设计的全过程。项目名称实施机构地点项目类型发布时间遵循联合国儿童基金会人工智能为儿童政策指南的指导原则项目情况教育陪伴机器人案例研究教育陪伴机器人 案例研究2案例研究介绍在芬兰政府的支持下，联合国儿童基金会于 2020 年发布了人工智能为儿童政策指南，并于 2021 年发布 2.0 版本，鼓励商界在各自领域进行试点，并公开分享研究结果。本文是两个案例研究之一，聚焦联合国儿童基金会人工智能为儿童政策指南应用情况，并以案例研究的形式展现其应用结果。这些案例研究是由中国传媒大学在中国网络社会组织联合会的指导下和联合国儿童基金会驻华办事处的支持下开展的。案例研究由埃莱奥诺鲍威

3、尔斯（Eleonore Pauwels）执笔。每个案例研究都说明了如何将指南中所述的、“以儿童为中心”的原则嵌入人工智能系统相关产品的开发、设计和推广的全过程中。相关人工智能系统产品由企业生产，并为企业所有。联合国儿童基金会未参与该过程的任一阶段。本项目提及特定公司并不意味着联合国儿童基金会认可该公司的政策和做法。联合国儿童基金会鼓励开源学习平台的设计、制作和传播。案例研究介绍1教育陪伴机器人 案例研究3概述人工智能、机器人技术、教育和认知心理学的融合催生了新的应用，这些应用有望助力儿童提升学习和创造力、情感和社交能力以及逻辑思维和解决问题的能力。不过，这些创新性的应用也涉及与公平性、非歧视性

4、、包容和参与、隐私和安全相关的伦理问题。由于数据集或人工智能模型设计中存在偏差，基于数据和人工智能的技术可能会再现和加剧社会中的歧视和边缘化模式。如果设计不当，智能玩具和机器人伙伴可能会出现偏见或歧视行为。保护儿童隐私是设计智能玩具时的另一个复杂挑战。跨文化和跨学科的研究发现，儿童有时会过度信任机器人并向其倾诉，分享私人和敏感信息。在家中和教室中与年幼用户互动时，陪伴机器人还会捕捉大量的视频和音频数据。联合国儿童基金会人工智能为儿童政策指南指出，“如果缺乏充分的数据保护措施，这些数据可能会被出售至第三方，并且可能永远与儿童关联，或将对其未来接受高等教育或就业产生潜在影响”。在此背景下，通过设置

5、“以儿童为中心”的操作界面、体验活动、文本内容和工具，教育陪伴机器人能够个性化、自适应地陪伴儿童进行学习和游戏，并增强数据保护能力。在联合国儿童基金会人工智能为儿童政策指南的启发下，教育陪伴机器人的开发过程运用了多项策略：这一框架可以支持人工智能系统确定与儿童对话、游戏和学习的类型，从而更好地融入日常活动或家庭生活环境中。机器人提出的学习和社交活动也将父母和其他监护人纳入其中。机器人整合了适合不同年龄段儿童的内容，禁止数字营销，仅限受信任的联系人访问。通过训练算法建立的数据集能确保客观和公正，避免偏见、刻板印象和成见的影响。在设计过程中，研发团队为机器人内置了隐私和安全保护机制。在设计和开发的

6、各个阶段都考虑了现实生活和网络世界中的风险。与跨学科专家合作，开发了一个认知和心理学框架，用于按年龄分类评估儿童的发展需求。实施了以儿童为中心的迭代设计，以提高安全性、可靠性、公平性和非歧视性。研发团队进行了包括隐私保护在内的跨学科合作，以了解、预见并预防人工智能和机器人的技术交汇可能对儿童产生伤害的意外后果。概述2教育陪伴机器人 案例研究4背景和项目起源儿童与人工智能机器人的互动方式与成人不同。例如，儿童可能会把数字学习视为一种“体验之旅”，在这个过程中，他们会基于信任、分享等多方面的感官和情感体验，与机器人“教师”或“玩伴”进行互动。研究表明，由人工智能驱动的机器人有很大的可能会影响儿童行