你的“脸”安全吗？人脸识别技术应用的利弊博弈

以深度学习为代表的人工智能技术在计算机视觉、语音识别、自然语言处理等领域得到了广泛的应用。以人脸识别技术为例，目前，高精度人脸识别、金融支付级人脸验证等技术的错误接受率为万分之一，通过率可达到98.6%，已广泛应用于微信支付、微众银行等金融级别验证系统。基于人工智能的“跨时域人脸检索与分析系统”也成功寻回拐卖人口共1706人，拯救数千家庭。

由于引用场景的复杂性、深度学习模型缺乏直观解释等原因，人工智能应用在落地时经常存在不可预知的风险。人工智能技术的滥用、错用、漏用，引发了社会各界对于数据安全、隐私风险等问题的普遍忧虑。仍以人脸识别技术为例，从设备解锁、刷脸核身、刷脸支付到安检、安防、犯罪侦查等，在带来效率、增进社会福祉的同时，也不断引发歧视偏见、隐私保护、个人自由、伦理边界等诸多争议。2019年12月，美国人工智能公司Kneron测试团队在荷兰最大的机场史基浦机场用手机屏幕上的一张照片骗过了自助登机终端，引起了人们对人脸识别准确性和安全性的关注。

你的“脸”如何用？数字化身仿真实验揭示人工智能应用影响

华东师范大学与上海交通大学在自然科学基金委、上海市科委的支持下，利用数字化身进行智能化仿真实验，探索AI与人类的交互反馈、共生协同和演化规律及其对社会的影响。虚拟场景包括了人脸编辑、健康码使用、三色光核身以及情绪识别等模块，实现了展示、互动、访谈为一体的虚拟互动场景。

该虚拟仿真系统从流程上可分为三个部分：虚拟化身环节、疫情传播环节以及人脸编辑环节。在虚拟化身环节中，系统会先根据用户上传的人脸信息定制三维虚拟化身，该虚拟化身将代表用户参与后续的互动，提高用户的游戏参与感和体验感。随后，化身将走出房间进入社区，进入疫情传播环节，在该环节中，用户将作为决策者，系统会根据用户的决策模拟疫情传播的情况。最后，人脸编辑环节将基于StyleGAN等人脸生成模型，根据用户选择的人脸属性（是否有胡子、妆效程度等）对用户提供的人脸信息进行编辑。在用户体验的完整过程中，系统将在各个环节通过显式的提问方式收集用户的体验感受等信息，同时也会利用人脸情绪识别等方式隐式地收集用户的感受信息。

这种信息化、智能化、网络化的新型社会实验方法能让用户使用系统时先体验人工智能技术，再进行反馈，从跨学科、交叉、融合的视角反应人工智能技术变革带来的社会冲击。测试人群以高校学生为主体，其中，女性人数占30.88%，20-30岁的用户占90.44%，30岁以上的用户占8.82%。目前该系统已测试数百人，完成了《虚拟化身合成方法及其对用户准社会交往的影响研究》与《人脸表情识别方法及其对用户隐私保护的影响研究》研究报告2份。系统演示地址：https://dmcv.sjtu.edu.cn/healthcode/

谁来保护我们的“脸”？人脸识别技术的滥用、错用与漏用引发信任危机

经过系统体验以后，愿意信任人脸识别与编辑技术的人占59%，愿意信任健康码及其背后技术的人占65%，46%的人愿意为塑造健康码以及人脸技术提供个人详细信息。仍有16%的人不愿意信任人脸识别与编辑技术，17%的人不愿意信任健康码及其背后的人脸技术。由此可以看出，人脸技术虽然给人们带来了许多的便利，也得到了一半以上的用户认可，但人机融合环境下的信任问题依旧存在。

而对于隐私信息问题，仿真实验从隐私问题类型、个人信息披露场合等方面进行了调研。根据结果可以看出，年龄以及情感状况对于用户来说敏感度较低，超过60%的人愿意透露该信息，而对于手机号、地址这类敏感度较高的问题，愿意透露的用户不到一半。对于个人信息披露的机构问题，用户的披露意愿普遍较低。即便是在政府、医疗机构等较为官方权威的机构面前，也仅有不到60%的人愿意披露个人信息，普通用户和商家的比例甚至接近于0。同理，对于个人信息披露场合的调研也显示，仅“突发疫情”选项的人数比例达到了63%。

由此可见，大部分用户在使用互联网或者人工智能相关产品时，会存在隐私泄露担忧以及人机信任问题。在人工智能高速发展的同时，解决人工智能技术的滥用、错用、漏用问题，提高用户对机器的信任也是今后需要攻克的一项难题。现阶段，我国已经认识到制定人工智能治理框架的必要性。2019年4月8日发布的《中华人民共和国人工智能道德规范（试行）》中提到：“人工智能应当遵循科学、客观、公正的原则，确保其安全、可靠和可控。人工智能应当遵循隐私保护、数据安全、算法公正等原则，确保其对个人和社会的影响是正面的。”未来，应当在推进人工智能应用中加强隐私保护，加强人工智能发展的潜在风险研判和方法，确保人工智能的安全、可靠、可控，促进人机共存的美好未来。