文章插图
人脸识别系统已经给我们的城市带来诸多方便 。 然而 ， 在许多国家 ， 对人脸识别的抵抗声也在不断高涨 。 研究人员、公民自由倡导者和法律学者都受到人脸识别技术兴起的困扰 。 他们正在跟踪其使用 ， 揭露其危害并开展运动以寻求保障甚至是彻底禁止技术的使用 。 然而 ， 技术发展的潮流浩浩荡荡 ， 更多人认为该技术的存在是“不可避免的” ， 但是其背后存在的道德伦理问题值得我们深思 。
近期 ， 《自然》杂志的一系列报道对人脸识别系统背后的道德伦理学进行了探讨 。 一些科学家正在分析人脸识别技术固有的不准确和偏见 ， 对其背后存在的歧视发出警告 ， 并呼吁加强监管、提高技术透明度 。
《自然》杂志对480位从事人脸识别、人工智能和计算机科学领域研究的研究人员的调查显示 ， 人们对人脸识别研究的伦理学普遍存在担忧 ， 但也存在分歧 。
有些未经同意获取数据
为了使人脸识别算法正常工作 ， 必须对大型图像数据集进行训练和测试 ， 理想情况下 ， 必须在不同的光照条件和不同的角度多次捕获这些图像 。 过去 ， 科学家普遍招募志愿者 ， 只为收集各种角度的照片；但现在 ， 大多数人未经许可即被收集人脸图像 。
在《自然》杂志的480位受访者中 ， 当被问及对应用面部识别方法从外表识别或预测个人特征（如性别、年龄或种族）的研究有何看法时 ， 约三分之二的人表示 ， 此类研究只能在获得面部识别者知情同意的情况下进行 ， 或者在与可能受到影响的群体代表讨论后进行 。
大多数人认为 ， 使用人脸识别软件的研究应事先获得伦理审查机构（例如机构审查委员会）的批准 。 他们认为 ， 对于在学校、工作场所或由私人公司监视公共场所时使用人脸识别进行实时监视感到最不舒服 ， 但是他们通常会支持警察在刑事调查中使用人脸识别系统 。
从法律上讲 ， 目前尚不清楚欧洲的科学家是否可以未经人们的同意而收集个人人脸的照片以进行生物识别研究 。 欧盟的通用数据保护条例并没有为研究人员提供明显的法律依据 。 在美国 ， 一些州表示 ， 商业公司未经其同意使用个人的生物识别数据是非法的 。
受访者强烈认为 ， 应该有其他法规来规范公共机构使用人脸识别技术 。 超过40％的人则希望禁止实时大规模监视 。
存在性别和种族偏见现象
人脸识别系统通常是专有的并且保密 ， 但是专家说 ， 大多数系统涉及一个多阶段过程 ， 该过程通过深度学习对大量数据进行大规模神经网络训练 。
美国国家标准技术研究院（NIST）在去年年底发布的报告中称 ， 人脸识别的准确率有了显著提高 ， 深度神经网络在识别图像方面效果明显 。 但NIST同时也证实 ， 相对于有色人种或女性 ， 大多数人脸识别对于白人男性面孔的准确性更高 。 特别是 ， 在NIST的数据库中被归类为非裔美国人或亚裔的面孔被误认的可能性是那些被归类为白人的面孔的10—100倍 。 与男性相比 ， 女性误报的可能性更高 。
领导NIST图像小组的电气工程师克雷格·沃森认为 ， 这种不准确很可能反映了每家公司培训数据库构成的不平衡 ， 一些公司可能已经开始解决这个问题 。
有待严格立法和监管
致力于人脸识别或分析技术的研究人员指出 ， 人脸识别有很多用途 ， 比如寻找走失的儿童 ， 追踪罪犯 ， 更方便地使用智能手机和自动取款机 ， 通过识别机器人的身份和情绪来帮助机器人与人类互动 ， 在一些医学研究中 ， 还可以帮助诊断或远程跟踪同意的参与者 。
推荐阅读
- 人脸识别国家标准瞄准这些方面
- 怎么知道猪过得开不开心？给它们用上猪脸识别就好了
- AI都能伪造指纹了，生物识别还安全吗？
- 亚马逊面部识别软件引争议 议员要求给个解释
- 专家热议：人工智能会引发第三次军事革命吗？
- 美拟在机场安装面部识别系统 解决便捷通关问题
- WPI开发水下自主机器人：能识别并猎杀狮子鱼
- 有了它，海关3秒可识别违禁物品
- 人脸识别突飞猛进 更要看好“我们的脸”
- 阻挡潜在威胁 澳大利亚体育馆启用人脸识别技术