微软的一篇博客文章称，微软的脸部识别工具在识别肤色较暗的人时表现得更为出色——对于肤色较深的男性和女性，错误率已经显著降低了 20 倍，同时对所有女性错误率降低了 9 倍。
微软表示，自己一直在训练拥有更大和更多样化数据集的 AI 工具，并且已经取得了一定进展。微软高级研究员 Hanna Wallach 在博客文章中说，如果在训练机器学习系统中模拟一个有偏见的社会所做的决策，使用有偏见的社会所产生的数据，那么这些系统必然会重现这个社会的偏见。
今年 2 月，MIT 媒体实验室的一份报告介绍了对微软，IBM 和中国的 Megvii 面部识别系统的测试，发现高达 35% 的深色皮肤女性的性别被系统误认。该报告证实了许多人多年来一直怀疑的情况——面部识别系统可能会受到有限的数据集和系统性种族主义偏见等因素的影响。实际上早在 2015 年，谷歌就把一张照片的一位软件工程师的黑人朋友认定为 " 大猩猩 "，并且不得不为这一错误道歉。
尽管今天微软宣布自己已经减少了人脸识别系统中的种族偏见，但我们并不知道假如执法部门掌握了这种改进的面部识别工具，将会对现有的有色人种相关的问题产生何种影响，也不知道是否会产生更多的新问题。
不久前有消息称，微软正与美国移民及海关执法局（ICE）合作，将其面部识别工具交给政府使用。微软首席执行官 Satya Nadella 上周在一份备忘录中澄清说，微软并没有与美国政府合作并开展任何有关在将非法移民儿童与家人隔离的项目，但他并没有说明 ICE 到底拿面部识别工具来做什么。
Source: The Verge
| 留言与评论（共有 0 条评论） |
