书名:
人机对齐
作者:
布莱恩·克里斯汀
格式:
pdf-epub-mobi
作者分类:
布莱恩·克里斯汀
标题排序:
人机对齐
出版日期:
6月 2023
修改日期:
15 4月 2025
大小:
0.66MB
语言:
中文
从整个数据集来看，这3个系统在分类性别方面的准确率都很高，约为90%；识别男性面部的准确率比女性高10%到20%；识别浅肤色面孔的准确率也比深肤色高10%到20%。但是，当布兰维尼将两者放到一起分析时，结果令人震惊。这3个系统在对深肤色女性的面孔进行识别时，表现都非常糟糕。例如，IBM的系统识别浅肤色男性的错误率仅为0.3%，但识别深肤色女性的错误率为34.7%，高出100倍以上。
废奴主义者和女权活动家索杰纳·特鲁斯（Sojourner Truth）1851年的演讲《我不是女人吗？》闻名于世。布兰维尼在21世纪尖锐地回应了这个问题，她指出特鲁斯的照片被当代商业人脸识别软件一次又一次错误归类为男性。
微软的完整回应，参见http：//gendershades.org/docs/msft.pdf。
IBM的正式回应，参见http：//gendershades.org/docs/ibm.pdf。IBM随后致力于建立一个新的100万张人脸的数据集，并采取各种措施增强多样性；参见Merler等，“Diversity in Faces”。对IBM建立多样性人脸数据集的具体措施的评论，参见Crawford&Paglen，“Excavating AI”。
2017年12月22日，布兰维尼向这3家公司发送了她的研究结果，解释说她会在即将召开的会议上展示这些结果，希望这几家公司给出回应。旷视科技没有回应。微软给出了不痛不痒的回应：“我们认为AI技术的公平性是该行业的一个重要问题，微软非常重视。我们已在采取措施提高面部识别技术的准确率，我们还在继续投资研究，以识别、理解和消除偏见。” IBM最积极，在一天内就给出了回应，感谢布兰维尼伸出援手，复现并确认了她的结果，邀请她去IBM的纽约和剑桥园区，并在几周内发布了新版软件包，识别深肤色女性的错误率降为原来的10%。
“改变是可能的。”她说。要弥补这一性能差距，并不存在根本性的技术或其他障碍，只需要有人正确提出质疑。
同样重要的是这个领域本身的构成；参见Gebru，“Race and Gender”。
