Twitter算法的种族偏见指向更大的技术问题

Twitter是设定为其图像裁剪算法启动调查在它成为一个趋势主题之后，促进了对技术产业中的多样性问题进行了更大的对话。

在用户在其图像预览算法中发现明显的种族偏见后，社交媒体Juggernaut制作了头条新闻。发现发生在Twitter后用户Colin Madland使用平台来呼出Zoom的失败，无法识别他的黑色同事们使用绿色屏幕技术，但在一个狂热的讽刺中，他发现Twitter的图像裁剪算法表现得同样和脱颖而出的黑脸。

其他用户介绍了一系列病毒推文的趋势，显示了算法始终如一地优先考虑的白色和浅色脸部，从人们到卡通人物甚至狗。这种失败指示技术产业中的更大的文化运动，一直未能考虑少数群体，这已经溢出到技术方面。

“这使得少数群体感到可怕，就像他们并不重要，它可以用于其他可能导致线条更严重伤害的东西，”Erik学习 - 米勒马萨诸塞州大学计算机科学教授在电话采访中表示。“一旦你决定了一块软件可以用于和所有可能发生的危害，那么我们开始谈论最小化发生的机会的方法。”

金丝雀在时间轴上

Twitter使用神经网络自动嵌入在推文中的图像。该算法应该检测到预览的脸，但它看起来具有明显的白色偏压。公司发言人Liz Kelley推文对所有问题的回应。

Kelley tweeted, "thanks to everyone who raised this. we tested for bias before shipping the model and didn't find evidence of racial or gender bias in our testing, but it’s clear that we’ve got more analysis to do. we'll open source our work so others can review and replicate."

白皮书的共同作者“野外的面部识别技术：呼吁联邦办公室," Learned-Miller is a leading researcher on the excesses of face-based AI learning software. He’s been discussing the potential negative impact of image-learning software for years, and has spoken about the importance of creating a reality where these biases are mitigated to the best of their ability.

适用于面部识别技术的许多算法使用用于数据的数据的参考集，通常称为训练集，这些训练集是用于微调图像学习软件的行为的图像集合。它最终允许AI容易地识别各种面孔。但是，这些参考集可以缺乏多样化的池，导致推特团队经历的问题。

“当然，对于任何少数人来说，这是一个巨大的问题，但我认为也有一个更广泛的问题，”学习米勒说。“它涉及技术部门缺乏多样性以及需要集中的监管力量，以展示这种强大的软件易于滥用和滥用的适当使用。”

技术缺乏多样性

Twitter可以是斩波块上的最新技术公司，但这远未出现新问题。技术领域仍然是一个主要的白色，持续男性主导的领域和研究人员发现，缺乏多样性导致开发软件中系统性，历史不平衡的复制。

在一个2019年纽约大学AI Noce Institute的报告研究人员发现，黑人在该国顶级科技公司占劳动力不到6％的员工。同样，女性仅占该领域的26％的工人 - 于1960年的统计数据低于其份额。

表面上，这些代表性问题可能似乎是平凡的，但在实践中，造成的伤害可以深刻。AI的研究人员现在研究所报告表明，这与经常涉及经常未能考虑非白色和非男性人群的软件的问题。无论是红外肥皂分配器未能检测较暗的皮肤或亚马逊的AI软件没有区分女性面孔来自他们的男性同行，未能解决技术行业的多样性导致技术失败，以处理多样化的世界。

“有很多人没有想过这些问题，并没有真正意识到这些事情如何造成伤害以及这些危害的危害程度如何，”学习米尔建议是关于AI图像学习。“希望，那些人数萎缩！”