Twitter股票算法的结果偏差赏金的挑战

Twitter宣布公开竞争的结果发现偏见的照片裁剪系统。

的赏金挑战了7月后Twitter用户显示该网站的自动裁剪工具支持人们的面孔与浅肤色深肤色。它提出了一些问题关于软件优先肤色和某些因素对他人。

的挑战寻求发现其他错误和偏见的耕作制度可能为了解决问题。

首先去Bogdan Kulynych的提交显示美过滤器如何游戏算法的评分模型,传统审美标准,反过来,放大。提交显示算法更喜欢年轻,苗条的脸光或温暖的肤色。Kulynych赢得3500美元。

第二位去停止AI,科技创业公司在多伦多,它发现老年人和残疾人的图片裁剪的照片。团队给出了2000美元的第二名。

第三名,500美元,去罗亚Pakzad, Taraaz研究的创始人,谁发现了这个算法喜欢种植拉丁脚本在阿拉伯脚本,它可能损害语言多样性。

详细的结果在DEF CON 29主任由Rumman公司Chowdhury Twitter的元组。元团队研究的意外问题算法和杂草出任何类型的性别和种族偏见这样的系统。

从这场比赛获得的数据将被用来减轻错误和偏见的裁剪算法和帮助确保一个更具包容性的环境。