Twitter AI偏见竞赛显示美容滤镜会欺骗算法

Twitter赞助了这项竞赛，目的是找出在裁剪Twitter时间轴上显示照片的算法中存在的“显著性”问题。Twitter为发现人工智能偏见而提供的赏金是对目前主流漏洞赏金做法的一种新解释。漏洞赏金是企业为寻找安全漏洞而付给外部人员的资金。

AI通过有效处理视频字幕、识别钓鱼邮件、识别用户的脸来解锁其手机而彻底改变了计算。但在真实世界的数据上训练的AI算法可以反映出真实世界的问题，而解决AI偏见是计算机科学的一个热点领域。Twitter的赏金活动就是为了发现这类问题。

今年早些时候，Twitter自己证实，其AI系统在裁剪算法偏向白人而非黑人的图像时存在偏见。但Kulynych发现了算法裁剪照片以强调其认为最重要东西的方式存在其他问题。

Kulynych在他的项目发现中说道：“目标模型倾向于认为那些看起来苗条、年轻、肤色明亮或温暖、皮肤光滑、面部特征典型女性化的人更突出。这种偏见可能会导致少数群体被排斥在外，数千张图片中刻板的审美标准也会延续下去。”

Kulynych的系统将一张原始人脸照片的显著性跟一系列AI生成的变体进行了比较。他发现，面孔越年轻、越瘦，显著性得分就越高。该算法还对肤色偏浅、偏暖、对比度高、颜色更饱和的人给出了更高的分数。

Twitter赞赏了这项比赛的重要性，因为在这个世界上，我们很多人在跟朋友分享照片或在社交媒体上分享照片之前都要使用相机和编辑应用、使用美颜滤镜。而这可能会扭曲我们对吸引力的期望。

美容和应用滤镜非常普遍。顶级应用Facetune就承诺帮助用户“在社交媒体上脱颖而出”。B612是另一个很受欢迎的滤镜工具，它提供了一个“智能美容”工具，可以建议用户改变脸型和其他外观。但Google认为美化滤镜会对心理健康产生负面影响，因此在Pixel相机应用中关闭了默认的自动润色功能。该公司也不再将其调整功能称为“美容”滤镜。