互联网大佬联手对付换脸神器DeepFake，Twitter先出招了

语音播放文章内容

由深声科技提供技术支持

上个月 Twitter 曾表示，它们正在研究新政策，以肃清 DeepFake（一种利用深度学习技术识别和交换图片、视频中人物脸部图像的工具）及其它“被操纵”的媒体，还图片、视频及音频本来面目。

今天（11月12日），Twitter 终于拿出了了新政草稿，要在正式上线前征求公众意见。显然，Twitter 的新政是要解决互联网上泛滥的 DeepFake 问题。

人工智能技术的进步让 DeepFake 有了飞速繁殖的机会，只要手握它，你就能轻松捏造出看起来“真到不能再真”的虚假视频、音频和其它数字内容。技术无罪，拿它来娱乐倒不是问题，但一旦它被用在错误的地方就麻烦了。在现实世界，别有用心的人甚至能借助 DeepFake 捏造的视频毁掉某个候选人的名声，拿所谓“实锤”来迷惑大众。

雷锋网了解到，今年早些时候，就有人在 Facebook CEO 扎克伯格身上使用 DeepFake 了，其起因只是因为 Facebook 不愿撤掉某个视频。

上月月初，参议院情报委员会的 Mark Warner 和 Marco Rubio 召集了主要科技公司负责人，为的就是拿出一个打击 DeepFake 的计划。参会的共有 11 家科技公司，包括 Facebook、Twitter、YouTube、Reddit 和领英等，它们要尽快制定出一个行业标准，以规范人工合成内容的分享、移除和归档。

Twitter 动作挺快，上月月末就拿出草稿征求公众意见了，而亚马逊则选择与 Facebook 和微软一道支持 DeepFake 探测挑战赛，为的就是找到嗅探“被操纵”媒体的最好方案。

草案中 Twitter 表示，一旦它们发现故意误导或混淆是非的合成或“被操纵”内容，就会执行下列操作：

• 在分享合成或“被操纵”媒体的推文旁打上标记；

• 在用户分享或点赞这类推文前给出警告；

• 添加链接指向真的新闻或 Twitter Moment，用多方来源证明合成或“被操纵”媒体的虚假属性。

Twitter 表示，如果 DeepFake 威胁到某人的人身安全或造成严重伤害，它们就会彻底移除该内容。

除了参与问卷调查，用户也能在 #TwitterPolicyFeedback 话题下提供反馈。

问卷调查中向用户征求了合成图片与视频的处理方法，即到底该彻底移除，贴警告标签还是见机行事。同时，Twitter 还征询了用户的接受度，当它们隐藏推文或提出警告时大家能否接受。此外，对于什么时候该移除带有误导媒体的视频，Twitter 也广泛征询了用户意见（比如威胁了某人的精神健康、隐私、尊严、财产等）。

整个问卷调查填写大约要花费 5 分钟时间，英语、日语、葡萄牙语、阿拉伯语、印地语和西班牙语用户均可参与。

不过，雷锋网(公众号：雷锋网)发现，DeepFake 管理方案准备好后，Twitter 如何嗅探到那些恶意内容却成了谜，毕竟当下此类技术还不完美，而且 DeepFake 的伪装能力也越来越强。为此，Twitter 也决定开诚布公接受各界建议。

Twitter 向用户征求意见将持续到本月 27 日，随后它们会审阅收到的反馈并对草案进行必要的调整。新规正式上线前，Twitter 还会给出 30 天的过渡期。

雷锋网编译自外网。

雷锋网版权文章，未经授权禁止转载。详情见。