为Deepfake检测研究提供数据支持

语音播放文章内容

由深声科技提供技术支持

雷锋网(公众号：雷锋网)AI科技评论编者按：命运是天定的，颜值可是自己的。前段时间风靡的换脸小程序已经让一部分人娱乐了一把，你知道吗？现在又出新技术了，deepfakes不仅可以换脸，还能将面部表情、动作都与另一张脸完美地融合在了一起。在技术革命到来的同时，滥用风险依然不可小觑······

本文来自Google AI的《contributing data to deepfake detection》在不改变原文意思的基础上，雷锋网AI科技评论的编译如下：

深度学习已经产生出了在几年前还被认为是不可能实现的技术。现代生成模型就是其中的一个例子，它能够合成超现实的图像，语音，音乐，甚至是视频。这些模型在广泛的应用程序中得到了应用，包括通过文本到语音转换使世界更亲近，以及协助生成用于医学成像的培训数据。

与任何变革性技术一样，这也带来了全新的挑战。其中一种就是所谓的“ deepfakes”（由可操纵视频和音频剪辑的深度生成模型产生）。自2017年年底首次面世以来，已经出现了很多开源的Deepfake生成方法，导致合成媒体剪辑的数量不断增长。虽然很多人可能是想用一种幽默的方式展现自己，但也不排除有些人可能会利用这样的技术做出对他人和社会有害的事情。

谷歌认真的考虑了这些问题。正如我们去年在《人工智能原则》(AI Principles)中发表的，我们致力于开发人工智能最佳实践，以减少潜在的伤害和滥用。去年1月，我们发布了一个合成语音数据集，以支持开发高性能假音频检测器的国际挑战。作为这项挑战的一部分，150多个研究机构和行业组织下载了该数据集，现在可以免费向公众提供。

今天，我们与Jigsaw携手，宣布发布一个由我们制作的大型的视觉deepfakes数据集，该数据集已被纳入慕尼黑工业大学和那不勒斯大学费德里科二世的新FaceForensics基准中，谷歌作为共同发起方见证了这场付出各方诸多努力终于有所收获活动。将这些数据纳入Faceforensics视频基准测试是与包含Matthias Niessner教授, Luisa Verdoliva教授和FaceForensics团队在内的领先的研究人员合作进行的，你可以在FaceForensics GitHub页面上下载数据。

图1：Google参与FaceForensics基准测试的视频样本。为了生成这些，随机选择了几组演员，深度神经网络将一个演员的脸换到了另一个演员的头上。

为了制作这个数据集，在过去的一年中，我们与雇佣的演员和志愿者演员合作录制了数百个视频。 然后，使用公开可用的Deepfake生成方法，我们从这些视频中创建了数千个Deepfake。 由此生成的真实和虚假的视频都倾注了我们的心血，我们创建这些视频是为了支持Deepfake的检测工作。 作为FaceForensics基准测试的一部分，这个数据集现在可供研究社区免费使用，可用于开发合成视频的检测方法。

图2：演员们在各种场景中的拍摄情况。其中一些演员在这里(顶部)使用Deepfake技术换脸的样本出现在 (底部)，这可能存在微妙的或剧烈的变化，取决于创建他们的其他演员。

由于这个领域的发展速度极快，我们将随着Deepfake技术的发展将其添加到该数据集中，并且我们将继续与该领域的合作伙伴合作。 我们坚信，要为蓬勃发展的研究社区提供支持，以减轻因滥用合成媒体而造成的潜在危害，而今天在FaceForensics基准测试中发布的Deepfake数据集正是朝着这个方向迈出的重要一步。

雷锋网注：原文链接：https://ai.googleblog.com/2019/09/contributing-data-to-deepfake-detection.html

。