专家说，Facebook的Deepfake技术救不了我们

Facebook对它的机器学习模型在防伪中的应用，但专家表示，机器学习本身并不能让我们免受深度造假的欺骗。

Facebook、微软和谷歌等公司所有人都在努力打击深度造假通过网络和社交网络传播。虽然方法不同，但有一种潜在的傻瓜式方法可以发现这些虚假视频：区块链。

“[区块链]让你有很大的潜力来验证deepfake，这是我所能看到的最好的验证形式，”deepfake的创始人兼首席执行官斯蒂芬·沃尔夫拉姆（Stephen Wolfram）说沃尔夫勒姆研究的作者一种新的科学他在电话中告诉乐动体育赞助Lifewire。

Facebook的Deepfake-Spotting科技

Deepfake技术在过去几年迅速发展。这些误导人的视频使用机器学习方法来做一些事情，比如把一个人的脸叠加到另一个人的身体上，改变背景条件，假口型等等。从无害的模仿，到让名人或公众人物说或做他们没有说过的话。

专家表示，这项技术正在快速发展，随着技术变得更广泛、更创新，深度造假只会变得更令人信服(也更容易制造)。

Facebook最近与密歇根州立大学(Michigan State University)合作，进一步介绍了其深度造假检测技术。这家社交网络表示，它依赖于从单一人工智能生成的图像到用于生成图像的生成模型的逆向工程。

与Facebook合作的研究科学家表示，该方法依赖于发现用于生成深度假的人工智能模型背后的独特模式。

“通过将图像归因推广到开放集识别，我们可以推断出更多关于生成模型的信息，用于创建deepfake，而不仅仅是识别之前没有见过的图像。通过追踪一系列深度造假的模式之间的相似之处，我们还可以判断一系列图像是否来自一个单一的来源，”研究科学家西音(Xi Yin)和谭·哈斯纳(Tan Hassner)在Facebook关于深度造假识别方法的博客文章中写道。

Wolfram说，使用机器学习来发现高级人工智能模型（一个伪模型）是有道理的。然而，总有欺骗技术的空间。

沃尔夫勒姆说:“有一种像样的机器学习方法(检测深度造假)，我一点也不惊讶。”“唯一的问题是，如果你付出足够的努力，你能骗过它吗?”我相信你能做到。”

以不同的方式打击假冒伪劣产品

相反，Wolfram表示，他相信使用区块链将是准确识别某些类型的假货的最佳选择。他将区块链应用于机器学习的观点可以追溯到2019年，他说，区块链方法最终可以为我们的问题提供更准确的解决方案。

Wolfram在一篇文章中写道：“我希望图像和视频观众能够定期检查区块链（以及‘数据三角计算’），就像网络浏览器现在检查安全证书一样。”发表于《科学美国人》.

由于区块链将数据存储在块中，然后按时间顺序链接在一起，由于去中心化的区块链是不可变的，因此输入的数据是不可逆的。

Wolfram解释说，通过将视频放入区块链，您可以看到视频所花费的时间、位置和其他上下文信息，这些信息允许您判断视频是否以任何方式被更改。

他说：“一般来说，将图片或视频背景化的元数据越多，你就越有可能分辨出来。”。“你不能在区块链上伪造时间。”

然而，Wolfram表示，所使用的方法——无论是机器学习还是使用区块链——取决于你试图防范的深度造假类型(比如，金·卡戴珊(Kim Kardashian)说一些愚蠢的话的视频，或者政客发表声明或建议的视频)。

“区块链方法可以防止某些类型的深度伪造，就像机器学习图像处理可以防止某些类型的深度伪造一样，”他说。

底线似乎是，当涉及到抗击即将到来的深度造假泛滥时，我们所有人都要保持警惕。