科学家找到一种检测人工智能深度伪造视频的方法

科学家们正在研究人工智能对抗人工智能，以识别深度伪造视频。

人工智能生成的内容已经流行了一段时间，但视频生成最近又发展到了新的高度。自二月份发布以来，OpenAI 的 Sora 以其超现实的合成内容而令人惊叹，所有这些内容都是使用文本提示生成的。这就是它让人们相信其真实性的能力，生成内容现在引起了人们对错误信息传播的日益担忧。

德雷克塞尔工程学院的多媒体和信息安全实验室 (MISL) 十多年来一直致力于创造操纵图像的技术。

目前现有的方法对人工智能生成的视频无效。科学家们评估了 11 种可供公众使用的合成图像探测器。这些程序显示出很高的效率，在检测被篡改的图像方面至少有 90% 的准确率。然而，当负责识别公开可用的 AI 生成器生成的视频时，它们的性能下降了 20-30%。

德雷克塞尔工程学院副教授兼 MISL 主任马修·斯塔姆 (Matthew Stamm) 博士在一份报告中表示：“在没有一个好的系统来检测不良行为者制造的假货之前，这种视频技术就已经发布，这真是令人不安。”

Stemm 认为，一旦该技术公开，恶意使用就不可避免。“这就是为什么我们正在努力通过开发新技术来从媒体特有的模式和特征中识别合成视频，以保持领先地位。”他补充道。

直到最近，图像处理还依赖于照片和视频编辑程序来改变像素、调整速度或操纵帧。然而，这些编辑留下了数字痕迹，MISL 的科学家已经使用他们的工具套件有效地识别了这些痕迹。

虽然文本到视频生成器不是由相机生成的，也不是由视觉软件编辑的，但它们在检测操纵方面提出了新的挑战。在 MISL 的最新研究中，科学家们决定使用 AI 对抗 AI 来确定生成式 AI 程序如何构建视频。他们成功地训练了一种称为约束神经网络的机器学习算法。

该网络能够在粒度级别上了解合成视频的外观，并将这些知识应用于使用 AI 视频生成器生成的一组新视频，例如Stable Video Diffusion, Video-Crafter, and Cog-Video，以及以前未知的程序。

该算法在识别合成视频和准确识别用于创建视频的程序方面的效率超过 93%。

转自会杀毒的单反狗，原文链接：https://mp.weixin.qq.com/s/naGdbz_1Uj0JPUrc50mSUg