智东西(公众号:zhidxcom)
文 | 李水青

导语:媒介环境的混乱将可能造成人类真实世界的混乱。除了隐私问题,AI视频换脸引发的信息误导问题同样值得关注,甚至有过之而无不及。

智东西9月6日消息,脸书(Facebook)的首席技术官Mike Schroepfer发布博客宣布,脸书正和微软联合来自麻省理工、牛津等大学的研究者,通过置办“Deepfakes鉴别挑战赛”,探索如何通过数据集和基准测试检测Deepfake换脸视频。

Deepfakes技术可以利用GAN(生成式对抗网络)将视频中的人脸换掉,且十分逼真。近期国内大火的“ZAO”App被就疑似使用了该技术,用户只需要在App中上传一张照片,就能将自己的脸替换成视频中“小李子”“周润发”“白展堂”等人的脸,几乎可以以假乱真。

当ZAO很快地火起来后,人们敏锐地察觉到视频换脸中的隐私问题,而后“ZAO”换脸App被责令整改。但是,除了隐私问题,其中的信息误导问题同样值得关注,甚至有过之而无不及。

AI换脸视频鉴别:脸书联合微软和麻省理工,办大赛打击假视频
▲被AI换脸后的视频

“Deepfake”技术能够利用AI将视频中的人脸逼真地换掉,这使它很容意被用于伪造信息、误导舆论,甚至被不法人士拿来制作色情短片、实施金融诈骗等违法犯罪行为。然而,行业内还没有很好的数据集或基准来检测辨别它们。

现在,美国科技巨头脸书打算对AI视频换脸技术下手了,计划出资1000多万美元,从数据集、经费、奖金等多方面支持“Deepfake鉴别挑战赛”,以寻找能够准确鉴别AI生成视频的工具。

一、扎克伯格也被换脸,联合产学界搞鉴别研究

其实,早在2017年12月,国外某ID名为“Deepfakes”的Reddit论坛用户首次将自己制作的AI换脸视频发布在了网络上,后来,Deepfakes将这项技术开源,并被大家命名为“Deepfakes”,立刻风靡全球。

“Deepfakes”技术背后的来源是一种名为GAN(生成式对抗网络)的AI模型。在GAN中,G和D是两种相互博弈的算法,一种生成图像,另一种比较判定图像与源图像的差别。博弈的理想结果是G成为了能够“以假乱真”的图像生成模型。

AI换脸真正在国内火起来还要说今年初,B站UP主“换脸哥”将一段94版射雕英雄传视频中的朱茵的脸换成了杨幂。AI换脸技术已经蓬勃爆发,却也被一再恶意使用,AI换脸黑产甚至已经在国内形成了完整的产业链。()

AI换脸视频鉴别:脸书联合微软和麻省理工,办大赛打击假视频
▲朱茵的脸被换成了杨幂

今年6月,脸书首席执行官马克•扎克伯格的一段被篡改过的视频被广泛传播,之后,扎克伯格向观众讲述了脸书正在考虑制定应对Deepfakes的政策。

今天,脸书宣布将在数据集和基准测试层面促进更多的研究,以开发出更好的开源工具来检测Deepfake。脸书将联合微软、麻省理工大学等业界和学界的伙伴共同置办“Deepfake检测挑战赛”(DFDC)。

AI换脸视频鉴别:脸书联合微软和麻省理工,办大赛打击假视频
▲扎克伯格视频被篡改

二、大赛目标:研发通用的AI换脸视频检测工具

数据集和基准测试已成为加速AI发展的相当有效的工具。目前深度学习技术的复兴一定程度上得益于ImageNet基准;GLUE和SuperGLUE基准加速了自然语言处理的最新进展。

据称,“Deepfake鉴别挑战赛”的目标是,找到一款能检测视频是否被换过脸的工具,并且它能被每个人便捷操作。

大赛旨在促使行业创建新的检测方法,以防止AI生成的视听内容误导大众,比如,在2020年大选之前找到更多的伪造视频,以免媒体误导选民。

“这是一场猫鼠游戏,如果我设计一个Deepfakes检测器,我就直接给了这些黑客一个新的模拟器进行反测试。”纽约大学Tendon学院计算机工程助理教授Siddharth Garg表示。

三、将为参赛者提供数据集和经费,请第三方监督

在“Deepfake鉴别挑战赛”中,会务组会为参赛者提供一个数据集和经费,还会用排行榜展示参赛者的成绩,并设奖金奖励。人工智能和媒体诚信新指导委员会(Partnership on AI’s new Steering Committee on AI and Media Integrity)将对挑战赛进行全程监督和管理。

为此,脸书正在调试一个现实的数据集,该数据集来自脸书付费找来的参与者。参赛者可以免费使用大量数据,几乎没有使用限制。脸书强调,此数据集中不会使用脸书的用户数据。

同时,脸书还会资助研究经费和奖项奖金,以鼓励更多人参与。据称,脸书会为此投入1000多万美元。

据了解,相关数据集和挑战参数将在今年10月的国际计算机视觉会议上,以供专门的技术工作委员会测试,进而确保其质量。完整的数据集和DFDC将于今年12月召开的神经信息处理系统会议(NeurIPS)上发布。

结语:防止AI视频换脸滥用,还需用技术反制

近日,我国企业公开发布的“ZAO”换脸App被相关部门责令整改,这体现了监管对Deepfakes等AI换脸技术的约束作用。但是在暗处,Deepfakes作为被开源的技术,仍然可能被拿来滥用,利用技术进行反制就显得格外重要。

当Deepfakes被用于伪造信息,甚至被不法人士拿来制作色情短片、实施金融诈骗等违法犯罪行为时,我们如果能通过基准数据等工具进行检测辨别,可以大大的降低损失。另外,除了算法技术,区块链等技术未来也可能被用于鉴别伪造的视频。

视频、报道等媒介内容营造的媒介环境极大地影响着人们的主观世界,并通过对人们主观世界的作用影响客观环境。如果任由虚假的视频信息蔓延在网络世界,这种媒介环境的混乱将可能造成人类真实世界的混乱。

“我们必须更好地区分真实与虚假,奖励可信内容而不是不受信任的内容。这需要产业、大学、非政府组织等共同合作,以开发出能够快速准确地鉴别真实内容的技术。”加州大学伯克利分校的Hany Farid教授评价“Deepfake鉴别挑战赛”说。