一张价值50元的人脸，AI攻防战炽热朝天

文 | AI鲸选社，作者 | 杨晓鹤

“上面是我在大理拍的相片，下面是被人ai换脸过的，400多万观看，30万点赞。乃至布景还用ai稍作了改动，真的被震动到了。”

小红书网友蛋蛋爱打架，最近发现自己的形象被AI换脸用于网红相片，并且还特别火，这让她十分吃惊。许多网友支撑她发送律师函，以免脸部数据被用于更多的不知道用处。

其实，AI换脸不是最近刚呈现的技能，而是越来越以假乱真，越来越多模态。当然，AI换脸辨认技能也在飞速开展，跟着AI换脸的要挟越来越大，这场攻防大战正越来越剧烈。

就在8月28日的同一天时刻，网友用Deepfake 技能换脸马斯克，直播取得上万人打赏，紧接着浙江大学与阿里安全部一同研制了一种新式人脸隐私维护计划——FaceObfuscator。

看似人脸维护技能呈现强力护盾，但技能对立历来不是一簇而终。6年前，AI换脸技能开端鼓起，但那时分人物表情还比较生硬，也无法用于直播场景中，现在AI换脸技能现已十分老练。

“今后我的手机是不是被捡到，就能被刷脸打开了？”“手机的刷脸付出究竟还能不能用”等各种言论的声响，呼吁维护用户的数字财物安全的声响也越来越激烈。

 万人打赏AI马斯克，AI换脸赢了一局

“hi, how are you，I'm musk。”这是AI换脸的马斯克在直播，他的直播间十分炽热，换脸马斯克一边展现大火箭模型，一边捏捏自己的脸。

这位主播自己都笑得不可，他是没想到作用十分传神，乃至许多连线的粉丝表明底子无法区别真假，上万人给这位主播打赏。这位“马斯克”也是十分博学，对SpaceX、Tesla的Cybertruck、AI技能、Neuralink等技能都如数家珍，还热心肠给一位刚结业的学生叙述了一些作业主张。

AI换脸的马斯克能在直播间栩栩余生，那今后直播间中马云、刘强东、黄仁勋、乔布斯就都随时能呈现。直播间呈现这些名人AI兼顾，或许对高知的人群要挟不大，就怕『AI勒东』等愈加众多。

揭露数据显现，截止2024年，现已有8名长的十分像勒东的网红，被提起公诉。但是，许多阿姨到此还不认为自己上圈套，认为那些骗他钱的假勒东便是自己，惹得勒东亲身呼吁受骗的阿姨们不要持续信任，他不会私信聊任何人。

下沉商场对一个相像的明星都执着得信任，何况是AI换脸的明星，究竟AI能够将长相和声响完美复刻。并且这项技能也在敏捷白菜化，一位AI职业人士告知鲸哥，现在 GitHub上，有超越 3000 个与 “AI换脸”技能相关的存储库，许多外网的灰色交际频道中更多。这些“AI换脸”也十分廉价，价格最低的“AI换脸”视频只需求2 美元，而需求杂乱的一个“深度假造”视频要100美元起。

现在，国外许多币圈人用假马斯克做代言广告，灰色事务有些迸发；国内则是针对下沉商场诈骗行为居多。

2023年，呼和浩特一位男人就被这样的AI换脸视频电话，诈骗去了40多万元。上圈套人表明，自己从没想到视频对面的微信老友尽然是AI换脸的。

现在状况不一样了，就在AI马斯克直播的同一天，一项应对这种这种乱象的技能也被发布。8月28日，针对人脸特征重构隐私要挟，浙江大学与阿里安全部一同研制了一种新式人脸隐私维护计划——FaceObfuscator[2]。

据发布，FaceObfuscator 在六个揭露人脸数据集进步行了测验，试验结果表明，其无法被重构为人脸图画，有用维护了人脸隐，在 COS（余弦类似度）和 SRRA（重放进犯成功率）方针上体现优异，明显降低了重构进犯的成功率。

简略来说，"FaceObfuscator"便是一种用来含糊或许躲藏人脸的东西或技能。例如，在监控视频中，或许会运用FaceObfuscator来含糊掉路人的脸部，以维护他们的隐私不被侵略。FaceObfuscator 可应用于监控辨认、刷脸付出、门禁考勤等场景，服务于安防、金融、教育等多个职业范畴。

当然，这项技能的确还存在一个问题，便是直播间中的换脸，无法辨认和防护。究竟直播间中的换脸，并没有什么设备需求去验证，只需观众觉得像就行。

这一轮AI大战，AI换脸凭仗更多场景，让AI辨认在这一场景中力不从心。做AI安防的顶象科技内部人士告知鲸哥，“直播间AI换脸，曾经最常用的辨认方法是让其捏下鼻子，AI马斯克直播敢捏脸，就证明这个辨别方法不是太实用了。”

但辨别方法并不是没有了，这就需求更多的技能计划，融入各种交际产品中。 

多轮攻防战役，AI换脸对立螺旋上升

最早是在2018年，国外研究人员创立了一个假的奥巴马讲演视频，这部视频面部表情传神，口型与音频也比较同步。

其时这个视频选用的是生成对立网络(GANs)，GANs一度是最盛行的AI换脸技能。它包含两个神经网络：一个生成器和一个判别器。生成器担任创立假图画，而判别器则企图区别真假。经过不断的对立练习，体系能够生成越来越传神的换脸作用。

这时期，依据GANs技能的AI换脸最闻名的软件是DeepFaceLab，这款软件其实是依据特定需求研制，它被广泛用于一些好莱坞电影中的特效场景。

但很快这项技能就被分散，从影视圈向极客、灰产等圈层开展，违规的换脸视频著作和用于诈骗的换脸材料也开端从层出不穷。

这时期，防守方首要有2种方法辨别AI换脸。第一是视觉特征剖析，研究人员开发了算法来检测换脸视频中的不天然特征，如不共同的眨眼频率、不天然的面部纹路等。其时Facebook与密歇根州立大学协作开发的DeepFake检测挑战赛，便是为了招引技能人员参赛，为这项技能添砖加瓦。

第二项手法是音频-视频不共同性检测：由于许多换脸视频运用原始音频，研究人员开发了算法来检测唇动与音频的细小不共同。

谷歌也在2019年发布了一个包含3000多个Deepfake视频的数据集，用于练习检测算法，其间就包含音视频同步性剖析。这一时期， 技能的防护手法首要依托AI换脸视频技能还不老练，防守方挑选出不天然、不匹配的内容片段，以此来判别视频的真假，说实话仍是挺难的。

时刻来到2020年，AI换脸职业呈现了一种名为神经烘托（Neural Rendering）的技能，能够在视频会议中实时进行高质量的换脸。这项技能能够从单张2D图画重建3D面部模型，然后将其应用到方针视频中，完成更天然的换脸作用。

由于脸部数据被数字重建，这时分人的各种表情理论上都能够被数字生成，防备的难度进一步增大。所以防守方的首要手法，开端凭借数字财物确权技能，来维护我们的脸部隐私。

2020年，一家名为Truepic的公司推出了依据区块链的图画验证体系，被一些新闻机构用于验证新闻图片的实在性。经过在区块链上记载原始视频的哈希值，能够验证视频是否被篡改。

这项技能都是针对特别人脸视频的维护，大部分原始视频都不或许被数字确权，所以维护的规模太小了。

时刻进入到2024年，AI换脸从图片、视频走进了直播间，AI换脸技能现已白菜化，防守方也开端从视频录入进程中就引进维护源，乃至联合社会各方一同协作冲击AI换脸灰产。

你的脸部数据安全，不止需求技能看护

时刻拨回到2020年，“扫描一次人脸，给费用50元，肯定维护隐私前提下运用。”

其时在北京的西二旗邻近，许多AI创业公司搜集人脸数据，价格很廉价。

这些CV（计算机视觉）公司使用人脸数据改善算法模型，更多大公司企图找途径协作方进行数据协作。投资人李开复曾口误说，帮旷视科技搭桥付出宝，使用后者人脸数据练习了大模型，导致两家公司都十分严重，付出宝也匆促驳斥谣言没有给过其他家公司数据。

不能否定，那时分人脸辨认技能兴旺后，摄像监控、手机屏幕辨认、扫脸验证、扫脸付出等事务都开端飞速开展。在生成式人工智能大火的今日，AI换脸技能敏捷在民间撒播，视频电话诈骗，复刻人脸付出，各种诈骗犯罪活动开端防不胜防。在技能的不断迭代面前，防守方永久处理下风。

未来会忽然呈现何种技能，让AI换脸更简单和更传神，都是无法意料的工作。因而不能全盼望技能，途径的参加也至关重要。

国家在2019年出台规则，要求Deepfake内容有必要标明"非实在"字样。尔后，干流互联网途径也开端参加这场AI换脸攻防战。

2022年前后，抖音和视频号等途径上，开端要求AI视频制造方自动标识是AI生成，或许是途径提示或许是AI著作。一位从事AI美人生成的制造方告知鲸哥，曾经用SD技能生成真人美人，每天都有上千的私信，他们认为这是真人美人，其间不乏一些打扰信息。

而在标识为AI生成后，私信数量就开端急剧跌落，现在不过百了，他曾经是靠引流到私域卖货，现在得考虑用AI换脸直播了，这一类型也正在被严打依据抖音安全中心的计算，本年1月至今，现已有7.3万个账号由于涉嫌诈骗而被收回了直播权限。

许多时分，抖音要求AI制造的内容有必要做出明显标识。腾讯途径上的交际和视频产品，也十分需求AI辨别。所以，腾讯云也推出换脸辨别（Anti-Deepfake，ATDF）技能，使用AI技能反制换脸、组成脸这类AI技能的乱用，并供给对视频图画中的人脸进行全面剖析的服务。

途径作为传达的途径，最重要的手法是具有其换脸后积累的粉丝、打赏等报答财物，所以使用封禁账号等手法，使得乱用技能的人瞻前顾后，是当下最有用的冲击方式。而抛开直播间的AI换脸，市面上的企业，则更多使用第三方安全服务，冲击AI换脸的考勤、骗保等等事情。

顶象等第三方为银行、稳妥等公司供给的安全计划，则是在设备环境监测、人脸信息、图画辨别、用户行为、交互状况等许多维度信息进行归纳辨别。

内部人士告知鲸哥，他们乃至发现了一个集团上10万人次存在使用虚伪形象打卡行为，集团丢失上亿元。

现在，AI换脸技能被灰色利益鼓动，未来还会飞速进化，而防护方只能在后面见招拆招，所以更多需求每个人进步安全警觉，不是每个『马斯克』都是真的马斯克。