“还在玩AI换脸？你可能不知道这技术带来多大的危害”

本篇文章3339字，读完约8分钟

你可能不知道什么是gan (生成式对抗互联网)，但如果在社会交流网上转发明星过时的照片，或者看到变脸技术在淘宝上销售的文章，可能只花几块钱就成为色情片的主角。 事实上，出现了人工智能换脸应用的热潮，我们一不小心就有可能落入陷阱。

这次ruc信息坊将为你梳理这些伪乱真换脸技术的产生和快速发展，集中海外媒体的视角总结这些逆转身份、跨时间的图像和视频可能会对我们的生活产生什么样的影响。

上周，一个叫faceapp的ai改变了整个社会交流媒体的面貌，世界各地的明星等大众人物争相在社会交流平台上分享自己“老年”的照片。 这个app是俄罗斯企业wireless lab开发的，客户只要放一张照片，一个键就会变成老人，一个键老了也会回到孩子，一个键会变成女人，一个键会流泪笑，一个键会失去头发，所以

据福布斯称，该app诞生于年，因近期算法大幅提升而爆发。 目前，谷歌play下载量超过1亿次，最近10天下载安装量达到450万次。 另外，苹果在app store的安装下载量也很高，根据app annie的数据，目前在121个国家的ios商店中排名第一。

这个app的基本原理是生成公式对抗互联网( gan )，通过算法提取人物面部特征，根据数据库中其他图像比对表的不重要特征点进行调整。

faceapp的爆炸引发了人们对人工智能技术和隐私保护等问题的热议。 由于这个应用是俄罗斯人开发的，美国政坛紧张，民主党全国委员会警告民主党总统竞选团队不要改变这个面孔，一些政治家建议联邦调查局介入调查。

deepfake是一种人工智能换脸技术，适合写照片和影像，可以实现脸部移动树。 今年年初在网上广泛流传的朱茵成为杨幂的换脸视频就是由这一技术生成的。 在中国读者热衷于利用deepfake技术制作鬼畜视频的同时，deepfake作为负面议题在海外掀起了巨大的巨浪。

年，一位名叫“deepfake”的顾客在美国reddit论坛上“嫁接”了好莱坞女明星头像的色情视频，引起了读者的热烈讨论。 之后，开源代码就像火种一样，获得了曾经只有专业电影制作机构制作的视频。 客户只需收集目标对象的大量照片，就可以使用这些开源算法制作假视频。

很快，deepfake的波及范围从电影娱乐界扩展到了美国政坛。 去年，美国前总统奥巴马吐槽特朗普是笨蛋的假视频在推特上备受欢迎。 今年5月，南希·佩洛西美国众议院议长的假视频在社交媒体上也传开了。 视频中，佩洛西就像喝醉了一样，通常意识不清醒，说话结结巴巴，举止奇怪。 这个视频招致了美国总统特朗普的嘲笑。

由于facebook拒绝删除佩洛西的假视频，马克·扎克伯格也受到骚扰，“他”在其中大谈“控制数十亿人泄露的数据”的方法，但原素材来自扎克伯格两年前的一段无关视频。

deepfake的迅速发展严重影响了人们的新闻环境，早期的研究者会通过人物眨眼来评价视频是否由deepfake生成，但在现在的deepfake中，人物已经可以眨眼了。

有趣的是，这个生成和识别的过程也类似于deepfake的原理——上述生成式对抗互联网( gan )。 gan由生成互联网和判别互联网组成。 生成互联网要尽量用欺骗来判别互联网，生成互联网的目的是尽量从实际样本中识别生成的互联网输出，两个互联网相互对抗，互联网生成的互联网输出结果

虽然在国内引起的关于ai换脸应用的讨论还很少，但是技术的传递是没有国界的。 为了更深入地探讨变脸技术对生活的影响，我们参考了deepfake出现得更早、例子越来越多的海外，看到了海外媒体如何看待变脸问题。

许多媒体关注到，变脸技术可能损害美国的政治环境，对民主造成威胁。 据cbs报道，在美国1月发布的全球威胁判断报告中，deepfake警告称，这可能成为扰乱选举的战略之一。 “山寨”奥巴马骂特朗普是“彻头彻尾的混蛋”，不仅影响混乱的政治讨论，更不用说“山寨”美国总统向某国宣战的视频会带来什么样的巨大变化。     

(奥巴马的deepfake视频截图)

美国众议院民主党人yvette clarke认为，deepfake的影响不仅可以改变选举，还可以改变经济和法律体系的结构。 法院需要重新审视很多图像和视频证据的有效性。 扎克伯格的deepfake视频如果被恶意炒作，可能会给公司带来巨大的经济损失。 据fast company网站报道，“蒂姆·库克”是一部就iphone销量下滑进行个人对话的虚拟视频，几秒钟就能蒸发股市数十亿美元。

《卫报》对deepfake带来的影响做了如下论述:在许多网络视频中，人们正在接近他们从未做过的事件、真实的人、真实的面孔、真实的画面，但这完全不是真实的。

卫报还在文章中引用了ai伦理和法律教授sandra wachter的观点，认为许多对科学技术的恐惧被夸大了，但deepfake不同，他说:“假新闻之多、生产之少是前所未有的。

《麻省理工学院科技评论》也指出，在ai出现之前就出现了操作媒体的现象，但算法更普遍且难以发现这些操作。

除了deepfake的换脸技术外，媒体还关注着faceapp中存在的隐私风险。 据《纽约时报》报道，在7月17日的信中，纽约州民主党参议员chuck schumer要求FBI和联邦贸易委员会对faceapp进行调查。 其理由是安全、数据保存、透明性方面的“严重问题”。 他在信中指出:“如果美国公民敏感的个人新闻提供给经常对美国发起网络攻击的敌对外国势力，那将非常不安。”

据《华盛顿邮报》报道，关于男性的deepfake视频几乎都是搞笑风格，首先是关于女性的色情视频，研究表明，人工智能技术下对女性的性物体化更加严重。

更重要的是，在deepfake刚出现的时候比较女明星，但是随着技术的进步和普及，普通女性也成为了目标。 只要收集大量的面部新闻和性视频，就可以“移花接树”，以满足报复自己和女性的目的。

去年4月，印度女调查记者rana ayyub在她脸上收到了伪造的性爱录像，这是对媒体的威胁。 这个视频在社会交流网上迅速传播，这个记者看了之后崩溃了。 她说，虽然自己多年来受到各种各样的骚扰，但deepfake比身体威胁更可怕，对心灵有长时间的影响，“同时没有什么能阻止它再次发生”。

赫芬顿邮报在采访6名deepfake女性受害者时，未经同意，将她们的照片放入色情视频中，其中一人表示:“通过photoshop解决照片是静态的，很容易识别是假的。 但是，如果自己的脸在视频中做出反应而动，就会恐慌。 因为我不能控制别人怎么采用你的形象。 ”。

根据vice网站的介绍，新上市的deepnnude是为了比较女性而开发的，输入男性照片只会生成女性裸体的图像。 因为我只对女性裸照进行算法训练。

the verge网站在采访技术专家后指出，部分识别deepfake的研究大大提高了名人独特的脸部动作，如撅唇、扬眉等，但人工智能的精进却为双方提供了便利。 也就是说，所有检测deepfake的研究将为提高deepfake的模仿质量提供新的机会，生产和识别将是无中断的对抗。 另一方面，虽然最新的模型精度高达97%，但即使完美地配置在各个平台上，也存在3%的网络广播，考虑到网络视频的庞大数量，这一部分带来的危害可能仍然是个大问题。

在技术不可靠的情况下，如何减少虚假视频传播带来的负面影响将成为关键因素。 为此，《纽约时报》提出了“我们不能再相信眼睛所见”的意见。 评论认为视频复制等于可以感知的事实，但是随着deepfake技术的出现，制作假视频的能力和说谎的能力一样普遍，我们应该把各种视频资料视为“证言”而不是“感知”，索 因为这位记者必须养成追踪网络文案作者身份的习性，以便我们在各种deepfakes全部到达之前完全做好准备。

人权组织witness的项目经理sam gregory在麻省理工学院科技评论中表示，为deepfake提供工具的企业和研究者也必须投资对策研究，社交媒体和检索企业将这些对策作为平台

deepfake法案顾问mutale nkonde还敦促监管者:“除非政府找到保护顾客的权利，否则deepnude这样的应用程序将越来越泛滥。”