人怕出名猪怕壮，出名之后怕Deepfake

“
曾负面缠身、让美国DARPA都为止头痛的"黑科技" ，已经大举入侵主流互联网平台，这究竟是好事还是坏事？
”
作者|椎名编辑｜梓
首图来源：CNN
古话说的"人怕出名猪怕壮" ，现今恐怕有了续集——人怕出名猪怕壮，出名之后怕deepfake 。
今年年初，受此困扰的是世界上被拍照次数最多的名人之一阿汤哥。
你能分辨出下图中哪个是真的阿汤哥吗？

答案揭晓：两者都不是。
左图是汤姆·克鲁斯的模仿者费尔希，右图是由Tiktok用户创造的deepfake版汤姆·克鲁斯。
这位名为Ume的用户创建的Deeptomcruise账号，只放了三条视频，便在一周时间吸引了38万的粉丝。这种效应，还只是deepfake视频野蛮生长的冰山一角。
在许多人仍然相信"Seeingisbelieving"的时候，历史的进程已经按下快进键：数据统计， 2019年到2020年这一年， Deepfake视频数量增长了大概6820倍，从14678个视频增长到1亿个视频。
deepfake——这项曾负面缠身、让美国DARPA都为止头痛的"黑科技" ，已经大举入侵主流互联网平台，这究竟是好事还是坏事？

01
名声狼狈，被视为最严重的AI安全威胁
不得不说，当一项技术被冠以"deepfake"这个名字，给人的印象不负面都不行：fake已经是造假了，还要深度地造假。
但事实也确实如此， deepfake所代表的由深度学习AI系统生成的媒体内容，最早走红的用途非常负面。
2018年， Motherboard采访人员SamCole在互联网上发现了一个令人不安秘密角落：一位名叫"deepfakes"的Reddit用户，借助AI将色情片中主角替换成名人，发布了不少未经同意的色情假视频。一年之后， deepfake应用程序越来越易于访问，即便那个论坛因为充斥着大量合成的色情视频而被关闭，与之相关的换脸色情片增长已经蔓延开来。
且deepfake名声扫地的功勋章，还不止色情片。
另一个臭名昭著的应用是用在政治目的。借助开源的人工智能算法，你只要收集一个人足够多的真实录像素材，就能操纵视频中的奥巴马、特朗普们，让他们"发表"任何观点，且达到以假乱真的效果。要知道，曾经只有好莱坞特效工作室和情报机构才会制作这一类虚假音视频用于政治宣传。

图源：chameleonassociates
2017年~2020年期间，大量涌现的deepfake作品集中反映了该技术的阴暗面，用在名人伪造是这项技术滥用的重灾区。
充斥着社交媒体的换脸视频已经强烈动摇了人类长久以来对自己的视觉和听觉的信任。当消费的媒体内容真假难辨的时候，很容易出现被这种这些内容所欺骗的受害者。

图源：medium
Deepfake的巨大威力让很多人坐立不安，美国官员将它与核武器相提并论，媒体文章称其为"人类开启的一个前所未有的潘多拉魔盒" 。有着"现实版神盾局"之称的美国国防部高级研究计划局(DARPA) ，近几年疯狂砸钱找寻鉴定deepfake作品的方法。《犯罪科学》于2020年发表的一份报告预测，在未来15年内， deepfake将成为众多人工智能技术中最严重的安全威胁。
但deepfake潜在的风险引发大众担忧，只是其中的一条故事线。