1.

如果你是短视频或某些不可言说网站的好奇心用户，那么你肯定或多或少知道“深度伪造（Deepfake）”。

过去几年来，得益于AI和视觉语言的风口，基于人工智能的人体图像合成技术将已有图像或视频叠加至目标图像、视频上十分流行。

没错，社交媒体常见的换脸照片、换脸视频就是深度伪造技术的最常见体现。

就像这个名词和它本身含义一样充满着迷惑性的那样，深度伪造（Deepfake）是“deep learning（深度学习）”和“fake（伪造）”组成的合成词，一如它在实际应用中所表现出的真假难辨、正邪难分的属性。

具体表现就是，同样一个技术，使用在不同方向，造成的后果也是南辕北辙。

用在“正道”上时，深度伪造可以称得上是AI之光、救火队长。

比如AI合成内容（音频、视频、直播），比如大家所熟悉的“影视剧深伪”——在遭遇演员“塌房”后，影视剧为了在不重拍的基础上正常上映，采用AI换脸的方式来低成本替换已经成为影视行业共同的选择。

当然，由于目前深度伪造还做不到栩栩如生，违和感是跑不掉的，所以影视应用主要还是集中在小屏幕上。

《买定离手我爱你》里的翟天临、《突围》里的德光书记、《光荣时代》里的郑朝山、《三千鸦杀》里的青青师姐…这些角色想必都给大家留下了深刻印象。

类似的，“娱乐深伪”也是个挺有意思的应用方向。

例如在抖音海外版TikTok上，就有一个知名的深度伪造用户汤姆克鲁斯，国内也曾一度流行在各种各样影视大片中的换脸操作。

由于一眼就能看出来真假且娱乐性非常强，大家也曾乐在其中。

还有些应用将深度伪造技术用在了人文关怀上，例如这几年流行的让老照片“复活”。

虽然现在看起来效果很惊悚，但如果哪天技术进步到一定程度，不考虑伦理争议的话，感受过去照片里的人物又生龙活虎地出现在我们面前不失为一种更美好的怀念。

2.

不过，深度伪造更大的影响力却是来自于灰色、甚至违法地带。

众所周知的是，深度伪造“出圈”来源于“色情深伪”，由于它经常被用来伪造名人性爱视频和复仇式色情等，这一度让深度伪造成了人人喊打的对象。

2017年开始，全球范围的互联网世界陆续流出大量换脸色情视频，国内外女明星饱受其害。

很多人应该有印象的是，因饰演《哈利波特》赫敏一角而成名的好莱坞女演员艾玛沃特森就曾因30秒换脸视频出现在色情网站上而引发巨大的舆论关注，泰勒斯威夫特、娜塔莉波特曼、比利艾利什等女星同样未能幸免。

在此之后，深度伪造几乎就为主流社交平台不容了，各大平台几乎都采用了严格封禁深度伪造的措施。

比如就在不久前，抖音还封禁了一个靠假扮俄罗斯美女攒百万粉的账号。

需要说明的是，该账号甚至都还没使用上高阶的深伪技术，只是通过平台官方提供的AI道具、特效就足以欺骗海量人群。这不得不让人产生警醒：如此初阶的应用都能骗过那么多人，如果有强大的深度伪造技术支持，后果将更加不堪设想。

还有Reddit、Twitter禁止深度伪造作品，Facebook联合微软举办全球检测竞赛来发展Deepfakes检测技术…甚至老司机Pornhub都明确禁止深伪视频。

不过，虽然在色情应用层面，深伪技术应用已经遭遇了人人喊打的局面，但一直到今天，在Youtube、Vimeo等流行在线视频网站上，依然可以很容易地找到非色情的深伪视频。

这说明对深度伪造的限制主要还是集中在不法应用端，技术本身其实是一直在蓬勃发展的，现如今相关的伪造工具也很容易找到，人们可以方便地下载、使用类似FakeApp这类基于TensorFlow开源软件库的深伪视频制作程序。

在此背景下，利用深伪技术进行非法色情或诈骗活动的行为才始终不断。

2020年，日本查获一起利用AI深伪技术制作的“假A片”案件；同期，台湾发生通过社交媒体组群将名人换脸为成人视频主角并贩售的案件，受害者高达上百人。

3.

向左走是未来科技的坦途，向右走是凝视人性的深渊，令人又爱又恨的深度伪造正让越来越多人意识到它其实是一个不可控的潘多拉魔盒。

一旦开启，其强烈的迷惑性就将注定会给人类生活带来深远影响，这让很多人对深伪的未来持悲观态度。

众所周知的是，想要保证技术应用在合理合法的范畴内，指望自律是不可能的，考虑到深伪应用很多都集中在不法牟利的灰色地带，呼唤有效监管可能才是唯一的解。

可随着换脸技术越来越成熟、精细程度越来约高、使用成本越来越低，有效监管也并非一件容易的事。

李开复曾预言说，即便是在三十年之后，深度伪造仍然难辨真伪，未来需要更创新的技术手段才能加以防范。

不可否认的是，深度伪造应用在营销、社交领域的确可以带来很多正向价值，很多行业领域也因深伪技术的发展而收益。可一旦使用方向偏移，想要检测出来源经过篡改的深伪内容非常难，因为在图片视频上传社交媒体之后，档案会压缩、格式等原始数据也会被抹去，溯源这事无异于大海捞针。

那么，深度伪造的未来到底会怎么样呢？

若能解决技术、监管难点，施行很好的深伪检测，那么深伪内容将在造福大众生活的方向上蓬勃发展。

若检测无力、应用肆意发散，我们倒也不必过于担心它会造成的破坏力。

因为到那时，人们将不会再信任网络上的各种言论与内容，大家可能就会抛弃社交媒体和直播平台，转而选择能够提供真实身份验证的平台进行信息获取与交流。

可以看出，深度伪造技术的普及化虽然带来了很多不好的影响，但总体来说还是一种带动社会进步的象征。

相关技术的上下游参与者需要在秉持社会责任的基础上推动技术的落地与应用，最终对未来的网络世界形成重塑。