2019年2月，B站UP主“换脸哥”上传了一段引爆社交网络的视频：《射雕英雄传》里朱茵饰演的黄蓉被替换成了杨幂的脸。这使利用深度学习的换脸技术更进一步地走进了大众视野，也引起了社会对技术遭到滥用可能性的担忧。

深度换脸（Deepfake）是深度学习（deep learning”）和伪造（fake）的合成词，这个词诞生于2017年年末，一名以“Deepfakes”为名的网友在社交平台Reddit上发布了伪造的色情影片，受害者是《神奇女侠》主角Gal Gadot，她的样貌被“嫁接”到色情片女演员身上。2018年初，深度换脸作为最“黑科技”的AI应用风靡全球，无论是知名女演员还是美国前总统奥巴马，利用AI换脸技术他们的脸可以与任何其他人物的身体结合，并达到以假乱真的效果——肖像权、名誉权的侵犯，假新闻，恶意欺诈等成为了该技术存在的巨大风险。

南加州大学信息科学研究院（USC Information Sciences Institute）的研究人员开发的一种新工具，可能有助于打击Deepfakes的恶意使用。据有关论文，该工具专注于细微的面部和头部运动来识别视频是否被伪造，据称识别准确率高达96%。

标准的深度伪造检测模型会逐帧分析视频，但这项新技术所需的算力和时间要少得多。它同时查看整个视频，并将视频帧叠在一起，寻找视频对象移动过程中可能存在的不一致之处。比如一个人的眼睑运动的不自然之处，或者是一个手势过程中的奇怪动作——研究人员称之为“软生物特征”。他们使用了大约1000个经过处理的视频来训练这一工具，使其擅长识别政治和娱乐名人的换脸视频。

近期利用技术打击假新闻的另一项努力来自于Adobe公司，它在CVPR计算机视觉大会上推出了一款通过深度学习识别照片是否经过“P”图的工具，该工具甚至能将照片还原至原图，能实现以前由人工进行的数字图像还原取证工作。这项技术将和PS一样向所有用户开放。