◎ 文 《法人》杂志全媒体记者 李韵石

近年来，随着AI技术的快速发展，电信诈骗手段开始翻新，带来了一定程度的风险隐患，AI换脸、AI换声都成为了诈骗新手段，AI技术一时成为了一把双刃剑。

AI技术增大反诈骗难度

据媒体报道，4月20日，福建省福州市某科技公司法人代表郭先生接到好友微信视频电话，其间对方称在外地竞标，需要公对公账户过账430万元保证金，希望借郭先生公司的账户走账。

基于好友之间的信任，加上视频聊天确定了身份，郭先生将430万元转给“好友”。随后，郭先生拨打好友电话，才知道被骗。骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。

5月25日，北京信息产业协会元宇宙专家委员会主任龚才春接受《法人》记者采访时表示，使用人工智能技术换脸最早出现于深度伪造技术（DeepFake）。该技术不仅可以实现照片换脸，还能实现视频的换脸。其先进性让大家意识到人工智能给生活带来方便的同时，也带来了极大伦理和法律等社会问题。

除了利用AI换脸进行诈骗外，利用语音合成技术（TTS，Text to Speech）进行诈骗也时有发生。据公开报道，某公司财务小王接到领导电话，要求立刻给供应商转款两万元，并将转账信息以邮件形式发送。由于“老板”的声音十分逼真，小王在转款完成后才发现被骗。

龚才春说，历经几十年发展的语音合成技术已经达到较高水平。最近随着深度学习技术在语音合成方面的应用，使用一两分钟音频就可以对他人语音进行建模，从而实现模仿他人声音说任何话。

龚才春说，通过利用人工智能技术，诈骗实施者在精准信息获取、诈骗脚本设计、通信联络诱导、资金支付转移等方面的能力都有了很大提高，这为治理电信诈骗带来了新挑战。

个人生物信息泄露致AI换脸技术滥用

暨南大学新闻与传播学院教授林爱珺曾在《AI换脸的技术风险与多元规制》一文中表示，AI换脸技术涉及的人脸信息包括人脸生物特征及人脸模板，属于个人生物识别信息，具有高度敏感性。

个人信息保护法规定，“个人敏感信息”指自然人的人格尊严受到侵害或者人身、财产安全受到危害的个人信息，包括生物识别、金融账户、行踪轨迹及未满14周岁的未成年人个人信息等。人脸生物识别信息是对面部特征的识别信息，即生物识别信息的一种，也归属于“个人敏感信息”。

在AI换脸过程中，对人脸生物识别信息的采集、存储以及使用全链条生产模式是该技术运行的底层逻辑，一旦发生技术操作失误、黑客入侵事件或监管不力将引发安全风险。

林爱珺认为，AI换脸技术的滥用加剧了安全风险。AI换脸在当下几乎成为一种无门槛使用技术，往往作为一种娱乐手段与社交媒体音视频传播相结合，在网络上大肆运用。用户出于娱乐休闲的目的，利用AI换脸技术制作短视频，并将其上传至网络，但对于运用AI换脸技术采集自身人脸生物识别信息的过程一无所知，更对其中生物信息采集及泄露的风险毫无察觉。

龚才春也表示，过去三年，社会各界曾多次围绕人工智能技术滥用对个人隐私的泄露展开激烈讨论，人工智能模型的训练需要大量数据，许多公司疯狂采集各类数据，但这些数据大都与公司提供的服务没有直接关联。加上我国公民隐私保护意识不强，导致隐私泄露多发，且AI诈骗案件有所抬头。

防AI骗局须多方协作

对于如何防止AI诈骗的发生，记者5月25日采访了北京市京师（上海）律师事务所律师李文玲。她告诉记者，完善有关法律、提高有关企业对个人信息的保护力度和群众隐私的自我保护意识能有效避免AI诈骗发生。

李文玲说：“目前，我国缺乏对人脸替换、人声合成等行为违法性和造成后果责任承担的相关法律法规，但有关部门已经在逐步加大对该类行为的约束。”

2023年1月10日，由国家网信办、工信部和公安部联合公布的《互联网信息服务深度合成管理规定》正式施行，要求“深度合成服务提供者对使用其服务生成或编辑的信息内容，应当添加不影响使用的标识。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。”

在企业方面，抖音近日发布《关于人工智能生成内容的平台规范暨行业倡议》（下称倡议），提出抖音发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景。此外，抖音还提出“元数据标识”规范，并建议这一标识元数据可被其它工具和平台识别。

对个人而言，李文玲建议，要在网络活动中保持清醒，避免陷入虚假宣传，更重要的是面对AI诈骗，必须保持防范意识。首先，应当做到保护信息，提高警惕。对任何人，都不要轻易透露身份证、银行卡、验证码等，不要轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等。

其次，确认身份时应多重验证。如果有人自称“熟人”“朋友”或“领导”等，并通过社交软件、短信以各种理由诱导汇款，或涉及网络转账交易行为时，务必通过电话、视频、见面等多种途径核验对方身份，不要未经核实轻易转账汇款。最后，如果不慎被骗或发现可疑情形，应当注意保留证据，并立即拨打反电信诈骗电话及时报警。

李文玲表示，未来随着更多法律及规范出台，制度设计会更加完善和精准，立法也会更加健全，利用AI换脸技术的违法空间必将得到有效遏制。

责编｜白 馗

编审｜崔晓林

校对｜张 波  张雪慧