公安部数据显示，2025年全国公安机关共侦破电信网络诈骗案件25.8万起。其中，AI换脸等新型诈骗手段正成为增长较快的风险类型。据经济观察网援引公安部2026年9月通报，全国已侦破AI换脸类诈骗案件逾300起，涉案金额突破5亿元，单案最高达2000万元。技术门槛的下降，正在让身份伪造从专业犯罪团伙的专属能力，扩散为更广泛的作案工具。
近期披露的多起个案显示，AI诈骗的作案链条已形成相对固定的模式：先从公开社交平台收集真实人物的照片与音视频素材，再包装人设建立信任关系，最后通过AI换脸视频或AI拟声完成身份核验环节的突破。一名常居澳大利亚的律师向媒体讲述，其发布在社交平台上的健身、旅游照片被盗用，骗子以此在微信、抖音、WhatsApp等平台塑造“顺丰总部海外高管”形象，对一名女性受害者展开长达数周的情感攻势，并诱导其下载境外投资App投入5万美元。在受害者提出视频核实时，骗子花费近一小时准备，通过AI换脸在视频中呈现与照片一致的面孔。受害者最终因察觉面相与声音不匹配、表情不自然，并通过照片反向搜索找到本人账号，才避免资金损失。
另一起案例中，一名福建泉州的制造业经营者在一款网游语音软件中遭遇AI拟声诈骗。骗子趁其与朋友组队游戏时潜入未设密码的公开语音频道，偷听对话后使用高仿账号，以几乎一致的声音冒充其朋友，开口借款5000元，并要求转账至银行卡而非微信。当事人因注意到好友列表中真实朋友已下线、账号为高仿号而识破骗局。其复盘认为，语音社交场景下用户处于放松状态，且头像与昵称复制成本极低，防护意识天然弱于电话或微信等实名化程度更高的渠道。
从技术侧看，AI换脸与语音克隆的滥用与开源模型、消费级工具的下沉直接相关。当前主流换脸工具已可在消费级显卡上完成实时推理，语音克隆仅需数秒样本即可生成相似度较高的合成音频。这意味着诈骗的实施成本从过去的团队协作降至个人可操作水平，而验证成本却由受害者单方承担。视频通话、语音留言这些过去被视为可靠的身份核验手段，正在失去其作为信任锚点的作用。
针对此类风险，行业与监管层面已出现若干应对方向。在技术检测端，深度伪造检测工具正被集成至部分视频会议与社交平台的内容审核流程，但检测与生成之间仍存在明显的攻防时差。在平台治理端，账号注册实名化、异常登录与高仿账号识别成为主要抓手，前述案例中涉事抖音账号已被封禁。在用户教育端，多地反诈机构开始提示“视频核验需要求对方做转头、遮挡等动作”，以增加伪造难度。
从企业服务视角看，AI身份伪造的蔓延正在催生一类新的合规与安全需求。金融、招聘、婚恋、跨境支付等高度依赖远程身份核验的场景，对活体检测、多模态生物特征比对、深度伪造检测的采购意愿上升；同时，企业内部的音视频会议、客服语音通道也面临被仿冒用于社会工程攻击的风险。对于提供身份认证、内容安全与反欺诈服务的厂商而言，这构成明确的市场增量，但其技术有效性仍需在真实攻防中持续验证。
AI诈骗的本质并非技术单点突破，而是传统骗局中的熟人关系、情感需求、投资诱惑等手段借助AI获得更强的迷惑性。当面孔与声音不再构成可信凭证，身份核验的重心将从“看到听到”转向多因子、可验证的机制设计。这一转变对个人防范意识提出更高要求，也为身份安全基础设施的供给方划定了新的能力边界。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
