随着人工智能生成技术快速普及，利用AI换脸、拟声冒充熟人、领导或客服实施诈骗的风险持续受到关注。新型电诈手法更隐蔽、传播更快，也对个人信息保护和平台治理提出更高要求。
近期，AI换脸、AI拟声被用于电信网络诈骗的风险持续引发社会关注。不法分子通过公开社交平台、短视频账号、通讯录信息等渠道收集个人照片、声音片段和关系链，再借助生成式人工智能工具制作具有迷惑性的音视频内容，以“紧急借款”“账户异常”“代办业务”“领导指示”等名义诱导转账。与传统诈骗相比，此类手法更容易利用熟人信任，受害人往往在短时间内难以判断真伪。
值得警惕的是，AI合成内容并不一定需要长时间素材。部分公开照片、短视频语音片段或会议录音，都可能被不法分子拼接、仿制并用于诈骗场景。一旦诈骗分子准确掌握受害人的职业、家庭关系、出行状态等信息，骗局就会呈现更强的“定制化”特征。因此，个人信息过度公开、社交账号权限设置过宽、随意参加人脸采集活动等行为，都可能增加被利用的风险。
反诈人士提醒，遇到熟人通过视频、语音提出转账、代付、提供验证码等要求时，不应仅凭画面或声音作出判断，应通过原有电话、线下见面、共同联系人复核等方式确认身份。对于声称“正在开会不方便接电话”“情况紧急马上转账”“不能告诉别人”的请求，更要保持警惕。企业和单位也应完善财务审批流程，避免单一指令触发大额转账，减少被冒充领导诈骗的空间。
从治理角度看，AI换脸诈骗不仅是个体防范问题，也涉及平台审核、技术标识、数据保护和违法成本。相关平台应加强对深度合成内容的识别提示，压实账号实名、异常传播和高风险交易场景的风控责任；技术服务提供方也应落实合成内容标识和滥用防控机制。对公众而言，提升数字素养、减少敏感信息暴露、及时举报可疑账号，是降低风险的重要环节。
业内人士认为，人工智能技术本身具有积极应用价值，但一旦被用于诈骗、诽谤、侵权和非法牟利，就会冲击社会信任基础。面对不断翻新的电诈手法，社会各方需要在技术创新和安全治理之间取得平衡，既保护正常应用，也严厉打击违法滥用。更多热门资讯，欢迎持续关注单词乎。
