二次受害！华女遭AI盗脸做成诈骗广告，AI 骗局该怎么防？

UICjessica

据报道，澳洲一名曾被骗的华人女士Sunni Wan遭遇二次伤害：她接受媒体采访的画面被盗用，被俄方诈骗团伙做成AI诈骗广告在Facebook投放，谎称是国际刑警组织，宣称可以帮投资受骗者追回钱款，用来引诱更多人上当。Sunni Wan在2023年被骗走49000澳元，当时她主动发声，联合数百名汇丰银行受害者追讨损失。这段采访视频被骗子截取，经过AI处理投放广告。她本身是TikTok博主，账号有2.8万粉丝，很担心新的受害者顺着视频找到自己，内心十分煎熬。

"我自己就是受害者，他们却拿我的痛苦经历去骗更多人，实在太离谱了。"Sunni Wan说，很心疼被广告误导上当的人，希望平台可以拦住这类虚假广告。

网络安全公司Infoblox追查这批广告后发现，这个俄语诈骗团伙批量制作精良的AI视频广告，靠虚假主页引流，把用户导向仿冒维权网站。在香港媒体曝光此事后，Meta虽然下架了涉事广告，但还有大量同类诈骗广告依旧在线，骗子还在不停更换品牌、域名持续作案。


路透社研究所的报告警示，AI正在引爆全球"诈骗浩劫"，预计到2027年，骗子可以依靠AI不间断测试、迭代骗术，实时绕过防护。深度换脸、声音克隆、高仿钓鱼信息会越来越难识别，过去分辨骗局的特征会慢慢消失。

澳洲本地已经出现大量AI语音诈骗。维州警方早在10月发出提醒，不少针对华人的诈骗电话，用AI克隆医生的声音行骗，已有受害者在三天内被骗购买价值5万澳元礼品卡。澳洲反诈机构Scamwatch目前没有单独统计AI诈骗，原因是很多受害者无法自行判断骗局是否用到AI，上报信息无法核验，数据不具备参考性。

AI诈骗的特点是上手快、成本低，几秒就能生成假网站、假单据、假APP，造成的损失也更高。美国数据显示，AI诈骗单案平均损失接近普通骗局的两倍，增长速度更快。


诈骗心理学专家Martina Dove分析，以往东南亚诈骗园区是诈骗主力，随着打击力度加大，AI正在取而代之。尤其杀猪盘、长期投资这类需要慢慢洗脑的骗局，AI机器人可以模拟温和贴心的沟通方式，根据受害者的喜好定制话术，诱导效果极强。原本不容易上当的人群，今后也会因为真假难辨落入圈套。

澳大利亚犯罪学研究所今年2月的调研显示，半数澳洲成年人担心AI被用来实施侵害，五分之一的人预估自己未来12个月内有可能遭遇AI相关犯罪，大家最担心人脸、声音被复刻盗号，或是被黑客攻击。

RMIT大学Joshua Dwight提醒，现在的AI只需要短短几秒语音素材，就能复刻人声，仿真度越来越高，电话、语音消息很难分辨。不法分子也会利用免费AI模型开发作案工具，带来巨大隐患。

报告指出，留给各大机构应对AI诈骗的准备时间仅有12个月。只靠事后追查远远不够，银行、社交平台、电信运营商信息割裂，必须跨行业联合预警，对转账行为做实时干预；同时还需要跨国协作打击跨境诈骗。 反诈宣传也不能只停留在笼统科普，AI骗局瞄准人性弱点，需要更多心理学相关的反诈科普。

诈骗受害者联盟副主席Alex Brooks是最早发现这则假广告的人，她表示，骗子专门盯上敢于发声的受害者，把他们当成诈骗素材。AI诈骗迭代速度远超人类，更大的漏洞是：目前缺少明确法律，一旦AI自主作案造成重大损失，责任很难界定。澳洲多年来一直被有组织犯罪利用监管漏洞，AI会让风险进一步放大。

目前澳洲各界也在推进反诈措施：澳洲电信行业自2020年以来，已经拦截超30亿通诈骗电话、10亿条诈骗短信；Telstra、联邦银行、Optus都上线了通话预警、诈骗短信拦截项目。

澳洲各大银行也在用AI筛查交易，每天筛查2000万笔付款，推送数万条实时风险提醒，还用AI机器人和骗子周旋、收集线索。新版《反诈框架》预计明年3月落地，消费者机构Choice呼吁，AI聊天工具、邮箱、搜索引擎、电商、交友平台都要纳入监管范围。


图文来源：news
原文链接