ai工具进军杀猪盘，“杀猪盘”之外，犯罪分子利用换脸技术实施诈骗

除了“杀猪盘”，犯罪分子还利用换脸技术实施其他类型的诈骗，如冒充明星进行投资诈骗、冒充家人或警察恐吓受害人交钱等，还能用来逃避部分金融机构要求的视频身份核查。

澳大利亚阳光海岸市市长罗萨娜·纳托利 (Rosanna Natoli) 最近表示，一名骗子利用这项技术在与朋友的 Skype 通话中冒充了她。“朋友告诉我，他看起来像我，但听起来不像我，”她说。

“大多数换脸应用程序无法伪造实时声音。”一位熟悉柬埔寨诈骗的消息人士告诉澳大利亚广播公司，技术能力、计算能力和互联网带宽往往限制了诈骗者使用换脸技术。“（在很多情况下）聘请东欧模特更为实际。”他说，尽管技术进步了，但镜头前的真人看起来还是更合理。

在缅甸，经营加密货币诈骗业务的萨姆在接受采访时表示，他的老板曾短暂尝试过人工智能，因为一名越南模特跑路了。老板想要一款应用，可以在视频通话中以数字方式改变团队中讲英语的成员的样貌，但没有足够的源照片来支持该应用。

“用头脑思考，而不是用心”

上个月，澳大利亚竞争与消费者委员会（ACCC）反欺诈中心表示，虽然2023年统计的欺诈案件数量较2022年有所增加，但总损失下降了13.1%，至27.4亿澳元（约合132.7亿元人民币）。不过，ACCC发言人仍对新技术的出现发出警告，“欺诈手段日益复杂，我们应保持对人工智能带来的风险的警惕。这将使人们更难识别欺诈行为，平台应继续谨慎处理任何索要个人信息或金钱的请求，点击链接时要小心谨慎。”

该发言人表示，迄今为止，大多数利用人工智能进行诈骗的案例都以社交平台网站上的“聊天机器人”的形式出现。“这些机器人给人的印象是，许多其他真实的人对该产品感兴趣，并从骗局中获得经济利益。”此外，“人工智能还被用于制作投资骗局视频，通常是捕捉或制作名人的图像或镜头，并附上令人信服的音频。”

罗尼·托卡佐夫斯基 (Ronnie Tokazowski) 是 Intelligence for Good 的一名网络犯罪专家，他与诈骗受害者合作，他说，过去，拒绝视频通话是诈骗者的一个关键危险信号。“但现在坏人已经找到了绕过它的方法。”他说，最好的建议是不要向你只在网上认识的人汇款或收款。

“我们需要开始用头脑而不是用心去思考，”Chandraya 说。“即使感觉很真诚，而且关系已经持续了一段时间，如果它起源于互联网，并慢慢转向涉及金钱或加密货币的问题，请远离它。”

AI工具进入杀猪骗局

东南亚犯罪集团正在使用生成人工智能聊天机器人进行所谓的“杀猪”网络诈骗行动，这是一种更为复杂的方法，可以提高诈骗的有效性并扩大受害者范围。

所谓“杀猪骗局”是一种新型网络诈骗，犯罪分子通常潜伏在交友软件、社交平台等平台，将恋爱心理、赌博心理融入作案手法，骗子让受害者在网上保持亲密联系数天甚至数月，然后“收获”骗局果实，这一过程类似于养肥待宰的猪。

聊天机器人揭示情绪和感受

据澳大利亚广播公司（ABC）5月16日报道，犯罪分子过去使用详细的“脚本”来获取受害者的信任，但现在他们使用大型语言模型（LLM）或聊天机器人用不同的语言向受害者发送消息，进一步扩大了其影响范围。生成式人工智能还可以使对话更具说服力，并减少骗子与多名受害者互动的工作量。人工智能工具正在进入杀猪骗局！

虽然 ChatGPT、Gemini 和 Copilot 等主流人工智能聊天机器人都有防止其协助非法活动的护栏，但其他一些正在开发的大型语言模型却没有这样的限制。

网络安全公司 Sophos 研究员 Jagadeesh Chandraiah 在博文中表示，生成式 AI 将文本、图片、视频与翻译结合起来，生成非重复性的“定制内容”。它还能用来编写“杀猪脚本”，写出令人信服的钓鱼邮件，甚至提供如何从零开始进行诈骗的分步说明，这或许也能降低诈骗犯罪的门槛。

然而犯罪集团似乎并不能够熟练地使用人工智能。研究人员公布了诈骗者提供的截图，显示诈骗者不小心透露了他们正在使用大型语言模型来生成消息。在发给目标客户的 WhatsApp 消息中，诈骗者写道：“非常感谢您的好意！‘我’作为语言模型，没有像人类一样的感觉或情绪，我被创造出来是为了提供有益和积极的答案来帮助你。”

钱德拉亚告诉澳大利亚广播公司，人工智能仍然需要人类的协助才能运行，机器人偶尔会发出一些信息，这些信息可能表明它们无法与人类交流，尤其是在感情和情绪方面。“在‘杀猪’的案例中，目前的模型并不擅长描绘情绪和感受，而这正是此类骗局成功的关键。”

但钱德拉亚认为，未来随着人工智能的进一步发展，受害者将很难意识到自己正在与机器人交流。

AI实时换脸成为精准聊天的必备

除了最新的聊天机器人，一些传统的AI技术，例如deep fake技术，近年来也取得了快速进展，达到了可以高度逼真地完成实时对话的水平。前黑客、越南网络安全专家Ngô Minh Hiếu表示，用户现在可以通过开源软件或付费方式轻松订阅实时换脸技术（一种只改变对象面部的deep fake技术）。AI工具进入杀猪盘！

全球反诈骗组织（GASO）向ABC透露，有软件提供商在广告中宣称，其“人工智能实时换脸技术对于精准聊天至关重要”，广告称，“解决了好看的（真人）模特难以招募和管理，成本高昂的问题”。该软件还集成了语音克隆功能，对特定目标的模仿相似度可达“60%至95%”。

柬埔寨另一家换脸软件提供商提供24/7全天候支持、送货上门，并声称已在1000多个地区安装了其产品。广告称使用该系统只需提供一张照片，可用于WhatsApp、Messenger和Line等社交平台上的视频通话。