博客

笑死，他们训了35万个AI假装被骗，让骗子白忙活17年

短短四天，他经历了三次转手。

2025年初，演员王星被骗至缅甸妙瓦底的案件引发轰动，当他察觉异常时，已被带往缅泰边境，随后遭武装人员控制。

在AI时代，骗子正将“伪装得逼真”这一手法做得愈发炉火纯青。

不过，一家名为Apate.ai的澳大利亚初创公司，正专门训练AI去“受骗”。

今年8月，Apate完成了815万美元的种子轮融资，并获得了美国风险投资基金Lobby Capital的投资。

那句“骗子被骗子算计了”，如今成了现实。

Apate的诞生源于一次家庭野餐。

几年前，在麦考瑞大学网络安全研究部门工作的Dali Kaafar接到一通诈骗电话，家人觉得好笑，但他却从中看到了机遇。

回到大学后，Kaafar展开相关研究，尝试用机器学习、自然语言处理和自动化对话技术防范电信诈骗。到2024年，这些成果实现商业化，Apate公司由此成立。

用人工智能戏弄骗子并非新鲜事。

2024年，英国电信运营商O2曾推出一个名为dAIsy的人工智能老太太。这位“老奶奶”的特长并非跳广场舞，而是与电话骗子周旋。

该系统利用语音识别、语言模型和语音合成等技术实现人机自然对话。O2希望通过这种方式耗费骗子时间，同时提升公众对电话诈骗的警觉。

Apate的野心显然更大。

除了让骗子白费口舌，Apate还希望获取有价值的信息，比如诈骗网站、收款银行账户、加密货币钱包地址以及冒充的机构资料。

要实现这一目标，Apate并没有一份能精准识别全球诈骗电话号码的清单，因为骗子常换号、用网络电话、伪装主叫人，并利用多国通讯网络转接。

Apate提供了一套分层式解决方案。

首先检测可疑通讯行为，再由AI主动交互，在交互中收集新证据，并传递给反诈骗系统。 它并非要精确找出每个骗子的真实号码，而是与电信运营商合作，将已判定为高风险的通话转给AI处理。

与澳大利亚电信运营商TPG Telecom合作时，TPG先用自身反诈能力识别可疑行为，再将部分高风险电话转给Apate的AI系统。

整个过程无需消费者下载或安装任何软件。

根据Apate公开的技术文档，其语音系统可通过SIP/RTP等VoIP协议接入现有电话网，并支持本地、私有云及混合部署。

这样，骗子在接触到真正受害者前，就被AI拦截了。

该模式已成功吸引投资者注意。

今年8月，Apate完成了约1140万澳元（约815万美元）的种子轮融资，由Lobby Capital领投，OIF Ventures、Investible、Concept Ventures和Baobab Ventures等机构参投，此前公司已获约250万美元投资。

新一轮融资将用于技术研发、美国及欧洲市场拓展。Apate已按美国特拉华州公司形式运作，计划扩大北美业务规模，在伦敦设办事处，研发团队仍留在悉尼。

目前，公司约有20名员工，客户包括澳大利亚联邦银行Commonwealth Bank、TPG Telecom等机构。

因为相比花大价钱请机器人让骗子气急败坏，银行和运营商更愿意为有效遏制诈骗的信息付费。

这就是Apate的“生意经”。

和骗子聊50分钟

如果你曾拨打过客服电话，对AI语音客服应该不陌生。

机械的电子音、奇怪的断句、过分标准的礼貌用语，以及每次回答前的停顿，你甚至不用问第二句，就知道对方不是真人。

但Apate面对的不是急于解决问题的普通用户，而是一群同样善于察言观色、试探反应的骗子。如果骗子察觉对方是AI，就会立刻挂断电话。

因此，Apate的首要难题是让AI尽可能模仿真实人类。

据WIRED于10月10日报道，Apate创始人Kaafar表示，公司已创建约35万个AI虚拟身份。

它们有不同年龄、性格、语言能力和生活经历，可打电话、发短信，并在可疑微信群中交流。有的角色自称用WhatsApp，有的没有；有的愿意继续聊天，有的则说要考虑一下，过段时间再联系。

2025年3月，麦考瑞大学研究人员发表了一篇题为《Bot Wars Evolved》的文章，探讨如何用大语言模型对付电话诈骗。

文章提出双层提示结构。 第一层创建虚拟人物身份背景，赋予AI相似性格、年龄和口吻；第二层涉及对话策略，在动态交流中维持任务目标，而非简单机械回应。

根据GSMA发布的TPG Telecom合作案例，Apate曾保持一通长达54分钟的诈骗电话。TechCrunch提到，该公司已完成约250万次AI对话，累计耗时达17年之久。

这背后依赖网络安全领域长期存在的Honeypot技术，即“蜜罐”。

传统蜜罐是设置一个看似有漏洞但被严格监控的服务器或系统，诱骗攻击者。黑客以为找到目标，但他们的行为、工具和攻击手法都会被安全人员记录下来。

蜜罐的目的不是让攻击者带走数据，而是建立能监控攻击行为的受控环境，实现持续交互。

浪费骗子时间只是这项技术最易理解的一面。

Apate实际希望做到的是，在骗子得手前，让他们自己透露银行账号、加密货币钱包地址、诈骗网站链接及冒充身份信息，并将其转化为银行、运营商可用的反诈情报。

其价值不仅在于“拖住骗子”，更在于构建由拦截、情报分析和规则反馈组成的完整链条。

就连公司评估产品的标准也带点黑色幽默：Joffe表示，Apate会记录骗子在聊天中骂人的情况，并以此作为值得庆祝的事。

用AI对抗AI

Apate的背后，是生成式AI引发的攻防变化：过去依赖人工的诈骗行为，如今可通过自动化手段降低成本。

但别急着宣布反诈行业已迎来革命。

当AI从报警工具发展为能对外交互的Agent后，更多风险随之而来。

反诈者面临的已不仅是发送可疑信息的陌生账号，而是整个生产过程中可能出现的多种方式，包括实时换脸、模仿声音、维持人设及自动管理大量聊天对象。

独立在线媒体404Media曾调查一款名为“昊天AI”的实时换脸软件。该工具能在WhatsApp、Microsoft Teams、Zoom等视频平台替换使用者面部，让屏幕另一端的人误以为在与真人通话。

AI对诈骗的改变已不止“换一张脸”的问题。

在东南亚电信诈骗产业链中，AI被用于挑选受害者、维持假身份及批量处理对话。调查揭示的“控天智能拓客”（KT）等工具，使操作者可同时控制多个社交账号，并利用大语言模型生成符合人设的聊天内容。

这使得Apate的主动防御方式变得尤为重要。

对于能实时生成回复、模仿身份并适应对话变化的诈骗系统，仅靠关键词检测、黑名单和事后举报可能已不够。

Apate创始人曾提出一个有趣想法：如果未来诈骗团伙也训练自己的聊天机器人，自动拨打骚扰电话、寻找目标，那么电信运营商就会同时部署反诈骗机器人来阻止。

这样，一些诈骗电话可能变成两个机器人的对话。

AI诈骗的攻防，最终演变成一场用魔法打败魔法的战争。

本文来自微信公众号“APPSO”，作者：发现明日产品的APPSO，36氪经授权发布。