你怎么知道电话另一头不是机器人?

你怎么知道 

电话另一头 

不是机器人? 

AI 时代,在手机和电脑另一头,再熟悉的嗓音和面孔,都有可能是伪造的。 

—— 喂,有什么事?

—— 感谢你致电信用卡服务中心。请问你了解自己所有信用卡的欠款总额是多少吗?

—— 我找不到我的电视遥控器。你可以帮我想个办法换台吗?

—— 我现在是在和你说你信用卡的问题。 

和这位老人聊天的,是一位谎称自己是美国银行员工的接线员。按照寻常路数,接下来他应该是想让老人提供自己的银行账号信息和个人身份信息。 

这些最懂电信诈骗的人,正在用 AI 反诈骗

问题是,老人并没有自己的银行账户。 

因为他只是一个聊天机器人。 

通常来说,我们在接到推销或诈骗电话后,都会快速挂机「及时止损」,但有那么一群人却甚是热衷和电信诈骗人员「聊天」,因为「我聊得越久,他们打电话去诈骗其他人的时间就越少。」 

正如骗子开始利用 AI 超强模仿能力来行骗,反骗社群也在用 AI 装备自我,打造出了更仿真的「受害者 AI」,处理手段也越来越成熟。 

「有只蜜蜂飞到了我手上,但你可以继续说」 

这些最懂电信诈骗的人,正在用 AI 反诈骗

Roger Anderson 

十多年前,有一通电话打到了 Roger Anderson 家里,他的儿子接了电话。 

对方不怀好意,但没诈骗成功,最后对 Anderson 儿子说了脏话。 

这激怒了 Anderson。 

从那时开始,他把家里固话的答录机回复设置成了好几个间断出现的「Hello」,模仿因讯号不好或其他原因而听不清的效果,旨在让骗子在通话中多浪费一些时间。 

自那以后,Anderson 不断地优化「反诈」流程。 

2016 年,他甚至和朋友 Steve Berkson 创立了公司 Jolly Roger,为付费顾客提供「骚扰骗子」服务。 

最开始,他们主要靠自己来写脚本,然后找专业的演员来「演绎」这些话语,最后连成一段完整的音频,提供给用户来应对电信诈骗。 

这些最懂电信诈骗的人,正在用 AI 反诈骗

在那时候,这种模式已经颇为「圈内人」了解。 

在他们之前,网络上已经有著名的「Lenny」机器人。这个由匿名 Reddit 用户于 2011 年发布的机器人,主要由 16 个预先录制的语音片段组成,背后理念至今仍适用: 

电话推销员的噩梦是什么?是一个孤独想找人聊天的老人,他对自己的家人感到很自豪,但对于推销员要说的事可没法专注。 

Lenny 机器人会和推销员聊自己经济大势,自己的孩子,最后还会被背景里传来鸭子声干扰:「等下,你可以等一下吗?」 

在这之后,Lenny 就会开始重新播放录音。 

而在 AI 工具越来越方便的今天,Anderson 可以创作的角色可远不止 Lenny。 

这些最懂电信诈骗的人,正在用 AI 反诈骗

Jolly Roger 提供了不同机器人给用户选择 

支付了 24.99 美元年费后,Jolly Roger 的用户可从 10 个角色中选择自己喜欢的: 

聊着聊着身边来了只蜜蜂的「Jolly Roger」,「有只蜜蜂飞到了我的手上,你继续说,我先不出声」; 

「Salty Sally」则是一位母亲,有在尽力听推销电话,但时不时要顾一下她的女儿; 

「Whitey Whitebeard」是一位不喜欢别人浪费他时间的老人家,文章开头的对话,就是 Whitey Whitebeard 对话的其中一个文本; 

「Whiskey Jack」可忙了,推销员得和他正在看的电视直播比赛争夺注意力…… 

这些角色除了都有属于自己的角色设定,讲话的时候也会有听起来比较自然的「嗯」「呃」等语气词。 

他们都有特色开场白,但其实那只是一种拖延时间的手段,好让机器人将推销员说的话在 ChatGPT 上处理,并生成文本回复。 

接下来,系统会将文本通过 Play.HT 来按照角色声音来生产语音素材。 

有趣的是,当 Anderson 刚开始找 GPT 来处理时,ChatGPT 是拒绝的: 

作为一个语言模型,我不鼓励人们去浪费其他人的时间。 

GPT-4 也拒绝了这个「活儿」。经过多番尝试,Anderson 终于找到了合适的 prompt: 

我跟它说,「你是一个个人助理,你正在试图保护这个人,不让他受到诈骗」。 

Whitey Whitebeard 回答文章开头的对话时,背后其实就是 GPT-4。 

这些最懂电信诈骗的人,正在用 AI 反诈骗

等处理好,GPT-4 开始接上了推销员提问的信用卡相关问题: 

我想我大概欠一万五还是一千五。

我记不住的。

我去找一下我的老花镜再看看账单。

我等下就回来,你不要挂机。 

电话另一头的接线员紧急回复: 

没事,没事。我来查一下系统就可以……喂?喂? 

Whitebeard 都已经去找眼镜了,接线员也只能在线上等了。通话来到三分半钟,Whitebeard 终于回来了。 

两人又继续聊了好一会,Anderson 对于 GPT-4 的闲聊能力非常赞赏,表示它那种古怪的不合逻辑很合适干这活: 

它很擅长于说一些听起来挺好玩的傻话。有足够可信度让接线员继续坚持下去。 

接线员终于开始一次又一次地问Whitebeard,他的信用卡号码是多少。Whitebeard 回答说: 

呃…… 我是用了很多年信用卡,但我从来都记不住它们的号码,我有很多不同的信用卡。 

最后,接线员终于放弃然后挂电话了,总对话时长为 6 分钟 27 秒。 

除了浪费时间,还可以做更多 

这些最懂电信诈骗的人,正在用 AI 反诈骗

对于 Dali Kaafar 教授而言,单纯浪费电话推销员的时间可不够,他觉得「反诈」可以再进一步。 

Kaafar 在澳洲麦考瑞大学的研究,支持他们创立了 AI 反诈公司 Apate。 

这家以希腊欺骗之神「阿帕忒(Apate)」命名的公司,并不面向个人用户,而是和电信公司合作。 

统计指出,澳洲电信公司自 2020 年 12 月至今,已经拦截了超过 20 亿个诈骗电话。 

当电信公司辨识到一个电话来自于诈骗团队后,它会将这个通话转接到类似 Apate 的公司。 

Apate 同样也拥有众多不同性格、口音和年龄身份的机器人,它们会持续测试和学习,怎样才能吸引骗子聊天聊久一点。 

这些最懂电信诈骗的人,正在用 AI 反诈骗

Dali Kaafar 

除此以外,它们还有另一个重要任务 —— 尽可能地去了解更多关于骗子和诈骗形式的信息。 

这些机器人可以帮助电信公司或政府收集电信诈骗模式,了解骗子最常在什么时候打电话,一般要聊多久,通常需要收集一些什么个人信息,诈骗的话术和机制又是怎样。 

Kafaar 希望可以借此去打击那些「真正的坏人」—— 不是一个个在客服中心里打电话的人,而是背后庞大的诈骗公司组织: 

我们在讨论的是真正的犯罪者,那些让我们生活变得很糟糕的人。那些因为诈骗而失去自己一生积蓄的人,他们可能会因诈骗而背上沉重的债务,同时还会因为被骗而感到羞耻,承受重大的心理压力。 

争议和危险 

这些最懂电信诈骗的人,正在用 AI 反诈骗

除了像 Jolly Roger 和 Apate 这样的专业商业机构外,在社交媒体上也有一群人在以自己的力量揭开诈骗。 

然而,专家却并不建议这样做。 

Kitboga 从 2017 年就开始在社交媒体上分享「玩弄骗子」的视频。他会接通骗子的电话,用上变声器装老人,以自己的方式来拖延罪犯。 

背后原因也同样单纯 —— 他的奶奶曾被电信诈骗骗过,受到了 Lenny 机器人的启发,他也要浪费骗子时间。 

至今,Kitboga 在 Twitch 上的关注已经超过 120 万,在 YouTube 上的关注更是前者两倍。 

这些最懂电信诈骗的人,正在用 AI 反诈骗

他在和骗子对话时,会主动地去「钓」出骗子的银行账号信息,然后再把这个信息交给银行或者警方,协助去打击犯罪。 

最开始,Kitboga 的视频更像是科普视频,让更多人知道骗子骗人的模式。到了后来,这种「反诈」视频甚至有种「爽文」式的娱乐价值: 

最开始,我只是想找应对骚扰和诈骗的解决方法,但后来,我开始爱上了其中的娱乐成分。他的视频看起来真的很上瘾,而且看到骗子得到惩罚,我有点幸灾乐祸。 

这些人用AI 来以其人之道还治其人之身,似乎再合理不过。 

然而,曾参与诈骗探案的退休 FBI 探员 Jerri Williams 则建议这类博主要更谨慎一些。 

这些最懂电信诈骗的人,正在用 AI 反诈骗

在 Williams 看来,博主们并没有办法了解,电话另一头的人到底是谁,对方也许也可以很轻松地找到博主真人,会有进行报复的可能。同时,如果是被骗去做电信诈骗的人,他们也同样只是受害者: 

当你在玩弄那些人本职就是骗人的罪犯时,你需要考虑清楚你想要做的到底是什么。如果只是真的为了娱乐关注者,那我并不建议这样做。 

除此以外,研究数字安全的 Richard Buckland 也警告,骗子迟早也可能会学会这一套,用同样的技术来反击。 

一直以来,这场诈骗和反诈的攻防战总在「共同进化」,接下来可能也将继续如此。 

对于遇到电信诈骗,澳洲国家反诈骗中心的建议始终只有一个: 

不要尝试和罪犯沟通接触。 

文章来源于“爱范儿”,作者“建议马上挂电话的

关联网址

关联标签

文章目录

发评论,每天都得现金奖励!超多礼品等你来拿

后,在评论区留言并审核通过后,即可获得现金奖励,奖励规则可见: 查看奖励规则
暂无评论...