犯傻的AI客服，害了多少人？

AI客服又在害人了！

2022年，加拿大的Jake Moffatt在加拿大航空的网站上被AI客服告知，在丧亲旅程中可以提供一些退款。于是，他在参加祖母葬礼的旅程中选择了加拿大航空的航班。

但后来，网站显示，Jake无法得到退款，也就是说，AI客服提供的信息是错误的。为此，加航并没有为Jake提供退款，而是承诺他们将会更新他们的AI客服，并提供一张优惠券。但Jake Moffatt并不满意，于是对加航提起了诉讼。

在诉讼的文档中，加航辩称，他们并不能为网站上的AI客服提供的信息负责。看起来，加航似乎觉得AI客服“是一个独立的法律实体，它要对自己的行为负责”，并且说，如果用户想选择“值得信赖的”服务的话，应该去看网页本身的信息。

不过在今年2月，法院判定加航将为Jake赔偿应有的退款和诉讼费用。而后来记者还发现，加航的网站似乎关掉了AI客服的功能。

成熟的AI需要自己为自己负责了｜giphy

不过，现在许多网站上都开始用AI客服代替人工客服了，随便打开一个网站，可能就会自动弹出一个聊天机器人，在我们咨询的前期，它们已经取代了人工客服，来回答一些简单的问题。不过，AI客服越来越常见，其中浮现的问题也越来越多。

在2023年12月，一个用户骗一个AI客服说2024年的雪佛兰Tahoe只需要1美元，结果AI真的以1美元的价格售出了车。后来的法律顾问还说：这笔交易确实是具有法律约束力的。

除了让客户摸不着头脑外，另一些客户则是被AI客服“骂”了。今年1月，Ashley Beauchamp决定在一家欧洲快递公司DPD找到他丢失的包裹，不过，AI客服说话不太让人开心，因此，Beauchamp便开始尝试着让AI说点奇怪的话，比如让它讲个笑话。还比如骂自己的公司。

AI客服照做了，它不仅说自己的公司是个没用的公司，简直是“世界上最糟糕的送货公司。不推荐！”，而且还自称是“没办法帮你的无用聊天机器人”。AI甚至还写了一首诗来骂公司。

AI：我是个没用的（骂公司）机器人。

这件事被公开了之后，这家“成功运行AI多年的”DPD公司立刻表示，这是系统更新后的错误，AI会在系统更新后重新启用。而Beauchamp，至今也没有拿回他丢失的包裹。

这个问题早先就已经出现过，若没有对AI进行一些预防措施，AI也会“不学好”。2016年，微软在推特上推出了一款名为Tay的聊天机器人，并表示，你聊得越多，Tay就会越来越聪明。

然而，在推出15个小时后，人们就发现Tay变“坏”了，它开始发表各种与种族主义、性别偏见相关的极端言论，甚至还会自发说出一些奇怪的话，还会疯狂回复用户。Gizmodo的新闻标题说，Tay已经疯了。

而原因也很显而易见，The Guardian的一篇报道评论道：“Tay 本质上是一只能连上互联网的机器鹦鹉。”因为它其实就是会重复它学到的东西，可能也就学到网络键盘侠说的话……微软曾指出，Tay学到的公共数据，其实已经经过了一些过滤，但事实证明，Tay无法过滤新学到的东西。

由于它说了太多奇怪的话，删都删不过来，因此2016年3月23日推出的Tay，在2天后就下线了。不过，这也给制造AI的人提出了一个严重的问题，当人们使用公共数据来建构一个AI时，该如何合理地采取预防措施？

事实上AI一本正经地说了一大堆都是瞎编的？｜vivepostwave

“幻觉”指的是AI开始说胡话，也就是它自信地将一些不正确的信息陈述为事实。AI除了向客户说出一些乱七八糟的话之外，还会给公司造成严重的损失。

2023年2月，谷歌推出的Bard在一个广告中说，它可以为9岁的孩子讲述詹姆斯·韦布太空望远镜的科学新发现，然而在视频广告里，它却说错了（弄错了第一张系外行星的照片）。这波反向营销（？）直接让谷歌的母公司Alphabet市值下跌了1000亿美元。

困扰我们的不仅是AI的胡言乱语，最重要的是它难以解决任何问题。当我们想要咨询或维权时，由于AI客服没能力解决问题，对话总是会陷入糟糕的“末日循环”中：永远重复着几句没用的话，浪费咨询者的时间。2024年一项英国的数据显示，AI客服让消费者对客服的满意度跌到8年以来的最低点。

美国机构消费者金融保护局（CFPB）就提到，AI客服的末日循环是一个日益严重的问题，特别是在金融服务行业。在用到AI客服时，顾客会感到浪费时间、困惑、沮丧、收到不准确的信息，以及支付更多垃圾费用。因此，有人建议，想要得到帮助时，还是得前往银行，或者给客服打电话。

永远得不到想要的回复。｜traveldaily

而AI客服带来的另一个危害则是隐私泄露。当社交软件Snapchat推出了一款由OpenAI提供支持的AI聊天机器人后，用户似乎怀疑它使用了用户的位置数据。2018年，英国一家公司的AI聊天机器人被黑客入侵，窃取了6万人的支付信息。因此，越来越多人也在网上开始提醒，在使用AI客服时，不要暴露自己的太多信息。

Snap的My AI被怀疑收集用户数据。｜Snap

总而言之，一个无法解决复杂问题，不能提供正常引导的AI客服，很有可能靠不住，甚至让我们面临严重的损失。因此如今在选择网站帮助时，最好还是直接寻找人工客服。

参考资料：

[1]https://mashable.com/article/air-canada-forced-to-refund-after-chatbot-misinformation

[2]https://www.theguardian.com/technology/2024/jan/20/dpd-ai-chatbot-swears-calls-itself-useless-and-criticises-firm

[3]https://www.washingtonpost.com/technology/2023/04/27/chatgpt-messages-privacy/

[4]https://www.consumerfinance.gov/data-research/research-reports/chatbots-in-consumer-finance/chatbots-in-consumer-finance/

[5]https://www.reuters.com/technology/google-ai-chatbot-bard-offers-inaccurate-information-company-ad-2023-02-08/

[6]https://entertainment.slashdot.org/story/23/12/21/0518215/car-buyer-hilariously-tricks-chevy-ai-bot-into-selling-a-tahoe-for-1

[7]https://www.bbc.com/news/technology-68025677?xtor=AL-72-%5Bpartner%5D-%5Bbbc.news.twitter%5D-%5Bheadline%5D-%5Bnews%5D-%5Bbizdev%5D-%5Bisapi%5D&at_link_type=web_link&at_ptr_name=twitter&at_campaign_type=owned&at_campaign=Social_Flow&at_bbc_team=editorial&at_medium=social&at_link_id=FA695082-B6F9-11EE-A6B8-F489D0B4AF07&at_link_origin=BBCWorld&at_format=link

[8]https://www.pbs.org/newshour/economy/customer-service-chatbots-used-by-banks-raises-concerns-for-consumer-watchdog

[9]https://link.springer.com/article/10.1007/s12525-020-00414-7

[10]https://www.theguardian.com/technology/2016/mar/24/tay-microsofts-ai-chatbot-gets-a-crash-course-in-racism-from-twitter?CMP=twt_a-technology_b-gdntech

本文来自微信公众号：把科学带回家 （ID：steamforkids），作者：Skin