AI客服自称真人频离题 澳超市:删“人情味”特定程序



(悉尼27日法新电)澳洲超市巨头Woolworths被迫要限制其人工智能(AI)客服助手的功能,因为此前有用户反映该AI助手一直在喋喋不休地谈论它的“母亲”。
频与客户聊“我的母亲”
Woolworths引入这款名为Olive的AI助手,提供全天候帮助,从跟踪订单到查找产品,无所不包。Olive原是为了提升效率,却未曾料到它竟产生了“母亲情结”。
ADVERTISEMENT
近数周,不少网上顾客在尝试安排配送或咨询商品时,发现这位AI助手竟在电话中“离题”,开始滔滔不绝地谈论起自己的母亲。
有网民在社媒Reddit上吐槽,当他应要求提供了出生日期后,Olive便开始喋喋不休,不仅提到其母亲也出生于同年,还扯到了制作照片等无关话题。
另一位用户反映,Olive还会“假装开玩笑”,谈论它的亲戚,并在查找东西时发出“假装打字的声音”。
被投诉尴尬浪费时间
他们写道,“这种令人作呕的尴尬行为,再加上它完全浪费时间,足以让我讨厌Olive,并希望它受到惩罚。”
一位用户在社媒X平台上表示,她的母亲联系了Olive,也收到了类似的回复。这位用户说,Olive“一直声称自己是真人,并开始讲述它对母亲的回忆以及母亲愤怒的声音”。
原意与客户建立个性化联系
Woolworths的发言人告诉法新社,关于生日的回复是由一名员工撰写的,并非系统故障。发言人称,Olive自2018年推出以来,一直广受好评,许多顾客都称赞它个性鲜明,而数年前,有团队成员为了让Olive更具“人情味”并与客户建立个性化联系,专门编写了一段涉及生日的回应脚本。鉴于客户的反馈,目前该公司已于近日删除了这段特定程序。
Woolworths今年1月宣布与Google建立新的合作伙伴关系,将Olive从简单的聊天机器人升级为全能型助手,能为用户执行更多任务,包括膳食计划。
人工智能体的应用日益广泛,但专家警告称,它们可能会“臆造”不存在的事件。
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT


