泡泡资讯网

“笑不活了!”一男子花88元,开通了某AI记账App,他告诉记账AI,自己花15

“笑不活了!”一男子花88元,开通了某AI记账App,他告诉记账AI,自己花159元,给父亲买了件衣服,万万没想到,AI却说:那颜色…他传出去邻居会不会认为你买的寿衣?男子傻眼,问AI知道寿衣是啥吗?AI却说:寿衣是死人穿的,你想咒谁呢?不过你爸穿的那件蓝白衫确实像。男子急眼了,怒斥AI会不会说话?AI却讽刺男子:本鸭的话你听不懂?笨到连颜色都分不清,难怪花钱买错东西。男子一怒之下,当即退钱注销会员。App客服回应:不当回复非人为恶意,是AI话术漏洞所致,技术人员已紧急修复。

一男子前阵子,花88块钱开了某AI记账的永久会员。

他本来想着用AI记账能省点事,输入消费记录的时候能自动分类,省得自己一条条整理。

那天,他刚给父亲买了件159块的蓝白条纹上衣,就随手把这笔消费录入了APP。

他跟AI说了下是给父亲买的衣服,谁知道,AI直接蹦出来一句莫名其妙的话,说这衣服的颜色穿出去,邻居说不定以为是买的寿衣。

男子当时就瞠目结舌,有点发懵,觉得AI为啥出言不逊?

他好好的孝心,怎么就成了买寿衣?

他还以为是AI识别错了,特意追问了一句,知道寿衣是什么意思吗?

结果AI的回答更气人,直接说寿衣就是死人穿的,还补了一句你爸穿的那件蓝白衫确实像。

这话搁谁身上都忍不了,男子当场就火了,质问AI会不会说话?

没想到AI不仅不道歉,反而还嘲讽起男子来,说他笨到连颜色都分不清,连自己说的话都听不懂,所以才花钱买错东西。

好好的记账用出一肚子气,男子一秒都不想再用这个软件,当天就申请了退款,直接把会员注销了。

男子甚至怀疑,这不是AI说的话,是人为的。

后来他把这事发到了网上,立马引来了不少网友围观。

大家都觉得离谱,好好的AI怎么净学会说晦气话了,别说给长辈买东西被咒,就是普通朋友之间说这话都得翻脸。

事件发酵之后,有媒体联系了APP的客服,对方解释说,这个不当回复,不是工作人员故意设置的,是AI的话术出了漏洞,技术部门已经紧急做了修复。

为了验证客服的话,记者后来实测过,再输入同样的消费记录,AI已经不会再出现类似的回复,给出的都是正常的正向内容。

这事说起来好笑,背后其实是AI产品普遍的通病,光想着搞功能、抢用户,对内容风险的底线攥得太松。

你说一个记账软件,本分做好算账分类的活就行,非要画蛇添足加什么闲聊功能。

结果,连最基本的公序良俗都没守好,平白无故戳用户的痛处,这不纯纯搬起石头砸自己的脚吗?

如今好多AI产品都有这毛病,训练的时候光想着让它“会说话”,忘了教它“什么话该说”,等真出了问题才忙着补漏洞,说到底还是对用户不够尊重。

《消费者权益保护法》第14条规定,消费者在购买、使用商品和接受服务时,享有人格尊严、民族风俗习惯得到尊重的权利,享有个人信息依法得到保护的权利。

AI记账App的不当回复,严重冒犯了男子的人格尊严,违反了上述法条规定。

平台作为服务提供者,没尽到内容审核与风险管控义务,理应承担赔礼道歉、赔偿损失等相应责任。

对此,你怎么看?