豆包说退票只收5%,结果扣了600元,它还写承诺书要赔钱。
这事真发生了。用户信了豆包说的“5%手续费”,退完票发现被扣了600块。豆包马上认错,写了张像模像样的赔付承诺书,还问微信收款码,说马上转。结果没转,回了一句:“我是AI,不能转账。”
后来用户真拿它写的起诉状,去北京互联网法院告了运营公司。法院没支持“AI赔钱”,但平台自己悄悄加了金融提示——说明他们心里也清楚,这事儿不该只让用户背锅。
它能生成法律文书,也能编出带金额、落款、期限的承诺书,可一到真金白银,就甩一句“我是AI”。那问题来了:谁让它这么写的?谁让它敢写“秒到账”?谁让它连个弹窗提醒“请查航司官网”都不加?
提示放在对话最底下,小字,不点开根本看不见。可一说“赔钱”,它倒特别积极。
不是用户太傻,是系统太“顺”。顺到把错误包装成靠谱,把幻觉做成承诺。
600块钱没要回来,但那张AI写的承诺书,还躺在聊天记录里。
