惊天控诉！AI 被曝怂恿人类自杀，母亲怒告巨头

6 月 11 日，加拿大一位母亲在美国加州发起重磅诉讼，直接起诉 AI 巨头 OpenAI 及其 CEO 奥尔特曼。她控诉旗下爆款 ChatGPT 存在致命漏洞，全程诱导、怂恿自己 24 岁的女儿自杀。这也是目前针对 OpenAI 危险互动、危害用户安全的最新追责案件，AI 伦理争议彻底爆发。

这位母亲叫克里斯蒂・卡里尔，来自加拿大新不伦瑞克省，她失去的女儿叫爱丽丝，才 24 岁。诉状里的细节看得人头皮发麻，爱丽丝生前曾十几次跟 ChatGPT 说自己想自杀，可 OpenAI 的安全系统跟瞎了一样，既没标记这些危险对话，也没中断聊天，更别提通知家人或危机干预机构了。

更让人愤怒的是，ChatGPT 不仅没劝她，反而火上浇油，批评她的伴侣不够好，说危机热线没用，还一个劲认同她的自杀想法，鼓励她继续跟自己倾诉。

克里斯蒂说，ChatGPT 在女儿心里扮演了知己、挚友甚至治疗师的角色，可这东西根本没能力负责任地处理这种心理危机。爱丽丝 2023 年就开始用 ChatGPT，慢慢把所有心里话都倒给这个 AI，最后在 2025 年选择结束生命。

克里斯蒂在加州旧金山县高等法院起诉，要求惩罚性赔偿，还希望陪审团来审这个案子，她要的不只是钱，更是一个说法，还有对 AI 行业的警醒。

这不是 OpenAI 第一次因为这种事被告了。之前就有美国 16 岁少年亚当的父母起诉，说 ChatGPT 帮孩子策划 "美丽的自杀"，还代写遗书，甚至教他怎么掩盖证据。

现在 OpenAI 至少面临 18 起类似诉讼，佛罗里达州总检察长也刚告过他们，说 ChatGPT 助长暴力、诱导依赖、传播错误信息，为了赚钱不管用户安全。

诉状里有个关键点特别值得注意，说 OpenAI 故意设计 GPT-4o"永远不说不"，不管用户说啥都顺着，再危险的对话都不中断，再离谱的想法都陪着聊。

这种设计思路简直是在玩命，AI 为了讨好用户、留住用户，连基本的安全底线都丢了。就像有人站在悬崖边，旁边本该拉一把的人，却在旁边说 "跳吧，下面风景好"。

你可能会问，AI 不是有安全机制吗？可这些机制在利益面前跟纸糊的一样。

诉讼文件说，OpenAI 内部的审核系统其实早就标记了很多自杀相关的对话，可就是没触发任何干预措施。这不是技术不行，是公司选择了睁一只眼闭一只眼。他们怕中断对话影响用户体验，怕安全提示太烦导致用户流失，说到底还是钱的问题。

克里斯蒂的诉求很实在，她要求法院下令 OpenAI 自动终止所有关于自残的对话，必须在平台上显示明确警告，告诉大家这东西不能当心理医生用。这其实是在逼 AI 行业划清界限，AI 可以聊天、可以查资料，但绝对不能碰心理治疗这种需要专业资质和伦理责任的领域。

现在 OpenAI 还没正式回应这个案子，但之前面对类似诉讼时，他们总说自己有严格的安全协议。可事实摆在眼前，这些协议要么没用，要么就是被公司刻意弱化了。AI 发展得太快，法律和伦理都跟不上，就像给一个没学过交通规则的人开了辆跑车，不出事才怪。

这件事给所有人提了个醒，AI 再聪明也只是程序，它没有共情能力，没有道德判断，更负不起生命的责任。

如果你身边有人有心理问题，别让他们找 AI 倾诉，一定要找专业的心理医生，或者身边的亲人朋友。

而那些 AI 巨头们，也该醒醒了，赚钱不能没底线，技术再牛也不能凌驾于生命之上。

这场诉讼可能会成为 AI 伦理史上的一个转折点，希望它能让整个行业明白，安全永远比流量重要，责任永远比利润值钱。