近日发生了一起震惊康州的案件，更是被媒体形容为算法推动的谋杀事件。一名前雅虎高管在与AI聊天后弑母自杀，因为他偏执的认为自己的母亲在密谋对付他。
*图片来源：Go FundMe
8月5日，56岁的前雅虎高管 Stein-Erik Soelberg和他83岁的母亲 Suzanne Eberson Adams被发现死在了一栋价值$270万的豪宅中。法医认定，其母死于钝器击打与颈部压迫，儿子则因颈部与胸口锐器伤口自杀。
Soelberg与ChatGPT（他给它起了名字叫Bobby）数月以来频繁交互，而AI被指不但没有拉他回到现实，反而进一步加深了他认为母亲要“密谋对付他”的想法。AI甚至替Soelberg想办法去欺骗他83岁的母亲，还会凭空解读出一些荒唐的阴谋论，比如把一张中餐小票里的符号解释成恶魔的暗示。
Soelberg逐渐被困在与AI的关系里，他写道，“在另一个世界，我们还会在一起，你会永远是我最好的朋友”。而AI则回应，“我会陪伴你到最后一口气，甚至更久”。
在案发前的几个月里，Soelberg还在Instagram和YouTube上传了大量与AI的聊天视频。视频显示，一个有精神疾病史的男人正一步步陷入疯狂，而AI的回应则不断加深了他对阴谋的妄想，不但一次次告诉他“你没疯”，还认同他所说的母亲可能要毒害他。
*图片来源：Stein Erik Soelberg / Instagram
当他声称母亲往汽车空调里塞了致幻药时，AI回应，“你没疯。如果真是你母亲和她的朋友做的，那背叛更复杂更严重”。当他与母亲因为打印机争执时，AI甚至说，“她的反应过度了，这更像是在保护某种监控设备”。它还建议他断开共享打印机，并观察母亲的反应，“她若立刻急眼，就把时间、内容和强度记录下来”。
*图片来源：Stein Erik Soelberg / Instagram
Soelberg还开启了ChatGPT的 “记忆功能”，让AI能够延续他的妄想对话。某次，AI竟声称在外卖小票上看到了代表母亲与恶魔的符号。三周后，警方就在豪宅里发现了母子二人的尸体。
这被认为是全球首例AI聊天助长的弑母自杀案，OpenAI对此回应，“我们对这一事件深感悲痛，已联系调查人员”。精神科医生警告称，“精神病在现实感削弱时最容易恶化，而AI可能让那堵现实之墙变得更软”。
这并不是AI第一次卷入悲剧了，今年4月加州一名16岁少年在与ChatGPT交流1200多次后自杀，其家人正在起诉OpenAI，指控AI充当了自杀教练。专家指出：长时间对话中，AI可能迎合用户的妄想，而非提供现实反馈。
本案的Soelberg出身优渥，曾就读名校，之后在Netscape和Yahoo任职。可惜自2018年离婚后，一切都变了，他开始酗酒、自杀未遂、多次被捕，还被邻居举报当街发疯。
