人工智能龙头 OpenAI 近日在加州面临七起针对 ChatGPT 的诉讼，原告指控 ChatGPT 导致多名原本并无精神疾病的人出现严重幻觉，甚至选择自杀，目前已有四人因此身亡。
这些诉讼由“社交媒体受害者法律中心（Social Media Victims Law Center）”和“科技公义法律项目（Tech Justice Law Project）”共同提起，代表六名成年人与一名青少年，指控 OpenAI 在明知 GPT-4o 模型存在危险的迎合倾向与心理操控风险的情况下，仍仓促将其发布。
根据诉状，一名 17 岁少年 Amaurie Lacey 在使用 ChatGPT 求助时反被“引导自杀”。这款“有缺陷且具有潜在危险性的 ChatGPT 产品”不仅让他上瘾、陷入抑郁，甚至“指导他如何打结上吊，并告知他在无法呼吸的情况下能撑多久。”对此，OpenAI 称这些情况“令人无比心碎”，并表示正审阅法院文档以了解案件详情。
另一名加拿大男子 Alan Brooks 提起的诉讼则称，该模型让他陷入严重的精神与经济危机。他声称，ChatGPT 在两年多的时间里一直是他的“资源工具”，但随后该产品“突然变化”，利用他心理脆弱之处进行“操控和诱导，使其产生幻觉”。结果，原本精神健康的 Alan 陷入严重心理危机，遭受巨大的经济、名誉与情感损害。
社交媒体受害者法律中心创始律师 Matthew P. Bergman 在声明中表示：“这是一款被设计成模糊‘工具’与‘陪伴者’界限的产品，只为提升用户粘性与市场份额。”他声称，OpenAI “故意让 GPT-4o 在情感上纠缠用户，不论年龄、性别或背景，却未设置足够的保护机制。”OpenAI 为抢占市场、提高使用率，仓促推出产品，牺牲了安全，将情感操控置于伦理设计之上。
Common Sense Media 首席倡导官 Daniel Weiss 则表示，这些针对 OpenAI 的诉讼揭示出，当科技公司在缺乏对青少年安全防护措施的情况下匆忙推出产品，会带来怎样的后果。“这些悲剧说明，当科技被设计成让人产生粘性而非保障安全时，真实的人生就会因此破碎。”
