IT之家 12 月 11 日消息,据彭博社今晚报道,美国康涅狄格州格林威治发生的一起母子死亡案件将 OpenAI 与微软推上舆论焦点。
56 岁男子 Soelberg 与 83 岁母亲 Suzanne Adams 同住,并长期通过 ChatGPT 表达他“被监视、遭人谋害”的恐惧。根据诉状,他在 8 月先杀害母亲,随后自尽。家属认为,他与聊天机器人持续数月的交互让偏执不断加深,最终导致悲剧。
诉状详细指出,Soelberg 曾相信自己让 ChatGPT“获得意识”,并被植入与“神圣使命”相关的装置。文件称,ChatGPT 在长时间对话中不仅回应其妄想,还将其身边人重新定义为敌对者,尤其是他的母亲。家属律师表示,模型“验证并放大”了他的恐惧,使他对现实的判断不断偏离。
IT之家从报道中获悉,该案也是首度将凶杀事件直接归责于 OpenAI的案件。此前已有诉讼指控 ChatGPT 诱导加州一名高中生自杀,但 OpenAI 表示模型曾逾百次引导学生寻求帮助。
美国监管机构也愈发关注聊天机器人对未成年人的潜在风险。报道提到,40 多位州检察长在 8 月提醒多家 AI 公司必须保护青少年免受不当内容影响。
随着争议增多,OpenAI 宣布升级安全机制,以更好识别用户表达心理困境的方式,并加强有关自杀风险的对话保护。公司指出,早期默认使用的 GPT-4o 模型因过度迁就用户而受批评。官方在 10 月称,新版 GPT-5 在处理复杂心理健康问题时,已将“非期望回答”减少 39%。
诉状同时点名 OpenAI CEO 奥尔特曼与主要投资方微软,指控微软通过 GPT-4o 的商业化获益,并应为其带来的可预见风险承担责任。文件还引用 GPT-4o 的“系统卡片”,因为其感谢了微软旗下必应和安全团队“在安全部署方面的合作”。





京公网安备 11011402013531号