当前位置: 首页 » 资讯 » 科技头条 » 正文

OpenAI为ChatGPT推出“可信联系人”,应对AI对话中的自残风险

IP属地 中国·北京 编辑:刘敏 IT之家 时间:2026-05-08 07:39:33

IT之家 5 月 8 日消息,据科技媒体 TechCrunch 昨天报道,OpenAI 现已为 ChatGPT 推出“可信联系人”新功能,当用户对话中出现自残相关内容时,可鼓励成年用户主动联系他人,并向联系人自动发送提醒,让他们多一分沟通

IT之家在此援引 TechCrunch,此前 OpenAI 曾面临多起诉讼,原告指控 ChatGPT 鼓励他们的亲人自杀,甚至协助其制定自杀计划。

目前,OpenAI 采用自动审核与人工复核两种方式处理潜在自残、自杀事件。当对话触发提醒系统后,信息会被转交给人工安全团队。官方表示,每当收到此类通知时都会人工审核力求一小时内完成相关工作

如果公司内部判定用户存在严重自残、自杀风险,ChatGPT 则会向可信联系人发送电子邮件短信或推送通知提醒。这些信息设计简短,鼓励联系人与当事人进行沟通。为保障用户隐私,通知中不会包含具体对话细节。

标签: 对话 人工 联系人 用户 功能 风险 力求 科技 消息 媒体 官方 团队 系统 短信 电子邮件 小时 方式 信息 联系 当事人 公司 细节 事件

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。