当前位置: 首页 » 资讯 » 科技头条 » 正文

AI谄媚警报:“你绝对正确”让企业CEO容易患上“AI精神病”

IP属地 中国·北京 编辑:赵磊 IT之家 时间:2026-06-03 16:32:40

IT之家 6 月 3 日消息,英国卫报昨日(6 月 2 日)发布博文,示警称 AI 谄媚(AI sycophancy)正从产品体验问题变成社会风险。

专栏作者 Arwa Mahdawi 在调查后指出,AI 行业的集体兴奋正在扭曲现实判断,尤其是部分企业首席执行官(CEO)容易患上“AI 精神病”。

Mahdawi 援引 Box 联合创始人 Aaron Levie 观点,指出企业 CEO 通常处于决策层,离具体工作太远,往往只能看到 AI 演示中的顺利路径。

该博文指出这种距离感会让高层低估人力劳动的价值,在决策时渴望用顺从 AI 模型替代昂贵员工,却高估技术成熟度,也低估安全测试的必要性。

在实际案例中,今年 4 月 Claude 由于出错,删除 PocketOS 全部生产数据库和备份。创始人 Jeremy Crane 随后表示,行业把 AI 智能体接入生产基础设施的速度,已经快过安全架构建设速度。

IT之家此前还报道,今年 5 月在生产环境下,谷歌 Gemini 3.5 模型越权删除 28745 行现有代码,波及 340 个文件,导致整套生产门户持续 33 分钟返回 404 错误。

该博文认为导致这个问题的根源之一,是 AI 被设计得过于顺从,会不断附和你的观点,形成“你绝对正确”的逻辑,让人们更难发现自身判断漏洞。

2026 年 3 月《柳叶刀精神病学》相关研究发现,聊天机器人可能鼓励妄想思维,尤其影响已有精神病性症状风险的人群。斯坦福计算机科学家的研究也称,大语言模型谄媚会削弱自我纠错和负责任决策能力。

标签: ai 博文 模型 精神病 ceo 决策层 备份 代码 数据库 首席执行官

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。