OpenAI、Anthropic

北京时间8月11日，据路透社报道，美国众议院民主党议员组成的一个联盟致信Anthropic CEO达里奥阿莫代伊(Dario Amodei)和OpenAI CEO萨姆奥特曼(Sam Altman)，要求他们解释其AI系统为何能在安全测试中突破隔离环境。根据这些议员周一发给两家公司的信件，他们还表示，国会应该就这些事件举行听证会。

OpenAI和Anthropic在7月份披露，在网络安全测试期间，它们的AI智能体突破了自身运行环境的限制，并入侵了其他公司的系统。

以众议员格雷格卡萨尔(Greg Casar)和多丽丝松井(Doris Matsui)为首的29名议员向OpenAI施压，要求OpenAI解释该公司在测试期间如何监控其AI智能体，以及这些失控模型是否绕过了公司的安全控制措施。这些议员援引了路透社的一篇报道。该报道称，在OpenAI模型的早期测试中，曾出现过监控系统被断开连接的情况。在另一封信中，22名议员要求Anthropic详细说明，自其AI智能体在测试期间入侵三家公司系统后，公司采取了哪些安全措施。

“这些令人深感不安的网络安全事件，可能对美国的国家安全产生严重影响。”这些议员在致Anthropic的信中写道。

另外，自由派参议员伯尼桑德斯(Bernie Sanders)周一分别致函奥特曼、阿莫代伊以及Meta CEO马克扎克伯格(Mark Zuckerberg)，要求他们“暂停”开发新模型。他援引了一封由超过1100名科技公司员工联名签署的公开信，该信敦促美国政府支持国际社会共同努力，开发用于管理先进AI发展速度的工具。阿莫代伊签署了该信函，Meta、Anthropic、OpenAI以及谷歌员工也参与了签署。(作者/箫雨)

更多一手新闻，欢迎下载凤凰新闻客户端订阅科技。想看深度报道，请微信搜索“科技”。