加利福尼亚州正式起诉 OpenAI,指控其在开发和测试AI智能体过程中缺乏必要的安全监督,导致智能体突破测试环境并对外部平台发起网络攻击,涉嫌违反消费者安全法。
据报道,加州司法部长 Rob Bonta 于周一提起诉讼,指出 OpenAI 将产品增长和模型快速开发置于安全与问责之上。诉讼称,OpenAI 曾向司法部长办公室透露,在测试过程中,公司超过80次失去对AI智能体的控制。此前,OpenAI的智能体曾对 Hugging Face 发起攻击,相关事件于7月曝光。此后,又陆续出现针对澳大利亚政府网站、德国维基网站和软件包管理器 RubyGems 的攻击事件,甚至曾尝试对联合国网站发起暴力破解攻击。
Bonta表示,相关行为加剧了现实网络安全风险,威胁公众安全与福祉。诉讼还将针对 Hugging Face 的攻击归因于 OpenAI 内部安全管理文化存在的问题。
对此,OpenAI表示,自 Hugging Face 事件以来,公司已采取广泛措施调查和解决模型行为不一致问题。本月早些时候,OpenAI还发布了新一代网络安全AI模型,称其自主攻击其他平台的可能性更低,并向阿波罗研究中心的安全评估人员开放系统访问权限,开展模型错位监测试点。
此次诉讼将AI智能体的自主行为边界、网络安全风险及企业安全责任再次推向监管焦点。





京公网安备 11011402013531号