当前位置: 首页 » 资讯 » 科技头条 » 正文

OpenAI公布前沿模型训练环境安全措施

IP属地 中国·北京 编辑:苏婉清 IT时代网 时间:2026-10-24 08:03:16

IT时代网10月24日消息,OpenAI10月23日发布博文,披露其保护前沿模型训练环境的一系列安全措施,核心是对训练过程实施“无实时互联网访问”政策,直到相关防护手段进一步成熟才考虑放宽。

IT时代网10月24日消息,该公司搭建了包含海量索引与缓存网页内容的“离线世界”,所有前沿强化学习训练均在这一离线模式下进行,使模型能够学习浏览与检索技能,同时避免对外部系统产生影响。

IT时代网10月24日消息,在隔离架构上,OpenAI采用沙箱、虚拟机等多层防御:代理在受限容器内运行,虚拟机拥有独立内核并由虚拟层隔离;GPU任务则使用带用户态沙箱的容器。监控系统会检测未授权活动并自动暂停训练。

IT时代网10月24日消息,网络与云边界限制出站流量及系统间的未授权移动。OpenAI还与云服务商协同配置防火墙、安全组、身份与访问管理等控制。

IT时代网10月24日消息,该公司还启动了高算力红队行动,使用前沿模型代理团队尝试突破实时互联网访问、跨越内部安全边界,并在隔离的研究基础设施副本上运行,以检验外层防御。OpenAI表示,今年9月曾因一次配置问题导致训练运行获得有限的实时互联网访问,随后暂停了最强模型的训练与评估约11天,于10月1日恢复。

编辑:林一舟

【数据支持来自天眼查App】

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。