德朗格

北京时间8月3日，据《商业内幕》报道，在遭到OpenAI失控模型的入侵后，AI公司Hugging Face CEO克莱芒德朗格(Clem Delangue)表示，需要强制披露AI网络攻击事件。

德朗格在周日播出的CBS采访中表示，想要阻止像OpenAI那样的黑客攻击，不能靠限制强大AI模型的发布。

“这些问题发生在未发布的模型上。所以我认为问题不在于限制技术进展或阻止公司发布这些模型，”他表示，“事实恰恰相反。应该让更多人能够接触到这些技术，这样他们才能保护自己。”

德朗格呼吁对“AI智能体网络攻击进行强制披露”。他说，只有提高透明度，所有人才能了解并防止类似事件的发生。“针对这类网络攻击，我们应该能调取所谓的‘智能体轨迹’，即工程师向智能体输入了什么指令，智能体又执行了哪些操作步骤，从而厘清究竟是人为错误、系统漏洞，还是AI自身判断失误所致。”德朗格称。

他还补充说，确保网络攻击在美国法律下仍然属于违法行为非常重要，这样才能避免未来出现“网络攻击大规模爆发”的情况。

OpenAI失控模型入侵Hugging Face的事件，为开源模型社区的支持者带来了一场重大胜利。开源模型是指其架构和训练代码可供任何人免费使用或修改的模型。

Hugging Face表示，他们使用了智谱AI的开源模型GLM 5.2，分析了超过1.7万条日志，协助抵御了来自OpenAI的攻击。

“我们是用开源模型来保护自己的。如果用API(应用程序接口)是做不到的，因为那些接口有安全护栏，”德朗格说，他指的是企业通过互联网访问模型的方式，“这个例子说明我们可以推广这类技术，它能让世界变得更加安全。”(作者/箫雨)

更多一手新闻，欢迎下载凤凰新闻客户端订阅科技。想看深度报道，请微信搜索“科技”。