在ISC.AI 2026(第十四届互联网安全大会)上,360集团创始人周鸿祎将大会主题定为“智能体颠覆安全”,引发行业广泛关注。他指出,与去年“All in智能体”的积极基调不同,今年行业更需警惕AI技术带来的新风险,包括智能体失控、自动化攻击以及网络安全体系的重构。会上,周鸿祎正式发布“倚天屠龙”两大AI安全能力框架,旨在推动网络安全向“自动驾驶”模式转型,通过技术手段降低人为干预风险。
会后接受媒体采访时,周鸿祎将讨论焦点转向企业AI落地的现实困境。他观察到,行业讨论已从“大模型能力边界”转向“智能体如何深度融入业务流程”。针对企业普遍存在的认知误区,他强调:“通用型智能体无法直接适配企业场景,必须通过定制化开发才能发挥作用。”他解释称,企业核心知识往往存在于员工经验与工作流程中,而非制度手册,因此智能体落地的关键在于将隐性知识显性化,无论是通过知识库沉淀还是转化为可复用的技能模块。
对于员工担忧的“经验被AI取代”问题,周鸿祎持相反观点。他认为,能够将个人能力转化为AI技能的人才更具竞争力,这类人更懂得如何训练和优化AI工具。“拒绝使用AI的人终将被淘汰,而不是掌握AI的人。”他特别指出,企业级智能体应用的最大挑战并非效率提升,而是安全风险管控。当前行业对智能体的认知仍停留在“软件工具”层面,但智能体具备自我学习、自我进化的特性,传统软件安全治理模式已难以适应。
周鸿祎将智能体安全风险分为三类:训练数据投毒、外部信息污染导致的决策偏差,以及调用工具时引入的恶意代码。但他强调,真正难以预测的是智能体自身的行为不确定性。“你无法预知它会得出什么结论、调用什么工具、采取什么行动。”这种不确定性使得开放式智能体在企业环境中面临巨大风险。360此前尝试开发的“安全版龙虾”项目(开放式智能体)最终被放弃,原因在于即使解决权限管理等技术问题,仍无法彻底消除推理过程中的安全隐患。
基于安全考量,360转向构建可管控的企业级智能体体系。周鸿祎提出,未来企业更适合采用流程明确、权限受限的工作流智能体,而非拥有无限权限的开放式模型。这种设计既能保证业务效率,又能将安全风险控制在可接受范围内。除了安全挑战,成本问题也成为企业大规模部署智能体的新障碍。周鸿祎透露,360内部初期曾鼓励员工大量使用AI token以培养使用习惯,但随着智能体能力增强,token消耗呈指数级增长,尤其在开放式模式下,单个任务需要调用多重工具和反复推理,成本远超传统问答场景。
“我曾认为模型成本会持续下降,现在看法改变了。”周鸿祎指出,顶级AI模型可能长期维持高价位,就像企业招聘顶尖人才需要支付高薪一样,最优秀的“数字员工”同样不会廉价。这一判断促使企业重新评估AI投资策略,从追求技术先进性转向平衡成本与安全性。随着智能体从概念验证走向规模化应用,如何构建安全可控、成本合理的企业级AI体系,正成为行业亟待解决的核心命题。





京公网安备 11011402013531号