近日,以“智领变革·新质未来——人工智能驱动经济高质量发展”为主题的2026年世界互联网大会亚太峰会在香港召开。天融信应邀出席并参与大会多个环节,结合自身实践经验分享了AI安全治理的趋势洞察与解决方案。
随着大模型技术从学术探索走向工程化突破,再到智能体深度嵌入生产应用,我们正经历一场深刻的生产力变革。大模型应用已从聊天工具进化为能自主决策、操控信息与物理系统的智能体,安全风险也随之演进——从传统网络攻击、数据内容合规,升级为对智能体“意图安全”的关切。系统安全、数据安全、模型安全、应用安全已成为大模型应用面临的核心风险。
在“AI×网络安全”主题沙龙上,天融信科技集团高级副总裁晋钢系统拆解大模型的四大核心安全风险,并逐一给出应对措施:
系统安全:强化算力平台安全运维能力,落实漏洞修补与安全测试,构建全流程安全防护机制。
数据安全:严格规范训练数据质量管理,强化数据供应与对抗性过滤,保障数据全生命周期流转安全。
模型安全:提升模型算法可解释性,建立全流程安全开发规范,强化模型攻防与权限管控。
应用安全:构建模型运行安全防护机制,部署动态安全护栏与内容过滤,规范智能体运行与权限管理。
从实践角度,晋钢提出三大原则:强化全生命周期管控、人工智能赋能安全、构建体系化立体防御。其中,最重要的是以体系化的安全保障大模型应用。
天融信基于多年技术深耕,已构建“1个中心+3大能力+X项标准化防护”的体系化大模型安全防护体系,覆盖大模型训练、部署、推理全流程,提供资产梳理、漏洞检测、数据防护、行为审计、应急响应等一站式能力,有效应对智能体时代各类安全威胁。
同时,天融信持续推进技术产品创新,发布大模型多模态安全网关、大模型数据安全监测、API安全审计、大模型安全评估等产品,实现对智能体全流程管控,已在政府、金融、能源、医疗等多行业落地验证。
天融信科技集团高级副总裁 晋钢(右2)
在圆桌对话环节,晋钢谈到当前安全智能体的应用主要分为三种不同类型:通用型智能体如漏洞、流量分析等,安全厂商可提供专业支撑;行业型智能体如数据分级分类、合规检测等需要行业主管部门牵头制定标准;定制型智能体则是贴合企业业务,联合专业安全厂商共同打造。具体到安全方面,由于安全智能体对准确性要求极高,需要依托垂域大模型提供能力支撑。
针对当前企业引入智能体存在的风险以及安全防护,晋钢建议将智能体纳入企业IT统一管理,规避“影子智能体”风险;明确业务目标,限制智能体行为与权限;守住敏感资产和数据底线,跟进漏洞升级,同时强化多维度防护。在技术防护方面,加强端点管理,监控操作行为;建立Skill管理,引入前检测其风险;设置大模型防护围栏,审计API调用;主动探测发现内部违规智能体。
会上,中国香港网络安全专业协会对为香港网络安全产业标准和规范制定做出卓越贡献的单位予以表彰,天融信获威胁情报支撑单位积极贡献奖。
同期,天融信还参与了世界互联网大会人工智能与网络安全能力建设高级研修班。
天融信科技集团香港办事处常务副总经理 梁宗豪(左2)
天融信与中国电信国际、华为国际等围绕“开源AI Agent——效率革命与风险管控”分享企业识别安全漏洞、应对网络攻击、AI安全技术本地化适配的实践经验,深入讨论企业如何在AI时代系统性地构建网络韧性。
落地香港
天融信2021年起布局香港,目前已服务多家香港金融机构,并提供网络攻防培训与赛事支撑,获得客户一致认可。同时,天融信依托内地运营商合作基础与香港主流运营商探索合作,还与香港多所大学及教育机构,在安全防护、人才培养、技术适配等方面积极协同创新。
2025年,天融信香港子公司正式成立。以此为契机,天融信进一步深化本地化技术与服务适配,携手在港合作伙伴共同助力香港构建安全可靠的网络环境、服务香港企业数智化转型。
安全是AI发展的底线,治理是技术向善的保障。守好安全底线,才能让AI更好赋能业务发展。未来,天融信将聚焦智能体时代安全新需求,从行为分析与信任评估角度探索多智能体协同安全,筑牢大模型应用安全防线,助力安全与业务协同发展,为数智化发展保驾护航。
媒体天融信
金融界资讯





京公网安备 11011402013531号