6月18日，农业银行董事长谷澍在2026陆家嘴论坛“全体大会六：科技创新赋能金融高质量发展”上表示，当前大模型应用过程中面临的主要风险之一是模型黑箱、模型幻觉，以及模型自主思考和决策带来的不确定性。

6月18日，农业银行董事长谷澍在2026陆家嘴论坛“全体大会六：科技创新赋能金融高质量发展”上。 澎湃新闻记者 胡志挺 图

谷澍表示，这种不确定性进一步细分，主要有三大类风险。

第一，参数海量带来模型可解释性的难题。现在主流大模型的参数规模已经有千亿甚至万亿级别，海量参数的矩阵运算和深层的非线性叠加，导致模型的决策机制和输出结果不透明，也很难解释。

第二，概率生成带来的准确性考验。大模型决策的过程不像人类进行决策时有线性思维的过程，大模型是根据海量训练数据统计词元（Token）的概率性规律，它本质上是概率统计而非事实推导。当数据和事实依据不足时，容易产生自洽的“幻觉”。

第三，模型现在已经能自主思考和决策，带来新型风险。随着大模型的进化和智能体的深度应用，它已经突破传统软件“输入-输出相对固化”的范式，能够自主思考，这在一定程度上放大了过程不可控、结果不可知的风险。

对于这些风险，谷澍表示，从大模型运行机理来看，模型风险是一种客观存在，“对我们来讲，我们能做的不是消除风险”，而是一方面认识到大模型有很大作用，把它的作用发挥好；另一方面也要认识到大模型的局限性，建立与风险共生的治理体系，想办法尽量控制风险。

谈及农业银行的实践，谷澍表示，第一是分类施策推进场景适配。金融应用大模型时，是应用在不同的场景里面，对于不同场景，可以建立模型黑箱的分级管控机制，匹配差异化的技术路线和可解释性要求。

他举例称，对于信贷决策这类强监管场景，农业银行使用模型蒸馏技术，让大模型在数据合成、归因分析等方面提供助力，把大模型的能力迁移到更具可解释性的小模型上。对于投研分析这类高认知场景，则强化思维链设计。对于产品营销场景，则更灵活一些，充分发挥模型的创造力。

第二是设置一定的标尺约束控制。大模型有时候会产生“幻觉”，有时候会自由发挥，针对不同场景应用时，需要建立参数、建立标尺，控制它的应用路径，同时再把它和人机结合起来，大模型过程中人的作用是最终做决策。

他表示，比如应用AI赋能信贷调查报告的智能生成时，就建立业务标尺，通过模型互检、模型反思、业务数据校准，对生成内容进行自动校验，输出关键内容要由业务人员进行审核，确保“结果可控”。

第三是用AI手段应对AI应用风险。谷澍表示，要以AI对抗AI，建立纵深防御体系，部署专门的安全监测模型，增强AI对抗能力；要建立全链路可信验证与准入机制，强化漏洞扫描和运行状态监测，确保供应链安全；要通过提示词注入防御、输出内容拦截等措施，防范模型推理过程中的敏感数据泄露。

第四是强化银行内部AI治理体系。谷澍表示，要健全“权责明晰和风险并重”的银行内部AI治理体系，确保AI既用得好又管得好，既留住创新空间，又尽量压缩模型黑箱、“幻觉”的局限性。

谷澍指出，对农业银行来说，既要把大模型用好，也要把大模型应用过程中的风险防好。