新华财经上海6月18日电（记者刘玉龙、王淑娟）6月17日至18日，以“全球治理倡议下的金融发展与合作：新愿景、新挑战和新机遇”为主题的2026陆家嘴论坛在上海举办。中国农业银行董事长、党委书记谷澍出席2026陆家嘴论坛，并在“全体大会六：科技创新赋能金融高质量发展”上，作了题为“控制大模型应用风险的几点做法”的发言。
图为中国农业银行董事长谷澍在2026陆家嘴论坛“全体大会六：科技创新赋能金融高质量发展”上发言
谷澍表示，大模型在金融业的规模化应用，会面临模型黑箱、模型幻觉、模型自主思考与决策带来的不确定性等新型风险挑战。但从大模型运行机理来看，模型风险是一种客观存在，需要做到既发挥其作用，又认识到其局限性，不追求风险的绝对消除，建立起与风险共生的治理体系。
结合农业银行实践，谷澍就如何防范大模型应用风险交流了四方面想法。一是分类施策推进场景适配。按照金融场景的风险等级和监管合规要求，建立模型黑箱分级管控机制，不同场景匹配差异化的技术路线与可解释性要求。二是设定一定的标尺约束控制模型幻觉。找准大模型与业务流程的结合点，设置必要的参数标尺，同时强化人机互补的约束机制，切实压缩大模型“自由编造”空间。三是以AI手段应对AI应用风险。通过AI建立纵深防御体系，确保攻击可以早发现、快处置、能自愈，不断提升自动化、智能化的风险应对水平。四是强化银行内部AI治理体系。针对AI应用带来的风险，健全银行内部AI治理体系，确保AI既用得好、又管得好。
在回答有关智能体应用的提问时，谷澍表示，当前推进智能体规模化应用面临的主要挑战，是行业内对智能体的定义和规范标准尚未统一，不利于科学评估各家机构的智能体应用水平。谷澍认为，在智能体应用和推广过程中，要加快明确智能体的定义和标准，帮助行业内每一个参与者找准定位、互相取长补短，从而推动整个行业在智能体应用水平上的共同提升；在设计智能体时，可以将功能相对单一、业务流程比较固定的智能体做成“标准件”，把更多的精力聚焦于开发那些具备自主规划和决策能力的智能体上。
（文章来源：新华财经）
