人工智能正在快速走进银行的核心业务，从写报告、做分析到放贷款、搞营销，大模型的身影无处不在。
但能力越强，风险也越不容忽视，它可能“胡说八道”，也可能被恶意攻击，甚至因“黑箱”决策让银行和客户都措手不及。
6月18日，中国农业银行董事长谷澍在2026陆家嘴论坛上表示，从大模型运行机理来看，模型风险是一种客观存在，“我们需要做的是如何既发挥其作用，又认识到其局限性，不追求风险的绝对消除，而是要建立与风险共生的治理体系。”
“除了模型黑箱、模型幻觉，模型自主思考与决策带来的不确定性也难以控制。”谷澍具体分析称，随着大模型能力的不断进化，系统已能够自主思考与决策，这放大了过程不可控、结果不可知的风险。
他结合农业银行的实践，就如何防范大模型应用风险提出几点建议：
首先是不同场景，不同管法，给大模型“分级定规”。谷澍称，对于信贷决策等强监管场景，采用模型蒸馏技术，让大模型在数据合成、归因分析和决策式模型生成等方面提供助力；对于投研分析等高认知场景，强化思维链（CoT）设计，构建清晰的“思考推理”轨迹，增强决策过程的透明度；对于产品营销等创意类场景，可充分激活模型的随机性来激发创新活力。
为了防止大模型“信口开河”，谷澍提到，设定一定的标尺约束控制模型幻觉，同时强化人机互补的约束机制。
“比如，我们应用AI赋能信贷调查报告智能生成，通过建立业务标尺、模型互检、模型反思、业务数据校准等方式，对模型生成的内容进行自动校验。但信贷方案、用信条件等关键内容审核要由人力主导，确保结果可控。”谷澍称。
风险应对方面，谷澍提到了以AI对抗AI的防御思路，包括部署专门的安全监测模型、建立全链路可信验证与准入机制、强化数据隐私保护，通过提示词注入防御、多租户会话隔离、输出内容拦截等措施，防范模型推理过程中的敏感数据泄露。
具体到银行内部AI治理体系，既要划清红线，也要留足试验田。
谷澍认为，一方面要健全“权责明晰与风险包容并重”的银行内部AI治理体系，确保AI既用得好、又管得好。另一方面，要明确责任边界，留足创新空间，建立分层的容错机制，防止未经充分验证的AI能力直接面客。
举报 第一财经广告合作，请点击这里此内容为第一财经原创，著作权归第一财经所有。未经第一财经书面授权，不得以任何方式加以使用，包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。如需获得授权请联系第一财经版权部：banquan@yicai.com 文章作者
齐琦
相关阅读
Anthropic呼吁全世界停止AI研究？网友吵翻了当喊停的是跑得最快的那个，良心发现还是营销？
60068 06-05 11:57
上海OPC企业超600家，加码打造OPC经济全国标杆打造“上下楼就是上下游，隔壁座就是合伙人”的OPC社区
5136 06-02 16:59
盘中狂欢尾盘急杀，智谱振幅30%警示解禁风险又是一场击鼓传花的资本游戏。
15211 05-29 16:45
生成式AI用户已超6亿，大模型信任度、风险关注转变信任金融、司法等领域AI大模型的受访者不到二成。
5 9135 05-21 19:46
Anthropic“挖角”OpenAI创始元老，强化前沿技术研究核心人物的加入被视为关键背书。
5 7120 05-20 10:52 一财最热 点击关闭天载配资提示：文章来自网络，不代表本站观点。
