1. 首页
  2. 推荐

AI大模型在金融业已落地开花,但可靠性、成本和监管是三大难点

本文来源:时代周报 作者:张钇璟

人工智能领域正迎来一场由AI大模型引领的爆发式发展。金融行业因信息密度高,被认为是会最先看到效果的领域之一。眼下各类金融机构如何应用大模型?在落地过程中存在哪些问题,痛点又在哪里?

9月6日上午,由界面新闻主办的2024 REAL科技大会在上海顺利召开。在圆桌讨论环节,江苏苏商银行股份有限公司副行长黄进、众邦银行首席信息官李耀、招联消费金融股份有限公司首席信息官王耀南、众源资本高级投资副总裁冉翀、蚂蚁集团金融AI首席架构师徐万青等与会嘉宾们就上述话题进行了热烈讨论。

圆桌讨论会现场

应用多面开花落地

过一年多时间里,AI大模型发展迅猛。相较于一年前,关于金融大模型讨论和应用基本集中于简单的人工客服、资料库等,如今的大模型在不少金融业务领域释放出强大价值。

据苏商银行副行长黄进介绍,作为一家新型的互联网银行,苏商银行从大模型技术出世之后,已经成立了金融科技的实验室,一直在探索相关应用场景的落地。由于银行强监管的特点,苏商银行对模型利用更多偏向中后台。

据悉,目前苏商银行主要基于大模型的生成能力,在两个核心的业务领域——产业链金融和科创金融,辅助生成相关的尽调报告。此外,苏商银行也会基于自身的信贷语料库,以及行内整合的非结构化数据,将大模型的分析能力应用在O2O的信贷审批环节,应用场景包括信贷客户的KYC以及部分贷后管理环节。

而众邦银行也对大模型非常重视,首席信息官李耀称,“早在去年初,行里成立了专门的大模型跟进的攻坚小组。”据他分享,大模型已在内部赋能、客户运营、风险控制等方面发挥着实际的作用。

而在银行之外,消费金融公司、金融科技巨头也在纷纷更新迭代大模型。

2023年11月,招联消费金融发布了消费金融行业首个130亿参数大模型“招联智鹿”,今年7月升级推出“招联智鹿二代”。

招联消费金融首席信息官王耀南表示,以智能客服为例,“招联智鹿二代”不仅可以结合具体会话状态与服务场景,快速精准地进行会话小结,大幅提升坐席作业效率,还能充分利用深度学习技术,准确理解客户意图,共情客户情绪,并将与客户交互的“经验”和“感觉”积累成参考样本,实现举一反三的智能服务,大幅降低投诉率。

王耀南透露,“因为有机器人催收之后,投诉率2023年比2022年降了40%“。他指出,对于招联来讲,无论是大数据还是大语言,在行业应用里最后的潜力价值是非常大的,现在正全力投入这个事情。

此外,去年外滩大会上,蚂蚁集团发布了基于大模型技术的 AI 业务助手支小助 1.0 版本,今年迭代了支小助 2.0 版本,已在蚂蚁集团理财和保险业务中的多个金融场景应用,包括销售、理赔、财务撰写及营销创新。

蚂蚁集团金融AI首席架构师徐万青指出,“规模化的落地验证了支小助2.0能为业务带来非常好的提升效果。”

在销售领域,现在支小助2.0有能力去学习优质的销售经验、销售能力和销售话术,从而构建一个数字分身,让数字分身帮助基础销售人员提升他们的客户服务的能力和标准。测试数据显示,在保险代理组织中引入数字分身后,人均产能提升 150%。

而理赔领域,支小助2.0在今年推出了首创的秒赔服务体验,通过用多模态大模型替代了原来一套链路中人工,包括很多小模型一直在做的一些任务,端到端进行审核。现在小助2.0的审核准确率已经达到98%,审核的速度也达到了秒级。

“目前,蚂蚁保上80%以上的门诊险和50%以上的住院险都已经使用了这套秒赔服务,可以说是重新定义了理赔领域新的服务标准。”徐万青称。

仍面临多重挑战

伴随着大模型在金融领域的落地开花,模型可靠性、监管政策、成本等各类问题也在实际应用中的逐渐显现出来。

众源资本高级投资副总裁冉翀指出,对于单一任务,虽然大模型提效很明显,但鉴于模型的搜索能力不够强,或者理解错误、出现幻觉等原因,尚有很大的出错可能性。“假设面对有5个步骤的复杂工作流,每个步骤都要做一次,如果每个步骤只有80%的正确率,答案几乎不可能是对的。”

冉翀认为,模型本身的性能、模型使用工具的能力、模型做多步推理的可靠性,这是当下面临的很明确的问题。

他进一步指出,“模型的能力要足够强,是不是(达到)金融级别的模型?是不是足够可靠?是否有很强的多步推理能力?模型能不能知道自己错了?以及中间和用户场景之间的Gap怎么弥补?这些都是挑战。”

关于上述这一点,王耀南也深有感触。他举例称,在推断客户最近的资金需求时,银行一般会查看他们的人行查询报告次数,人工会发现客户最近没有很频繁查看,但机器人推断出客户查看很频繁。最后发现,这名客户在一年前查看的次数比较多,但最近一年只有一次。

王耀南表示,“大语言模型对时间没有什么概念,如果由机器做推断,需要的细节非常多,我们正在持续推进这方面的工作。”

徐万青也坦言,目前业界还没有一个大模型达到金融级的可靠和严谨的要求,还有很多路要走。

除了严谨性、可靠性,监管无疑是是摆在金融机构面前一大绕不开的话题。

徐万青强调,金融行业是强监管行业,大模型在这样的监管和合规要求下能做的事情是什么?不能做的事情是什么?怎么结合才能实现用户更深的需求?这些问题都有待思考和突破。

对此,嘉宾们均持有同感,并期待监管层在这方面能有更多相关立法和管理条例。

此外,成本和人才也是机构们不断权衡考量的重要因素。

李耀称,“现在大公司要做大模型,没有一万个显卡没法进行,这也就意味着3-4亿美金的投入。对我们来说,不做训练,只做推理,投入也是很大的。”

而黄进则坦言,“现在各种大模型出来得太多、太快了,大模型需要本地化部署。我们作为一家中小银行,缺乏足够的财力与精力来适应这些比较大的外部需求变化。”

同时,黄进也指出,“大模型的人才非常难得,既要懂业务,同时还要懂大模型的技术,还要有工程化交付的能力,这些都要求极强的学习能力。”

专家:看好金融大模型的未来

主持人与嘉宾们之间的部分问答,也展现了近期对大模型最尖锐的话题与探讨。

主持人:“相比于去年底,似乎今年以来行业内关于金融大模型的讨轮有点淡了,这是为什么?”

李耀:“很多人在讨论说明它在新生,当大家不怎么讲了,说明它已经被大家接纳,融入了日常生活、工作当中”。

徐万青则表示,“这说明大家已经不是在泛泛而谈,而是认真的进行了下一步的思考,并且默默在产业化地推进。”

诚然,在发展的道理上还存在不少挑战,但金融大模型的未来获得在场嘉宾们的一致看好。

王耀南指出,中央金融工作会议提出加快建设金融强国,做好科技金融、绿色金融、普惠金融、养老金融、数字金融五篇大文章。数字金融是五篇文章的基础,大模型应该是数字金融的基础,未来一定会被大模型改造的。

黄进表示,“大模型在金融行业上限是天空,人人要用大模型,人人要回大模型。”

李耀则强调AI对于银行的重要性,称“现在银行已经来到了bank5.0时代,银行的所有模式都值得用AI来重新思考一下。”

徐万青也坚信金融大模型未来将带来很大的变革。不过,对于金融大模型是否值得投资?他认为,“从理财的视角看,投资需谨慎,毕竟投资回报周期长一点。”