大模型技术问世以来,就受到金融行业的广泛关注,但受算力短缺、安全合规、技术门槛等因素的影响,真正用好大模型的机构还并不多。
每家金融机构,都希望有一个即插即用、安全合规、能给业务带来价值的行业专属大模型。
现在,它来了!
为了降低金融AI大模型应用开发的难度,让金融机构能更轻松地用上合适的大模型,阿里云给出了一个新的解决方案——全球首个一站式金融场景开发平台“通义点金”。
5月24日,以“创智变·新原力”为主题的2024阿里云金融创新峰会,在杭州召开。会上,“通义点金”迎来全面升级,实现了金融强化的RAG和Agents构建能力,为客户提供更丰富的金融场景模版及专业插件。
用阿里云智能集团副总裁张翅的话来说:“从过去的百模大战到今天,只有少数的大模型厂商能脱颖而出。我们通过‘云’的方式,用原子化组件将小模型和大模型更好地集成起来,提供了金融级大模型应用所需的知识增强、流程工具等,降低了体系开发的门槛。”
阿里云的通义点金,已经为时代的变革做好了准备。
金融与大模型融合的潜在空间
由于数据化程度高,金融行业是大模型最好的土壤。
过去一年,得益于大模型在自然语言处理、数据分析和模式识别上的先进技术,金融行业已经在智能客服、风险管理、核保申请等场景实现了服务效率、质量的跃升。
比如,众安保险通过接入阿里云的通义大模型,在客服、理赔、还款提醒、营销等场景实现效率飞跃,每日调用超万次,显著提升客户满意度;盈米基金则通过部署通义千问,日均解决超70个投资疑问,覆盖超90%,技术应用准确率远超客服,显著优于行业标准模型。
作为应用大模型的先锋,众安保险和盈米基金已经尝到甜头,但也必须承认,到目前为止,大模型对金融领域的涉足尚在浅水区,并未触及最核心的价值区域。
对此,张翅也坦言:目前大模型在金融领域的应用,可能只是将某些业务从70分提升到85或90分,而不能一次性的颠覆性改变。
银行的核心价值领域是信贷。信贷有效需求的不足,迫使金融行业面临着成本和效率的双重压力。
"金融行业的传统业务发展模式正在受到越来越大的挑战,面临资产获取难度增大,传统模式可能无法触达客户等问题",国家金融与发展实验室副主任曾刚表示。
的确,对于银行来说,周期下行与数字化的趋势,一方面让他们资产质量受到影响,另一方面在数字化运营上也面临挑战。
曾刚认为,行业需要用大模型去提升效率、适应客户需求变化和拓展新的服务空间。
目前虽然大模型还不能解决银行收入的核心问题,但是也要看到趋势,随着银行经营数字化程度的提升,其应用大模型的前提也就越来越充分,因为说到底,大模型是从数据中学习和演化出的智能。
在张翅看来,金融机构需要的不仅是削减成本的短期策略,更需要实现从线下到数字化运营的转变,构建一个全新的数字化服务体系,实现长期质效提升。
在“通义点金”发布之前,市场上缺少即插即用的工具,金融机构需要投入巨资开发,金融技术人才也需要配备上,再加上金融行业对稳定性和安全性要求极高,与大模型结合的每一步都需要经过精心规划与严格测试,这注定是一个耗时耗力的工程。
但可以预期的是,随着“通义点金”这样工具型生态平台的出现,大模型作为一种通用的智力工具,在帮助金融行业数字化转型层面,还有许多等待释放的潜力,而大模型在金融领域的应用,也正处于“技术大爆炸的前夜”。
“通义点金”2.0拓宽融合边界
见未来者,行于当下。
在国内大模型刚刚兴起时,阿里云就已经看到金融行业与大模型结合的潜力,做出了尝试。
2023年时,阿里云在云栖大会上首次发布了“通义点金”1.0版本,是全球首个一站式金融场景开发平台,彼时的“通义点金”在最初的设计中偏重于金融行业的数据灌入,更面向C端。
随着技术的升级,今年5月24日,阿里云在金融创新峰会上,发布了“通义点金2.0”,主要聚焦“金融专属、金融强化、开放生态”三个核心定位。
2.0版本相较于1.0版本进行了全面的升级,实现了金融强化的RAG和Agents构建能力,为用户提供了丰富的金融场景模版及专业插件,致力于深化大模型技术在金融行业的应用,此时的“通义点金”更加面向B端用户。
张翅对通义点金2.0的功能升级这样解释:“‘点金’过去是在模型语料数据里做增强,今天更多是在AI native应用层做更多金融级的增强。”
升级后的“通义点金”2.0版本,融合了超过25TB的金融数据,强化金融领域的RAG和Agents构建能力。还提供了50多种专业插件,如“股票信息查询”和“录音转文本”,解决市场上没有“即插即用”工具的痛点,让AI在处理金融业务时更加得心应手。
而且,“通义点金”2.0版本内置了超过30个场景模板,这些模板覆盖了金融行业的多样化需求,并针对金融行业中的常见业务场景进行了优化,使得用户可以迅速部署和测试AI解决方案,大大缩短了从概念到实施的时间。平台还支持API调用和二次开发集成,为金融机构提供了更多的自定义选项,以满足特定的业务需求。
更进一步的是,通过此次升级,阿里云打造了一个更加开放的产品生态。“通义点金”2.0版本与阿里云的百炼产品框架可以协同工作,能为客户提供更多的模型和组件选择,找到更适合自己的技术和资源,创造出更多的可能性。
正如张翅所说:“通义点金是阿里云为金融业提供大模型建设能力非常重要的组成部分,它集成了多项专业领域的插件,通过开放平台的方式,给金融业提供了AI开发所需要的工具和框架。”
另外,除了大模型及开发平台外,张翅也表示,阿里云将充分发挥自身云计算的优势,通过“云原生+AI”的综合能力,持续服务金融行业客户,提供高效可拓展的计算资源。
未来,大模型的迭代进化主要会发生在云端,而阿里云则用“云”也为各家企业创造了一个很好的试验场,在高效节约成本的条件下,能更多地去试验和探讨未来更多的业务应用场景。
首份金融大模型应用指南凝聚“上千家”企业调研成果
作为IDC报告中国金融云整体市场第一的公司,阿里云抱有很大决心推动大模型在金融领域落地。
在强大的愿望之下,还要有细致的研究和洞察,说到底,还是要从客户价值出发。
张翅提到,为了让平台更好的满足客户需求,阿里云走访了上千家机构,找出了金融行业面临的六大挑战,并将这些研究成果和解决方案收录进业内首份金融大模型应用指南《百炼成金:大金融模型新篇章》中,用来指导行动。
他们发现,金融企业拥抱大模型存在6大挑战:
第一,“有限算力与持续进化”的矛盾,如何在当前资源约束下规划未来算力?
第二,“开源与商业模型”的抉择,如何在成本、定制化与技术支持间找到平衡点?
第三,“模型规模与性能”的权衡,如何平衡能力提升和算力消耗?
第四,“系统持续优化”问题,怎么解决大模型RAG系统的持续优化面临的问题?
第五,“价值自证”问题,怎样确保大模型构建的AI应用与企业的长期战略相契合?
第六,“应用安全”问题,如何进一步防范数据泄露,加强应用安全?
面对这六大挑战,在经过长期实践和反复验证后,阿里云推荐了一条从云上试航到云端融合的转型路径,这也是张翅想通过“红宝书”传达的一个观点——即“云上试用”优先:
首先,阿里云鼓励金融机构在云平台上进行初步尝试,即“云上试航”。阿里云云厂商资源储备充足,为客户提供了多样化的算力选择,而且主流云厂商不仅提供商业化大模型,还提供业界优秀的开源大模型服务,客户可按需自由选择。在这个阶段,企业可以快速验证新技术的价值,避免前期无谓的投入和时间浪费。
随着对技术的深入了解和信心的增强,金融机构将逐步过渡到“云端融合”,场景从服务内部为主,转向直面外部C端客户。通过构建混合云架构,把本地算力作为固定资源池,同时把云上充足的弹性资源使用起来。在这个阶段,将实现大模型技术与核心业务流程的深度整合,推动更广泛的业务创新和效率提升。
除此之外,在会议上,阿里云还提出了包括“AI Native SaaS Rise”大模型企业级市场崛起、“AI API First”大模型功能性能力突破性增长等多个大模型落地金融行业的趋势判断,也将其收录到了这份“指南”中。
可以说,这份“百炼成金指南”沉淀了阿里云对金融行业需求的理解,以及如何通过技术创新来满足需求的思考。在一定程度上,阿里云为整个金融行业提供了一条切实可行的数字化转型之路,也带来了更多的启发。
虽然探索之路依然漫长,但是金融行业与大模型的深度融合已经初现曙光。
作为金融大模型领域的先行者,阿里云已经走在了探索前沿,但“独行快众行远”,整个行业更需要的是,开放、共识与合作,用开放和生态的力量,释放大模型在金融领域的潜能。