江苏银行大模型平台场景上新:智能文档助手提速企业授信

元德数字化 2024-06-07 11:36:57
《银行科技研究社》消息:江苏银行透露,近期,“智慧小苏”大语言模型平台增添新场景,上线“智能文档助手”助力企业授信,搭建“移动智库”提升用户体验。 据悉,企业授信审批环节存在材料种类多样、提取整合复杂等痛点,客户经理需要投入较多时间与精力对企业营业执照、财务报表、税务记录、征信报告等进行信息提取与整合,授信审批效率受到影响。 江苏银行介绍,基于大模型“多模态”理念,结合Agent智能代理技术等,该行自动运用音频分析、外部图像处理等功能,实现扫描件、语音、电子表格和文本等多种类型素材的自动化提取,打通多类信息载体间的壁垒,推出“智能文档助手”,自动归纳企业经营状况,结合实时舆情信息,生成授信调查报告,工作效率提升42%,预计每年节省客户经理1.5万工时。 目前,大模型赋能的“智能文档助手”已在移动端、PC端双渠道落地。 而基于大模型的“移动智库”可智能整合并提炼内外部规章制度、产品政策、操作流程等。“移动智库”不仅能提供即时的信息检索服务,还能进行分析并生成建议,用于智能办公和客户服务领域。据悉,“移动智库”赋能的线上客服应答准确率由93%提升至97%。 值得一提的是,江苏银行2023年报显示,其顺利攻关大语言模型等关键核心技术。 据《银行科技研究社》了解,“智慧小苏”是江苏银行自主研发拥有最大1760亿参数的大语言模型平台,于2023年4月顺利投产,并实现客服场景首次应用。 “智慧小苏”大语言模型服务平台构建了基础设施层、工具层、模型层、服务层与应用层5层架构。 其中,基础设施层搭载鲲鹏CPU、麒麟操作系统等国产化设施,实现模型资源的动态分配,另具备向量数据库、分布式数据库等各类国产化数据库的管理能力,做到高度自主可控与定制化。 工具层则引入批处理和算子融合等模型加速技术,可减少对模型参数矩阵的扫描次数,降低内存带宽消耗。同时,通过量化技术,平台在保证模型性能的前提下,减少显存与推理时间。 江苏银行表示,其利用自身在金融领域积累的数据和知识,对开源通用大模型进行定向训练和优化,使模型能更精准地适应金融垂直场景下的语境和客户需求。
0 阅读:0

元德数字化

简介:感谢大家的关注