来 源 | 据新华财经
当前，随着人工智能技术的爆发式发展，金融行业正经历数字化转型浪潮。AI技术赋能了智能风控、精准营销、自动化服务等创新场景，但同时也存在一些黑灰产组织利用AI技术，催生出深度伪造、智能钓鱼、自动化欺诈等新型犯罪手段，技术博弈与对抗的复杂性仍在升级。
6月18日，《中国金融行业AI欺诈与技术对抗研究报告》发布暨圆桌论坛活动在清华大学经济管理学院成功举行。本次活动由清华大学经济管理学院中国金融研究中心、四川省反诈中心、新网银行、新华财经联合主办，主题为“AI反诈：从博弈到共治”。清华大学经济管理学院教授、清华经管中国金融研究中心主任、国家级高层次人才计划入选者陆瑶发布并解读《中国金融行业AI欺诈与技术对抗研究报告》。
报告系统梳理了AI欺诈的技术演进、攻防态势及应对策略，旨在为行业提供科学指引，助力构建安全可信的金融数字生态，为金融行业应对AI时代的安全挑战提供了参考解决方案。
AI欺诈新图景：风险升级与技术“双刃剑”
1
技术发展与风险演变
此次报告围绕 AI 欺诈的定义与特点、技术周期中的攻防演变史、人工智能时代金融安全攻防新态势、智能防控典型案例分析以及应对当前挑战的策略和建议展开深入探讨。
清华大学经济管理学院教授、清华经管中国金融研究中心主任、国家级高层次人才计划入选者陆瑶指出，随着AI技术发展，金融欺诈呈现智能化、自动化特征。黑灰产利用AI生成虚假人脸、声纹及伪造材料，并借助自动化工具实施精准诈骗。
新网银行反欺诈专家王萍表示，人工智能技术在金融领域的广泛渗透，正在重塑欺诈风险的本质和边界。AI驱动的欺诈威胁呈现出前所未有的动态性和复杂性，需要采取更具前瞻性、技术导向性的创新策略，构建与数字金融时代相匹配的安全屏障。
课题组明确定义了“AI欺诈”的概念，指出其核心是不法分子利用机器学习、自然语言处理、多媒体技术及生成式人工智能等AI技术，通过生成虚假信息、模仿真实用户行为、绕过安全验证机制或自动执行诈骗脚本等手段，突破过往欺诈手段的局限，从而实现更高程度的自动化、智能化和精准化欺诈操作，并以非法牟取利益为目的，精心策划实施的欺诈行为。
课题组围绕“监管引领、机构主责、社会协同”的立体防御框架展开，深入探讨了建立AI威胁情报共享机制、储备算力资源、构建认知对抗体系、培养复合型安全人才、提升全民数字素养、常态化攻防演练以及建设开源情报社区等具体路径。
此外，课题组依据技术成熟度曲线、麦肯锡数字化转型方法论以及IDC关于金融科技安全趋势的研究成果，并结合中国金融实践，将技术周期中的攻防演变划分为手工化时代、信息化时代、互联网时代、移动互联时代以及人工智能时代五个阶段，并从技术特点、攻击方式与防御机制等维度进行深入剖析，揭示其在金融安全演进中的历史地位与现实意义。
2
以“技术向善”理念构建防御体系
古语有云“安而不忘危，存而不忘亡，治而不忘乱”，陆瑶呼吁行业保持警惕：AI技术的善用与滥用仅在一念之间。唯有以“智”治“智”，推动防御体系从被动响应转向主动进化，才能让技术真正成为守护金融安全的“无形长城”。课题组认为，未来金融安全的核心在于平衡创新与风险，通过技术迭代、制度优化与社会协作的三维联动，实现AI技术与金融生态的良性共生。
此次发布的《中国金融行业AI欺诈与技术对抗研究报告》通过实证分析、案例研究及社会科学的交叉视角，为行业应对AI时代的安全挑战提供理论框架与实践指南。
报告提出金融机构需构建“技术-策略-机制”三位一体防御体系：技术上采用深度学习、多模态生物特征检测及生成痕迹识别技术拦截伪造攻击；策略上通过全生命周期风控闭环降低风险；机制上推动跨机构数据共享与监管协同，强化行业联防联控。课题组特别强调，唯有技术革新与制度完善并重，方能实现金融安全与AI创新的平衡发展。
陆瑶强调，技术对抗的核心是建立动态防御能力，通过攻防演练、对抗样本库更新，形成动态化、智能化、生态化的防御能力，同时构建多层次、多维度的机制对抗体系，整合内部资源与外部力量，打通信息壁垒，构筑起坚实的技术防线与制度保障。实现“以AI进化对抗AI进化”。技术革新不应成为欺诈工具，而应服务于社会福祉。金融机构需以“技术向善”理念构建防御体系，守住风险防控底线。
圆桌畅谈：AI欺诈攻防与治理纵深
在圆桌沙龙环节，清华大学经济管理学院中国金融研究中心副主任黄张凯、清华大学经济管理学院中国金融研究中心副主任庞家任、四川省反诈中心综合防范支队支队长罗彦加、新华财经副总编辑陈冉围绕着AI欺诈手段、AI技术攻防、典型AI诈骗案例等话题深入探讨。
1
欺诈手段演变与受害者分析
黄张凯指出，AI技术使得传统冒充身份诈骗的欺骗性发生质变。犯罪分子利用AI可以生成动态逼真、声音一致、逻辑流畅的“虚拟人”分身，冒充亲友或领导进行诈骗，其逼真程度已达到肉眼难辨的地步，且技术门槛的降低使其具备大规模、精准化的攻击能力，犯罪成本骤降而危害范围剧增。
罗彦加的回答印证了这一趋势，他表示虽然目前涉及AI的新型诈骗案件数量尚不及刷单、冒充公检法、征信诈骗等传统形式，但上升苗头已十分明显，需要引起警惕。他特别揭示了一个现象：根据统计数据，20-50岁的中青年人群成为了AI诈骗最主要的受害者群体，占比高达九成以上，原因在于他们是“高触网人群”，日常大量线上活动增加了个人信息暴露和接触诈骗信息的机会。因此，这类人群更需提高警惕防范这类新兴的AI诈骗手段。
2
技术攻防前沿与民众防护
面对技术驱动的欺诈升级，如何在技术上有效应对成为核心议题。庞家任分享了高校在AI反诈基础研究上的代表性进展。他介绍，在深度伪造检测领域，研究正从早期识别生成模型的特定瑕疵转向探索基于物理规律的更普适识别方法；针对大语言模型生成的诈骗文本，研究则通过分析文本的流畅度、词汇分布和逻辑连贯性等特征进行检测和溯源；同时，对抗性攻防研究通过主动模拟攻击来暴露技术漏洞，从而逆向提升反诈模型的鲁棒性，为实战提供重要支撑。
对于普通民众的防范，罗彦加给出了切实可行的建议。尽管技术发展迅速，当前AI换脸视频通话仍常暴露一些破绽，如通话时长极短、人物眼神空洞或身体与背景衔接不自然。要求对方配合做表情等动作进行动态验证，是突破当前AI换脸局限的有效方法，往往能迫使伪造图像现出原形。此外，与亲友事先设定专属的转账“暗语”也是可靠的核对手段。
针对AI技术的发展对社会的冲击，黄张凯谈到，在金融行业可能产生比移动互联网更深远的影响。当下各机构就面临一些现实困难：一方面金融机构难以与大厂竞争顶尖人才，另一方面各地警力、金融机构的资源和资金有限。虽然AI变革的具体路径和冲击范围难以精准预测，但可确定的是其力度巨大。金融行业应提前做好准备，保持业务模式的灵活性，AI反诈只是这场深刻变革中的一部分挑战与机遇。
3
深水区攻坚：法律困境与多元共治
在打击AI欺诈的实际工作中，罗彦加警官坦诚当前面临多重困境。他指出，跨境执法难度大，主要嫌疑人和“金主”往往藏匿境外；现有法律对使用开源技术、涉诈软件作者责任界定、技术提供者与使用者责任边界等存在模糊地带，面临法律滞后与真空问题；加之利用虚拟货币等加密手段转移资金和数据层层覆盖的去中心化特点，导致取证链条复杂冗长，证据难以达到严格的司法要求，案件常因此受阻。
他透露，针对这些挑战，公安部已联合相关机构积极推动专项立法工作，旨在制定更专业、更具指导性和规范性的法规以填补法律空白。
AI立法本身就是一个高度复杂的跨专业系统工程，绝非单纯的法律延伸，而是需要法律、技术、伦理、经济学和社会学的深度交叉融合。庞家任指出，制定有效的法律规范不仅要求立法者对AI技术有深度理解，还需精准考量隐私保护与社会安全的平衡、算法歧视风险等伦理悖论。
黄张凯分析了相关的国际经验，“欧盟在AI监管方面较为领先，推出了人工智能管理办法框架，但在创新保护与风险控制之间的平衡引发争议，技术本身的快速迭代使立法实际落地困难重重，凸显了法律适配技术发展的普遍挑战”。
庞家任认为，政府应加速AI相关立法进程，明确责任边界、制定数据安全与算法透明度标准，并组建专业化执法队伍。高校与科研机构需要持续攻坚核心反诈技术，重点培养横跨技术、法律、伦理的复合型人才。企业作为主力军，要加大投入部署先进反诈模型进行实时风险监控，并在产品中设计嵌入预警和拦截功能。社会组织应聚焦于公众教育、推动行业自律。公众则需要持续学习提升自身防范意识，形成风险识别闭环。
总结展望：强化防御韧性，多方协同响应
圆桌论坛的最后，黄张凯在展望金融机构应对时强调，AI对金融行业的冲击可能才刚刚开始，其深度与广度或将超越移动互联网时代。金融机构需认清挑战的严峻性，即使面临人才与资源的限制，也应未雨绸缪，加强AI反诈能力建设，保持业务模式的灵活性与韧性。
对于构建防御体系的愿景目标，新网银行反欺诈专家王萍认为，AI金融欺诈的防御还需要全社会的共同参与和协同响应。构建一个涵盖公众教育、产学研协作和开放情报共享的社会化防御体系，是增强整个社会面对AI金融欺诈韧性的关键路径。