蚂蚁集团|蚂蚁集团赵闻飙：可信AI是数字时代抵御风险的“核心基础设施”( 二 )

而“多方安全风控”和“端云协同风控”则是“智能化”趋势下，实现风控与隐私保护平衡发展的实践探索。“多方安全风控”实现了在数据不交换的前提下，多企业、多平台之间的联合风控协作。“端云协同风控”的价值则是保障数据的使用和保有权真正属于用户。通过将风控模型部署在智能终端，如手机上，蚂蚁的技术团队建立起了一套“终端进行数据计算和决策、云端仅获取决策结果”的风控模式。终端计算，意味着敏感信息被保留在用户手中，规避了信息传输过程中可能出现的被攻击风险。云端仅获取决策，不仅保障了安全防御和风险控制不受影响，还节约了云端的计算资源。目前，“端云协同风控”已经被广泛用于支付宝的日常风控中，在去年的双十一期间，98%的风控决策都是在用户智能终端上完成的。
赵闻飙在分享中强调，传统风控受制于技术成本、数据规模和算法效能，许多场景还是专家经验驱动，而不是数据智能驱动。“支付宝每天有数亿笔交易，面对如此庞大的计算量，一旦决策产生延迟，就给了黑产可乘之机。” 通过人工智能与金融风控的深度融合，蚂蚁安全实验室打造了能够实现“智能决策”的AI大脑——AlphaRisk。其能够在零人工干预的全自动模式下，对风险进行毫秒级的响应。但更重要的是——AlphaRisk具备的自学习、自适应的能力，将极大地提升人工智能的抗打击能力。AI大脑通过对每一次黑产攻击行为的学习和研究，不断提升防御手段，进行高效的自我进化。
在技术快速发展的同时，可信AI的公平性也考验着研究者对社会责任的坚守。赵闻飙提到，早在2016年，蚂蚁就成立了针对电信网络诈骗的技术研究小组，借助包括“图神经网络”“博弈攻防”在内的一系列创新技术应用，极大地遏制了平台电诈发生率。但许多骗子引导受害人转而使用其他的支付渠道，社会欺诈问题仍旧严峻。如何依靠技术力量，真正将诈骗罪案止步于支付环节，成为研究的重点，“交互式风控”也因此应运而生。
贝壳财经采访人员注意到，区别于以往的安全风控模式，交互式主动风控的关键在于“主动”二字——传统的安全往往依赖于已知风险模式，只有风险发生过，才知道如何预防，这也使得安全风控往往处于“被动防守”的态势。
对此，赵闻飙表示，安全必须从静态的被动防守，转变为动态的主动对抗，特别是金融安全。“以交互式风控产品‘叫醒热线’为例，当用户被骗子诱导转账时，AI机器人将向用户发出来电提醒。充分学习了欺诈罪案分析的AI机器人，能够捕捉用户交流中的关键信息，采取恰当有效的反诈劝阻话术和措施。为了跟骗子拼速度，目前蚂蚁的反诈骗叫醒热线中，有超9成电话是由AI打出的，叫醒成功率超过了人工客服。除了事中的防护，如果用户深度受骗、执意支付，技术人员还开发了‘延迟到账’和‘资金截留’的功能，让欺诈者没有办法支取赃款。”
“人工智能技术的快速发展，引领了第四次工业革命的浪潮。而可信人工智能的研究和落地，则代表了人工智能技术发展的新阶段。在未来，与人类社会深度耦合的人工智能技术，如何在安全、可信、公平的原则下，持续发展和进步？这是每一位从业者和研究者，为推动科技有序、健康发展都不应回避的命题。”赵闻飙表示。
新京报贝壳财经采访人员罗亦丹编辑李薇佳校对王心