蚂蚁集团|蚂蚁集团赵闻飙：可信AI是数字时代抵御风险的“核心基础设施”

文章插图
数字时代是人工智能（AI）深度应用和发展的时代。AI的发展，正在以一日千里的速度改变着这个世界，并在交通、医疗、环境保护、城市管理等多个领域中，发挥着越来越不可替代的作用。但同时，AI的安全性问题，也成为了数字化发展进程中不可回避的问题。在数字经济欣欣向荣的发展态势下，安全被许多业内人士视为木桶上的那一块“短板”。
如何让安全为数字化发展“保驾护航”？8月6日，2021新京报贝壳财经夏季峰会——数字经济时代的风险防控线上论坛举行，蚂蚁集团副总裁，蚂蚁集团安全事业群总裁赵闻飙表示，可信人工智能的研究和落地或是抵御“数字化”风险的关键能力。
用可信AI解决智能化风险
伴随着数字化经济的发展，用户在享受数字化带来的便捷与普惠的同时，也面临数字化背后的风险，如羊毛党通过操纵多账户套取商户营销资金、个人用户遭遇网络欺诈、账户盗用等。“过去，我们一直重点谈的是‘数字化’背后的风险和应对，而对‘智能化’背后的风险讲得很少。因为当时行业普遍认为，人工智能技术的落地应用还相对有限。但事实上，早在六七年前，我们就在平常应对黑产攻击中，发现了AI的痕迹。”赵闻飙表示。
新京报贝壳财经采访人员注意到，当下的确有越来越多的黑灰产团伙将AI等新技术投入到了薅羊毛、诈骗等非法活动中。如使用AI工具操控大量账号进行违规操作、使用AI换脸技术试图绕过人脸识别认证等。
这意味着伴随人工智能技术的高速发展和加持，数字化背后的风险将持续加剧，并且演变为“智能化”背后的风险挑战。
据了解，目前黑产作案越来越趋于多平台、多链路、团队化和智能化。这对行业协同、风险响应机制的速度和准确性提出了更高的要求，而且还需要切合“数字化浪潮”下社会对于隐私保护、技术伦理治理等多方面的需求。
在赵闻飙看来，要对抗“智能化”的风险，就需要“智能化”的手段，这也是“可信AI”技术进入快速发展阶段的核心驱动力。可信AI技术要求人工智能技术应当具备可解释性，以帮助人类理解和信赖他们的决策；具备鲁棒性（robustness），以抵御黑产的攻击，以保障计算和决策的稳定性和效能；具备隐私保护的能力，以满足社会和民众对于个人数据资产保护的需求；具备公平性，强调决策结果的公平性，同时关注技术背后的社会责任和伦理治理。
【蚂蚁集团|蚂蚁集团赵闻飙：可信AI是数字时代抵御风险的“核心基础设施”】“数字时代，安全是AI与AI的博弈，而可信AI，则是抵御风险的关键能力。”
面向可信AI技术的下一代风控体系“IMAGE”
据了解，蚂蚁集团自2015年起投入可信AI技术的研究。2016年，全面启动了人工智能风控防御战略。目前，可信AI技术已在包括反欺诈、反洗钱、反盗用、企业联合风控、数据隐私保护在内的多个风控场景下落地，支撑着其全风险域的防御需求。根据今年6月全球专利权威机构IPR Daily发布的报告，蚂蚁集团目前拥有全球范围内数量最多的“AI安全可信关键技术”专利，并上线部署了以“IMAGE”命名的下一代风控体系。它包含着“交互式风控”、“多方安全风控”、“智能决策”、“全图风控”、“端云协同风控”五大组成部分。
赵闻飙表示，“全图风控”技术能够以“图”的形态，聚合“动态发展变化的风险信息”，解决了传统风控中只能依靠单一或静态信息维度追踪风险的困境，实现对风险变化趋势的预测，提前遏制风险的发生。在反电诈等风控场景，对于打击团伙型、多链路作案，具有重要意义。而“全图式”的风险分析和追踪形式，也对人工智能的“可解释性”发展提供了更广泛的空间。