广州市|转：可信算法的法律规制

袁康
袁康，法学博士，武汉大学法学院副教授，武汉大学网络治理研究院副院长，武汉大学资本市场法治研究中心秘书长，加州大学伯克利分校法学院访问学者，中国法学会证券法学研究会理事，中国法学会商业法研究会理事，最高人民检察院民事行政案件咨询专家，主要研究兴趣为网络治理、证券监管、金融公平和金融科技，在核心刊物上发表学术论文40余篇，多篇文章被《中国社会科学文摘》《人大复印资料》全文转载，出版《网络安全的法律治理》《金融公平的法律实现》《互联网时代证券业务创新与法律监管》等专著，承担国家社科基金青年项目、教育部人文社会科学基金青年项目等科研项目10余项，曾获得教育部博士研究生学术新人奖、湖北省哲学社会科学优秀成果一等奖等奖项。

可信算法的法律规制
大数据、区块链、人工智能等新兴技术的加速应用，正在深刻改变着人类社会的运行模式。自动驾驶、医疗机器人、智能投顾、社交网络等事物的出现，使得人们在日常生活、经济交易、信息获取、社会参与等领域的活动以更加便捷和更加智能的方式展开。算法作为这些技术的核心要素，在推进行为决策机制变革和信任机制重塑的同时，也因公众在对自动驾驶事故、大数据杀熟、信息茧房、算法暴政等一系列议题的反思和批判过程中面临拷问：当我们把一切都交给算法时，它们究竟是否值得信任？随着算法社会的来临，人类正将决策权逐渐让渡给算法接管，算法对于个体乃至整个社会的影响日渐重大且深远，只有处于可信状态的算法才能够消除人类的顾虑并保证算法时代的安全与秩序。
一、算法信任
算法依托确定的输入输出过程，能够实现相较于自然人更为客观、理性和有效的决策。基于此，算法被人们依赖甚至信仰，借助算法解决问题成为超越人类认知局限和执行能力的更优选择，由此形成了所谓的“算法信任” 。然而，技术特征并非是信任的根本来源，人们对于算法的信任倾向以及算法自身的可信度是构建“算法信任”缺一不可的两个方面。易言之，人们选择相信算法并不意味着算法自身就值得被信任。
第一，算法缺陷并不总能避免。一方面算法自身在功能实现上本身就有局限，算法输出结果也并不能确保完全准确，决策错误的可能性始终存在。另一方面，算法在设计和应用过程中可能因算法模型或者馈送数据的缺陷而发生偏差。特斯拉自动驾驶事故、波音737MAX空难也正是因为算法缺陷所导致。
第二，算法偏见确实有意或无意地存在。算法模型不可避免地会受到设计者主观倾向和利益导向的影响，设计者的价值观和偏见会嵌入算法，从而造成算法输出结果或者决策延续设计者的偏见。大数据杀熟、微软聊天机器人上线第一天就学会脏话和种族歧视等均为例证。
第三，算法黑箱可能导致人与技术的疏离。算法黑箱的存在，导致人们在面对算法的自动化决策时难以把握其理由或原因，或者无法确认该决策是否真是按部署者解释的那样作出的，因而给设计者和应用者操纵算法并损害个人权益甚至公共利益提供了可能性。面对并不透明的算法，用户难以完全排除欺诈或歧视的存在，信息不对称导致信任往往难以真正建立。
第四，算法权力可能造成人与技术的对抗。随着算法权力的扩张，人类与技术之间的从属格局和权威地位正在发生微妙的变化，算法权力对人类的规训与控制势必会引发人类的对抗，而不信任正是这种对抗的起点。