广州市|转：可信算法的法律规制( 二 )

二、可信算法
算法信任是算法社会的基础，而信任必须建立在算法可信度之上。即便用户可能会因为主观上的盲目性而选择信任算法，但算法自身可信度的不足会客观上消解这种信任。因此算法可信度才是确立和维系算法信任的根本。我们可以得出一个初步结论：我们需要算法，但我们真正需要的是可以信任的算法，即可信算法（Trustworthy Algorithms）。 “可信算法”的概念，意在强调算法处于可信任的状态。
这种可信任，主要来源于算法三个方面的品质：第一，可理解性。一方面是算法具有一定的透明度，并且能够为公众提供易于访问、可解释、可评估的理解路径，避免陷入“鱼缸”（fishbowl）式的透明。第二，可靠性，即算法能够克服人类的非理性、偏见和局限，以尽可能少的偏差和更符合伦理与法律要求的方式作出准确决策，并且需要确保鲁棒性，以避免因外部干扰而危害安全或造成其他负面损害。第三是可控性，即人们可以有效规制算法或者自主决定算法是否继续执行，既要求算法能够在有效规制的范围内运行，又能确保用户可以脱离算法自动决策。
三、算法可信控制的进路
通过算法的可信控制，可以确保算法的可信度，从而有效维系算法信任，防止不可信算法的滥用导致用户损失乃至算法信任的崩溃。因此在很大程度上，算法的可信控制应当成为算法治理的核心任务。算法的可信控制有两条进路：
对于技术专家而言，算法的可信控制可以通过技术手段实现，例如南加州大学研究人员研发的DeepTrust工具可对AI算法生成的数据和预测的信息进行验证，日益成熟的“歧视感知数据挖掘”也能够识别偏离公平伦理的算法，通过技术进路“以算法控制算法”从而实现算法可信正在成为可能。对于法律专家而言，通过法律进路的可信控制，即以法律制度规范算法的技术流程并调整相关主体的行为以实现算法可信，正是“以法律控制算法”的题中之义。立足于防范算法风险的法律规制涉及的范围比较广，算法社会下的法律规制需求也非常迫切。算法共谋带来的垄断、算法歧视导致的侵权、算法滥用带来的损害等等，都是算法失控所带来的负面后果。相比于具体的算法风险的“结果主义”视角去探讨对算法的治理，算法的可信控制立足于从“预防主义”的角度实现算法的可信，即确保算法得以可信任的方式设计和应用，从而在源头上避免算法风险的发生。
算法的法律规制，一方面是从本体的角度将算法作为法律的调整对象，通过算法的法律嵌入确保算法不偏离法律的要求，另一方面则是从关系的角度调整算法关系，通过规范相关主体的权利、义务与责任实现算法关系的有效治理。通过法律的可信控制是依托贯穿于算法的技术层、应用层和治理层的系统化制度安排，对算法本体和算法关系进行有效调整和规范，从而确保算法以可信任状态得以设计、部署、应用和执行的过程。通过法律的可信控制，也应当遵循算法规制的基本逻辑，即在算法本体方面强化法律嵌入，在算法关系方面完善法律调节，充分发挥法律在实现算法可信中的积极作用。
从本体维度来看，算法自身的可信度是算法信任最根本的来源，也是算法可信控制最直接的场域。算法是否可信，以及多大程度上可信，往往取决于算法本体的质量。因此从本体维度进行算法的可信控制，即以算法本体作为直接的规制对象，通过制度约束确保算法按照可信的标准和规范进行设计和应用，是实现算法可信的基础性环节。由于算法本体的技术属性，这一维度下算法的可信控制可以遵循法律嵌入的逻辑，将可信算法的具体要求转化为具有法律约束力的技术规范，从而完成算法的可信控制。具体而言，应当从完善算法透明度规则、推动算法伦理法律化、探索算法认证评估制度来实现，从而确保算法自身以值得信任的方式投入应用。