基因组|林需需：新一代人工智能物种论与刑事风险分配( 二 )

中国电子学会编写的《新一代人工智能发展白皮书（2017）》将人工智能定义为：从计算机模拟人类智能演进到协助引导提升人类智能，通过推动机器、人与网络互相连接融合，更为密切地融入人类生产生活，从辅助性设备和工具进化为协同互动的助手和伙伴。世界范围内人工智能的历史发展经历过三个阶段，人工智能1.0出现在1956年至1974年间，科学家将符号方法引入统计方法进行语义处理，同时发明多种重要的算法，如贝尔曼公式，还制作出初步智能的机器；20世纪80年代初至20世纪末，人工智能在数学模型方面取得重大进展，如多层神经网络和BP反向传播算法，催生出高度智能机器；在上述两个阶段，由于电脑在硬件和软件上未获得突破性进展，导致人工智能的发展未取得更大的成绩；进入21世纪，信息技术的快速发展和互联网的迅速普及，传感器的泛在、大数据的涌现、信息社区的兴起等人工智能发展所处的环境和数据基础发生深刻变化，类脑计算、深度学习、强化学习等一系列技术应运而生，人工智能发展进入3.0阶段。中国人工智能2.0发展战略研究项目组将人工智能的发展划分为30年前的1.0和当前2.0两个阶段。

与30年前的人工智能——我们称之为“人工智能1.0”相比，当前“人工智能2.0”的主要技术变化是：从早期的知识工程到今天的数据驱动学习，人工智能的学习方式正转化为数据驱动与知识工程相结合，从表象和特征的机器学习到机器综合推理；从利用类型单一的结构化数据到深度整合多种媒体的非结构化数据，人工智能正在跨入跨媒体感知、学习和推理的深层次；从早期以“机器为中心”到人机和脑机交互技术，人工智能正在走向人机混合的增强智能时代；从强调和追求“个体智能”研究，转化为重视基于网络的群体智能，形成群体智能的互联网服务；从机器人到自主智能系统。从实质内涵检视发现，我国2.0阶段人工智能与世界范围内所主张的3.0阶段相同，我国新一代人工智能处于3.0阶段。我国规划中的新一代人工智能计划经历三个阶段：第一阶段（到2020年），新一代人工智能理论和技术取得重要进展。大数据智能、跨媒体智能、群体智能、混合增强智能、自主智能系统等基础理论和核心技术实现重要进展，人工智能模拟方法、核心器件、高端设备和基础软件等方面取得标志性成果。第二阶段（2021-2025），新一代人工智能理论与技术体系初步建立，具有自主学习能力的人工智能取得突破，在多领域取得引领性研究成果。第三阶段（2026-2030），形成较为成熟的新一代人工智能理论与技术体系。在类脑智能、自主智能、混合智能和群体智能等领域取得重大突破。从规划中并不能得出人工智能将具备辨认和控制能力，当前认为人工智能将来会具备辨认和控制能力的观点都是推测。
尽管只是推测，但新一代人工智能的确带来不可知风险。第一种是过程不可知带来的风险。通说认为自主行为和深度学习是人工智能的两个核心特征。人工智能发展仰赖算法的进步，传统演算法根据不同问题设计不同演算法，但其中有一些难题无法在多项式时间内被解出，导致传统算法存在设计上的困难；而人工智慧重视结果而不重视过程，由于模型中各项参数调整基于复杂的数学运算，根据自主训练资料逐步更新模型参数，输出最相近的正确答案，因而AI模型曾一度被戏称为黑盒子，当人们试图去解释AI决策原理时，发现模型中的参数难以解释。第二种是1+1≥2结果不可知带来的聚合风险。系统学习与混合智能加持下，人类不光不能理解人工智能的决策路径，随着人工智能的主动自我成长和大数据持续的“喂养”，人工智能可能得出人类难以预计到的结果，类脑技术的赋能，人工智能未来拥有辨认和控制自己行为的能力并非天方夜谭，这种风险是人类难以承受的。换句话说，在利用高科技时应认识到高科技技术的运用过程中既有客观必然性，又有偶然性，高科技的运用不可能始终具备高度准确性与精确性，人类对高技术的探索运用受时间、空间、自身观念结构、知识结构与表述方式的限制，即使我们了解高技术发展的初始状况，也很难预测其后的发展结局。