囚徒|郝建业:从囚徒困境到自动驾驶,蛰伏数十载的多智能体强化学习,期待破茧成蝶( 八 )

9
时间的力量
回望十余年来的学术生涯,正是因为相信时间的力量,理解了多智能体系统的交叉学科本质,才让郝建业不受限于象牙塔,逐渐走出小圈子,让自己那片小小的原野变得广袤,并看着当初撒下的一粒粒种子生根发芽,终成参天大树。
在华为诺亚方舟实验室,郝建业继续践行着这个理念。他告诉我们,如今由他担任负责人的决策与推理实验室有5个研究方向的规划:
首先是多智能体系统,涉及了多智能体协作、联邦学习、合作式与非合作式博弈等方面;第二是学习优化,涉及了白盒优化、黑盒优化等方面;第三是知识表征与推理,涉及了表征学习与因果发现等方面;第四是安全控制,涉及数据中心安全等方面;最后是建模仿真,涉及基于AI的各种复杂数学模型求解等方面。
“我们内部围绕这5大方向都在开展基础研究,并用于解决很多实际业务问题。比如多智能体系统研究可用于5G网络参数优化,学习优化研究可用于各种复杂的白盒和黑盒控制决策优化场景,如自动驾驶、无线优化、芯片设计、物流优化等,知识表征与推理研究可用于故障的根因定位和诊断修复等,安全控制研究可用于数据中心控制,自动驾驶等重要场景,建模仿真研究可用于自动驾驶仿真、无线、芯片设计等,”郝建业说道,“诺亚作为一个企业的研究院,在基础研究和工程落地方面结合的非常好,每个研究员在这里结合自身优势特长,在研究和落地之间找到适合自己的平衡点。”
在新一代AI学子培养上,郝建业依然秉承恩师梁浩锋执着于细节的信念,强调养成科研好习惯的重要性,“科研习惯和兴趣都很重要。第一个是有动力,第二个是要有好的做科研的方式,包括思维方式,包括系统的从发现问题到分析问题到解决问题的一套方法论。”
2015年入职天津大学至今,郝建业领导着深度强化学习实验室,亦不忘“大方向把控,小方向自由”,“我们实验室的研究方向比较聚焦,每个人做的课题有所差异,但都围绕着单智能体、多智能体系统,以及深度强化学习。”
基础当然也不能忽视。在多智能体系统方面,郝建业会要求学生读Yoav Shoham和Kevin Leyton-Brown编写的《Multiagent Systems:Algorithmic,Game-Theoretic, and Logical Foundations》;在强化学习方面,他会要求学生读Richard Sutton的《Reinforcement Learning》,并辅以David Silver的同名视频课程的课件。
同时,他也不忘提醒学生坚持长期主义,“要做有价值的课题,而不是去跟风写大家都在抢着发的论文。”
“还要避免闭门造车”,他经常跟学生说,“养成独立思考习惯很重要,但也要多跟导师交流,要有勇气走出实验室,从实际问题出发提炼有价值的抽象问题。”
囚徒|郝建业:从囚徒困境到自动驾驶,蛰伏数十载的多智能体强化学习,期待破茧成蝶

最后,对强化学习和多智能体系统方向感兴趣的同学,欢迎联系报考,也欢迎从事相关研究(不局限于强化学习)的同学来诺亚方舟实验室实习:jianye.hao@tju.edu.cn
雷锋网雷锋网雷锋网【 囚徒|郝建业:从囚徒困境到自动驾驶,蛰伏数十载的多智能体强化学习,期待破茧成蝶】