基于生成对抗网络的最大熵逆强化学习

来源：计算机工程与应用杂志2019年第22期北京时间：

作者：陈建平，陈其强，傅启明，高振，吴宏杰，陆悠

单位：1.苏州科技大学 电子与信息工程学院，江苏 苏州 215009；2.苏州科技大学 江苏省建筑智慧节能重点实验室，江苏 苏州 215009

摘要：针对逆强化学习算法在训练初期由于专家样本稀疏所导致的学习速率慢的问题，提出一种基于生成对抗网络（Generative Adversarial Networks，GAN）的最大熵逆强化学习算法。在学习过程中，结合专家样本训练优化生成对抗网络，以生成虚拟专家样本，在此基础上利用随机策略生成非专家样本，构建混合样本集，结合最大熵概率模型，对奖赏函数进行建模，并利用梯度下降方法求解最优奖赏函数。基于所求解的最优奖赏函数，利用正向强化学习方法求解最优策略，并在此基础上进一步生成非专家样本，重新构建混合样本集，迭代求解最优奖赏函数。将所提出的算法与MaxEnt IRL算法应用于经典的Object World与Mountain Car问题，实验表明，该算法在专家样本稀疏的情况下可以较好地求解奖赏函数，具有较好的收敛性能。

关键词：生成对抗网络（GAN）,逆强化学习,最大熵