深度强化学习DQN

DQN模型

在这里插入图片描述
输入的是处理后的连续帧图像(降维幅度图),经过卷积层层后接两个全连接层,输出是所有动作的Q值。

算法

1. NIPS 2013

在这里插入图片描述

2. Nature 2015

2.1 算法

在这里插入图片描述

2.2 流程图

在这里插入图片描述
在这里插入图片描述

3. 不足

由于Replay Memory原因:

  1. 无法应用于连续动作控制;
  2. 只能处理只需短时记忆问题,无法处理需长时记忆问题(后续研究提出了使用LSTM等改进方法);