強化学習でボールを自由に動かす ~ネズミを追いかけるボール Part 1~ (深層学習  Deep Reinforcement Learning )


こんにちは。
前回は「倒立振り子」を例に、強化学習を用いた自動操作について紹介しました。
今回は強化学習と自動操作について、もう少し深くお話しをしたいと思います。
しかしその前に、このPart 1では強化学習の概要を紹介します。

Deep Learning(深層学習)を用いた強化学習としてはDQN が有名ですが、最近では次のように様々なアルゴリズムが提案されています。

DQN (Deep Q Learning)
DDQN (Double DQN)
DDPG (Deep Deterministic Policy Gradient)
NAF  (Continuous DQN (CDQN ))
CEM  (Cross-Entropy Method)
Dueling DQN (Dueling network DQN)
Deep SARSA
A3C  (Asynchronous Advantage Actor-Critic)
PPO  (Proximal Policy Optimization)

いったい何から始めればいいのか。。。。
これだけ沢山あると、頭がクラクラしてきますよね。
そこでここでは、(おそらく?)基本となるであろうQ学習(DQN)とActor-Critic(DDPGなど)について、その考え方を紹介したいと思います。

 

1 Q学習(DQN)

DQN はDeep Learningを用いた強化学習の一つですが、ベースとなっているアルゴリズムはQ学習(Q-Learning)です。このQ学習を「蟻」を主人公にして説明します。


aa

図1

(1)学習時の蟻の行動

 図1は、蟻がこれから餌をとりにいく様子を表しています。途中に休憩所があり、最後に餌があります。餌にはそれぞれ得点がついています。大好きなハチミツであれば3点、砂糖は1点です。しかし間違って「アリ地獄」にはまる場合もあり、その場合は-1点としています。この得点は「報酬」と呼ばれています。

 蟻はそれぞれの休憩所の掲示板に得点を書き込んでいきます。そのとき、蟻の行動には次のような2つのルールがあります。

 ①蟻は次のポイントの状態(だけ)を見渡せる

そもそも蟻はあまり目がよくないらしいのですが、今いるポイント(休憩所など)から、次のポイントの状態を見ることができるものとします。(次の次のポイントまでは見えない。後ろも振り返らない)
例えば蟻が今、休憩所S3にいる場合、次のポイントのS7、S8の状態を知ることができます。もし蟻が休憩所S1にいれば、次のポイントS3とS4の状態を知ることができます。

 ②次のポイントの得点(報酬)の中で一番いい得点を、今いるポイントの掲示板に書きこむ

蟻が休憩所S3にいるとすると(図2)、次のポイントの状態が「池」(S7)と「砂糖」(S8)であることがわかります。おいしい砂糖が次のポイントにあることを知らせるために、今いる休憩所S3の掲示板に得点「1」を書き込みます。休憩所の掲示板に書かれた得点は「Q値」と呼ばれています。


No2

図2

 さて、いよいよ学習スタートです。図3のように、はじめに蟻が休憩所S1に進んだとしましょう。この時、蟻は次のポイントS3とS4を見渡しますが、まだ掲示板がないので、S1の掲示板には「0」と書くことにします。さらに蟻が休憩所S3まで進んだとすると、見渡すとS7の報酬には0、S8には報酬1があるので、S3の掲示板には(良い報酬の)「1」を書きこみます(図4)。


No2

図3


No2

図4

 この蟻が、再び家から出発して、同じようにS1 → S3 と進むと、掲示板の情報は図5のようになります。最後のポイントには砂糖がある、すなわち報酬として最後に「1」があるという情報が、次第に家のほうにたぐり寄せられていくことがわかります。 


No2

図5

 蟻が適当に(ランダムに)休憩所を選択し、何回も餌を探しにいくと、掲示板の情報は最終的に図6のようになります。すべての休憩所の掲示板に得点(Q値)が書いてありますので、次に餌を探すときは、もう迷いません。これで蟻の学習はひとまず終了です。


No2

図6

(2)推測時の蟻の行動

 学習が終わったので、次はこの掲示板の得点を使った、最もよい餌の見つけ方を考えていきます。
見つけ方のルールは次の2つです。

 ①蟻は、今来た道順を覚えていない

 蟻は残念ながら、今まで辿ってきた道をまったく覚えていません。したがって、道を選択するための情報は、今いるポイント(休憩所)の状況と、(見渡せる)次のポイントの情報だけです。

 ②一番大きな得点が書いてある休憩所を選ぶ

 次の休憩所(あるいは目的地)の「選択のルール」として、「一番大きな得点(Q値)がかいてある掲示板を選ぶ」と決めておけば、必ず「良い餌」に辿りつくことができます。
(この「選択のルール」は「方策」と呼ばれています)
 家S0から出発するとき(図6)、休憩所S1、S2のいずれかを選ぶ必要があります。このとき、S1の掲示板の得点は1、S2の掲示板の得点は3なので、大きい方、すなわち休憩所S2を選択しS2に進みます。その後、休憩所S5とS6を比較し、大きい得点のほうの休憩所S6(得点3)へと進み、最後にS13のハチミツ(報酬3)にまで辿りつきます。

 このような学習・推測方法はQ学習と呼ばれています。このQ学習にディープラーニングの手法を加えたものがDQNです。

2 決定論的と確率論的

 図6では、働き者の蟻のおかげで、立派な掲示板を作ることができました。キリギリスではこうはいきません。おそらく砂糖を見つけたあたりで、掲示板の作成をやめてしまうでしょうね。

 蟻は、「一番大きな得点が書いてある掲示板を選ぶ」というルールに従ってさえいれば、必ず、毎回「ハチミツ」を得ることができます。

 しかし、(おそらく蟻もそうだと思いますが)毎日毎日、朝、昼、晩にハチミツを食べ続けるのは、さすがに飽きてきますよね。たまには砂糖をなめたいとか、池の水を飲みたいという気持ちもでてくると思います。せっかく立派な掲示板を作っても、「一番大きな得点がかいてある掲示板を選ぶ」というルールのもとでは、決して砂糖は手に入らないのです。このような方策は決定論的(Deterministic)と呼ばれています。

 例えば将棋を考えてみましょう(図7)。蟻が決定論的な強化学習で将棋を学習したとします。このとき先手の(決定論的な)蟻は、いつも、はじめに、同じ手、例えば「2六歩」を指します。この勝負に蟻が勝ったとしても、次の対戦で蟻が先手の場合は、蟻は再び初めに「2六歩」を指し、さきほどの勝負とまったく同じ手を、次々に指してきます。

 これでは、さすがのキリギリスも何か対策をうってきますよね。なにせ相手の蟻は、なんと毎回同じ手を指してくるのですから。
 キリギリスからみると、最初は「蟻は強い!」と思っていたものの、何回も対戦すると次第に「何やってるの?」と疑いはじめてくるに違いありません。


No2

図7

 これを避けるための方法が確率論的(Stochastic)な手法です。「一番大きな得点がかいてある掲示板」と「二番目に大きな得点がかいてある掲示板」(いずれも得点1以上)のどちらかを、確率的に(サイコロをふって)選ぶという方法です。この方法であれば、蟻もたまに砂糖を食べることができるようになります。

 対戦相手がいるような場合は確率論的な手法が重要になりますが、機械の制御などの場合は相手を欺く必要がありませんので、ベストな答え、すなわち決定論的な方法で十分ということになります。

3 選択数と次元の呪い  ― 離散量と連続量 ―

 図6では、家や休憩所にいるときの蟻の選択肢の数は、わずか2個でした。例えば、休憩所S1に蟻がいるときの選択肢の数はS3、S4の2個です。このように、右か左か、1か2かなどは、離散量(discrete)と呼ばれています。Q学習(DQN)は選択肢が離散量のタイプです。

 ここで車の運転を考えてみます。ハンドルは右に180度、左に180度回転することができるとします。そして1度単位でコントロールしたい場合、その選択肢の数は360個にもなります。
 車にはアクセルとブレーキがついているので、選択肢の数はさらに膨らみます。アクセルを踏む角度を50分類、同じようにブレーキを踏む角度を50分類とすれば、結局 360×50×50 = 900,000個の選択肢が、そこには並ぶことになります。900,000個の選択肢から一つを選ぶというのは理論的には可能だと思いますが、一つ隣を間違えて選ぶとだいぶ運転が変わってくるようなケースもあるので、やはり現実的ではないようです。

 そこで、Q値の学習と、次のポイントの選択(方策)を分けて考えよう、というアイデアがでてきました。図6ではQ値の値を基準に、どちらを選ぶかを決定しています。すなわち、「一番大きな得点(Q値)が書いてある掲示板を選ぶ」という方策でしたので、Q値の学習と、次のポイントの選択(方策)が一体となっています。
 これを、Q値を学習・推測するアルゴリズム(Critic)と、次のポイントを選ぶ(方策)というアルゴリズム(Actor)を分けて考えて、次のポイントを選ぶ(方策)というアルゴリズムでは、ハンドルの角度、アクセルの量、ブレーキの量にあたる「3種類の実数(連続量、continuous)」を専門に学習・予測させるようにします。
実数として考えると、わずか3種類の値を推測すればよいことになります。

 Q値の学習を行う部分はCritic、次を選択する方策はActorと呼ばれており、これらの2つがセットになったアルゴリズムはActor-Criticと呼ばれています。

4 Actor-Critic

 Actor-Critic 自体は、強化学習のアルゴリズムとして昔から提案・研究されていました。サーボモータを制御するためにロボット制御などでもよく使われた技術のようです。問題は、これとディープラーニングをどう融合させるかです。
 CriticはQ値を学習・推測する処理なので、DQN(Q学習)とほぼ同じアルゴリズムでOKですが、次のアクションを決定するActorのネットワークの重みをどのように更新していくか、が悩みどころでした。

 これについては、DeepMind社のSilver氏が2014年に、ニューラルネットワーク更新時の勾配を次のように計算すればよいことを示しました。
勾配がわかると、ネットワークの重みパラメータを更新することができます。


No2

 目標は、Q値が最も大きくなるようなニューラルネットワークの重みパラメータθを求めることです。
 Q値が大きくなる方向に、ネットワークの重みパラメータθの値を少しずつ変動させたいのですが、その変動に使用する勾配(∂Q/∂θ)は、(∂Q/∂a) と(∂a/∂θ)の合成勾配として表わすことができることを示したのです。(aはアクション)
TensorFlowなどのディープラーニング用のフレームワークを利用すると、このような合成勾配を求めるプログラムも数行で実装できるので、とても便利です。

 ディープラーニングを使用したActor-Critic アルゴリズムは、その後DDPG(Deep Deterministic Policy Gradient)や、GPUを使用しなくても効率的に学習を進めることができるA3C(Asynchronous Advantage Actor-Critic)へと発展していきました。

5 報酬の与え方が決め手

 ディープラーニングを用いた強化学習は、今でも、そしてこれからも様々なモデルがでてくると思いますが、どのようなモデルであっても、どうやら決め手となるのは「どのように報酬を与えるのか」という点のようです。
 報酬の与え方が悪いと学習がまったく進まないことも多いようで、黒魔術的な要素がますます増えてきたように感じます。

次回は、もしチャンスがあれば、このDDPGを使用した強化学習の事例をご紹介したいと思います。


※1「蟻」画像出典:http://01.gatag.net/0006583-free-illustraition/
※2「キリギリス」画像出典:http://free-illustrations.gatag.net/tag/クリップアート/page/134