昨日は関数近似の説明をするための準備を行った。
今日は関数近似を強化学習とどのように組合せていくのか説明する。
関数近似による価値ベクトルの表現
強化学習に関数近似を組合せる場合、状態価値ベクトルや行動価値ベクトルを、パラメータをもった関数で近似的に表現する。
すなわち、状態価値ベクトルなら、パラメータをもった関数を使って、
行動価値ベクトルなら、パラメータをもった関数を使って、
というふうに表現する。
なお、ここでやといった関数にはいろんな関数を使うことが考えられて、シンプルな線形関数を使ったり、あるいは非線形関数を使うことも考えられる。
(ニューラルネットワークやSVR(Support Vector Regression)を使う場合、非線形関数となる)
パラメータの学習
さて、価値ベクトルを関数近似を使って表現した場合、パラメータの値が更新されることで、価値ベクトルの値も更新されていくことになる。
このとき、パラメータをどのように更新させればいいのかと考えると、観測された価値との誤差が出来るだけ小さくなるように更新するのがいいと考えられる。
そこで、最急降下法を使ってパラメータを更新する。
具体的には、時間ステップで状態が観測されたとして、
というふうに、パラメータを更新する。
なお、である。
ここで、というのは、各強化学習の手法での価値の推定を使うことになり、TD()なら収益を使うことになる。
上記のパラメータを更新する式は、元々のパラメータの値に、価値の推定の差分にステップサイズを掛けたものを、各パラメータの影響度に応じて足し込む、と読むことが出来る。
これは、TD()と比較したとき、TD()では、価値の推定の差分にステップサイズを掛けたものを、適格度トレースに応じて足し込む、となっていたわけだから、次のように表すことが出来る:
としたとき、
これがTD()に関数近似を組合せたときのパラメータの更新式となる。
なお、これはもちろん他の手法(モンテカルロ法やQ学習)にも、同様に適用することが出来る。
(パラメータの更新式の形がちょっと変わる)
今日はここまで!
- 作者: Richard S.Sutton,Andrew G.Barto,三上貞芳,皆川雅章
- 出版社/メーカー: 森北出版
- 発売日: 2000/12/01
- メディア: 単行本(ソフトカバー)
- 購入: 5人 クリック: 76回
- この商品を含むブログ (29件) を見る