【強化学習】Policy Gradient - なぜ？　のギモンに答える概要編！【方策勾配法①】RL vol. 23 #195 #VRアカデミア #ReinforcementLearning

高評価: 186件

再生: 5,031回

公開日: 2025年1月26日

方策勾配法の数式は難しい！　なんでわざわざこんなもの使うの？　これを使うとなんで良いの？　そんな疑問にお答えする概要編です！
次回の証明編で、「強化学習での証明との向き合い方は？」「方策勾配法に潜む混乱ポイントとその対処」「どっからこの式が出てきたの？」を扱うので、そこまではぜひ見てね！

【プレイリスト】
https://www.youtube.com/playlist?list=PLhDAH9aTfnxI1OywfnxXCDTWGtYL2NxJR

【目次】
To Be Appeared

【参考文献】
Marbach, Peter, and John N. Tsitsiklis. "Simulation-based optimization of Markov reward processes." IEEE Transactions on Automatic Control 46.2 (2002): 191-209.
https://ieeexplore.ieee.org/abstract/document/905687/

Sutton, Richard S., Satinder Singh, and David McAllester. "Comparing policy-gradient algorithms." IEEE Transactions on Systems, Man, and Cybernetics 30.4 (2000): 467-477.
http://incompleteideas.net/papers/SSM-unpublished.pdf

Williams, Ronald J. Reinforcement-learning connectionist systems. College of Computer Science, Northeastern University, 1987.
（リンク発見できませんでした）

分析モデル入門
https://amzn.to/3Ng0nC7
私の本！　この動画シリーズは、この第3部強化学習の内容を動画向けにアレンジ、大幅追加、大幅削除したものです。
合わせてみていただくと分かり易いかと！

強化学習（第2版）
https://amzn.to/3K4QsR8
Sutton 先生の「強化学習」本の和訳です。分厚いですが、時間があり、基礎をしっかり学びたい人におすすめ！
ちなみに、英語版は公式で pdf もダウンロードできます → http://incompleteideas.net/book/

強化学習 (機械学習プロフェッショナルシリーズ)
https://amzn.to/44R2XYr
理論家向けの方にはこちら！
しっかりと数式が解説されており、基礎の理論をしっかりと学ぶことができます。

機械学習スタートアップシリーズ Pythonで学ぶ強化学習
https://amzn.to/3XYDrOM
手を動かしながら学びたい人向け！
サンプルコードとともに、基礎的な強化学習アルゴリズムを学べます！

将棋AIで学ぶディープラーニング
https://www.amazon.co.jp/dp/B07B7JJ929
強化学習というと、将棋 AI を思い浮かべる人も少なくないはず！
そういう人におすすめ！
将棋 AI 向けの強化学習は、他の参考文献にある方法とはかなり異なる方法で作られます。
将棋を目指す方は、ぜひこれを見てみてください！
更に強いのを作るならこれ → https://amzn.to/3pU1aDa

強化学習の基礎と深層強化学習
https://www.slideshare.net/ShotaImai3/rlssdeepreinforcementlearning
合間に広告が貼ることが極めて重い欠点ですが、内容は素晴らしく、全体感を見渡すことができます。

【宣伝：本も買ってね！】
データサイエンスに頻出の分析モデルを、全領域、深く、書きあげました！
本質を捉えたデータ分析のための分析モデル入門 https://amzn.to/3Ng0nC7

データ分析に必要な数学を、基礎から最先端まで、過不足なく、数式の気持ちも含めて解説しました！
妥協しないデータ分析のための微積分+線形代数入門
https://amzn.to/3B4y8G4

【宣伝2：クラファンやってるよ！】
活動継続のためのご支援をお願いしています。詳細はこちら！
クラファン（月額）はこちら → https://community.camp-fire.jp/projects/view/709000
（クラファン始めた理由の動画 → https://www.youtube.com/watch?v=vXY34njwL4o ）

【終わりに】
ご視聴ありがとうございました！
面白かったら高評価、チャンネル登録お願いします。
動画の質問、感想などは、コメント欄や Twitter にどうぞ！
お仕事、コラボのご依頼、インターンの応募は、公式 WebPage や Twitter の DM からお願い致します。

AIcia Solid Project - Official Website - https://sites.google.com/view/aicia-official/top
動画生成：AIcia Solid (Twitter: https://twitter.com/AIcia_Solid/ )
動画編集：AIbis Solid (妹)

=======

Logo: ChikakoHorioさん ( https://twitter.com/ChikakoHorio )
Model Design by: ばんちょうさん（ https://twitter.com/k_ban_ ）ママ！
3D Model by: キツネツキさん（ https://twitter.com/_kitsune_tsuki_ ）パパ！