【強化学習】REINFORCE - 【方策勾配法④】RL vol. 25 #200 #VRアカデミア #ReinforcementLearning
高評価: 73件
再生: 2,950回
公開日: 2025年4月04日
REINFORCE は深層強化学習 x 方策勾配法の2大応用の一つ!
ついに深層強化学習の具体的手法の始まり!
方策勾配を実用では、Q と b をデータから計算することが本質です。その一つの手法として、実際の収益と価値観数の推定値を用いるのが REINFORCE。
次回の Actor-Critic と合わせておあせておきましょう!【プレイリスト】
https://www.youtube.com/playlist?list=PLhDAH9aTfnxI1OywfnxXCDTWGtYL2NxJR【目次】
To Be Appeared【参考文献】
Williams, Ronald J. Reinforcement-learning connectionist systems. College of Computer Science, Northeastern University, 1987.
(リンク発見できませんでした)分析モデル入門
https://amzn.to/3Ng0nC7
私の本! この動画シリーズは、この第3部 強化学習 の内容を動画向けにアレンジ、大幅追加、大幅削除したものです。
合わせてみていただくと分かり易いかと!強化学習(第2版)
https://amzn.to/3K4QsR8
Sutton 先生の「強化学習」本の和訳です。分厚いですが、時間があり、基礎をしっかり学びたい人におすすめ!
ちなみに、英語版は公式で pdf もダウンロードできます → http://incompleteideas.net/book/強化学習 (機械学習プロフェッショナルシリーズ)
https://amzn.to/44R2XYr
理論家向けの方にはこちら!
しっかりと数式が解説されており、基礎の理論をしっかりと学ぶことができます。機械学習スタートアップシリーズ Pythonで学ぶ強化学習
https://amzn.to/3XYDrOM
手を動かしながら学びたい人向け!
サンプルコードとともに、基礎的な強化学習アルゴリズムを学べます!将棋AIで学ぶディープラーニング
https://www.amazon.co.jp/dp/B07B7JJ929
強化学習というと、将棋 AI を思い浮かべる人も少なくないはず!
そういう人におすすめ!
将棋 AI 向けの強化学習は、他の参考文献にある方法とはかなり異なる方法で作られます。
将棋を目指す方は、ぜひこれを見てみてください!
更に強いのを作るならこれ → https://amzn.to/3pU1aDa強化学習の基礎と深層強化学習
https://www.slideshare.net/ShotaImai3/rlssdeepreinforcementlearning
合間に広告が貼ることが極めて重い欠点ですが、内容は素晴らしく、全体感を見渡すことができます。【宣伝:本も買ってね!】
データサイエンスに頻出の分析モデルを、全領域、深く、書きあげました!
本質を捉えたデータ分析のための分析モデル入門 https://amzn.to/3Ng0nC7データ分析に必要な数学を、基礎から最先端まで、過不足なく、数式の気持ちも含めて解説しました!
妥協しないデータ分析のための 微積分+線形代数入門
https://amzn.to/3B4y8G4【宣伝2:クラファンやってるよ!】
活動継続のためのご支援をお願いしています。詳細はこちら!
クラファン(月額)はこちら → https://community.camp-fire.jp/projects/view/709000
(クラファン始めた理由の動画 → https://www.youtube.com/watch?v=vXY34njwL4o )【終わりに】
ご視聴ありがとうございました!
面白かったら高評価、チャンネル登録お願いします。
動画の質問、感想などは、コメント欄や Twitter にどうぞ!
お仕事、コラボのご依頼、インターンの応募は、公式 WebPage や Twitter の DM からお願い致します。AIcia Solid Project - Official Website - https://sites.google.com/view/aicia-official/top
動画生成:AIcia Solid (Twitter: https://twitter.com/AIcia_Solid/ )
動画編集:AIbis Solid (妹)=======
Logo: ChikakoHorioさん ( https://twitter.com/ChikakoHorio )
Model Design by: ばんちょうさん( https://twitter.com/k_ban_ )ママ!
3D Model by: キツネツキさん( https://twitter.com/_kitsune_tsuki_ ) パパ!
説明文の続きを見る
強化学習の探検
強化学習の基礎から深層強化学習まで解説します。 将来的に、以下の内容をカバーする予定です: 1. 強化学習とは 2. 基礎的アルゴリズム (Tabular Reinforcement Learning) 3. 深層強化学習 (Deep Reinforcement Learning) 4. 探索技法 5. AlphaGo 6. LLM, Diffusion Models と強化学習
- ▲ 前の10件を見る
- 【強化学習】忙しい人のための eligibility trace RTA【強化学習の基礎アルゴリズム】RL vol. 21 #190 #VRアカデミア #ReinforcementLearning
- 【強化学習】深層強化学習入門 - 全体像を見ていこう!【いざ深層強化学習】RL vol. 22 #193 #VRアカデミア #ReinforcementLearning
- 【強化学習】Policy Gradient - なぜ? のギモンに答える概要編!【方策勾配法①】RL vol. 23 #195 #VRアカデミア #ReinforcementLearning
- 【強化学習】Policy Gradient - 証明! 混乱の原因と証明との向き合い方【方策勾配法②】RL vol. 24-1 #197 #VRアカデミア #ReinforcementLearning
- 【強化学習】Policy Gradient - ガチ勢向け証明 for 無限の場合【方策勾配法③】RL vol. 24-2 #198 #VRアカデミア #ReinforcementLearning
- 【強化学習】REINFORCE - 【方策勾配法④】RL vol. 25 #200 #VRアカデミア #ReinforcementLearning
- 【強化学習】Actor-Critic - 行動者と評価者を同時に学習!【方策勾配法⑤】RL vol. 26 #202 #VRアカデミア #ReinforcementLearning
- 【強化学習】Actor-Critic と eligibility trace【方策勾配法⑥】RL vol. 27 #206 #VRアカデミア #ReinforcementLearning
- 【強化学習】DQN - 深層強化学習時代の到来を告げる超すごいモデル!【Atari 攻略①】RL vol. 28 #210 #VRアカデミア #ReinforcementLearning
- 【強化学習】決定論的方策勾配定理の証明 - 一度は見てね! 気合で計算!!【深層強化学習】RL vol. 29-2 #215 #VRアカデミア #ReinforcementLearning215
- 【強化学習】TRPO - 近似誤差と戦う! KL divergence で更新幅を制限【深層強化学習】RL vol. 30 #218 #VRアカデミア #ReinforcementLearning
アイシア動画
- ▲ 前の10件を見る
- 【強化学習】Policy Gradient - なぜ? のギモンに答える概要編!【方策勾配法①】RL vol. 23 #195 #VRアカデミア #ReinforcementLearning
- 【特異値分解12】特異値分解 - 数式 R = VMU-1 の意味そのものを掴む!【行列34 R = VMU-1】 #196 #VRアカデミア #線型代数入門
- 【強化学習】Policy Gradient - 証明! 混乱の原因と証明との向き合い方【方策勾配法②】RL vol. 24-1 #197 #VRアカデミア #ReinforcementLearning
- 【強化学習】Policy Gradient - ガチ勢向け証明 for 無限の場合【方策勾配法③】RL vol. 24-2 #198 #VRアカデミア #ReinforcementLearning
- 【特異値分解13】正準相関分析 - 2群の変数間の複雑な関係をスッキリ理解!【行列35 正準相関分析】 #199 #VRアカデミア #線型代数入門
- 【強化学習】REINFORCE - 【方策勾配法④】RL vol. 25 #200 #VRアカデミア #ReinforcementLearning
- 【擬似逆行列1】転置 - 転置は変換の向きを逆にします【行列36 2種類の逆1】 #201 #VRアカデミア #線型代数入門
- 【強化学習】Actor-Critic - 行動者と評価者を同時に学習!【方策勾配法⑤】RL vol. 26 #202 #VRアカデミア #ReinforcementLearning
- 【行田康晃】団代数研究のホープ - 数学苦手な高校生 → いまは数学者!?【数学者に会いに行こう!】#203 #VRアカデミア #cluster_algebra #Markov_equation
- 【擬似逆行列2】擬似逆行列 - 変換の向きと倍率を反転させた行列を特異値分解で作る!【行列37 2種類の逆2】 #203 #VRアカデミア #線型代数入門
- 【擬似逆行列3】擬似逆行列の計算公式 - 転置 + 倍率調整で擬似逆行列を作ろう!【行列38 2種の逆3】 #205 #VRアカデミア #線型代数入門
- ▼ 次の10件を見る
人気のチャンネル
予備校のノリで学ぶ「大学の数学・物理」
予備校のノリで学ぶ「大学の数学・物理」のチャンネルでは主に ①大学講座:大学レベルの理系科目 ②高校講座:受験レベルの理系科目 の授業動画を...
1,260,000人
661本
313,350,689回
4,685,206件
【楽しい授業動画】あきとんとん
ただの塾講師。 勉強が苦手な人のために,動画をあげていきたいと思います。 気付いたら,勉強の知識が入っていた!!ってぐらい楽しい授業を目...
630,000人
924本
42,184,016回
823,036件
YouTube高校 / 日本史・世界史
日本中を回って撮影した映像で日本史解説の動画を作っています Twitter:Y_Eschool Instagram:You.ele....
621,000人
407本
124,951,664回
908,134件





ラッキー動画







