第10回: Jarzynski等式の数理情報学！【2022年度・情報基礎科学としての数理情報学・東北大学大学院情報科学研究科】
4今年度はボルツマンマシンや敵対的生成ネットワーク、そして拡散モデルに代表される生成モデルの数理的背後に迫ります。
第10回はマルコフ連鎖モンテカルロ法を工夫したPararell Tempering(交換モンテカルロ法）、 そしてPopulation Annealingについて紹介します。
受講者は遠慮せずslidoで盛り上げましょう！
またはYoutube Live上でコメントをしてください。
どうぞよろしくお願いします。
【大学教員YouTuber大関真之先生に聞いてみたいこと】
大学生活・勉強・研究・仕事のことなんでも良いです。聞いてみたいことを投稿してください！
https://forms.gle/4fLpZHAcvwaRoL2x9
【自分の人生を振り返って起こった奇跡なこと・Too Badなこと】
クリスマス特別番組の中で紹介させていただきます。奇跡なことをみんなでお祝いしたり、残念で仕方ないがっかりなこともみんなで笑い飛ばしましょう！
紹介されたお便りには豪華プレゼントがあるかも！？
https://forms.gle/PJ37rkPDZGdEt7zX9
#東北大学
#機械学習
#生成モデル
【教員情報】
東北大学大学院情報科学研究科教授
大関 真之
Web page
https://altema.is.tohoku.ac.jp/~mohzeki/
twitter
https://twitter.com/mohzeki222
【チャプター】
00:00 待機画面
01:30 開始前雑談
01:55 今日は物理っぽい話
02:23 そういえば元は
02:39 「汎」と訳した人はすごい
03:47 「陽に」何て読む？
06:10 学術用語,どこまで日本語にする？
12:48 日本語の中ですら難しい
13:08 OP
13:42 本編開始
16:07 会議,会議,and会議
16:53 気をつけようタイトル詐欺
17:59 前回の復習：シミュレーテッドアニーリング
∟23:30 シミュレーテッドテンパリング
27:00 温度の遷移確率
∟30:50 遷移確率の例
∟37:48 プライムはどちらにつける？
40:56 交換モンテカルロ法
∟43:08 シミュレーテッド・テンパリングの反省
∟44:20 交換モンテカルロ法の仕組み
∟49:45 確率分布
∟52:58 別の温度と交換する確率
∟58:36 並列計算がしやすい
∟1:01:37 受諾確率の計算
∟1:02:22 規格化定数が消えて計算しやすい
∟1:07:40 引用件数がすごい
1:09:37 Jarzynski等式
∟1:11:06 Jarzynskiさんはこんな人
∟1:11:54 どんな等式か
∟1:13:46 ＜…＞0→Tの定義
∟1:17:19 これまでの遷移との違いと意味
∟1:20:28 つりあい条件を満たす(詳細つりあいは満たさなくてOK)
∟1:23:03 熱力学第二法則を導ける
∟1:24:01 Jensenの不等式を利用
∟1:27:13 第二法則を等式で表現したのが偉い
∟1:28:15 Jarzynski等式の証明
∟1:30:31 仕事Wとは何か
∟1:31:49 パラメータ由来の変化は仕事,変数由来の変化は熱
∟1:36:30 x0についての和を計算
∟1:38:43 指数部分との積を計算
∟1:41:40 同じ計算を繰り返す