ベイズ統計と統計物理 (岩波講座 物理の世界)

伊庭幸人

• 岩波書店 (2003年8月27日発売)

感想・レビュー・書評

[fraserlibさんの感想 · 2023年3月14日]

請求記号　420.8/Sa 87

[ダグラスさんの感想 · 2019年12月2日]

ベイズが難しさと面白さがよくわかった
事前分布と条件付き確率をうまく使って網羅的にパターンを計算して導いた事後確率から確率を推定することが従来の統計学と違うということがわかった
そして事前分布が未知の場合（よくある）にとりあえず物理的なエネルギーの式（カロニカル分布など）を使うとうまくいくということもわかった
ただこれを100％読解するにはちょっと俺のベイズ知識が不十分だった気もする　ベイズの公式にあまり慣れ親しんでないっていうのもあるが
条件付き分布とカノニカル分布の対応がこの本の内容のすべてらしい
以下要点というか気になったところ


1章　メンデルの法則を使ったベイズ入門
メンデルの法則が馴染み深いので入門としてすごく分かりやすかった
家系図において未知の遺伝子を網羅的探索する過程で分割すると簡単になるが、近親婚があるとループが生じて分割が綺麗にできない


2章　実物理学の話
氷の中において、均衡を保つために水分子の向きを一度にまとめて変えるのが協力現象
鉄を熱すると磁石にくっつかなくなる
確率の問題はエントロピーに近い
エネルギーを無限にすると確率的に0になる


3章　モンテカルロ法について
統計物理を統計学に持ち込むときに最も価値がありそうなのは動的モンテカルロ
1個以外全て定数なら簡単にわかる→しかし現実はすべて未知→初期値を決めてやる→1個ずつ計算し直す→極限平均とればそれが答え
局所的には比較的簡単なルールで決まっているんだけど、それが多すぎて全体として複雑な様相を呈しているものに対して、シミュレーションの力技で解きほぐすということらしい　置き換えを何回も繰り返せば同じ分布からの独立なサンプルとみなせる
要素の出現確率に偏りがある場合、ある状態を経由しないと状態が網羅的に遷移しないのにその“ある状態“の出現頻度が低いから遷移に時間がかかる
任意の状態から任意の状態へ行けないリスクも3要素以上なら起こりうる　結局MCはざわ、、ざわ、、という少しずつの状態変化に強く、相関した系や複雑な系では厳しい　特に情報処理系では制約が厳しいから物理系を模するだけでは限界がある
条件を緩めればいいけど緩め過ぎたらまずいので、緩めた分布と中間の分布と自然の分布　合わせてK種類作って並列に入れ替えシミュレーションして、そして適宜それらの列間で“入れ替え“を実施する
入れかえしていい条件を適切に設けることで、不変分布の制約を守りつつ、計算の緩みと正確さを両立する


4章　1~3章を踏まえた統計学のお話
事前分布事後分布を未知数だけでなくモデルに対しても適用することもでき、あるデータ点yが与えられた時にそうなる条件付き確率が最も高いモデルを計算する
二つのモデルに対して事前分布を同じと仮定して、事後分布の比をガウス積分や対数関数で比較→データ点の数によって最適モデルの次数が変わる（データ点が多いと次数も大きく）とわかる
モデルが複雑なときの罰則項があるのがMLの線形モデルっぽいと感じた　ただ、いろいろ仮定しちゃってるから、実はこのやり方が正しいかどうかはよくわからない　最後に判断するのは個人
結局事前分布があるのが悪いので追放しようという考えがあり、そもそも事前分布を排除したのが今の記述統計学らしい　確率として考えたくないものにまで確率分布を適用したくないと言う考え
目的をしっかり掘り下げて分野ごとにカテゴライズしたうえで事前分布に頼らずともなんとかなる方法を探していけばいいが、細分化しすぎると柔軟性や応用性に欠く　結局のところ両者は一長一短なのかも　ちなみに統計物理に事前分布の等確率の話を取り入れられた際に色々と矛盾が生じてしまったが、これを救ってくれたのが量子力学だった
滑らかな当てはまり曲線を見つけるために目的変数との差の二乗だけでなく、2階差分の二乗和も取り入れて最小化を測るというのはなるほどと思った
磁性体の考えを応用して、事前分布に強磁性イジング模型を利用して、事後分布のエネルギー最小化をはかることで、画像修復ができるが、相転移の起こりうる事前分布を使うと、ある一定基準を下回った画像修正に問題が生じることがある

[nyankoteacherさんの感想 · 2016年10月29日]

161029 中央図書館
統計物理のアナロジーが、最適化問題に適用されるのはよく聞くが、物理・物性の側から、その意味と洞察を判りやすく解説してくれるのは貴重である。

[yuifuさんの感想 · 2015年12月2日]

条件付き分布・ベイズ統計と平衡統計物理の類似性をわかりやすく説明した本。
ベイズ統計の事前分布と、エネルギー・カノニカル分布（ギブス分布）の対応を様々な例を通して説明している。
また、事前分布と尤度の「引っ張り合い」も物理学的な解釈をしていて面白かった。

[たにちゅーさんの感想 · 2014年12月31日]

最近、乱読している　岩波講座　物理の世界でのうちの一冊です。

ベイズ統計っていうのは、高校でならう「条件付確率」で原因結果関係とかデータをいっぱいゲットした後に、ある仮説が正しいか、どんな仮説が正しそうかを考える学問なのです。

この本では、以下のことについて主に書いてありました。

（統計力学的考え方の計算機科学への応用）
ギブスサンプラーとパラレル・テンパリング法
（ベイズ統計について）
ベイズ統計って何ぞや。
ベイズ統計で出てくる事前分布についての歴史的お話
などですね。

このシリーズはトピックの切り売りって感じなんで、教科書としてどうってものでもないんですけど、そこそこの知識があれば、そこそこ「ふーん」って感じで分かった気になります。

やっぱり、ベイズ統計は重要っぽいですね。

[midwayさんの感想 · 2005年8月1日]

武蔵野中央420.8