概要はしっかりわかった。
[more]
ベイズの理論の性質
・理由不十分の原則=わからないときには確率は平等。これが使えるから融通が効く。
・ベイズ更新=すでに得られている確率情報から新しい確率情報を得る。この関係を図示する一つの方法がベイジアンネットワーク
ベイズ統計に用いられる式は2つ
1)原因がH1〜Hnに分けられるとき、データDの原因がHiである確率を求める式
2)母数θについての確率分布の関係を表す式
ベイズの定理:原因と結果を逆転させて確率を考えるための定理
同時確率:2つの事象が同時に起こる確率 P(A∩B)
条件付き確率: P(B|A) Aの条件下でBが起こる確率
乗法定理:P(A∩B)=P(A) P(B|A)
確率分布
・一様分布
・ベルヌーイ分布 2値の分布
・正規分布
・ベータ分布 尤度と相性が良い。
母数:確率モデルを規定するパラメータ
最尤推定法 尤度関数が最大になる母数を推定値とする
ベイズの定理
P(H|D) = P(D|H) P(H) / P(D)
仮定(Hypothesis)と結果(Data)について
人は事前確率にうといようだと行動経済学で言われる。
逐次合理性:ベイズ更新を用いてもデータ入力順に依存しない。
ナイーブベイズ分類=単純ベイズ分類 単語間の相関を無視する。同時確率はそれぞれの事後確率の積とする。
ベイズ統計学: 母数が確率変数。 古典的な統計学は母数が定数として考える。
事後分布を求める積分を計算する2つの考え方
・自然な共役分布 簡単に計算できるモデルを作る
事前分布と事後分布が同じタイプの分布となるようにモデルを選択する。
例えば正規分布を選ぶと同じ分布となる。ポアソン→ガンマ など。
・MCMC法 計算の正確さは犠牲にしても複雑なモデルを扱う。
共役(きょうやく)は2つのものがセットになって結びついていること
物理: 共役な物理量どうしの積はエネルギーの次元 位置・運動量など。
期待損失最小化 最大事後確率推定法=MAP推定法で求める
事後確率、事後分布を用いるのが従来の統計学と異なる。
ベイズ理論による回帰分析では過去のデータを現在のデータに取り込むこと(事前分布)ができる。
最後の辺りはざっと見るだけにした。
eof
- 感想投稿日 : 2018年10月20日
- 読了日 : 2013年1月18日
- 本棚登録日 : 2018年10月20日
みんなの感想をみる