確率ロボティクス第2回（その2）:
確率変数，確率質量関数と確率分布

千葉工業大学 上田 隆一

This work is licensed under a Creative Commons Attribution-ShareAlike 4.0 International License.

今回の内容

• 確率変数
• 確率分布
• 独立同分布
• 多変量の確率分布の計算

確率変数

• 事象に数を対応させたもの
  • 例1: コインを投げて表が出る/裏が出るにそれぞれ、を割り当て
  • 例2（自然にそうなっている例）
    • サイコロを振っての目が出る事象にを割り当て
  • 例3（自然にそうなっている+連続的な変数の例）
    • ある人の身長が[mm]であるという事象にを割り当て
• 大抵は根元事象に対して数値を対応
  • 根元事象: それ以上分けられない/分けない事象（サイコロの目など）
  • 確率変数の定義域は全ての根元事象を網羅している必要がある

なんで確率変数を考えるのか

• 確率分布を考えるため（後述）
• その他計算のため（期待値など。次回。）
• 事象の扱いがめんどくさい
  • いちいち「という事象が起こった」と言うのがめんどくさい
  • 根元事象やそうでない事象が入り混じってめんどくさい
• 注意: 以後、区別の不要なときは、確率変数を単に「変数」と表記

確率分布

• 確率変数を横軸にすると確率のグラフが描ける
  • 数直線上での確率の「分布」が分かる確率分布
• 典型的な分布には名前
  • ベルヌーイ分布（例: (a)）
    • 変数が2値だけ
  • 一様分布（例: (b)）
    • 変数のある範囲で確率が一定

確率質量関数

• 変数の値に対応する確率を返す関数
  • 表記: （厳密には）
  • 要は確率分布のグラフの形を決める関数
  • これも確率分布と呼ばれる
• より定義がスッキリ
  • 変数がスカラー
• 補足
  • 「」という記号は、本来はだろうが
    だろうが別になんでもよい
  • が実数のときは密度の関数になるが
    今は考えない

確率質量関数と加法定理

• 確率変数の場合、値が異なれば自動的に排反に
  • • ただしが互いに異なるとき
    • 右図の例:
  • • 右図の例
  • 何を計算しているか: 確率分布の面積

「確率分布に従う」

• 変数がで分布するとき、
  「はに従う」と表現
  • がなんらかの法則性をあらわしていて、
    はそれにしたがって発生するという発想
• 数式上の表記:
  • 表記に関する補足
    • は変数の値がとなるときの確率
    • は確率分布そのもの

ドロー（ドローイング）

• にしたがう変数の値をランダムに選択すること
• これも表記は
• 無限に値をドローして度数分布（頻度の分布）を作ると形がに一致
• 用途
  • シミュレーション
  • 数値計算
    （モンテカルロ積分やサンプリング）
• 似て非なるもの: サンプリング
  • サンプリング: 統計を取るときに対象から
    一定数の標本（サンプル）を抜き取ること

独立同分布（independent and identically distributed、i.i.d.）

• から値をドローしたとき、
  値に互いにに従う以上の関係性がないこと
  • 表記:
• 独立同分布にならない例
  • 右図
  • ディーラーが操作しているルーレット
  • センサーの出力
    • 雑音の要因は一定時間続く
      前後の出力には同じ傾向
• 「独立同分布」という分布はない（形容詞）

同時分布

• 2つ以上の確率変数に対する分布
• 例: 青いサイコロの出目を、赤いサイコロの出目をとするとき
  • 出目の確率分布:
  • になる確率:
    • は同時確率質量関数（分布）と呼ばれる
• なんの分布か分かっているときはの添え字は省略されることが多い
  • 、
  • 教科書でこれをやると混乱する人も出る
  • ・・・けど、添え字だらけも読みにくい（悩ましい）

同時分布と乗法定理

• 乗法定理（そのまま成り立つ）
  • • 本当は
    • は条件付き確率質量関数（分布）と呼ばれる
  • 独立な場合:
  • 互いに独立な変数に対し:

同時分布の変数の追加・削除

• 変数の追加
  • があるときに、新たな変数を考える
    • が成立
      • ここで
  • 例: 前半のX君とY君の電源回路の話
    • ロボットが起動
      ロボットが起動XXロボットが起動YY
• 同時分布から特定の変数を消す操作
  • 上の式の逆で
  • 周辺化と呼ばれ、アルゴリズムの導出でよく出てくる

まとめ

• 確率変数、確率分布の導入
  • 数学的に扱いやすい
• 多変数の確率分布
  • 同時分布、条件付き分布
  • 乗法定理、周辺化等の計算に慣れると機械学習の教科書を読めるように