統計検定準1級 確率の土台 要点まとめノート【第1〜7章】

この記事の役割

確率の土台(第1〜7章)の復習ノートです。連載の各回が「なぜそうなるのか」を実験しながら追う記事なのに対し、こちらは押さえるべきことだけを1ページに集めたものです。用語集に近い形なので、詳しい導出や検算は各回へのリンクから読んでください。

章と回の対応

公開順と章の順が一致していません。第2章(母関数)は、極限定理まで来てから読んだほうが用途が分かるため最後に回しました。

章タイトル対応する回
第1章事象と確率第2回
第2章確率分布と母関数第9回
第3章分布の特性値第3回
第4章変数変換第4回
第5章離散型分布第5回
第6章連続型分布および標本分布第6回(前半)・第7回(後半)
第7章極限定理・漸近理論第8回

用語集

言葉で説明できるかを先に確認する用です。

用語記号意味
1条件付き確率P(AB)P(A \mid B)BB が起きた世界での AA の確率。分母が BB に縮む
1独立P(AB)=P(A)P(A \mid B) = P(A)排反とは別の概念
1全確率の公式P(B)=iP(BAi)P(Ai)P(B) = \sum_i P(B \mid A_i)P(A_i)。場合分けして足し戻す
1事前確率 / 事後確率P(A)P(A) / P(AB)P(A \mid B)データを見る前 / 見た後の確率
1尤度P(BA)P(B \mid A)仮説を固定したとき、そのデータが出る確率
2積率(モーメント)E[Xk]E[X^k]kk 乗の期待値。1次が平均、2次から分散
2積率母関数(MGF)MX(t)=E[etX]M_X(t) = E[e^{tX}]全次数の積率をまとめて持ち歩く関数
2再生性同じ種類の分布を足すと同じ種類になる性質
3分散V[X]V[X], σ2\sigma^2E[X2](E[X])2E[X^2] - (E[X])^2
3歪度 / 尖度左右の非対称さ / 裾の重さ
4ヤコビアンdx/dy\lvert dx/dy \rvert変換で伸縮した幅を打ち消し、確率の総量を1に保つ係数
4Jensenの不等式gg が凸なら E[g(X)]g(E[X])E[g(X)] \ge g(E[X])
5過分散分散が平均を超えた状態。ポアソンの前提が崩れたサイン
5無記憶性経過時間を知っても残り時間の分布が変わらない
6確率密度関数f(x)f(x)確率そのものではない。面積が確率
6標本分布統計量が従う分布。データの分布ではない
6自由度ν\nu自由に動ける情報の個数。制約1つで1つ減る
6ピボット量未知パラメータを含むのに、分布がその値によらない量
7標準誤差σ/n\sigma/\sqrt{n}標本平均のばらつきの大きさ

記号の注意:連載第3回では s2s^2nn で割る版、u2u^2n1n-1 で割る版に割り当てています。ただし公式ワークブックを含む多くのテキストは s2s^2 を不偏分散(n1n-1)に使います。本や問題文が変わったら、まず「その s2s^2 はどちらか」を確認してください。

第1章 事象と確率

条件付き確率は新しい概念ではなく、母集団を絞ってから割り算する操作です。

P(AB)=P(AB)P(B),P(AB)=P(BA)P(A)P(B)P(A \mid B) = \frac{P(A \cap B)}{P(B)}, \qquad P(A \mid B) = \frac{P(B \mid A)P(A)}{P(B)}
  • 手元にあるのは P(データ仮説)P(\text{データ} \mid \text{仮説})、知りたいのは P(仮説データ)P(\text{仮説} \mid \text{データ})。この向きを変えるのに事前確率が必要
  • 精度99%の検査で陽性でも、有病率1%なら病気の確率は約50%。答えを支配しているのは検査の性能ではなく検査前の確率
  • 同じ構造がA/Bテストで再登場する。有意水準5%・検出力80%で100件テストしたときの「有意だったもののうち本物」の割合は次のとおり。
仮説が当たる事前確率有意なもののうち本物
5%46%
30%87.3%
50%94.1%

統計手法は何も変えていません。仮説の質だけが違います。

  • p値は P(データH0)P(\text{データ} \mid H_0) であって P(H0データ)P(H_0 \mid \text{データ}) ではない。「p < 0.05 だから95%正しい」が成り立たない理由はこの向きの違いに尽きる。

→ 1万人を並べた図と検証は 第2回

第3章 分布の特性値

V[X]=E[X2](E[X])2V[X] = E[X^2] - (E[X])^2
  • 順番を逆にすると別物(E[X2](E[X])2E[X^2] \neq (E[X])^2)。定義は「ズレを2乗して平均」で、展開するとこの形になる。
  • 0/1データの分散は p(1p)p(1-p)p=0.5p = 0.5 で最大なので、CVRが50%に近い指標ほど多くのサンプルが必要
  • 独立なら分散は足せる。標準偏差は足せない(3と4を足すと7ではなく5)。ここから
V[X+Y]=V[X]+V[Y],V[Xˉ]=σ2nV[X + Y] = V[X] + V[Y], \qquad V[\bar{X}] = \frac{\sigma^2}{n}

が出る。この σ2/n\sigma^2/n が第6〜7章(標本分布・中心極限定理・信頼区間の幅)すべての土台になる、この章で最も先まで効く1行。

  • n1n-1 で割るのは偏りの補正。標本平均を使うとズレが小さく出る分を埋め合わせる。「自由度が1減る」は偏差の和が必ず0という制約1つぶん。
  • 平均と分散が同じでも形は違う。それを測るのが歪度と尖度。シミュレーションでは標本尖度が理論値より小さめに出る(裾を作る稀な値がサンプルに入らないため)。バグではない。

第3回

第4章 変数変換

fY(y)=fX(x)dxdyf_Y(y) = f_X(x) \left\lvert \frac{dx}{dy} \right\rvert
  • 変換すると区間の幅が伸び縮みするので、伸縮率で割って面積(=確率の総量)を1に保つ。それがヤコビアン。
  • fXf_XfYf_Y別の関数。同じ ff を使うので混同しやすい。
  • 非線形変換では E[g(X)]g(E[X])E[g(X)] \neq g(E[X])。平均身長・平均体重から出したBMI(22.491)と、個人ごとに計算して平均したBMI(22.570)は一致しない。凸なら E[g(X)]g(E[X])E[g(X)] \ge g(E[X]) だが、どちら向きにずれるかは変換ごとに確かめる(BMIは2変数関数なので1変数の凸性の図だけでは決まらない)。
  • この事実は第6章で E[s]<σE[s] < \sigma(不偏分散の平方根は σ\sigma の不偏推定量ではない)として戻ってくる。

第4回

第5章 離散型分布

使い分けは「選ぶ」ものではなく、二項分布から出発して前提が崩れたら次に渡される流れ。

困りごと分布平均
nnpp が分かっている二項分布npnp
nn が数えられない(分母不明)ポアソン分布λ\lambda
分散が平均を超えている(過分散)負の二項分布下記の注意
最初の当たりまでの回数幾何分布1/p1/p(試行回数版)
分母が有限で、引くと減る超幾何分布nK/NnK/N
  • ポアソン分布は「レアな現象」専用ではないnn が数えられないときの分布。
  • 平均だけ見ていると前提の崩れに気づけない。ポアソンは平均=分散なので、分散が大きければそれ自体が異常のサイン。
  • 負の二項分布には流儀が2つある。失敗回数版(平均 r(1p)/pr(1-p)/p)と試行回数版(平均 r/pr/p)。scipy.stats.nbinom とRの rnbinom はどちらも失敗回数版。
  • 無記憶なのは幾何分布だけ。負の二項分布(r2r \ge 2)は無記憶ではない。
  • 「平均回数を引いてもまだ約37%(1/e1/e)が未達成」は pp が小さいときの近似p=0.03p = 0.03 では33回時点で36.6%)。

第5回

第6章前半 連続型分布

名前で覚えるのをやめて、データがどう作られたかで並べ直す。

問い分布押さえどころ
次の1件までの待ち時間指数分布無記憶。平均30分でも「30分以内」は約63%
kk 件たまるまでの待ち時間ガンマ分布ピークは平均より手前
たくさん足した結果正規分布中心極限定理の帰結
たくさん掛けた結果対数正規分布年収や株価が右に歪む理由
割合そのものの不確かさベータ分布A/Bテストの「母数が少なすぎる」を数字にできる
  • 密度は確率ではない。1点の確率は0で、面積が確率。密度が1を超えても矛盾しない。
  • 指数分布の中央値は平均より小さい(平均 × ln20.693\ln 2 \approx 0.693)。「平均30分」=「30分で半々」ではない。
  • 無記憶性は欠陥ではなく適用範囲の宣言。摩耗や老化がある対象には使えないと言っているだけ。
  • 足すと正規、混ぜると正規にならない。中心極限定理は「足す」の話。

第6回

第6章後半 標本分布

定義から入らず、困りごとから並べる。3つは正規分布から作った部品。

困りごと分布押さえどころ
σ\sigma を知らないt分布「分散を知らないことへの罰金」。ν2\nu \le 2 では分散が定義できない
ばらつきそのものを知りたいχ²分布分散の区間推定、度数のずれの検定
ばらつきを比べたいF分布主役は等分散検定ではなく分散分析・回帰
  • t分布の裾が重い真因は「ss が小さめに出るから」ではないssばらつくことの寄与が大きい(偏りの寄与0.05 対 ばらつきの寄与0.25)。
  • n1n-1 で割るのとt分布を使うのは別問題。前者は偏りを、後者はばらつきを直す。両方セットで初めて正しい。
  • t区間が壊れる条件は「正規でない」ではなく「歪んでいる」。対称なら頑健、対数正規は n=100n = 100 でも被覆率85%程度。
  • χ²の式に σ\sigma があるのに未知でよいのはピボット量だから。区間推定という手法自体がこの発想の上にある。
  • 「期待度数5以上」は呪文ではなく、中心極限定理をどこから信用してよいかの目安。小さい領域では棄却率が上下に揺れるので、1点の数字ではなく傾向で読む。

第7回

第2章 確率分布と母関数

MX(t)=E[etX],MX(k)(0)=E[Xk]M_X(t) = E[e^{tX}], \qquad M_X^{(k)}(0) = E[X^k]
  • etXe^{tX} の形が必然なのは、微分しても消えないことと和が掛け算になるea+b=eaebe^{a+b} = e^a e^b)を同時に満たす関数が指数関数だけだから。
  • 独立なら MX+Y(t)=MX(t)MY(t)M_{X+Y}(t) = M_X(t)M_Y(t)。畳み込み積分の代わりに掛け算1回で和の分布が決まるのが実用価値。再生性の証明もこれ1行。
  • 「MGFが一致したから分布も同じ」と言えるのは一意性定理があるから。MGFが存在しない分布(コーシー分布など)では特性関数 E[eitX]E[e^{itX}] を使う。

第9回

第7章 極限定理

定理何を言っているか
大数の法則標本平均は真の値に寄っていく(位置の話)
中心極限定理そのズレの形が正規分布になる(形の話)
  • 大数の法則だけでは「どれくらいズレるか」が言えない。誤差の幅を数字にするにはCLTが必要。
  • 精度は n\sqrt{n} でしか上がらない。精度2倍にはサンプル4倍。
  • 母集団の人数は式に出てこないσ/n\sigma/\sqrt{n}NN が現れないので、1億人の国でも2000人で足りる(有限母集団修正 (Nn)/(N1)\sqrt{(N-n)/(N-1)}NnN \gg n ならほぼ1)。「母集団の1%は調べないと」は誤り。
  • 1.96 は確率ではなく「標準誤差の何個ぶんか」。誤差の幅は 1.96×σ/n1.96 \times \sigma/\sqrt{n} で、n=2000n = 2000p=0.5p = 0.5 なら約 ±2.2ポイント。
  • CLTには「独立」「同一分布」「分散が有限」が必要。歪みが強いと nn が大きくても甘く、分散が無限(コーシー分布)なら何件集めても平均が収束しない
  • 標準化した和のMGFを対数に取って展開すると3次以降が nn で消え、et2/2e^{t^2/2}(=標準正規分布のMGF)が残る。「なぜ正規分布なのか」の答えが第2章の道具で出る

第8回

つまずきやすいところ

試験前に見返す用の一覧です。

よくある誤解正しい理解
検査の精度が高ければ陽性はほぼ病気有病率が低いと的中率も低い1
p < 0.05 なら仮説が95%正しい条件の向きが逆1
独立と排反は似たもの排反なら(確率0でなければ)独立ではない1
標準偏差も足せる足せるのは分散だけ3
s2s^2 といえば不偏分散テキストによって割る数が違う3
n1n-1 で割ればすべて解決直るのは偏りだけ。ばらつきはt分布の仕事3・6
尖度が理論値と合わないのは計算ミス標本尖度は系統的に下振れする3
平均を代入すれば平均が出る非線形変換では一致しない4
ポアソン分布はレアな現象用nn が数えられないときの分布5
負の二項分布の平均は r/pr/p流儀が2つある。失敗回数版は r(1p)/pr(1-p)/p5
密度が1を超えたら計算ミス密度は確率ではない6
平均30分なら30分以内が50%約63%。中央値は約20.8分6
何でも足せば正規分布になる「足す」ならそう。混ぜる・掛けるは別6
t分布は ss が小さく出る補正主因は ss のばらつき6
母関数は形式的な道具和の分布と再生性を出す実用品2
大数の法則があればCLTは不要位置の話と形の話で別物7
母集団が大きいほど多く集める必要があるNN は式に出てこない7
1.96 は確率95%を表す数標準誤差の個数(位置)7
nn が大きければ常に正規近似できる歪みが強いと甘い。分散無限なら破綻7

この範囲で、連載がまだ扱っていないこと

正直に書いておきます。第1〜7章のうち、連載で単独に扱えていない項目です。

未収録の項目
1事象の演算(ド・モルガン)、確率の公理と加法定理、数え上げ、多分類のベイズ
2確率母関数・キュムラント母関数、特性関数の本格的な扱い
3共分散・相関係数、条件付き期待値と分散分解、チェビシェフの不等式
42変数の変数変換(ヤコビ行列)、順序統計量
5多項分布、離散一様分布
6二変量正規分布と条件付き分布、非心分布、ワイブル・パレート
7収束の種類(概収束・確率収束・分布収束)、デルタ法、連続修正

とくに条件付き期待値と分散分解、二変量正規分布は回帰分析で必須になるので、優先して埋める予定です。

確率の土台はここで一区切りです。次は推測統計(第8章 統計的推定の基礎)に入ります。

→ 連載の目次:統計検定準1級 独学記事インデックス


この連載は、うまくいった記録だけでなく詰まった箇所も含めて書いています。同じく準1級を目指している方、一度挫折した方の参考になれば嬉しいです。