統計検定準1級 推測統計 要点まとめノート【第8〜13章】

この記事の役割

推測統計(第8〜13章)の復習ノートです。連載の各回が「なぜそうなるのか」を実験しながら追う記事なのに対し、こちらは押さえるべきことだけを1ページに集めたものです。詳しい導出や検算は各回へのリンクから読んでください。

この範囲の全体像

確率の土台編は「分布が分かっているとき、データはどうなるか」でした。ここから向きが逆になります。データが手元にあって、分布のパラメータを知りたい。その流れは一本道です。

問い出てくる道具
81つの数字で答えるには最尤法・不偏性・フィッシャー情報量
9幅をつけて答えるにはピボット量・反転・標本サイズ設計
10「差がある」と言うには尤度比・NP補題・ワルド/スコア/尤度比
11正規分布を前提にするとt検定の使い分け・ウェルチ・F検定
12正規分布でないときは適合度検定・漸近検定
13分布を当てにしないなら順位検定・並べ替え検定

第8〜9章は同じ式を2回使っています。 フィッシャー情報量から標準誤差が出て、それを1.96倍すると信頼区間の半幅になる。

In(θ)    1In(θ)    1In(θ)    ±1.96×SEI_n(\theta) \;\to\; \frac{1}{I_n(\theta)} \;\to\; \sqrt{\frac{1}{I_n(\theta)}} \;\to\; \pm 1.96 \times \mathrm{SE}

第9〜10章は同じものを別の角度から見ています。 信頼区間は「その検定で棄却されない θ0\theta_0 を全部集めた集合」(双対性)。だから覚える個数は検定の個数と同じです。

第11〜13章は「分母のばらつきをどう見積もるか」の変奏です。 第11章は母集団の分散を推定して自由度を消費し、第13章は数え上げで分散を確定させる。同じ問いに対する2つの答え方でした。

章と回の対応

章タイトル対応する回
第8章統計的推定の基礎第10回
第9章区間推定第11回
第10章検定の基礎と検定法の導出第12回
第11章正規分布に関する検定第13回
第12章一般の分布に関する検定法第14回
第13章ノンパラメトリック法第15回

用語集

言葉で説明できるかを先に確認する用です。

用語記号意味
8推定量 / 推定値θ^\hat{\theta} / θ^(x)\hat{\theta}(x)データを入れると数値を返す関数 / 実際に出てきた数値
8不偏性E[θ^]=θE[\hat{\theta}] = \theta標本分布の中心が真の値に乗っているか
8一致性θ^pθ\hat{\theta} \xrightarrow{p} \thetann \to \infty で潰れていく、その先が θ\theta
8平均二乗誤差(MSE)(偏り)2+V[θ^](\text{偏り})^2 + V[\hat{\theta}]。偏りと分散の総合点
8フィッシャー情報量In(θ)I_n(\theta)対数尤度の山の尖り具合In=nI1I_n = n I_1
8スコア/θ\partial \ell / \partial \theta対数尤度の1階微分
8クラメール・ラオの下限1/In(θ)1/I_n(\theta)不偏推定量の分散が到達できる限界
8標準誤差(SE)SE[θ^]\mathrm{SE}[\hat{\theta}]推定量の標準偏差。新しい概念ではない
9ピボット量パラメータを含むのに、分布がその値によらない量
9反転不等式をパラメータについて解く操作
9双対性信頼区間=棄却されない帰無仮説の集合
9信用区間ベイズの区間。「真の値が入る確率」を言えるのはこちら
9効果量(コーエンの ddd=Δ/σd = \Delta/\sigma差が標準偏差の何倍か。必要な nn はこれで決まる
9ウィルソン区間SE の pp を未知のまま2次方程式を解いた比率区間
10第一種/第二種の誤りα\alpha / β\betaH0H_0 が真なのに棄却 / H1H_1 が真なのに棄却しない
10ネイマン・ピアソンの補題Λ=f1/f0\Lambda = f_1/f_0尤度比の大きい順に棄却域へ入れると検出力最大
10一般化尤度比Λ=supH0LsupL\Lambda = \frac{\sup_{H_0} L}{\sup L}H0H_0 と全体でそれぞれ最尤推定して比べる
10ウィルクスの定理2logΛdχ2(q)-2\log\Lambda \xrightarrow{d} \chi^2(q)qqH0H_0 が課した制約の本数(セル数の kk とは別)
10ワルド/スコア/尤度比同じ曲線の横の距離/接線の傾き/縦の高さの差
10FWER / FDR1つでも偽陽性が出る確率 / 棄却したうち偽陽性の割合
11プールした分散sp2s_p^2両群の分散が共通だと仮定してまとめて推定した分散
11ウェルチの検定ν\nu分散が違ってよいt検定。サタスウェイト近似で自由度を出す
11頑健性前提が少し崩れても結論が大きく狂わない性質
11Fisher の z 変換z=artanh(r)z = \operatorname{artanh}(r)±1\pm 1±\pm\infty に引き伸ばして rr の歪みを直す
12適合度検定X2X^2, G2G^2観測度数が想定した分布に乗っているかを測る
12尤度比版の統計量G2=2OlogOEG^2 = 2\sum O\log\frac{O}{E}ピアソンの X2X^2 とは別物(漸近的には同じ χ2\chi^2
12Chernoff–Lehmann生データから推定すると自由度が k1mk-1-mk1k-1 の間に来る現象
12イェーツ補正2×2表の連続性補正。行き過ぎて保守的になる
13ノンパラメトリック分布の形をパラメータで指定しない方法
13分布によらないH0H_0 のもとでの統計量の分布が母集団によらない性質
13漸近相対効率(ARE)同じ検出力を出すのに必要な標本数の比
13タイ(同順位)tjt_j同じ値が複数あって順位が決まらない状態
13確率的優越P(X>Y)P(X > Y)順位和検定が敏感な方向。中央値とは別
13交換可能性並べ替え検定が厳密になるための前提

記号の注意σ2\sigma^2(母分散・定数)、s2s^2(標本分散・確率変数)、V[Xˉ]=σ2/nV[\bar{X}] = \sigma^2/n(標本平均の分散)は3つ別物です。σ2=36\sigma^2 = 36n=25n = 25 の例では s2=40.49s^2 = 40.49V[Xˉ]=1.44V[\bar{X}] = 1.44 と桁が違います。記号全般で迷ったら 統計の記号がややこしいのは軸が2本あるからだった を参照してください。

第8章 統計的推定の基礎

不偏性と一致性は独立な性質

4通りすべてに実例があります(母集団 N(170,62)N(170, 6^2)、各4万回)。

推定量不偏一致n=10n=10 の偏りn=1000n=1000 のSD
Xˉ\bar{X}0.01-0.010.19
X1X_1(1個目だけ)×+0.00+0.005.98
Xˉ+30/n\bar{X} + 30/n×+3.00+3.000.19
0.9Xˉ0.9\bar{X}××17.00-17.000.17
  • 0.9Xˉ0.9\bar{X}SD 0.17 で最小なのに一致性なし。縮んでいく先が 0.9×170=1530.9 \times 170 = 153 で真の値ではないから。一致性は「幅が縮むか」だけでなく「寄っていく先が θ\theta か」まで含む
  • n1n-1 で割るのは不偏性の話。σ2=36\sigma^2 = 36n=5n = 5 で、nn 割り 28.82(理論 n1nσ2=28.8\frac{n-1}{n}\sigma^2 = 28.8)、n1n-1 割り 36.03。真の μ\mu を使えば nn 割りでも 36.00nn で割ることが悪いのではなく、xˉ\bar{x} を使ったことが原因。

最尤法は「仮定する分布」で答えが変わる

正規分布を仮定二乗和最小平均,ラプラス分布を仮定絶対値和最小中央値\text{正規分布を仮定} \Rightarrow \text{二乗和最小} \Rightarrow \text{平均}, \qquad \text{ラプラス分布を仮定} \Rightarrow \text{絶対値和最小} \Rightarrow \text{中央値}
  • データ 2,4,5,9,202, 4, 5, 9, 20xim\sum\lvert x_i - m\rvert は中央値 5 で 23、平均 8 で 26。頑健推定は「別の分布を仮定した最尤法」として導ける
  • 対数を取る理由は微分の都合だけでなくアンダーフロー回避0.3100=5.15×10530.3^{100} = 5.15 \times 10^{-53}0.37000.3^{700}厳密に 0.0(倍精度の下限がおよそ 1030810^{-308})。丸め誤差ではなく値そのものが消える。
  • 正規分布の分散の MLE は nn 割り(不偏でない)。MSE で採点すると nn 割り 466.56n1n-1 割り 648.00 で MLE が勝つ。MSE 最小は n+1n+1 割りだが使わない(正規前提でしか最適でなく、利得も n=100n=100 で 2.0%)。

フィッシャー情報量の使い道

I1(θ)=E[2logf(Xθ)θ2]=V[logf(Xθ)θ]I_1(\theta) = -E\left[\frac{\partial^2 \log f(X \mid \theta)}{\partial\theta^2}\right] = V\left[\frac{\partial \log f(X \mid \theta)}{\partial\theta}\right]
  • 計算は4手:①2回微分 ②式全体の期待値 ③符号反転 ④最後に nn 倍。「xxE[X]E[X] を代入」と覚えると誤り(正規分布の σ2\sigma^2 では E[(Xμ)2]=σ2E[(X-\mu)^2] = \sigma^2 が必要)。
  • 情報量が負になったらその時点で計算ミス(逆数が分散なので分散が負になる)。
  • n\sqrt{n} の壁:目標 SE 4%/2%/1%/0.5% に必要な nn は 142/569/2,275/9,100。世論調査が2000人前後なのはこの計算。
  • 効率:n=25n=25 で標本平均の分散 0.03999(=1/n=1/n、CRLB に張り付く)対 標本中央値 0.06194(π/2n\pi/2n)。効率 2/π=0.6372/\pi = 0.637 なので、中央値で平均と同じ精度を出すには 57% 多く集める必要
  • 前提が要る。①独立性:n=400n=400 の AR(1) で ρ=0.5\rho=0.5 なら実効 nn は 133。②正則条件:U(0,θ)U(0,\theta)max\max1/n1/n で縮む1/n1/\sqrt{n} より速い。台の端が θ\theta で微分と積分の交換が成立しないため)。

第10回

第9章 区間推定

公式は4つではなく手順が1つ

①ピボット量を作る ②分位点で挟む ③不等式をパラメータについて解く(反転)。μ\muσ\sigma 既知/未知)・σ2\sigma^2σ\sigma の4つはすべてこの手順です。

σ2の下端=(n1)s2χ0.9752,σ2の上端=(n1)s2χ0.0252\sigma^2 \text{の下端} = \frac{(n-1)s^2}{\chi^2_{0.975}}, \qquad \sigma^2 \text{の上端} = \frac{(n-1)s^2}{\chi^2_{0.025}}
  • 母分散の区間では分位点の大小が入れ替わる(下端に χ0.9752\chi^2_{0.975})。σ2\sigma^2 が分母にいるからで、符号ミスではない。
  • 分散の区間はとにかく広い。上端/下端の比は n=5n=5 で 23.003、n=10n=10 で 7.044、n=30n=30 で 2.849、n=100n=100 で 1.751。
  • σ\sigma 未知なのに zz を使うと被覆率が n=3n=381.0%n=10n=10 で 91.8%、n=100n=100 で 94.7%。
  • σ\sigma 既知」は「σ\sigma が独立な未知パラメータとして存在しない」と読み替える。ベルヌーイは σ=p(1p)\sigma = \sqrt{p(1-p)}、ポアソンは λ\sqrt{\lambda} なので zz特別なのは正規分布のほうμ\muσ\sigma が独立に動く2パラメータ)。ただしこれは「σ\sigma が本当に既知」と同じ強さではなく、比率の zz 区間は厳密に95%にはならない(後述の Wald 型の問題)。

信頼係数は手続きに付いている数字

  • U(θ1/2,θ+1/2)U(\theta - 1/2, \theta + 1/2) から2個取り、区間を(最小, 最大)とすると全体の被覆率は 0.50065(理論 1/2)。しかし幅 > 0.5 の回は被覆率 1.00000、幅 ≤ 0.5 の回は 0.33400。手元の1本を見て「これは95%です」と言うことに意味はない。
  • 誤り:「真の μ\mu がこの区間に入る確率は95%」→ 観測後は μ\mu も区間も定数なので確率は 0 か 1。「真の値が入る確率」を言いたいならベイズの信用区間。誤解は日本語の問題ではなく、別の流派の正しい言明を頻度論の道具に貼り付けているのが本質。

2本の区間の重なりで差を判断してはいけない

足せるのは分散です。SE=12+12=1.414\mathrm{SE}_{\text{差}} = \sqrt{1^2 + 1^2} = 1.414(素朴な足し算 2.0 ではない)。

  • 素朴な足し算 3.9199 の被覆率 0.9944(広すぎ)、正しい 1.962=2.77181.96\sqrt{2} = 2.7718 で 0.9499。素朴な足し算は「狭すぎる」のではなく「無駄に広い」ので、実際にある差を見逃す方向に間違える。
  • 2.77〜3.92 が「重なっているが差はある」ゾーン

プールかウェルチか → ウェルチ無条件

被覆率(各20万回、名目95%)。

条件プールウェルチ
nn 20/20、σ\sigma 1:10.94930.948〜0.952
nn 20/10、σ\sigma 1:40.8374同上
nn 25/5、σ\sigma 1:40.6489同上
nn 5/25、σ\sigma 1:40.9996同上
  • 振れる向きが nn の組み合わせで逆転します(小さい nn の群の σ\sigma が大きいときに過信側)。
  • 等分散が真のときの損は幅 0.2%増だけ。避けられる事故が 0.950.6490.95 \to 0.649 なので迷う理由がない。
  • R の t.test() は既定がウェルチ、Python の scipy.stats.ttest_ind は既定が equal_var=True なので明示的に False を指定する。

標本サイズ設計

n=z0.9752p(1p)E2,n=2(z0.975+z1β)2d2n = \frac{z_{0.975}^2\,p(1-p)}{E^2}, \qquad n = \frac{2(z_{0.975} + z_{1-\beta})^2}{d^2}
半幅 EEp=0.5p=0.5必要な nn
±10pt97
±5pt385
±3pt1,068
±2pt2,401
±1pt9,604
  • 精度設計(E=ΔE = \Delta)の検出力はちょうど50%(実測 0.4998)。真の差が 2pt で半幅も 2pt なら、観測される差は 2pt を中心に散らばるので半分が超える。
  • 検出力80%にする倍率は (1.96+0.841.96)2=2.0432\left(\frac{1.96+0.84}{1.96}\right)^2 = 2.0432、90%なら 2.7353。pp にも Δ\Delta にもよらず一定。覚えるのは (1.96+0.84)27.849(1.96+0.84)^2 \approx 7.849
  • 効果量別(検出力80%):d=0.2d = 0.2(小)で 393、0.50.5(中)で 630.80.8(大)で 25。心理学・医学で n=64n = 64 前後が多いのは d=0.5d=0.5・検出力80%・α=5%\alpha=5\% がテンプレだから。
  • 途中でのぞくと崩壊:1回 0.0521、5回 0.1465、20回(毎日)0.2497、50回 0.3262(真の差ゼロ)。
  • nn を積むより α\alpha を厳しくするほうが安い。事前確率5%で nn を20倍にしても的中率は 0.51 で止まるが、α\alpha を 0.05→0.01 にすると nn 1.5倍で 0.808。

Wald 型の比率区間は使ってはいけない

厳密被覆率(名目95%)。

条件Wald 型ウィルソン
n=20n=20, p=0.01p=0.010.18210.9831
n=20n=20, p=0.05p=0.050.63890.9245
n=100n=100, p=0.05p=0.050.87750.9659
  • 原因は SE に p^\hat{p} を入れていることp^\hat{p} が下に外れたときに限って区間が狭くなる)。n=20,p=0.05n=20, p=0.05 では p^=0\hat{p}=0 になる確率が36%あり、そのとき区間は [0,0][0,0] に潰れる。
  • p=0.5p = 0.5 付近ではウィルソンのほうが狭い(期待幅 0.3927 対 0.4268)=上位互換。
  • Agresti–Coull の「+2/+4」はウィルソンの近似z2/2=1.922z^2/2 = 1.92 \approx 2z2=3.844z^2 = 3.84 \approx 4)。
  • np5np \ge 5 は甘い線。np=5np = 5 でも 88〜89% なので「使ってよい」ではなく「これ未満は論外」の目安。

ブートストラップの弱点3つ

  • 小標本で狭すぎるn=5n=5 で t区間の62%、被覆率 0.8430。対策はブートストラップttn=5n=5 でも 0.9503)。実務の既定は BCa。
  • 分布の端では原理的に壊れるU(0,1)U(0,1) の最大値は被覆率 0.0000n=1000n=1000 でも 0)。
  • 離散データでは区間が格子状になる。

第11回

第10章 検定の基礎と検定法の導出

なぜ遠回りするのか

知りたいのは P(H0データ)P(H_0 \mid \text{データ}) ですが、これは事前確率がないと出ません。測れるのは P(データH0)P(\text{データ} \mid H_0) だけなので背理法の形にします。

データが珍しいH0を疑う(成立),データが普通H0は正しい(成立しない)\text{データが珍しい} \Rightarrow H_0 \text{を疑う(成立)}, \qquad \text{データが普通} \Rightarrow H_0 \text{は正しい(成立しない)}
  • 非対称性は設計であって欠陥ではないH0H_0μ=0\mu = 0)は分布を1つに確定させるが、H1H_1μ>0\mu > 0)は無数の分布の集まりなのでどの分布で確率を計算すべきか決まらない。だから「採択する」は存在しない。
  • H0H_0 が真ならp値は一様分布(20万回で50%点 0.4981)。μ=μ0\mu = \mu_0 での検出力がちょうど α\alpha になるのが検算ポイント。

α\alpha を守るのは最低条件

同じ α=0.050\alpha = 0.050 でも棄却域は無数にあり、検出力は 0.8038(右の裾)から 0.0000(左の裾)まで変わります。中央 z<0.0627\lvert z\rvert < 0.0627 なら 0.0022。

  • NP補題を6面サイコロ1回(26=642^6 = 64 通り)で総当たり検証。α=1/3\alpha = 1/3 の15通りで検出力の順位が尤度比の和の順位と完全一致。64通りを (α,検出力)(\alpha, \text{検出力}) 平面に置くと尤度比順の点列が上限の壁になる。
  • 裾を棄却域にするのは慣習ではなく、尤度比を大きい順に取った結果。単調でない問題では裾が最適にならない。
  • t検定は尤度比検定そのものΛ\Lambdat\lvert t\rvert の単調減少関数)。ただしピアソンの χ2\chi^2 適合度検定は尤度比検定ではなくスコア検定で、尤度比版は G2=2Olog(O/E)G^2 = 2\sum O\log(O/E) という別の統計量。

ウィルクスの定理の自由度は「制約の本数」

Λ=supθH0L(θ)supθL(θ),2logΛdχ2(q)\Lambda = \frac{\sup_{\theta \in H_0} L(\theta)}{\sup_\theta L(\theta)}, \qquad -2\log\Lambda \xrightarrow{d} \chi^2(q)

4モデルで検算しました。正規平均(縛り1)で平均 1.0032・分散 2.0006、多項5カテゴリ(縛り4)で 3.9940・7.9535。モデルの中身に依存しません。

  • 正則条件が必要。σ20\sigma^2 \ge 0 のように H0H_0境界上にあると極限が χ2\chi^2 にならない。
  • 小標本では漸近が効かない。χ2(1)\chi^2(1) の臨界点 3.8415 を使った第一種の誤りは n=5n=50.0979n=20n=20 で 0.0593、n=200n=200 で 0.0509。棄却域の形は同じでも臨界値の精度が違う

ワルド・スコア・尤度比は同じ曲線の3つの測り方

検定測るもの必要な当てはめ得意な場面
ワルド横の距離θ^\hat\theta のみ回帰係数一覧(θ0\theta_0 を変えても再計算不要)
スコア接線の傾きθ0\theta_0 のみ小標本・p0p_0 が0付近、適合度検定
尤度比縦の高さの差両方尺度変換して報告、複数変数まとめて落とす

小標本での第一種の誤り率(H0:p=0.05H_0: p = 0.05、厳密な二項確率)。

NNワルドスコア尤度比
100.59980.08610.0115
200.36110.07550.0159
500.08010.03780.0887
10000.05830.04960.0514
  • ワルドの 0.5998 の内訳は k=0k=0 が 0.5987p^=0\hat{p} = 0 で推定分散が 0 になり計算不能になるのが本当の破綻点。
  • 3つの優劣は NNp0p_0 で入れ替わる。p0=0.5p_0 = 0.5 では3つの棄却域が整数レベルで完全一致するので差が出ない。
  • ワルドが普及しているのは優れているからではなく計算が1回で済むから。
  • ワルドの倒錯した挙動:完全分離(ロジスティック回帰)で反復を回すと 5.75 → 0.0000効果が強すぎると有意でなくなる(ホーク・ドナー効果)。
  • 尺度依存:pp で測るか logit で測るかで、N=20,k=4N=20, k=4 の p値が 0.0935(棄却しない)→ 0.0053(強く棄却) に化ける。
  • 相関 0.997 の説明変数(真の係数は両方 1.0):個別のワルドは p=0.436p=0.436p=0.493p=0.493 で「どちらも要らない」、2変数同時の尤度比は p<1030p < 10^{-30}。個別p値だけで変数選択するとモデルを壊す。

双対性で覚える量が3分の1になる

信頼区間はその検定で棄却されない θ0\theta_0 の集合なので、定義の言い換えです(p0p_0 を 0.005 刻みで走査して 199/199 点一致)。

検定対応する区間N=100,k=62N=100, k=62 での区間
ワルドワルド区間[0.5249, 0.7151]
スコアウィルソン区間[0.5221, 0.7090]
尤度比プロファイル尤度区間[0.5227, 0.7112]

方法を混ぜると食い違います。N=20,k=4,H0:p=0.05N=20, k=4, H_0: p=0.05 ではワルド区間 [0.0247, 0.3753] が「有意でない」のにスコア検定(9.4737)は棄却。

多重比較

m=20m = 20 のうち5個に効果がある設定。

方法FWER検出力
補正なし0.5340.850
ボンフェローニ0.0370.489
ホルム0.0420.502
BH法0.1540.650
  • ホルムはボンフェローニの上位互換(1番小さいp値には同じ厳しさ、2番目以降が緩む)。唯一の例外は同時信頼区間で、区間も並べるならボンフェローニ。
  • 手続きの違い:ホルムは「先頭から順に見て条件を満たさなくなったら止める」、BHは「条件を満たす最大の順位を探しそこ以下を全部棄却」(後戻りを許すぶん緩い)。
  • ボンフェローニの弱点は相関。実際の FWER は相関 0.00 で 0.0500、0.99 で 0.0043(名目の1/12)。
  • BH法は FDR を守る一方 FWER は最大 0.786。これは設計。負の相関が混じるならベンジャミニ・イェクティエリ法。

p値の正体

  • p値は P(Z2.5H0)=0.01242P(\lvert Z\rvert \ge 2.5 \mid H_0) = 0.01242 で「以上」が本質。密度の値 0.0175 は「このデータの確率」ではない(連続分布では1点の確率は0)。
  • リンドリーのパラドックス:p値を 0.05 に保ったまま nn を増やすと P(H0データ)P(H_0 \mid \text{データ})N=10N=10 で 0.366、N=106N=10^60.993。「p = 0.012 なら H0H_0 が正しい確率は 1.2%」は桁が違うレベルで誤り。
  • フィッシャー流(p値=証拠の強さ、対立仮説不要)とネイマン・ピアソン流(α\alpha と棄却域を事前に決める)の折衷が現代の実務。教科書の書き方に揺れがあるのはこのため。

第12回

第11章 正規分布に関する検定

すべての検定は「差 ÷ ばらつき」

T=θ^θ0SE[θ^],自由度=n(先に推定したパラメータの個数)T = \frac{\hat\theta - \theta_0}{\mathrm{SE}[\hat\theta]}, \qquad \text{自由度} = n - (\text{先に推定したパラメータの個数})

分子はどれも引き算なので、覚えるのは分母の列だけです。

検定分母(SE)自由度
1標本ts/ns/\sqrt{n}n1n-1
2標本t(プール)sp1/n1+1/n2s_p\sqrt{1/n_1 + 1/n_2}n1+n22n_1+n_2-2
対応ありsd/ns_d/\sqrt{n}n1n-1nn はペア数)
母比率p0(1p0)/n\sqrt{p_0(1-p_0)/n}なし
相関(1r2)/(n2)\sqrt{(1-r^2)/(n-2)}n2n-2
  • 母比率に自由度がないのは推定していないので引くものがないから。帰無仮説 p=p0p = p_0 を立てた瞬間、分散も p0(1p0)p_0(1-p_0) と確定する(帰無仮説が平均と分散を同時に指定)。
  • 相関の自由度が n2n-2 なのは実質「回帰直線の傾きがゼロか」を調べていて傾きと切片の2個を推定しているから。
  • 使い分けは統計の判断ではなくデータの取り方。「Excelの1行が何を表しているか」で決まる。1行が2つの数字を持てば対応あり。2群の nn が違っていたら必ず対応なし

等分散仮定の破綻は向きで逆転する

真の平均差ゼロ・名目5%・20万回。

条件プールウェルチ
nn 10/10、σ\sigma 4倍6.06%4.8〜5.3%
nn 20/1016.37%同上
nn 25/5、σ2=4σ1\sigma_2 = 4\sigma_135.08%同上
nn 5/25、σ2=4σ1\sigma_2 = 4\sigma_10.04%同上
  • 理由:sp2s_p^2自由度で重みづけした平均なので、サンプルが多いほうの分散が小さいと sp2s_p^2 が小さくなり tt が大きくなって棄却しすぎる。覚え方は「サンプルが多いほうの分散が小さいときに偽陽性」。
  • ウェルチの自由度は min(n11,n21)νn1+n22\min(n_1-1, n_2-1) \le \nu \le n_1+n_2-2 で、山型(両端が最小・途中が最大)n1=10,n2=30n_1=10, n_2=30 なら σ2/σ1=3.11\sigma_2/\sigma_1 = 3.11 付近でぴったり 38。
  • ウェルチ常用の代金は n=20n=20 ずつで 0.07-0.07pt。既定値にしてよい。

「F検定で等分散を確かめてからt検定」は推奨されない

  • 2段階手順はプール常用よりましだが5%を守れないnn 25/5 で 6.66%、逆向きの 10/20 では 3.86% と保守的すぎ。
  • F検定そのものが正規性に極端に弱い(真に等分散、名目5%):正規は n=10/30/100n=10/30/100 で 5.13/5.06/5.01%、t(5)t(5) は 12.59/17.69/22.05%、指数は 22.88/28.29/30.85%。「壊れた体温計で熱を測って、体温計が正しいかを判断している」。
  • F検定を「分散そのものを知りたい」目的で使うのは正当。ダメなのはt検定の前提チェックに使う用途。

平均は nn で直り、分散は nn で悪化する

検定母集団nn を増やすと
平均のt検定指数分布4.33% → 5.02%(直る
分散のχ²検定対数正規65.65%n=100n=100、悪化)
分散のχ²検定一様分布→ 0.23%(潰れる)
  • 仕組み:V[s2]σ4(κ1)/nV[s^2] \approx \sigma^4(\kappa-1)/n に対し、χ²分布は κ=3\kappa = 3σ42/n\sigma^4 \cdot 2/n)を想定。実際の幅と基準の幅の比 (κ1)/2\sqrt{(\kappa-1)/2} から nn が消える
  • 指数分布は κ=9\kappa = 9 なので比 2。棄却率は 32.7% に落ち着く。発散していたのではなく、間違った水準に収束していたnn を増やすと「間違った答えに、より確実に到達する」。
  • 平均を守っているのは中心極限定理。分散の検定は守られていない。
  • 最も危険なのは「歪んだ分布+標本サイズの不均衡」。nn 10/30 の指数分布でウェルチでも 6.63%nn を揃える」という実験計画の基本が効く

対応のあるt検定の利益は 1ρ\sqrt{1-\rho}

V[XY]=2σ2(1ρ)    SE は 1ρ 倍V[X-Y] = 2\sigma^2(1-\rho) \;\Longrightarrow\; \text{SE は } \sqrt{1-\rho} \text{ 倍}

n=20n=20 ペア・真の差 0.5σ0.5\sigma での検出力。

ρ\rho対応あり対応なし
032.18%33.70%
0.556%28%
0.891.74%21.30%
0.95100%14%
  • ρ=0\rho = 0 では負けます。1ρ=1\sqrt{1-\rho} = 1 で得がゼロのとき、自由度を半分(19 対 38)にした損だけが残る。ペアの取り方に意味があることが前提。
  • 逆に、対応があるのに2標本t検定をすると真の差ゼロでの誤り率が ρ=0.9\rho=0.9 で 0.00%。「安全側」に見えて検定の感度を失っている(保守的な間違いは気づきにくいぶん危ない)。

母比率は帰無仮説の p0p_0 で SE を作る

  • Wald 型(p^\hat{p} を使う)は n=20,p0=0.02n=20, p_0=0.02 で 66.82%n=1000,p0=0.005n=1000, p_0=0.005 でも 12.96%np05np_0 \ge 5 を満たしても壊れている)。スコア型は 2.99〜6.55%。
  • 帰無仮説が分散まで指定しているので、p^\hat{p} で推定し直すのは既知の情報を捨てる行為。
  • A/Bテストの比率の差はプールするnn 1000/100 で 4.64% 対 8.19%。ここでも引き金は標本サイズの不均衡。

相関係数の検定

有意になる r\lvert r\rvert の下限。

nn下限
50.878
100.632
300.361
1000.197
  • 10点の散布図で r=0.6r = 0.6 は証拠にならず、n=100n=100 なら実質どうでもいい弱い相関が有意になる
  • ρ0\rho \ne 0 の検定には Fisher の z 変換rr の分布は ρ=0.9\rho=0.9 で歪度 1.72-1.72H0:ρ=0.6H_0: \rho = 0.6 でt検定を使うと 83.70% 棄却してしまうが、Fisher の z は 4.99% を保つ。

A/Bテストの優先順位

  1. 事前にサンプルサイズを決めて途中で見て止めない(影響は数十%)
  2. 多重比較の補正(数十%)
  3. ウェルチを使う(数%)

3番目を完璧にやっても1番目を破っていたら無意味です。

第13回

第12章 一般の分布に関する検定法

3分類は「どの分布か」で分かれていない

分ける基準は ①厳密な分布が書けるか ②漸近近似に頼るか ③分布族を仮定しないか です。「一般の分布に関する検定」=適合度検定ではなく、主流は尤度比・ワルド・スコア検定で、適合度検定はその特別な一員でした。

帰無仮説は「点」ではなく「曲線」

2logΛdχ2(q),q=(k1)m-2\log\Lambda \xrightarrow{d} \chi^2(q), \qquad q = (k-1) - m
  • 適合度検定の帰無仮説は「この確率ベクトルに等しいか」ではなく 「この分布族という曲線に乗っているか」。だから自由度が推定した個数 mm ぶん減ります。
  • パラメータ推定は目的ではなく手段。 曲線までの距離を測るための足場で、θ^\hat\theta は結論に登場しない。
  • Wilks の qq(制約の本数)と適合度検定の mm(推定した個数)は別物
  • 自由度が減る理由は第7回(偏差の和が0という厳密な制約)とは別の原理で、「平均して1だけ削られる」。実際に差が負になることが10.4%ある
  • 最尤推定 ≠ 最小カイ二乗推定。「推定すれば X2X^2 は必ず小さくなる」は誤り。
  • 生データから推定すると自由度は k1mk-1-mk1k-1に来る(Chernoff–Lehmann)。ずれの大きさはセルの粗さで決まる。

「期待度数5以上」は思うより緩い

  • 崩れても多くは保守的な方向で、k=5k=5・期待度数1でも 0.0335。ただし単調ではなく、期待度数 1.6 付近で 0.054、単一の極小セル(E=0.5E=0.5)で 0.0537 とわずかに5%を超える領域もある。
  • E[X2]=k1E[X^2] = k-1nn が小さくても偏っていても厳密に成立する。ただし Ei=npiE_i = np_i に真の確率を使う場合のみで、パラメータを推定した場合は成立しません(正規分布の例で 4.9458)。
  • 危ないのは最小期待度数が小さいとき(偏った表ではここが真っ先に小さくなる)と、スパースなセルが大量にあるときの G2G^2(0.1624)。
  • X2X^2G2G^2 の優劣は状況で逆転する。 一様な多セルでは X2X^2 が頑健、偏った表では nn によって入れ替わる。
  • 正確検定は構造的に保守的(p値が階段状にしか動かない)。フィッシャーは10対10で実サイズ 0.0128、代金は検出力10ポイント。イェーツ補正はさらに行き過ぎる
  • 最小期待度数 11.4 で目安を満たしていても p ≈ 4e−06 で棄却される。 目安は近似の話で、当てはまりの話ではない。

「正規性を検定してからt検定」も機能しない

  • 2標本ならサイズは壊れないので検出力の問題。ただし1標本では歪度でサイズが壊れる(対数正規で 0.0862)。
  • 平均は中心極限定理に守られるが、分位点は守られない。 正規仮定の99%点の区間は被覆率 1.6% まで崩壊する。
  • 適合度検定は判定装置ではなく診断装置。p値ではなくセルごとの寄与を読む。

第14回

第13章 ノンパラメトリック法

順位に直すと分布を忘れる(2段構え)

主張1X=F1(U)X = F^{-1}(U)F1F^{-1} は単調非減少だから、FF が連続なら確率1で順序が保たれる。だから順位のパターンは元の分布の情報を持たない。

主張2:忘れた結果、H0:F=GH_0: F = G のもとで全割り当てが等確率になり、帰無分布が数え上げで確定する

  • 検証:コーシー・対数正規を含む4分布で40万回ずつ回して、(115)=462\binom{11}{5} = 462 通りの厳密分布と最大誤差 0.0012 で一致。
  • パラメトリック検定は母集団の分散を推定するために自由度を消費する。順位検定は分散を数え上げで確定させる。 これが設計思想の分かれ目。

失うのは正規分布で4.5%

母集団ARE(t検定の必要 nn ÷ 順位和の必要 nn
正規3/π=0.95493/\pi = 0.9549
一様1.0000
ロジスティックπ2/9=1.0966\pi^2/9 = 1.0966
二重指数1.5
t(3)t(3)1.90
コーシー\infty
  • 正規は最悪ケースではありません。 あらゆる連続分布での下限は 108/125=0.864108/125 = 0.864(ホッジス=レーマンの下限)。正しい保証は「正規で4.5%、どんな分布でも14%以内」。
  • 崩れると逆転:2群 n=12n=12 で外れ値10%混入なら 0.2263 対 0.4376、対数正規で 0.3460 対 0.6073
  • t検定は外れ値混入で α\alpha0.030 に落ちる。安全マージンではなく検出力の漏れ

結論が食い違ったら向きを見る

状況t検定のみ有意順位和のみ有意読み方
正規・差なし0.01030.0094対称 → 偶然
外れ値混入0.00020.2901非対称 → t検定が鈍っている
  • 順位和の α\alpha が保証されるのは H0:F=GH_0: F = G のときだけ。 形や分散が違う2群では保証が消える(マン=ホイットニーのベーレンス=フィッシャー問題)。厳密にやるならブルンナー=ムンツェル検定。
  • 中央値の検定と読むには位置ずれモデル G(x)=F(xΔ)G(x) = F(x-\Delta) が必要。 順位和が敏感な方向は確率的優越 P(X>Y)1/2P(X>Y) \ne 1/2

並べ替えと頑健性は直交している

「並べ替え」は帰無分布の作り方であって、頑健性は統計量の選び方から来る。

  • 同じデータで「生の値の平均差の並べ替え」と「順位に置換してからの並べ替え」が両方 p = 0.0317。
  • しかし外れ値を大きくすると、平均差版は 0.0317 → 0.4603 と崩壊し、順位和は 0.0317 で不動。並べ替えても統計量が弱ければ弱い。
  • 並べ替えの売りは検出力ではなく α\alpha の正確さ(全条件で 0.048〜0.051、t検定は 0.0253/0.0355)。
  • 並べ替えにも交換可能性という前提が要る。「平均だけが等しく分散が違う」では厳密にならない。
  • 順位検定が今も使われる理由3つ:①重い裾で検出力が上 ②nn 大で正規近似が一瞬((4020)1378\binom{40}{20} \approx 1378億)③帰無分布が表になっていて手計算・査読できる

6手法は一本の原理の変奏

手法何を並べ替えるか統計量平均分散
符号検定各個体の符号正の個数n/2n/2n/4n/4
符号付順位各個体の符号W+=kIkW^+ = \sum k I_kn(n+1)4\frac{n(n+1)}{4}n(n+1)(2n+1)24\frac{n(n+1)(2n+1)}{24}
順位和 / U群のラベルWWn1(N+1)2\frac{n_1(N+1)}{2}n1n2(N+1)12\frac{n_1n_2(N+1)}{12}
クラスカル=ウォリス群のラベル(多群)HHk1k-1
スピアマン ρ\rho片方の順位の並び順位のピアソン01n1\frac{1}{n-1}
ケンドール τ\tau片方の順位の並びCD(n2)\frac{C-D}{\binom{n}{2}}02(2n+5)9n(n1)\frac{2(2n+5)}{9n(n-1)}
  • 「何を並べ替えるか」の列が設計そのもの。 ここを間違えると p が 0.0060 → 0.7929 に飛ぶ(個人差 SD 68.0 を差の SD 7.6 の代わりに使う=ノイズを9倍にする)。
  • 分散の列の 12・4・24・n(n21)n(n^2-1) は全部「順位の平方和が最初から決まっている」ことから来ている。
  • W+W^+独立和なので有限母集団修正が要らない(対称性の仮定から絶対値の順位と符号が独立になる)。順位和の (N+1)(N+1) は非復元抽出の名残。
  • 対応ありは引き算して1標本問題に変換するだけ。帰無分布は群ラベルでなく各人の符号を ±\pm 入れ替える 2n2^n 通り

タイ(5段階評価アンケート)

Vt=n1n212[(N+1)j(tj3tj)N(N1)]V_t = \frac{n_1 n_2}{12}\left[(N+1) - \frac{\sum_j (t_j^3 - t_j)}{N(N-1)}\right]

tj=1t_j = 1 なら補正項が自動的に消えて元の式に戻ります。

データ値の種類Vt/V0V_t/V_0p 補正ありp 正確
連続値201.00000.00020.0000
5段階40.92110.00400.0044
3段階30.88950.00050.0004
2値 0/120.74440.03180.0698
  • 最後の行が警告。補正しても正規近似そのものが破綻している(有意/非有意が逆転)。粗いときは正確検定。
  • 2値データでは順位和検定の帰無分布は超幾何分布そのもので、フィッシャーの正確検定と片側が恒等的に一致します(両側は p の定義次第)。実務では2値なら素直にフィッシャーか比率の検定を使う。

クラスカル=ウォリスと順位相関

H=12N(N+1)ini(RˉiN+12)2=(N1)SSBSSTH = \frac{12}{N(N+1)}\sum_i n_i\left(\bar{R}_i - \frac{N+1}{2}\right)^2 = (N-1)\frac{\mathrm{SSB}}{\mathrm{SST}}
  • 正体は「順位に対する一元配置分散分析」。SST =N(N21)/12= N(N^2-1)/12常に一定なので、F 比のような「割り算の分布」を考えずχ²で済む
  • k=2k=2 にすると順位和の z2z^2 と完全一致(χ2(1)=z2\chi^2(1) = z^2)。
  • E[H]=k1E[H] = k-1 は(タイがなければ)厳密だが分散は足りない(2.72 対 4)→ χ²近似は保守的(正確 0.000904 に対し近似 0.006806)。
  • スピアマンは「順位に対するピアソン」、ケンドールは「2点選んで順番が合う確率」。母相関0.5のときケンドールはちょうど 1/31/32πarcsinρ\frac{2}{\pi}\arcsin\rho)なので、τ=0.33\tau = 0.33 だから弱い、と読むのは誤り
  • 外れ値耐性:1点いじるとピアソン 0.9394 → 0.5229、順位版は 0.9515/0.8222 で不動。
  • 分散が公式と一致しても近似が使えるとは限らない。τ\taun=8n=8V[τ]V[\tau] は厳密一致しているのに、正規近似 0.047761 対 正確 0.061012 で α=0.05\alpha = 0.05 の判定が逆転する(形=裾が正規から外れている)。

第15回

つまずきやすいところ

試験前に見返す用の一覧です。

よくある誤解正しい理解
SD と SE は同じものSE は「推定量に対する SD」。SD は世界のばらつき、SE は自分の知識の不確かさ8
不偏でないなら悪い推定量不偏性は偏りしか見ない。MSE なら MLE が勝つ場合がある8
一致性は「幅が縮むこと」縮んで寄っていく先が θ\thetaまで含む8
フィッシャー情報量は計算するもの逆数の平方根が SE。用途を先に知る8
情報量の期待値は xxE[X]E[X] を代入式全体の期待値。負になったら計算ミス8
n1n-1 で割るのは分散の定義不偏性の話。真の μ\mu を使えば nn 割りでも不偏8
真の値がこの区間に入る確率は95%観測後は定数なので 0 か 1。95%は手続きの性質9
母比率の区間推定は新しい話0/1 データの平均なので同じ式の特殊ケース9
区間が重なれば差はない足せるのは分散。2.77〜3.92 は「重なるが差はある」9
素朴に足した SE は狭すぎて危険無駄に広い(被覆率 0.9944)ので差を見逃す9
母分散の区間も下端に χ0.0252\chi^2_{0.025}σ2\sigma^2 が分母なので大小が入れ替わる9
E=ΔE = \Delta の設計なら差が見つかる検出力はちょうど 50%。80%なら 2.0432 倍9
教科書に載っている順が正しさの順Wald 型比率区間は n=20,p=0.01n=20, p=0.01 で被覆率 18%9
ブートストラップは万能n=5n=5 で t区間の62%、U(0,1)U(0,1) の最大値は被覆率 09
H0H_0 を採択できるH1H_1 は無数の分布の集まりなので確率が計算できない10
α\alpha を守れば正しい検定同じ α\alpha で検出力は 0.80 から 0.00 まで変わる10
裾を棄却域にするのは慣習尤度比を大きい順に取った結果10
ピアソンの χ2\chi^2 検定は尤度比検定スコア検定。尤度比版は G2=2Olog(O/E)G^2 = 2\sum O\log(O/E)10
ウィルクスの自由度はモデルで決まるH0H_0 が縛ったパラメータの本数10
ワルド検定は標準的だから安全N=10N=10 で誤り率 0.5998。普及の理由は計算が1回で済むから10
個別のp値で変数選択してよい相関が高いと両方「要らない」と出る(同時なら p<1030p<10^{-30}10
信頼区間は検定と別に覚えるもの双対性で1対1。ウィルソン=スコア、プロファイル=尤度比10
ボンフェローニは厳しすぎるが確実ホルムが上位互換(例外は同時信頼区間)。相関があると FWER 0.004310
p < 0.05 なら H0H_0 は 5% 未満リンドリーのパラドックス。NN 大では P(H0データ)P(H_0\mid\text{データ}) が 0.99310
t検定の種類は統計的に選ぶデータの取り方で確定。1行が2つの数字なら対応あり11
F検定で等分散を確かめてからt検定F検定自体が指数分布で 30.85% まで壊れる11
等分散版はウェルチの下位互換厳密にt分布に従う・分散分析の土台という役割がある11
対応ありは常に有利ρ=0\rho = 0 では負ける(自由度を半分にした損が残る)11
正規性が崩れたときの答えは一つ平均は nn で直り、分散は nn で悪化する11
誤り率が名目より低いのは安全検出力の漏れ。対応を無視すると 0.00% まで落ちる11
母比率の SE は p^\hat{p} で作る帰無仮説の p0p_0 で作る。p^\hat{p} だと 66.82%11
nn が大きいほど相関の検定は信頼できるn=100n=100 なら r>0.197\lvert r \rvert > 0.197 で有意。弱い相関が通る11
「一般の分布の検定」=適合度検定主流は尤度比・ワルド・スコア。適合度はその一員12
適合度検定の H0H_0 は確率ベクトル分布族という「曲線」に乗っているか。だから mm 本減る12
推定すれば X2X^2 は必ず小さくなる最尤推定 ≠ 最小カイ二乗推定12
期待度数5未満は危険崩れても多くは保守的側(単調ではない)。危ないのは最小期待度数とスパースな G2G^212
E[X2]=k1E[X^2]=k-1 はいつでも厳密真の pp を使う場合のみ。推定すると成立しない(4.9458)12
目安を満たせば当てはまっている目安は近似の話。最小期待度数 11.4 でも p ≈ 4e−0612
正確検定は厳密だから安心構造的に保守的(実サイズ 0.0128、検出力−10pt)12
正規性を検定してからt検定すればよい2標本は検出力の損、1標本は歪度でサイズが壊れる12
nn が大きければ分位点も信頼できる平均はCLTに守られるが分位点は守られない(被覆率 1.6%)12
順位検定は信頼区間や効果量が苦手指標が平均差でないだけ。U・効果量・ホッジス=レーマンがある13
正規分布が ARE の最悪ケース下限は 108/125=0.864108/125 = 0.864。正規は底ではない13
並べ替え検定なら前提が不要交換可能性が必要。統計量が弱ければ 0.4603 まで崩壊13
順位和は中央値の検定確率的優越が本体。中央値と読むには位置ずれモデルが必要13
τ=0.33\tau = 0.33 なら相関が弱い母相関 0.5 でちょうど 1/31/3ρ\rho とは別スケール13
分散が公式と一致すれば近似できるτ\taun=8n=8 で判定が逆転。形が違う13

この範囲で、連載がまだ扱っていないこと

正直に書いておきます。

未収録の項目
8因子分解定理・完備性とラオ・ブラックウェルの定理、指数型分布族の一般論、ベイズ推定量(事後平均・MAP)、EMアルゴリズム
9予測区間と許容区間の区別、同時信頼領域
10一様最強力検定の存在条件、不偏検定、順序制約のある検定、逐次検定(SPRT)
11分散分析への接続(多群の平均)、多重比較法の具体手順(テューキー・ダネット)
12分割表の詳細(第30回で扱う予定)、コルモゴロフ=スミルノフ検定、正規性検定の各手法(シャピロ=ウィルクなど)
13大標本での正規近似の切り替え基準、順位に基づく信頼区間の具体的な作り方、ムード検定などの尺度の検定、ブルンナー=ムンツェル検定

とくに分散分析への接続(第11章の等分散版t検定が土台になる話)は第20回で扱いますが、多群の平均の比較という文脈では推測統計編の続きでもあります。第13章のクラスカル=ウォリス検定がその順位版にあたるので、両方を並べて読むと見通しがよくなるはずです。

推測統計はここで一区切りです。次は線形モデル編(第16章 重回帰分析)に入ります。ここまでは1つか2つの変数を扱ってきましたが、変数が3つ以上になると「どの変数がどの変数に効いているのか」という新しい問いが出てきます。

→ 連載の目次:統計検定準1級 独学記事インデックス


この連載は、うまくいった記録だけでなく詰まった箇所も含めて書いています。同じく準1級を目指している方、一度挫折した方の参考になれば嬉しいです。