統計検定準1級 線形モデル 要点まとめノート【第16〜21章】

この記事の役割

線形モデル（第16〜21章）の復習ノートです。連載の各回が「なぜそうなるのか」を実験しながら追う記事なのに対し、こちらは押さえるべきことだけを1ページに集めたものです。詳しい導出や検算は各回へのリンクから読んでください。

• 同じ形式のノート：確率の土台編（第1〜7章）・推測統計編（第8〜13章）・確率過程編（第14〜15章）・多変量解析編（第22〜26章）・発展編（第27〜32章）
• 連載全体の目次は 統計検定準1級 独学記事インデックス にあります。
• 使い方：試験前は「つまずきやすいところ」の表だけを見返すのが効率的です。
• 筆者は統計の専門家ではありません。試験対策として使う場合は必ず公式テキストで確認してください。

この範囲の全体像

推測統計編は「1つか2つの変数で、母集団のパラメータを当てる」話でした。ここからは変数が増えます。そして6つの章はばらばらの手法集ではなく、全部が同じ1本の式の変形でした。

第16〜17章は同じ行列を表と裏から見ています。 ハット行列 $H=X(X^\top X)^{-1}X^\top$ が、第16章では「射影＝当てはめ」の道具として出て、第17章では対角成分 $h_{ii}$ が「てこ比＝その点の発言力」として出てきます。同じものです。

第18章で「線形」の意味が分かります。 ロジスティック回帰はグラフがS字カーブなのに線形モデルと呼ばれる。理由は線形とは $\beta$ について1次という意味で、グラフの形の話ではないからです。ここが分かると $y=X\beta$ の $X\beta$ の部分（線形予測子）だけが共通の骨格で、リンク関数と分布を差し替えているだけだと見えます。

第20章は第16章の特殊ケースそのものです。 分散分析はダミー変数だけの重回帰で、F値が小数第6位まで一致しました（8.223350）。「分散分析と回帰は別の手法」ではありません。

第21章だけ向きが逆です。 第16〜20章が「手元のデータをどう解釈するか」なのに対し、第21章は「データを取る前に何ができるか」。$n$ を増やさずに設計で精度を上げる話です。

そしてこの編を通して繰り返し出てくるのが多重比較の構造でした。無意味な変数100本で5.55本が偽陽性（第16章）、クック距離の $4/n$ で $n=200$ なら誤検出100%（第17章）、3群でt検定を繰り返すと誤り率が約12%（第20章）。同じデータで判定を何度もくり返すと報告する不確実性が嘘になる、という同一の現象です。

章と回の対応

用語集

言葉で説明できるかを先に確認する用です。

第16章 重回帰分析

第17章 回帰診断法

第18章 質的回帰

第19章 回帰分析その他

第20章 分散分析と実験計画法

第21章 標本調査法

記号の注意：$p$ が「パラメータの数」と「p値」の2つで使われます。この連載ではパラメータ数を $p$、有意確率を「p値」と書き分けています。また $\rho$ は第17章では誤差の自己相関、第21章では ICC を指します。

第16章 重回帰分析

「他の変数を固定したとき」の正体は残差

偏回帰係数は、その変数を他の説明変数で回帰した残差と $y$ の単回帰の傾きに一致します（フリッシュ=ウォー=ローヴェルの定理）。実測で残差回帰の傾きが $-40.0752493005$、行列で解いた該当成分も $-40.0752493005$ で差は $7\times10^{-13}$ でした。

固定には代償があります。文字数の平方和が 364.5106 から 57.6248 へ、比 0.158088（$=1-R_j^2$）に減る。標準誤差はその逆数の平方根で $\sqrt{6.3256}=2.5151$ 倍になります。

変数を入れるかどうかは3種類で判断が違う

同じ「$y$ と相関している第三の変数 $Z$」でも、構造次第で答えが正反対でした（各4,000回、$n=300$、真値は交絡 $-40$・媒介 $+20$・合流点 $0$）。

合流点は独立に生成した気温とアイス売上（相関 $-0.0131$、p値 0.695）に熱中症患者数を入れると、気温の係数が $+10.906$、p値が計算上ゼロと表示される水準まで化けました。関係しそうな変数を全部入れるのは安全ではありません。

標準誤差は4つの要素に分解できる

残差の大きさ $s$、その変数の散らばり $s_j$、データ数 $n$、そして他の変数との重複 $\mathrm{VIF}_j$。$V[\hat\beta]=\sigma^2(X^\top X)^{-1}$ の仮定は等分散・無相関・$X$ 固定の3つだけで、正規性は不要です（正規性が必要なのはt分布・p値・信頼区間のほう）。

4000回の実測sd 4.6353 に対し、1回のデータからの公式SE 4.6920（比 0.9879）で一致しました。$1/\sqrt n$ の法則も両対数の傾き $-0.53$ で確認できます。

VIF は「捨てた情報の量」ではなく「重複の量」

$\mathrm{VIF}_j = 1/(1-R_j^2)$ で、$y$ を一切使いません。同じ「文字数」の列でも、一緒に入れる変数次第で 1.0046 から 6.3256 まで変わります。

VIF が高いだけで変数を消すのは危険です。 消すとSEは 4.69 → 4.64 と改善するのに、係数が $-40.1 \to +63.6$ と符号ごと逆転しました。RMSE で比べると 4.680 対 105.110 で、残したほうが圧勝です。消してよいのは同じ情報の重複（千字版と字版など）だけで、これは情報が失われないので副作用がありません。

多重共線性で情報が消えるわけではありません。$r=0.999$ のとき個々の係数のsdは 5.166 まで暴れますが、2つの合計のsdは 0.214（$r=0$ のときの 0.294 よりむしろ小さい）。分解できないだけです。

決定係数は乱数でも上がる

$n=120$ で乱数113本を入れると $R^2 = 0.997704$ に達しますが、$s$ は 35.62 から 79.51 になりました（真の $\sigma=35$）。ただしこれは残差自由度が1しかない極端にばらつく1標本で、500回試すと $E[s^2]$ は真値付近のまま不偏（$s$ の中央値 21.7）。$s$ が確実に悪化するのではなく、当てにならなくなるのが実害です。調整済み $R^2$ が上がる境界は $\lvert t \rvert = 1$ ちょうどで、有意の境界（約1.98）より甘い。乱数でも $\lvert t \rvert > 1$ は約30%起きます。

F と t が食い違う

相関0.99の3変数（真の係数は全部 $+4$）では、個別のt検定が3本とも非有意（p値 0.7636／0.0751／0.8120）なのに $F(3,56)=75.33$ で全体は有意（p値 $10^{-19}$ 台）でした。合計 $x_1+x_2+x_3$ を1本の変数にすると $t=14.96$、p値 $3\times10^{-21}$。「どれか要る」は分かるが「どれが要る」は分からない状態です。

→ 第16回。

第17章 回帰診断法

傾きは $y$ の加重和で、重みは $x$ だけで決まる

重み $w_i$ は $y$ を見る前に確定しています。$x_i = \bar x$ の点の重みは $-6.22\times10^{-18}$ で、1票も持っていません。端から2番目 0.03000 対 中央から2番目 0.01000 でちょうど3倍。最小二乗法が平等なのは残差の扱いだけで、係数への寄与は最初から不平等です。

外れ値・てこ比・影響力は別の概念

てこ比は「自分の予測値を自分でどれだけ決めているか」の割合で、$y$ を見ずに計算できます。2×2で整理すると（$n=21$）、

クック距離が掛け算になっているのがこの表の理由です。

$h/(1-h)$ は非線形で、$h=0.5$ で 1.000、0.9 で 9.000、0.99 で 99.000。てこ比が高い領域で急激に効きます。

生の残差は使えない

てこ比が高い点は残差が小さく出ます。$h=0.425$ の点の残差は 0.030 しかなく、$1/\sqrt{1-h}=1.318$ 倍の補正が必要でした。

標準化（内部）残差にも上限があります。$\lvert r_i \rvert \le \sqrt{n-p}$ なので、$n=12$・$p=2$ では 3.162 を絶対に超えません（6万回まわして最大 3.0723）。「$\lvert r \rvert > 3$ なら外れ値」という判定はここで破綻します。

マスキングが理由です。外れ値が自分で $\hat\sigma$ を 0.925 → 2.768 と3倍に膨らませ、内部残差は 4.005 で飽和する。点 $i$ を抜いた $\hat\sigma_{(i)}$ で割る外部（スチューデント化）残差なら 11.792 まで伸び、ちょうど $t(n-p-1)$ に従うので検定できます。

不均一分散が壊すのはSEだけ

推定値は不偏のままです（$\sigma(x)=0.30x$ の設定で OLS 1.500377、真値1.5）。壊れるのはSEで、名目95%の被覆率が 93.74%、棄却率が 6.55% になりました。HC3 ロバストSEなら 95.30%／5.00% に戻ります。

「必ず過小評価」ではありません。 向きはてこ比との相関で決まります。

重み $1/\sigma_i^2$ が（比だけでも）分かるなら WLS が有効で、分散が 55.5% 減りました（SD 0.0926 → 0.0618）。

クック距離の $4/n$ は閾値ではない

正常なデータでも誤検出します（$p=3$、各3000回）。

原因は $D_i$ の分布が縮まないことではありません。$E[D_i] \approx 1/(n-p)$ で同じ速さで縮み、$4/n$ は常に平均の約4倍＝上位5〜9%の線です。本当の原因は判定を $n$ 回くり返す多重比較で、$n=200$ なら平均10.71個が引っかかります。第16章の「無意味な変数100本で5.55本が偽陽性」とまったく同じ構造です。

逆に $D_i>1$ は見逃します。重心にある外れ値は $y$ を6ずらしても検出率 0%（$4/n$ なら 99.6%）。$t_i$ との併用が必要です。

外れ値を削除すると被覆率が下がる

誤差が $t(3)$、$n=30$、真のモデルは正常という設定で、

点推定のRMSEだけは改善します（0.10190 → 0.08423、Huber なら 0.08000）。第16章の「有意でない変数を消すと偽陽性が生まれる」と同じ構造で、同じデータで選抜と推定を繰り返すと報告される不確実性が嘘になります。

なお Huber も $y$ 方向しか守りません。汚染点が $x=60$ まで離れると OLS 0.740 対 Huber 0.735 で同じく壊れます。

DW が小さくても自己相関とは限らない

誤差を完全に独立に生成した曲線データで $DW=0.368$ が出ました。$x^2$ を入れたら 2.092 に戻ります。まず線形性を疑うべきです。

自己相関の害も向きが変わります。$\rho=0.7$ で $x$ が単調増加なら報告SE÷本当のSD が 0.412（過小）、$x$ が 0,1,0,1,… と交替すると 2.216（過大）。

→ 第17回。

第18章 質的回帰

「線形」はグラフの形ではない

この章の最大の収穫がこれでした。ロジスティック回帰のグラフはS字カーブなのに線形モデルと呼ばれます。理由は、

線形とは $\beta$ について1次という意味。

$x$ について1次である必要はありません。$\log p/(1-p) = \beta_0+\beta_1 x$ の右辺が $\beta$ の1次式なので線形モデルです。判定法は「設計行列 $X$ を作れるか」。$x^2$ や $\log x$ を入れても線形モデルのままで、$\beta_1^2$ や $e^{\beta_1 x}$ が出たら非線形になります。

0/1 を OLS で当てはめると4通りに壊れる

実データ（$n=400$）で $\hat y = -0.073 + 0.112x$ となり、予測範囲が $-0.0665$〜$1.7221$、1を超えるものが21件（5.2%）、負が16件（4.0%）。ほかに等分散が成り立たない（残差分散が予測値の4分割で 0.0595／0.1025／0.2389／0.1207）、残差が2値になる、効果が一定に強制される、という問題が並びます。

重いのは効率と「効果一定の強制」で、正規性の破れは頑健標準誤差を使えば漸近推論は成立します。

オッズ比は確率比ではない

近いのは両群とも稀なときだけ。$p_0=0.05$ でも $\mathrm{RR}=10$ なら $\mathrm{OR}=19$ です。

限界効果も場所で全く違います。同じ「1分の増加」が 2分で $+0.099$、4分で $+0.214$、6分で $+0.123$、8分で $+0.030$、14分で $+0.0002$。2〜8分で7.3倍、14分までで1291倍の差でした。$p=0.5$ の位置（$x=4.68$分）で変化が最大 0.219/分 になります。

解析解がないので IRLS で解く

重み付き最小二乗を繰り返すと収束します。実測の収束履歴は 1.9→1.1→0.51→0.085→0.0019→$9.6\times10^{-7}$→$2.8\times10^{-13}$ で7回。深層学習の交差エントロピーは $-\log L/n$ そのもので、勾配降下1万回と IRLS 7回が同じ値 0.38695101 に到達しました。

完全分離とワルド検定の破綻

完全に分離できるデータでは最尤推定量が存在しません。30回目の反復で $\beta_1=54.57$、SE=777292、$z=0.0001$、p値 0.9999。効果が強すぎるのに「有意でない」と出る（Hauck-Donner 効果）ので、こういうときは尤度比検定を使います（$z^2/\mathrm{LR}$ の比は $\beta_1=0$ で 0.989、3.0 で 0.373 と連続的に乖離）。

GLM の3点セット

カウントを率に直すにはオフセット項（係数を1に固定した $\log(\text{露出})$）を入れます。実測では率比 1.4707 が単純集計と一致し、オフセットなしだと 1.4047 とずれました。

過分散はピアソン統計量で判定します（$\hat\phi$ が 0.964 対 3.476）。放置すると偽陽性が 0.0440 → 0.2600 に増え、準ポアソンで 0.0447 に戻りました。素の分散÷平均で判定してはいけません（ポアソンでも 2.54 が出る）。

→ 第18回。

第19章 回帰分析その他（生存時間解析・正則化）

打ち切りは欠測ではない

ここが出発点でした。「6ヶ月時点でまだ解約していない」というデータは、何も分からないのではなく「$T>6$ という不等式の情報」を持っています。扱いを3通りで比べると（真値12ヶ月）、

理論値も $E[T \mid T\le 6]=2.7510$、$E[\min(T,6)]=4.7216$ と一致しました。捨てると壊滅的です。

尤度は「枠」で分布は「中身」

この形はどの分布でも共通です。指数分布で整理すると

となり、打ち切りは総観測時間には入るがイベント数には入らないことが見えます。

ハザードと密度の違いは分母だけ

密度は「最初の全員」を分母にし、ハザードは「そのとき生き残っている人」を分母にします。だからハザードは確率ではなく率で、1を超えます（速度メーターと同じ）。

カプラン=マイヤー推定量は階段状になりますが、これも最尤推定量です（分布族を狭めずに全分布上で最大化すると、観測時刻に確率を集める離散分布が解になる）。Gehan の 6-MP データで教科書値と7点完全一致しました（0.8571／0.8067／0.7529／0.6902／0.6275／0.5378／0.4482）。ログランク検定も $\chi^2=16.7929$、$p=4.2\times10^{-5}$ で一致。

部分尤度は「いつ」を諦めて「誰に」だけを使う

Cox 回帰はベースラインハザード $h_0(t)$ を推定しません。リスク集合の中で比を取ると $h_0(t_i)$ が共通因子として約分で消えるからです。3種類の異なるベースラインで HR が 1.982／2.007／1.942（真値2.0）と同じ値を返しました。被覆率も $n=100$ で 0.932、$n=1000$ で 0.946 と妥当です。

なお比例ハザードの意味は誤解しやすく、HRが2倍でも平均寿命は半分になりません。ワイブル分布では $2^{-1/k}$ 倍で、$k=0.6$ なら 0.315倍、$k=2.5$ なら 0.758倍、$k=1$（指数分布）のときだけ 0.5 倍です。

リッジと Lasso の違いは角があるかどうか

制約領域が円（リッジ）か菱形（Lasso）かの違いで、菱形の角に当たると係数がゼロになります。$t=0.9$ で Lasso が $(0.900, 0.000)$、リッジが $(0.717, 0.543)$ でした。

過学習の実測（多項式の次数を上げる）では、訓練誤差が15次 0.0606・16次 0.0592 と下がり続けるのに、テスト誤差は6次で最小になりました。ただし「訓練誤差が $\sigma^2$ を下回るのは過学習の証拠」ではありません。$E[\mathrm{RSS}/n]=\sigma^2(1-p/n)$ なので、バイアスが消えれば必ず下回ります。

→ 第19回。

第20章 分散分析と実験計画法

なぜ3群でt検定を繰り返してはいけないのか

同じデータ（各群6個・40,000回）で対比較t検定を繰り返すと偽陽性率 0.1192、分散分析なら 0.0483 でした。群を増やすと悪化します。

$k=2$ で一致するのは $t(v)^2 = F(1,v)$ だからです。分散分析は3群以上専用ではありません。

膨張率の計算は3通りあって、値が違います（$k=3$）。

掛け算になるのは「全部セーフ」の側で、誤りはその補集合です。$(19/20)^3 = 0.857375$、誤り $0.142625$。足し算版は $m=45$ で 2.25 という確率としてありえない値になります。

実測値が群サイズで動く点にも注意が要ります。各群3個なら 0.109、各群6個なら 0.119、各群100個なら 0.122 と、誤差自由度が増えるにつれ上がります。ただし上限側の2つ（0.1500 と 0.1426）が実測を上回る関係はどの設定でも変わりません。

分散分析はダミー変数の重回帰と同じ計算

同じデータを両方の手順で解くと完全に一致しました。

コーディングを変えても F は 8.223350 で不変です（基準セル方式・効果コーディング・切片なしダミー3本）。ただし切片＋ダミー3本はランク落ちします（ダミー変数の罠）。

9個のデータでの手計算も押さえておくと速い。群A 4,6,8／群B 7,9,11／群C 10,12,14 で $SS_T=78$、$SS_B=3\times18=54$、$SS_W=24$、$F=27/4=6.75$（$F(2,6)$ の5%点 5.1433 を超える、$p=0.0291$）。

交互作用があると主効果が消える

$+8/+8/-8$ という交互作用があるデータでは、主効果Bが平均されて $+2.67$ になり $p=0.1126$ で有意でなくなりました。同じデータで交互作用は $F=11.13$、$p=0.00071$ です。交互作用が有意なら主効果を単独で解釈してはいけません。

交互作用の検定はモデル比較そのもので、$F=(617.33-276.00)/2 \div (276.00/18) = 11.130435$ が分散分析表と小数第6位まで一致します。

多重比較の臨界値の順序は状況で入れ替わる

$k=3$・各群 $n=6$・誤差自由度15での臨界値。

テューキーがボンフェローニより甘い（2.597 < 2.694）ことに注意。そしてボンフェローニとシェッフェの大小は $df\approx11$ で交差します（$df=6$ では 3.2875 対 3.2073 で逆）。全対比較を単一ステップで扱うならテューキーが最も甘い点は54通りのスキャンで反例0件でした（比較を絞ればダネットが甘く、段階的手法のホルムには負けることがあります）。

「F が有意なら補正不要」（Fisher's LSD）は $k=3$ でしか成立しません。1群だけ離れた部分帰無仮説では $k=4$ で 0.1180、$k=6$ で 0.2719 に膨張します（テューキーは 0.0295／0.0355）。

実験計画法の3原則

局所管理（乱塊法） は分母を小さくします。処理平方和は 55.860 のまま変わらず、誤差平方和が 469.984 → 70.924、$MS_W$ が 52.220 → 11.821（真の $\sigma^2=9.0$）。F は 0.5348 → 2.3628 に改善しました。ブロック効果が無いときでも検出力は 0.5590 対 0.4770 でほぼ互角なので、誤差自由度に余裕があれば迷わずブロック化でよい。ただし総観測数が少なくブロック数が多いと自由度の損が効きます（3×3 のラテン方格は誤差自由度が2しか残らず実用に耐えません）。

ただしブロックは実験前に決めなければなりません。結果 $y$ を見てブロックを作ると第一種の誤り率が 0.3897（5%の7.8倍） になります。

無作為化 はバイアスを分散に変換する操作です。時間順に固めると有意率 1.0000（真の効果はゼロ）、推定値の偏り $-13.93$。無作為化すると 0.0530／$-0.03$ になりますが、標準偏差は 1.50 → 3.42 に増えます。

反復 は分母（誤差の推定）を作ります。ただし精度は $\sqrt n$ でしか上がらず、半幅を半分にするには $n$ を4倍必要。測り直しは擬似反復で、実質的な情報は増えないのに名目上の誤差自由度だけが水増しされます。$MS_E$ が小さくなるので F や t が過大に、p値が不当に小さく出ます。

直交表は「1と2しかないのに内積が0」

$L_4$ の列は 1/2 で書かれますが、これはただの名札です。内積は表記で変わります。

直交していれば効果が混ざりません。$L_4$ で A は $60-52=8$（真値8）、B は $58-54=4$（真値4）、C は $56-56=0$（真値0）と3つとも当たりました。逆にAとBを常に同時に変えると A の推定が 12（真の効果8＋Bの効果4）になります。

実験計画法は「回数を減らす技術」ではなく「交互作用の情報を捨てる代わりに回数を減らす」交換です。 $L_4$ の列3にCを置くと、Cの真の効果が0なのに A×B の交互作用 $+5$ の半分である 2.5 が出ます。どちらが原因かは原理的に分からず、回数を増やしても永久に分離できません（交絡）。

実務では覗き見がいちばん危ない

真の差がゼロのデータを30日間毎日検定すると誤り率 0.2898（約29%）。30日後に1回だけなら 0.0495 です。覗き見だけで誤り率が5.9倍になり、しかも「有意になったら止める」止め方が効果量を過大推定させます。

必要標本数の目安（検出力80%、$\alpha=0.05$）は、3群で効果量 $f=0.25$ なら各群52・総156（月31PVで5.0か月）、$f=0.10$ なら各群322・総966（2.6年）。

→ 第20回。

第21章 標本調査法

「分散」が2つある

この章でいちばん詰まったのがここでした。

この章の「分散」はほぼ全部 (B) です。見分け方は「$n$ で割られていたら (B)」。 そして $n=1$ では両者が一致します（実測 39701 と 39385）。1人しか聞かないならその人の値がそのまま推定値になるからです。

なお計算に母平均 $\mu$ は要りません。標本分散は $\bar x$ を引いて作るので、$n=25$ の調査1回から標準誤差 48.5 が出ます。

母集団サイズが効かないのは「$n$ を固定したとき」

有限母集団修正が付く理由は「母集団が有限だから」ではなく非復元抽出だからです。復元抽出なら $N$ は一切効きません。

そして効くかどうかは $N$ ではなく抽出率 $f=n/N$ で決まります（$\approx\sqrt{1-f}$）。$p=0.5$・$n=2000$ の実測では、

実務の目安は $f>5\%$ で入れる。 抽出率を固定して $N$ を動かせば精度は上がり続けるので、第8回の「$N$ は効かない」と矛盾しません。

層別とクラスターは抽出の向きが逆

理想の集団の姿が正反対だと押さえるのが早い。層別は集団間の差を味方にし、クラスターは集団間の差にやられます。

層別で消えるのは層間分散だけ（比例配分のとき）

比例配分だと層間の項が消えます。全体分散の97.9%が層間なら分散比 0.0208（48分の1）、層間0.0%なら 1.0000 で効果ゼロ。比例配分では「層内分散の割合」がそのまま分散比になります。

この保証は比例配分に付くもので、配り方を大きく誤ると単純無作為より悪くなります（大規模層に1社だけ配れば 1059.6 対 562.0）。

ネイマン配分は「1社追加で減る分散」を揃える操作

比例配分では効きがバラバラですが、ネイマン配分では揃います。

大規模層に1社足すと小規模層より6000倍以上効くので、そこへ移す。移すと効きが落ちるので、やがて釣り合う。経済学の限界効用の均等化と同じ構造です。

結果、母集団の2%の層が標本の46.7%（187社）を取り、分散は比例配分の20分の1・単純無作為の86分の1（SE 11.60 → 2.56）。$S_h$ を3倍・0.4倍に外しても悪化は2.52倍で、比例配分（20.58倍）より8.2倍良いので、当て推量でも使う価値があります。

設計効果は共分散が $m(m-1)$ 個足される分

ICC は「同じ集落の2人の相関係数」そのもの（ICC=0.5 の設定で実測 $r=+0.5144$）。$m=20$ なら順序つきペアが380個あるので、1個あたり0.1でも合計で効きます。

ICC=1 なら20人聞いても1人分です（分散 0.9330 が一致）。なおこの式は楽観側の見積りで、等サイズ集落・一定 $\rho$・独立抽出を前提にしています。集落サイズがばらつくと deff はさらに大きくなります。

それでもクラスター抽出を使う理由はコスト

地点コスト5000円・面接500円・予算50万円で計算すると、

$m=1$ では予算の9割が移動費に消えて90人しか調べられません。1人あたりの精度では負けるが1円あたりの精度では勝つ。最適値は $m^*=\sqrt{(c_1/c_2)(1-\rho)/\rho}=9.49$ で実測の10と一致します。

比推定は切片を0に固定した回帰推定

決めるパラメータが1つか2つかの違いです。使い分けは分散比を見ると明らかです。

迷ったら回帰推定（最悪でも標本平均並みの1.006）。比推定が残る理由は、原点を通るのが本当なら小標本で有利（$n=8$ で9.3%、$n=200$ では0.3%）、誤差の分散が $x$ に比例するとき最適、そして「比そのもの」を知りたいときは答えが直接出るから。

なお比の平均と平均の比は別物です（2.39516 対 2.38923、真値 2.38956）。サイト全体の RPM を知りたいなら $\sum y/\sum x$ が正しい。

系統抽出は間隔が周期の倍数だと壊れる

曜日効果のある日次データで $k=7$ にすると、開始点が月曜で 100.2、土曜で 178.7（真値 127.1）。$k=5$・$k=10$（7と互素）なら幅1〜2に収まります。逆に単調トレンドなら暗黙の層別として有利（開始点によるばらつき 0.38 対 単純無作為 4.70）。並び順の確認が実務の第一歩です。

無回答バイアスは $n$ で消えない

若年層の回答率20%・高齢層60%、支持率が層で30%/70% という設定で、偏り +10.7pt。

$n$ を1000倍にしても偏りは動かず、区間が縮む分だけ確実に外れていきます。ウェイト調整（事後層化）で +0.0pt に消えますが、これは MAR（層の中ではランダムに欠けている）という仮定に乗っています。層内でも差が残る MNAR では調整後も −12.0pt が残り、そして仮定の正しさは非回答者のデータがないので原理的に検証できません。

→ 第21回。

つまずきやすいところ

試験前に見返す用の一覧です。

この範囲で、連載がまだ扱っていないこと

正直に書いておきます。

とくにモデル選択（第16章の変数選択で AIC・BIC を表で紹介しただけになっている部分）は第32回で扱いました。第19章の正則化がその一部を先取りしているので、両方を並べて読むと「罰則で選ぶ」と「規準で選ぶ」の対比が見えるはずです。

分散分析と混合効果モデルも残っています。第20章では要因をすべて固定効果として扱いましたが、ブロックや被験者を変量効果とみなす枠組みは扱っていません。乱塊法のブロックがまさにその候補です。

次

線形モデル編はここで一区切りです。振り返ると6つの章はすべて $y = X\beta + \varepsilon$ の変形で、ばらつきをどう分解するかの変奏でした。回帰は説明できる分と残差に分け、分散分析は要因ごとに分け、標本調査は層内と層間に分けた。同じ道具を違う場所に当てていたわけです。

次は確率過程編（第14章 マルコフ連鎖・第15章 確率過程の基礎）と多変量解析編（第22章 主成分分析ほか）に入ります。ここまでは「1つの $y$ を説明する」問題でしたが、$y$ が複数あるとき、あるいは $y$ と $x$ の区別すらないときにどうするか。第20章で出てきた「平方和を直交する方向に分解する」発想が、主成分分析にそのままつながります。

→ 連載の目次：統計検定準1級 独学記事インデックス

この連載は、うまくいった記録だけでなく詰まった箇所も含めて書いています。同じく準1級を目指している方、一度挫折した方の参考になれば嬉しいです。