時系列解析：無関係な2本で77%が「有意」になる見せかけの回帰【第29回】

はじめに

第27章は時系列解析です。発展編の1本目にあたります。

この章に入る前、私が時系列に持っていた認識は「データが時間順に並んでいるだけ」という程度のものでした。並んでいる順番に意味があるなら、それを説明変数にして回帰すればいいのではないか。第16回の重回帰分析の道具がそのまま使えるはずだ、と。

その認識は、最初の実験で崩れました。

互いに一切参照せずに乱数から作った2本の系列を回帰したところ、決定係数 0.891、$t$ 値 $-28.31$ が出ました。教科書の棄却限界 $\pm 1.98$ の14倍です。5000回繰り返すと、5%であるべき棄却率が 76.9% になりました。

さらに気持ち悪いことに、標本サイズを増やすと悪化しました。 $n=50$ で 66.6%、$n=1000$ で 91.2%。第8回の大数の法則は「$n$ を増やせば真実に近づく」と保証していたはずですが、ここではデータを集めるほど強く間違えます。

この現象は見せかけの回帰（spurious regression）と呼ばれるもので、時系列を扱う人が最初に叩き込まれる話でした。

そして私はここで最初の誤解をします。「無関係な2本に相関が生まれてしまう現象」だと思ったのです。しかし違いました。5000回のうち傾きが正だったのは 50.6%、負が 49.4%。傾きの平均は $-0.0008$ で、正しくゼロを示しています。

まず壊れているのは「その推定値がどれくらい信用できるか」という自己申告でした。標準誤差が 6.22倍 過小に出ていたのです。

ただし後で見るように、推定値の側も無傷ではありません。傾きが正しいのは「平均としては」だけで、1本1本は $\pm 0.64$ の幅でブレます。しかもこの幅は $n$ を増やしても縮みません。

この記事は、その一点を掘り下げた記録です。回帰の話から入ると分かりにくかったので、いったん標本平均という中学レベルの計算まで降りて、$n=10$ のデータを手で追うところからやり直しました。そこで見えたのは、$\sigma/\sqrt{n}$ の $\sqrt{n}$ が「$n$ 個ぶんの独立な情報がある」という主張だったという事実でした。

定常性が必要な理由も、そこから逆算できます。そして ACF と PACF が AR と MA を見分けられる理由、差分を取るべきなのが $\varphi=1$ のときだけである理由も、同じ筋で繋がりました。

いつものように、出てくる数値はすべて自分で計算し、理論値と突き合わせています。そして最後に自己診断を8問やって、2問間違えました。 その内容も含めて書いています。

この回で扱う用語

用語が多いですが、核になるのは「定常性」の1つだけです。他は全部その周りに配置されています。

1. まず壊れるところを見る

1-1. 完全に無関係な2本から $R^2 = 0.891$ が出る

やったことは単純です。標準正規乱数を100個作って累積和を取る。これを2回、互いに一切参照せずに行います。

import numpy as np
rng = np.random.default_rng()

x = np.cumsum(rng.normal(size=100))   # ランダムウォーク1
y = np.cumsum(rng.normal(size=100))   # ランダムウォーク2
# x と y は定義上まったく無関係

以下の図は、この操作を何度か試して$R^2$ が大きく出た組を選んで描いています。ただし節1-2 で見るように、これは特殊な例ではありません。

累積和なので、これは第23回で扱ったランダムウォークそのものです。$x_t = x_{t-1} + e_t$ を展開すると $x_t = e_1 + e_2 + \cdots + e_t = \sum_{s \le t} e_s$、つまりホワイトノイズの累積和になります。

この2本を単回帰にかけます。

決定係数 0.891、$t$ 値 $-28.31$、相関係数 $-0.944$。

左のパネルを見ると、青が下に流れ、橙が上に流れています。ランダムウォークは「一度ずれたら戻る力がない」ので、各系列がそれぞれ勝手にどこかへ漂います。すると2本の間に「一方が上がる期間に他方が下がった」という長い区間が生まれ、回帰はそれを「関係」として拾います。

右のパネルは、同じデータを1階差分してから同じ回帰をかけたものです。$R^2$ が 0.018 に落ち、$t$ 値も $-1.33$ に収まります。

1-2. たまたまではない。分布そのものが違う

上の1組は「たまたま強く出た例を選んだ」のではないか、と疑うのが自然です。5000回繰り返しました。

非定常な場合、$R^2$ が 0.5 を超えたケースが 16.4% ありました。「決定係数が高いから良いモデル」がまったく通用しません。

青（定常）は棄却限界 $\pm 1.98$ の内側にきちんと収まりますが、赤（非定常）は $\pm 20$ まで平然と出ます。$t$ 分布に従っていないので、$t$ 分布の表を引いた判定が意味を持ちません。

1-3. データを増やすと悪化する

ここが一番気持ち悪いところです。

$\lvert t \rvert$ の中央値が 3.12 → 4.50 → 7.03 → 10.51 → 14.87 と育っています。おおよそ $\sqrt{n}$ のペースです。

通常の統計では、データを増やせば真実に近づくのが救いでした。第8回の大数の法則がそれを保証し、第10回では精度が $\sigma/\sqrt{n}$ で改善すると確認しました。

ところが非定常データでは、無関係であるという事実は変わらないまま、確信度だけが無限に上がっていきます。 「10年分のデータで検証しました」と言う人が一番強く間違えます。

1-4. 正規分布は関係ない

私が最初に立てた仮説はこうでした。「ホワイトノイズは正規分布に従うから平均すると真ん中に寄る。ランダムウォークはどちらかに発散するから、長い目で見た相関が出やすい」。

前半は的を射ていましたが、正規分布という部分は完全に無関係でした。ノイズの分布を4通りに変えて確かめます。

4つとも同じ結果です。 コイン投げのように $\pm 1$ しか出ないノイズでも、山のない一様分布でも、累積和にした瞬間に 76% 壊れます。

効いているのは分布の形ではなく「累積和にした」という構造だけでした。

1-5. 「線形に見えるから」でもない

次に私が考えたのは「$\varphi = 1$ なら $\sum e_t$ だから、系列が線形に近い見え方になる。だからそれ同士の散布図も線形っぽくなるのではないか」という説明でした。

これも違いました。散布図を8組並べます。

直線的なのは一部だけです。L字型、塊が2つに分かれた形、折れ曲がった形が混じります。それでも8枚中7枚が5%有意。上段左は明らかに直線から外れているのに $t = -6.1$ です。

そして決定的な数字があります。5000回集計すると、傾きが正だったのが 50.6%、負が 49.4%。有意になったケースだけを見ても正 50.6% / 負 49.4%。

符号は毎回コイン投げです。 「両方が線形なトレンドを持つから一緒に動いて見える」という説明だと「同じ向きに動きやすい」はずですが、向きは完全にランダムでした。

つまり累積和は直線にはなりません。$e_t$ の符号がランダムなので折れ曲がります。

2. 原因は標準誤差の過小申告

2-1. 分子は無事で、分母が壊れている

ここから本題です。$t$ 値は「推定値 ÷ 標準誤差」です。そして先に見たように、傾きの平均は $-0.0008$ でゼロ、つまり傾きは平均としては正しく「関係なし」を示しています。

まず壊れているのは分母でした。（推定値の側も「平均は正しいが1本1本はブレる」という別の問題を抱えています。それは節2-7で扱います。）

回帰の話は変数が2つあって追いにくいので、いったん標本平均という最も単純な設定まで降ります。

やることは中学レベルです。データを10個取って平均を出し、95%信頼区間を作る。真の平均は0だと分かっているので、区間が0を含めば成功です。

右側（$\varphi = 0.9$、つまり前の値を0.9倍引き継ぐ系列）の計算を追ってください。

データ: +0.16 -0.89 -1.82 -2.46 -1.86 -1.38 -1.99 -1.05 -0.16 +0.03
標本平均 x̄ = -1.142
標本SD    s  = 0.917
標準誤差 SE = s/√n = 0.917 / 3.162 = 0.290
95%信頼区間 = -1.142 ± 1.96 × 0.290 = [-1.710, -0.573]
→ 真の値 0 を含まない（外れた）

左側（$\varphi = 0$、独立なデータ）は同じ手続きで $[-0.550, +0.344]$、ちゃんと0を含みます。

使った公式は左右まったく同じ $SE = s/\sqrt{n}$ です。 式の計算にも間違いはありません。

つまり、公式そのものがこの状況では成り立っていないのです。

2-2. $s$ は「隣同士が似ているか」を見ていない

なぜ成り立たないのか。$s$ が何を測っているかを図にします。

橙の縦線が $s$ が測っているもの、つまり各点から標本平均までの距離です。

ここで気づいてほしいのは、右の $s$（0.917）は左の $s$（0.721）より大きいということ。それでも右は的を外しました。

図の右を見ると、データが滑らかに繋がって動いています。$-0.89$ の次が $-1.82$、その次が $-2.46$。隣同士が似ている。ところが $s$ は「点が平均からどれだけ散らばっているか」しか計算しないので、この滑らかさは $s$ に一切入りません。

$s$ は10個をシャッフルしても同じ値になります。並び順の情報を捨てているのです。

2-3. $\sqrt{n}$ は「$n$ 個ぶんの独立な情報がある」という主張だった

ここが核心です。第8回で $V[\bar{x}] = \sigma^2/n$ を導いたとき、何が起きていたか。

共分散の項がゼロになるから $n$ で割れました。

時系列では隣同士に共分散があるので、この項が残ります。$\varphi = 0.9$ なら隣の相関が0.9、2つ隣が0.81、3つ隣が0.729と、正の共分散がずらりと並びます。合計は $\sigma^2/n$ よりずっと大きくなります。

つまり $\sqrt{n}$ で割るのは「$n$ 個ぶんの独立な情報がある」という主張なのです。

有効標本サイズ $n_{\text{eff}} = n(1-\varphi)/(1+\varphi)$ で測ると、$\varphi = 0.9$ のとき100個が実質 5.3個分。$\varphi = 1$ ではこの式は 0 になります（厳密には $n_{\text{eff}}$ の式は定常性を前提に導かれているので $\varphi=1$ は適用域外です。実際には $V[\bar{x}]$ が $n$ に比例して増えるので、集めるほど悪くなります。節1-3 で「$n$ を増やすと棄却率が上がる」と見たのは、この現象の回帰版です）。

そして右の図がその帰結です。標本平均の分散を実測すると、$\varphi = 0.9$ で $0.90167$。ホワイトノイズ（$\varphi = 0$）の $1/n = 0.01$ と比べて 90.2倍でした（$n=100$ の厳密値 0.905 とぴったり一致。漸近値 $1/(n(1-\varphi)^2) = 1.0$ には $n=100$ ではまだ届いていません）。

ただし「何と比べるか」に注意が必要です。90.2倍はホワイトノイズとの比で、公式が実際に使う分母は $s^2/n$ です。$s$ 自体も大きくなる（$\varphi=0.9$ では $E[s^2]/n = 0.044$）ので、公式の過小度は分散で約21倍、標準誤差で 4.59倍になります。この 4.59倍が後の表に出てくる数字です。

2-4. 「1本しか観測できない」という宿命

なぜ標本平均がずれるのか、20本の系列を重ねて見ます。

左（$\varphi = 0$）は20本がほぼ $\pm 2$ の帯に収まるので、どの1本を取っても平均はほぼ0になります。

右（$\varphi = 0.9$）は1本1本が長く同じ側に居座ります。たまたま下側に居た系列を観測すれば、標本平均は簡単に $-1$ や $-2$ になる。

そして時系列では観測できるのは1本だけです。その1本が偏っていても、$s$ からは気づけません。

2-5. 「95%」が実際に何%なのか数える

同じ手続きで95%信頼区間を25回作りました（$n = 100$）。緑の縦線が真の値0。左は25本中1本だけ外れ（ほぼ理論通り）、右は 11本が外れています。

右の区間は左の2倍ほどしか長くなっていないのに、中心（黒丸）の散らばりは 9.5倍です（0.0998 → 0.9453）。区間の長さが中心の散らばりに追いついていない、これが「標準誤差が過小」の見た目です。

$\varphi = 0.9$ では「95%信頼区間」が3回に1回しか当たりません。

2-6. 橋渡し：回帰の傾きも同じ構造

ここで回帰に戻ります。平均と回帰は別物に見えますが、標準誤差の公式が同じ仮定に乗っています。

第17回で学んだ最小二乗法の4つの仮定のうち、独立性がこの共分散の項をゼロにするために置かれていました。平均のときの $\sqrt{n}$ と、回帰のときの $(X^\top X)^{-1}$ は、同じ仮定から出てきた同じ性質の数字です。

目で見える証拠が残差です。

平均のときに「データの隣同士が似ている」と言ったのと同じことが、回帰では「残差の隣同士が似ている」として現れます。

そして第17回のダービン・ワトソン比への答えがここにあります。DW比の平均が 0.171。あのとき「2から離れたら誤差の自己相関を疑え」と学んだ、その最も極端な症例が単位根でした。同じ話の程度が違う版であって、別の話ではありません。

棒が傾きの実際の分布、緑の帯が公式の $SE$ から作った許容範囲 $\pm 1.96 \times SE$ です。緑の帯の幅は左右でほぼ同じ（0.101 と 0.103）なのに、右の分布は6倍以上広い。だから 72.8% がはみ出します。

傾きは実際 $\pm 0.64$ の幅でブレるのに、公式は「$\pm 0.10$ しかブレないはず」と言う。だから 0.3 という平凡なブレが「$t = 3$、有意」に化けます。

2-7. 標準誤差を直せば済む話ではない

「では自己相関に対応した標準誤差を使えばいいのでは」と考えるのが自然です。Newey-West（HAC＝Heteroskedasticity and Autocorrelation Consistent、不均一分散・自己相関に頑健な標準誤差）を自作して試しました。

$SE$ の直し方では足りません。 75.0% → 58.7% と改善はしますが、まだ全然ダメです。

理由は、単位根がある場合傾きの分布そのものが「$n$ を増やすと縮む」という性質を失っているためです。実測しました。

$n$ を20倍にしても 0.63 のままです。 通常の回帰なら $\sqrt{n}$ のペースで縮むはずのものが、まったく縮みません。

つまり $\hat\beta$ は一致推定量ですらありません。「傾きは正しい」と書きましたが、正確には平均としては正しいだけで、1本の系列しか観測できない立場からすると $\pm 0.64$ でブレる無意味な数字です。だから $SE$ をどう直しても $t$ 分布には戻りません。

だからモデルを直すしかない。 それが差分であり、ARIMA の I（Integrated＝和分）が存在する理由です。

3. AR(1) と「戻る力」

3-1. ホワイトノイズとランダムウォークは同じ式の両端

ここまで「定常」と「非定常」を対比してきましたが、この2つは別種の生き物ではありません。同じ式の両端です。

これが AR(1) モデルです。AR は AutoRegressive（自己回帰）の略で、括弧の1は「何期前まで参照するか」。自分の過去で自分を回帰するという意味です。$e_t$ はホワイトノイズです。

$\varphi = 0$ なら $x_t = e_t$、つまりホワイトノイズ。$\varphi = 1$ なら $x_t = x_{t-1} + e_t$、つまりランダムウォーク。

1ステップを2つに分けた図です。

• 橙の四角 = $\varphi x_{t-1}$ … 前の値を0.7倍に縮めた「予測できる部分」。過去から分かっている
• 赤い矢印 = $e_t$ … その時刻に初めて入る「新しい情報」

青い実現値は必ず「橙 + 赤矢印」です。橙が常にゼロの破線側に寄っている（前の値より原点に近い）のが「引き戻し」の実体です。

なお AR(2) なら $x_t = \varphi_1 x_{t-1} + \varphi_2 x_{t-2} + e_t$ で2期前まで見ます。

3-2. $\varphi$ を動かすと何が変わるか

4枚すべて同じ乱数列 $e_t$ を使っています。 違うのは $\varphi$ だけ。$\varphi = 0$（左上）はゼロの破線に毎回引き戻され、$\varphi = 1$（右下）は一度離れると戻ってこない。標準偏差が 0.92 → 1.06 → 1.86 → 3.87 と育っていきます。

「戻る力」の正体を見ます。

灰色の点線が45度線、つまり「今いる場所にそのまま留まる」線です。

• $\varphi = 0.7$：赤い線が45度線より寝ている。今 $x_{t-1} = 4$ にいると、次の中心は $2.8$。原点側に0.7倍縮む。これが引き戻し
• $\varphi = 1$：赤線が45度線とぴったり重なる。縮みがゼロ。今いる場所がそのまま新しい中心になる

ランダムウォークが漂うのは正規分布のせいではなく、この45度線と重なっていることのせいでした。

3-3. 崖ではなく坂

$\varphi = 1$ で突然壊れるのではありません。 $\varphi = 0.5$ で既に 12.5%、$\varphi = 0.9$ で 51% と、坂を上るように悪化します。

理由は右の図です。$\varphi < 1$ のとき、この系列が落ち着く先の標準偏差は $1/\sqrt{1-\varphi^2}$ になります。実測と理論が $\varphi = 0.5$ で 1.13 vs 1.15、$\varphi = 0.7$ で 1.35 vs 1.40 と一致しています。そして $\varphi \to 1$ でこの値が無限大に発散します。

$\varphi = 1$ は「落ち着き先が存在しなくなる点」です。 これが単位根と呼ばれるものの正体です。

なお $\varphi \ge 0.9$ で実測SDが理論SDを下回っています（2.01 vs 2.29、3.26 vs 7.09）。私は最初これを「$n = 100$ では落ち着き先まで到達していないから」と説明したのですが、間違いでした。

バーンイン期間を3000ステップ入れて完全に定常状態から始めても、$n=100$ の窓内で測った $s$ は $\varphi = 0.9$ で 2.06、$\varphi = 0.99$ で 3.45 にしかなりません（理論値 2.29 / 7.09）。過渡期の寄与はごく一部でした。

本当の理由は、$n = 100$ の窓の中では、系列がゆっくり上下する長周期のうねりが標本平均に吸収されてしまい、$s$ がそれを「ばらつき」として数えないことです。厳密に計算すると $E[s^2]$ は $\varphi = 0.9$ で 4.40（真の $\gamma_0 = 5.26$ の84%）、$\varphi = 0.99$ では 13.5（真の 50.3 の27%）まで縮みます。$\sqrt{E[s^2]}$ で言えば 2.10 と 3.67 で、真の 2.29 と 7.09 に届いていません（上に書いた 2.06 / 3.45 は $E[s]$ で、$\sqrt{E[s^2]}$ とは一致しません）。

これは節2-2で見た「$s$ は並び順の情報を捨てている」の裏返しです。節2-2 では「$\varphi=0$ のときより $s$ が大きい」ことを見ましたが、それでも自分自身の真の $\gamma_0$ には届いていない、という関係です。$\varphi$ が1に近いほど「窓に収まらない長さのうねり」が増えるので、$s$ の下方バイアスが大きくなります。

3-4. 「単位根」という名前の由来

ここでラグ演算子 $L$ を導入します。$L x_t = x_{t-1}$ と定義するだけの記号です。これを使うと AR(1) は次のように書けます。

括弧の中を $L$ の多項式と見て、$1 - \varphi z = 0$ を解くと $z = 1/\varphi$。この $z$ を特性方程式の根と呼びます。

• $\lvert \varphi \rvert < 1$ なら $\lvert z \rvert > 1$ … 根が単位円の外側にある → 定常
• $\varphi = 1$ なら $z = 1$ … 根がちょうど1（単位）になる → 単位根

「単位根」は「特性方程式の根が1である」という意味でした。AR(2) 以上でも同じ判定で、すべての根が単位円の外にあれば定常です。これは試験で問われる形です。

4. 弱定常性の定義

4-1. 3つが「時刻によらない」こと

もう実質見えているので、名前を付けるだけです。時系列 $x_t$ が弱定常とは、次の3つがすべて時刻 $t$ によらないことです。

「弱」と付くのは、平均・分散・共分散という2次までのモーメントだけを要求しているからです。分布の形そのものが時刻によらないことまで要求するのが強定常ですが、準1級では弱定常だけで十分です（以下、単に「定常」と書きます）。

上段は40本の重ね描き。黒線が各時刻ごとのばらつき $\pm 2 SD$ で、左は水平な帯、右は $\sqrt{t}$ の放物線状に開いていきます（第23回のブラウン運動の図と同じ形）。

下段が定義そのもので、①平均・②分散・③ラグ5の共分散を時刻 $t$ の関数として描いたものです。左は3本すべて水平、右は②③が $t$ に比例して直線的に増えています。

4-2. ランダムウォークの平均はゼロ

20000本の系列を生成して、各時刻の値を集めて計算しました。

AR(1) $\varphi = 0.7$（理論値：$E = 0$、$V = 1/(1-0.49) = 1.9608$、$\mathrm{Cov}(\text{ラグ}5) = 0.7^5/0.51 = 0.3295$）

ランダムウォーク（理論値：$V[x_t] = t$、$\mathrm{Cov}(x_t, x_{t+k}) = t$）

平均だけは両方ゼロで、条件①は満たしています。

ランダムウォークが非定常なのは②と③のせいです。「非定常＝トレンドがある」ではありません。 ドリフトのないランダムウォークは平均ゼロのまま、ばらつきだけが無限に育ちます。ここは試験で狙われるところです。

4-3. 条件③の「ラグだけで決まる」を確かめる

AR(1) $\varphi = 0.7$ の自己共分散を3つの時刻で比べます。

横に読むと一定（どの時刻でも同じ）、縦に読むと $\varphi^k$ で減衰。 これが「ラグだけで決まる」ということです。

ランダムウォークで同じ表を作ると:

横に読むと全く違い、縦に読むと減衰しません。 ラグを5に増やしても値が下がらない（20.70 → 20.70）。つまり5期離れても関係が全く薄れない。「記憶が永久に残る」のが単位根の特徴で、これが見せかけの回帰の源でした。

4-4. なぜ定常性が必要なのか

これで一言で言えます。

定常なら、条件③のおかげで「1本の系列を時間方向にずらして眺めること」が「繰り返し観測」の代わりになります。 どの時刻でも同じルールが動いているからです。だから $n$ を増やせば精度が上がり、標準誤差の公式が意味を持ちます。

定常でなければ時刻ごとに別のルールが動いているので、何期集めても「同じものの繰り返し」になりません。

（厳密には、時間平均が期待値に収束することをエルゴード性と呼び、定常性とは別の条件です。ただし準1級のレベルでは「定常なら時間方向の平均が使える」と理解しておけば足ります。）

5. 差分は $\varphi = 1$ 専用の薬

5-1. トレンド定常と単位根で、正しい処理が逆になる

ここで私は次の誤解をしました。「時間の一次式なら直線からの残差にすれば独立になる。AR(1) なら前の値との差分を取れば自己相関が消える」。

前半は正しいのですが、後半は $\varphi = 1$ のときだけです。$\varphi = 0.7$ の AR(1) はすでに定常なので、差分してはいけません。

元の系列の自己相関は $+0.922$ / $+0.719$ / $+0.943$。3つとも強い自己相関で、見た目では区別できません。 それでも正しい処理は全部違います。

そして大事なのは、②の $+0.719$ は「消すべき問題」ではないということです。これは AR(1) の $\varphi = 0.7$ そのもの、つまり推定して予測に使う情報です。

問題だったのは「自己相関があるのに無いふりをして標準誤差を計算すること」でした。$\varphi$ をモデルに入れて明示的に扱えば、標準誤差も正しく出せます。

5-2. なぜ $\varphi < 1$ で差分すると負の自己相関が出るのか

代数で1行です。

• $\varphi = 1$ なら $(\varphi-1) = 0$ なので $\Delta x_t = e_t$。完全にホワイトノイズ
• $\varphi < 1$ なら $x_{t-1}$ の項が残る。符号が負なので「前が大きかったら次は引き下げる」という人工的な反動が生まれる

この反動の大きさは理論的に $-(1-\varphi)/2$ になります。

紫（実測）と赤破線（理論値）が完全に重なっています。$\varphi = 1$ で初めて両方ゼロになる。差分は「$\varphi = 1$ のための薬」です。

右の図では、回帰の妥当性という一点だけを見れば差分は広い範囲で効きますが、$\varphi = 0$（元々ホワイトノイズ）では 4.5% → 9.9% と逆に悪化します。

5-3. 用語の整理

「差分は何回取ってよいのか」への答えは必要な回数だけです。1階差分で自己相関が消えたらそこで止めます。実務では1階、季節性があれば加えて季節差分、2階以上はほぼ不要です。

そして $\Delta x_t = (\varphi-1)x_{t-1} + e_t$ という式は、後で出てくる Dickey-Fuller 検定そのものです。係数 $(\varphi-1)$ がゼロかどうかを検定すれば、差分すべきかが決まります。

6. MA モデルと ARMA

6-1. MA は「過去のノイズ」を足す

AR の対になるのが MA（Moving Average＝移動平均）モデルです。足しているものが違うだけです。

下段の依存構造が肝です。

AR は鎖で、$x_0$ の影響が $x_1 \to x_2 \to \cdots$ といつまでも伝わります（0.7、0.49、0.343…と薄れつつ消えない）。

MA は2個ずつの重なりです。$x_1$ と $x_2$ は $e_1$ を共有しますが、$x_1$ と $x_3$ は共有するノイズが1つもありません。だから2期以上離れると関係が真にゼロになります。

ひとつ注意で、「移動平均」という名前は誤解を招きます。データを平滑化する移動平均（3期移動平均など）とは別物で、こちらは「ノイズの加重和」というモデルです。同じ言葉が2つの別物を指しています。

使いどころの違いはこうです。MA は一時的なショックが数期だけ影響して完全に消える現象（テレビで紹介されてアクセスが2日跳ねて元に戻る）。AR は効果が薄れながら長く残る現象（口コミが徐々に広がる）。

そして ARMA(p, q) は両方を持つモデルです。

6-2. ARIMA(p, d, q) の記号

ARIMA(1,1,1) とは、①まず1階差分を取り（$d=1$）、②その $\Delta x_t$ に ARMA(1,1) を当てる、という2段階です。

「Integrated＝和分」という名前の由来は、差分（difference）の逆操作が和（integrate）だからです。「差分すれば定常になる＝定常なものを足し上げて出来ている」という意味で、I(1) は第23回のランダムウォークの一般化にあたります。

季節性が入ると SARIMA(p,d,q)(P,D,Q)$_s$ になります。後半の括弧は「$s$ 期前」に対する同じ3つで、$s$ は周期（日次データの週次周期なら $s = 7$）。

7. ACF と PACF：なぜ AR と MA を見分けられるのか

7-1. 定義の違いは「間の期を固定するか」

私が一番つまずいたのがここです。ACF も PACF も「過去との相関」に見えて、区別がつきませんでした。

違いは「間の期を固定するかしないか」だけです。 第16回で「他の変数を固定したとき」の正体が残差だったのと同じ構造で、第27回の偏相関と同じ道具です。

7-2. AR(1) で「2期前は効いているのか」

AR(1) $\varphi = 0.7$ のデータで、2期前の効果を2通りに測ります。

【単回帰】x_t ~ x_{t-2}
   x_{t-2} の係数 = +0.4910 (SE 0.0019)   強く効いて見える

【重回帰】x_t ~ x_{t-1} + x_{t-2}
   x_{t-1} の係数 = +0.6984 (SE 0.0022)   真の φ=0.7
   x_{t-2} の係数 = +0.0022 (SE 0.0022)   ★ゼロ

③で両方から1期前の影響を除いた残差同士を見ると、傾きが $-0.009$ でほぼ完全に水平になります。これが PACF ラグ2 です（この散布図は $n = 5000$ で描いているので $-0.009$。上のコードは $n = 200000$ なので $+0.0022$。どちらも「ゼロと区別できない」という同じ結論です）。

なお③の傾きと、上の重回帰の $x_{t-2}$ の係数は理論上まったく同じものです。第16回で「他の変数を固定した係数＝残差同士の回帰」と確かめたのと同じ関係で、同じデータなら数値も一致します。

7-3. なぜこんなに違うのか：経路の分解

私はここで「単回帰と重回帰でなぜそんなに結果が変わるのか」が分からなくなりました。答えは、$x_{t-1}$ と $x_{t-2}$ 自身が相関していることです。実測 $\mathrm{Corr}(x_{t-1}, x_{t-2}) = 0.6999$。隣同士なので当然0.7です。

ぴったり一致します。

$0.49$ という数字は「2期前が直接効いている」のではなく、「2期前 → 1期前 → 現在」という遠回りの経路を測っていただけでした。単回帰は間の $x_{t-1}$ を見ていないので、遠回りと直接の道を区別できません。

考えてみれば当然です。AR(1) の定義 $x_t = \varphi x_{t-1} + e_t$ に $x_{t-2}$ はそもそも登場しません。$x_{t-1}$ を知ってしまえば $x_{t-2}$ は追加情報を持たない。第22回のマルコフ性そのものです。

2つは違う問いを聞いています。

7-4. 層別で見ると一目瞭然

これが一番直感的でした。

同じデータです。 左は全部まとめた散布図で右上がり（傾き 0.489）。点の色が $x_{t-1}$ の値で、青（小）が左下、赤（大）が右上に固まっているのが見えます。

右は $x_{t-1}$ を3つの狭い帯に限定して、その中だけで直線を引いたもの。3本すべてほぼ水平（$+0.009$、$+0.023$、$+0.019$）です。

左の右上がりは、層が斜めに並んでいるだけで作られていました。構造としてはシンプソンのパラドックスと同じ形です。

実データの数字でも確かめます。$x_{t-1} \approx 1.00$ に限定した4374件の中で:

$x_{t-2}$ が 2.28 も違うのに、$x_t$ の平均はほぼ同じです。逆に $x_{t-2}$ を固定して $x_{t-1}$ を変えると $-0.1679$ → $+1.4075$ と大きく動きます。

7-5. MA では逆になる

MA(1) $x_t = e_t + 0.7 e_{t-1}$ を「過去の自分」で表そうとすると、無限に続きます。

MA(1) は AR($\infty$) に等しい（係数が符号を交替しながら減衰する）。実測でも重回帰の係数が $+0.68$ / $-0.45$ / $+0.27$ / $-0.13$ と出ました。理論値 $0.7$ / $-0.49$ / $0.343$ / $-0.240$ より小さめなのはラグ4で打ち切っているためで、無限に続くことの裏返しです。

この書き換えが成り立つのは $\lvert\theta\rvert < 1$ のときで、この条件を反転可能性（invertibility）と呼びます。$\theta = 1.4$ だと級数が発散して AR($\infty$) に書けません。さらに $\theta$ と $1/\theta$ は同じ ACF を与えるので、どちらか一方に決めるためにこの条件を課します。ラグ演算子で書くと $1 + \theta z = 0$ の根が単位円の外、つまり AR の定常条件と対になる概念です。

一方、MA の共分散は簡単に計算できます。$e$ は互いに独立なので、添字が一致する項だけが残るのがポイントです。

ラグ1：$\mathrm{Cov}(e_t + 0.7e_{t-1},\ e_{t-1} + 0.7e_{t-2})$ 展開すると4項。独立なので添字が一致するものだけ残る → $e_{t-1}$ を共有しているので $0.7 \ne 0$

ラグ2：$\mathrm{Cov}(e_t + 0.7e_{t-1},\ e_{t-2} + 0.7e_{t-3})$ 添字は $\{t, t-1\}$ と $\{t-2, t-3\}$。一致するものが1つも無い → 厳密にゼロ（近似ではない）

MA の共分散は「ノイズの箱が重なっているか」だけで決まります。 共分散は共有ノイズを数えるだけの計算なので、MA の定義がそのまま共分散に写ります。

7-6. コレログラム：4モデルを並べる

ACF と PACF を棒グラフにしたものをコレログラムと呼びます。

実測値（$n = 100000$）:

理論値との一致も確認しました。AR(1) の ACF は $0.7^k$（0.7000 / 0.4900 / 0.3430）、MA(1) の ACF ラグ1は $\theta/(1+\theta^2) = 0.4698$、MA(2) の ACF は 0.5526 / 0.2632、AR(2) の PACF ラグ2は $\varphi_2 = 0.300$。

7-7. なぜ見分けられるのか：道具とモデルの「言語」

これが今回一番の収穫でした。ACF と PACF はどちらが優れているという話ではなく、読み取れるモデルが違うだけです。

PACF は「過去の自分で回帰する」道具なので、過去の自分で書かれた AR の次数を読み取れる。 ACF は「共有ノイズを数える」道具なので、ノイズで書かれた MA の次数を読み取れる。

道具とモデルの言語が一致したときだけ、ぴたりと切れます。一致していない側は「書き換え」が必要になり、その書き換えが無限級数になるので尾を引きます。

だから両方見ないと、どちらの言語で書かれているか分かりません。 これがコレログラムを2つ並べる理由でした。

7-8. 覚え方

ACF が切れたら MA、PACF が切れたら AR。切れた位置が次数。

頭文字だと逆になるので注意です。PACF と AR が組（PACF → p の決定、と結びつけると混乱しません）。

実務上の注意もひとつ。上の表がこれだけきれいに切れたのは $n = 100000$ だからです。実データの $n = 100$ 程度では、切れた後のラグでも $\pm 2/\sqrt{n} = \pm 0.2$ 程度ばらつくため、「切れた」の判定に主観が入ります。だから AIC を併用します。

8. 単位根検定（Dickey-Fuller）

8-1. 検定するのは前に出した式そのもの

第5節で出した式をもう一度書きます。

• 帰無仮説 $H_0$：$\rho = 0$（$\varphi = 1$、単位根あり、差分が必要）
• 対立仮説 $H_1$：$\rho < 0$（$\varphi < 1$、定常）… 片側検定

やることは「$\Delta x_t$ を $x_{t-1}$ に回帰して、係数の $t$ 値を見る」だけです。

ところが落とし穴があります。

この $t$ 値は $t$ 分布に従いません。 通常の $t$ 分布の5%点（$-1.65$）を使うと第一種の誤りが 45.7% になり、正しい DF 臨界値 $-2.87$ を使うと 5.2% に収まります。

$n = 200$、20000回のシミュレーションで自作した値です。教科書の値（$-3.46$ / $-2.88$ / $-2.57$）とほぼ一致しました（1%点は裾なので誤差が大きく、再実行すると $-3.42$ 〜 $-3.50$ の範囲で動きます）。

なぜ $t$ 分布に従わないのか。 帰無仮説（$\varphi = 1$）のもとでは説明変数 $x_{t-1}$ 自体が非定常なので、$\rho$ の推定量が通常の漸近正規性を持ちません。単位根の検定が単位根の影響を受けるという自己言及的な構造です。だから専用の臨界値表が必要になります。

トレンド項を入れると臨界値がさらに左に動く点にも注意が必要です。同じデータでもモデルの型で結論が変わります。

8-2. 検出力の弱さ

DF 検定の最大の弱点です。真の $\varphi$ が1に近いとき、「定常である」と正しく判定できる割合を測りました（$n = 200$）。

$\varphi = 0.95$ は定常なのに、3回に2回は「単位根あり」と判定してしまいます。

標本を増やせば改善します。$\varphi = 0.95$ のとき $n = 50$ で 6.8%、$n = 100$ で 13.3%、$n = 200$ で 34.5%（上の表と同じ条件）、$n = 500$ で 97.4%、$n = 1000$ で 100%。

単位根検定は「長い系列」を要求する検定です。日次データなら1年半、月次データなら40年分。第12回の「棄却できないことは帰無仮説が正しいことを意味しない」が、ここでは特に重く効きます。

8-3. ADF 検定：なぜ「拡張」が必要か

DF 検定は「差分がホワイトノイズ」を前提にしています。差分に自己相関が残っていると崩れます。ラグ項 $\Delta x_{t-1}, \ldots, \Delta x_{t-p}$ を加えたものが ADF（Augmented Dickey-Fuller）検定です。

どの場合に必要か調べました（すべて帰無仮説が真なので5%になるべき）。

負の MA 成分があると DF 検定は壊滅的に壊れます。 $\theta = -0.8$ では 99.8% の確率で「単位根なし」と誤判定します。ラグを足すと 92.0% → 36.0% → 11.3% と改善しますが、それでも足りません。

そして面白いのは、負の MA 成分は過剰差分で生まれるものだということです（第5節の $-(1-\varphi)/2$）。つまり「差分しすぎた系列に単位根検定をかけると誤った答えが返る」という循環があります。ラグ数の選択は AIC で決めるのが標準です。

9. ブログのアクセス数に使えるのか

9-1. データと前処理

自分のブログのアクセス数に応用できるか、これが個人的な動機でした。1年分（365日）の日次PVを現実的な構造で生成しました。週次季節性（週末に3割落ちる）＋ゆるい成長＋AR(1)の粘り＋バズ1回。平均 40.8 PV、最大 421 PV。

まず対数を取ります。 バズのスパイクが圧縮され、変動幅が期間を通じて揃います。PV は「何%増えた」で動くので対数が自然です。変動幅が水準に比例するときは対数を取る、という第17回の不均一分散への対処と同じ発想です。

9-2. 週次季節性の扱い：4つの方法

赤い棒が7の倍数（週次季節性）です。

①はラグ7に $+0.456$ の山。②の曜日ダミーで $+0.057$ に消えます。③の季節差分は $-0.415$ に反転（過剰差分）。④の1階差分ではラグ7が $+0.402$ と残ります。

そして⑤、②の残差に AR(1) を当てるとほぼすべてがゼロと区別できない範囲に収まりました。

結論：曜日は「ダミー変数」、残った粘りは「AR(1)」。

なぜ SARIMA の季節差分ではなくダミー変数なのか。 「月曜は高い」は確定的な構造です（曜日は永久に7日周期で確実に来る）。差分は確率的なトレンドを消す道具なので、ここでは道具が合っていません。第5節で見た「トレンド定常 vs 単位根」の区別が、そのまま季節性にも当てはまります。

9-3. 予測させてみる

最後の28日を隠して当てさせました。

MAE は Mean Absolute Error（平均絶対誤差）、MAPE は Mean Absolute Percentage Error（平均絶対パーセント誤差）です。

効果の大きさの順番が実務的に重要です。 「季節性を入れる」で $-33\%$、「回帰にする」で $-15\%$、「AR(1) を足す」で $-1.7\%$。

凝った時系列モデルより、曜日と対数変換の方がはるかに効きます。

AR 部分が効かない理由は、1期先の予測でしか AR の記憶が使えないためです。$\varphi = 0.63$ なら28日先には $0.63^{28} \approx 0$ で消えます。AR / ARIMA は短期予測の道具で、長期予測にはトレンドと季節性しか効きません。

9-4. 正直な結論

この規模のブログでは、予測モデルを作る意味は薄いです（上のデータは日次40PV前後、月1200PV程度の想定。私の実際のブログはもっと少なく月31PVです）。MAPE 15% は「40PVが34〜46PVの間」という程度の精度で、その情報で何かを決められるとは思えません。

時系列解析が効くのは介入の効果測定です。「7月に内部リンクを整えたら、曜日変動と成長トレンドを差し引いた上で有意に増えたか」という問いの形なら、この道具立てがそのまま使えます。第11回で「月31PVではA/Bテストに5.8年かかる」と計算したのと同じ話で、まず流入を増やすのが先という結論はここでも変わりませんでした。

10. 残りの用語（用語と使いどころだけ）

準1級では用語レベルで足りる部分をまとめます。

10-1. Ljung-Box 検定

コレログラムは目で見る道具ですが、ラグ1〜$h$ の自己相関をまとめて1つの検定にするのが Ljung-Box 検定です。

$H_0$ は「ラグ1〜$h$ の自己相関がすべてゼロ」なので、$p$ 値が大きいほどモデルが良い（第14回の適合度検定と同じ向き）。

$\varphi = 0.3$ という弱い自己相関でも検出できています。使いどころはモデルを当てた後の残差にかけて取り残しを確認する、第17回の残差診断の時系列版です。自由度が $h$ から推定パラメータ数だけ減る（10 → 9）のは第14回と同じ理屈です。

10-2. AIC と BIC による次数決定

コレログラムの「切れた」判定には主観が入るので、情報量規準を併用します（詳細は第32回）。真の次数を当てられるか測りました。

$n = 300$ なら $\log(300) = 5.70$ なので、BIC の罰則は AIC の約2.9倍厳しい。だから BIC は節約的なモデルを選び、AIC は大きめの次数に流れます。

AIC が「間違っている」のではなく目的が違います。時系列の次数決定では「少し多めに取っても予測は悪化しにくい」ため AIC が慣例的に使われますが、真の構造を知りたいなら BIC です。

10-3. 共和分

ここまで「単位根同士の回帰は見せかけ」と言ってきましたが、例外があります。

左の $x$ と $y$ はどちらも単位根（DF $= 0.08$、$0.27$）ですが、緑の点線 $2x$ が $y$ にぴったり重なっています。水準はどんどん動くのに $y - 2x$ のズレは一定幅（SD $= 1.10$）に収まります。

だから回帰の残差が定常（DF $= -17.18$）で、傾き 1.990 は真の関係 2.0 を正しく推定できています。無関係な2本だと差が開き続け（SD $= 5.43$）、残差自身がランダムウォークになります（DF $= -2.14$）。

共和分（cointegration）＝それぞれは単位根だが、ある線形結合が定常になる関係。

直感的には2本が鎖で繋がれている状態です。各自ふらふら歩くが、離れすぎると引き戻される。判定は回帰の残差に DF 検定をかけるだけ（Engle-Granger 法）で、残差が定常なら共和分あり＝その回帰は意味があります。

ただし臨界値は通常の DF とは別のものを使います。残差は回帰で最小化された量なので、臨界値がさらに左にずれるのです。$n = 300$・定数項ありでシミュレーションすると5%点は $-3.34$ でした（$-2.87$ を使うとサイズが 14.1% に膨らみます）。上の例は $-17.18$ と $-2.14$ なのでどちらの基準でも結論は変わりませんが、境界付近では効いてきます。

これが「差分すれば安全」の落とし穴です。 共和分がある場合に両方を差分してしまうと、$y \approx 2x$ という長期の関係が消えます。差分は短期の変化だけを残すので。正しい扱いは誤差修正モデル（ECM）で、短期の差分の動きと長期のズレを両方入れます。例は金利の長短スプレッド、同業2社の株価、為替と物価。

10-4. スペクトル解析

先ほどのブログPVのデータ（バズ除去・トレンド除去後）のペリオドグラムです。周波数 $1/7$ に鋭いピーク＝周期7日が一目で分かります（全ピーク中1位）。$2/7$ にあるのは高調波で、3.5日周期の成分が別にあるのではなく「7日周期の波形が正弦波ではない」ことの現れです。

互いにフーリエ変換で移り合うので情報量は同じです（ウィナー・ヒンチンの定理）。ACF を変換したものがスペクトル密度。

使いどころは周期が未知のとき。曜日周期のように「7日だ」と分かっているならダミー変数で済みますが、機械の振動や脳波のように「何周期あるか自体を探したい」ときに効きます。なお前処理（トレンド除去）をしないと低周波の山に埋もれて見えません。実際1回失敗しました。

10-5. 状態空間モデル

HMM を使った経験があるなら、あの隠れ状態が連続値になったものと考えれば構造は同じです。前向き・後ろ向きアルゴリズムに対応するのがカルマンフィルタ・スムーザです。準1級ではこの対応関係と用語までで、計算は問われません。

11. 自己診断で2問間違えた

この回の最後に、自分で理解度を確かめる8問を解きました。結果は 6.5/8（完全正解5問、部分正解3問を 0.5 点ずつで計算）。記録として残します。

「読めば理解できる」状態には達していたのですが、白紙から出すと落ちる箇所がありました。しかも落ちた場所には共通点があって、すべて「対応関係の向き」でした。

間違えた問題1：ACF と PACF の対応を逆にした

問：ACF がゆっくり減衰して続き、PACF がラグ2で切れました。どんなモデルですか。

私の答えは MA(1)。正解は AR(2) です。

実測で並べると一目瞭然でした。

MA(1) だとACF がラグ1で切れてしまい、問題文の「ゆっくり減衰して続く」に反します。

第7節で「道具とモデルの言語」の話まで理解したつもりでいたのに、いざ問われると対応が逆に出ました。頭文字が PACF ↔ AR で交差しているのが原因だと思います。「PACF が切れたら p が決まる」と結びつけるのが確実です。

間違えた問題2：過剰差分という名前が出なかった

問：差分を取ったら、ラグ1自己相関が $-0.45$ になりました。何が起きましたか。

私の答えは「これだけだとなんとも言えないが、線形＋ノイズの式に対して差分を取っている」。方向は合っていますが、「過剰差分」という診断が出ませんでした。

$-0.45$ という負の自己相関は、差分という操作が作り出したものである可能性が高いです。元が定常 AR(1) だと仮定すれば $-(1-\varphi)/2 = -0.45$ から $\varphi = 0.1$、つまり元データはほぼホワイトノイズだったと逆算できます。

ただし節5-1で見たようにトレンド定常でも差分すると $-0.489$ が出るので、$-0.45$ という値だけから「AR(1) でほぼ白色」と「トレンド定常」を区別することはできません。どちらにしても差分は不要だったという診断は同じです。

対処は差分を取り消して元に戻し、必要ならトレンド除去に切り替えることです。

惜しかった問題：DF 検定が専用表を要る理由

問：Dickey-Fuller 検定で、通常の $t$ 分布表を使ってはいけないのはなぜですか。

私の答えは「求める対象の変数が自分自身に依存しているため、正しく検出できない」。これは AR 一般の説明で、DF 検定に固有の理由になっていません。

正確には「帰無仮説（$\varphi=1$）のもとでは説明変数 $x_{t-1}$ 自体が非定常なので、$\rho$ の推定量が漸近正規性を持たず $t$ 分布に従わない」。単位根の検定が単位根の影響を受ける自己言及構造です。

正解できた問題

• 非定常な回帰で壊れるのは分子か分母か → 分母（標準誤差）
• MA(1) の ACF ラグ2 は「ほぼゼロ」か「厳密にゼロ」か → 厳密にゼロ
• AR(1) $\varphi = 0.7$ で ACF ラグ2 が 0.49 になる理由 → $0.7 \times 0.7$
• DF 検定で棄却できなかったとき「単位根がある」と結論してよいか → 「単位根がないとは言えない」が正しい

最後の問題は表現まで含めて正解でした。DF 検定は $\varphi = 0.95$ で検出力 34.5% しかないので、棄却できないのは「単位根がある証拠」ではなく「区別できるほどのデータがない」ことの方が多いのです。

ラグ1自己相関 0.9 の系列は差分すべきか

もう1問、部分正解だったものを挙げます。「差分と直線それぞれの自己相関を計算して比べる」という方針は正しかったのですが、選択肢を2つしか挙げられませんでした。

正しくは3通りあります。

1. 単位根 → 差分を取る
2. トレンド定常 → 直線を引く
3. 定常な AR(1) で $\varphi = 0.9$ → 何もしない（$\varphi$ を推定する）

3番目が抜けていました。そして判定手順としては ADF 検定があります。

12. 試験対策：出題されやすい順

13. まとめ

この回で確かめたこと