順位に直すと何が起きるのか:ノンパラメトリック検定の保険料【第15回】

はじめに

第13章はノンパラメトリック法です。前回(第14回・一般の分布に関する検定法)で「正規分布の前提が崩れたらどうするか」を扱いましたが、そこで出てきた道具はまだ「別の分布を当てはめる」「漸近的に近似する」という方向でした。今回はもっと過激な方針を取ります。

分布を当てにするのをやめる。

具体的には、データの値を捨てて順位だけを残します。この一言を最初に聞いたときの感想は「そんな乱暴なことをして大丈夫なのか」でした。滞在時間が310秒だったという情報を「9位」に置き換えてしまうのだから、明らかに情報が減っています。減った分だけ検定は鈍るはずです。

その「鈍り」の正体を数字で測れたのが、今回いちばんの収穫でした。正規分布のときの損失は約5%。n=20n = 20 でやっていた検定を n=21n = 21 にすれば取り返せる程度です。そして前提が崩れると立場が逆転して、外れ値が10%混ざるだけで順位検定の検出力がt検定の約2倍になりました。5%の保険料で、崩れたときに2倍の見返りがある。この収支が見えてから、ノンパラメトリック法が「パラメトリックの下位互換」ではなく別の設計思想なのだと理解できました。

もうひとつ驚いたのは、この章の手法が全部同じ原理の変奏だったことです。符号検定、ウィルコクソンの符号付順位検定、順位和検定、クラスカル=ウォリス検定、スピアマン、ケンドール。名前が6つ並びますが、違うのは「何を並べ替えるか」だけでした。

なお筆者は統計の専門家ではありません。理解の誤りが含まれる可能性があるため、試験対策として読む場合は必ず公式テキストで確認してください。

この記事で使う言葉

まず4つだけ。この記事はこの4語で回ります。

ノンパラメトリック(nonparametric):母集団の分布に「正規分布である」といった形を仮定しない方法。「パラメーター(母数)を持たない」という意味ではなく、分布の形をパラメーターで指定しないという意味です。母集団の中央値のようなパラメーターは普通に扱います。

分布によらない(distribution-free):帰無仮説のもとでの検定統計量の分布が、母集団がどんな分布であっても同じになる性質。ノンパラメトリックとほぼ同じ意味で使われますが、正確にはこちらが「なぜ分布を仮定しなくてよいか」の答えにあたります。

漸近相対効率(ARE, asymptotic relative efficiency):2つの検定が同じ検出力を出すために必要な標本数の比。「順位和検定のAREが 3/π=0.9553/\pi = 0.955」なら、t検定の nn 個ぶんの仕事をするのに順位和は n/0.955n / 0.955 個必要という意味です。

タイ(tie, 同順位):同じ値が複数あって順位が決まらない状態。5段階評価のアンケートのように値の種類が少ないデータでは大量に発生します。

TL;DR

  • 順位に直すと分布を忘れる。 X=F1(U)X = F^{-1}(U)F1F^{-1} は単調非減少だから、連続分布ならどんな分布でも順位のパターンは同じ。だから帰無分布が数え上げだけで確定する
  • 検証:コーシー・対数正規を含む4分布で40万回ずつ回して、(115)=462\binom{11}{5} = 462 通りの厳密分布と最大誤差 0.0012 で一致
  • 正規分布での損は 4.5%(ARE =3/π=0.9549= 3/\pi = 0.9549)。n=20n = 20 のt検定に追いつくには n=21n = 212222 必要。ただし正規は最悪ケースではなく、あらゆる連続分布での ARE の下限は 108/125=0.864108/125 = 0.864
  • 前提が崩れると逆転する。 2群 n=12n = 12 で外れ値10%混入なら検出力 0.2263 対 0.4376、対数正規で 0.3460 対 0.6073。約2倍
  • t検定は外れ値混入で α\alpha0.030 に落ちる。これは安全マージンではなく検出力の漏れ
  • t検定と結論が食い違ったら、食い違いの向きを見る。片方だけが有意になる非対称性が診断になる
  • 順位和の α\alpha が保証されるのは H0:F=GH_0: F = G のときだけ。 形や分散が違う2群では保証が消える(ベーレンス=フィッシャー問題)
  • 並べ替え検定は「帰無分布の作り方」で、頑健性は「統計量の選び方」。 この2つは直交している。ただし並べ替えにも交換可能性という前提が要る
  • 対応ありは引き算して1標本問題に変換するだけ。対応を無視すると p が 0.0060 から 0.7929 へ飛ぶ
  • クラスカル=ウォリス検定の正体は「順位に対する一元配置分散分析」。 k=2k = 2 にすると順位和検定の z2z^2 と完全一致
  • スピアマンは「順位に対するピアソン」、ケンドールは「2点選んで順番が合う確率」。 母相関0.5のときケンドールはちょうど 1/31/3 になるので、値をそのまま比べてはいけない
  • 5段階評価は中間順位とタイ補正で対応できるが、2値データでは順位和検定はフィッシャーの正確検定と同一物になる(両方 0.0698)

なぜ順位に直すと分布を仮定しなくてよくなるのか

いちばん最初に潰したかったのがこれです。「順位にすれば分布を仮定しなくてよい」と教科書には書いてありますが、なぜそうなるのかが書かれていないことが多い。調べてみると、これは2つの別の主張の合わせ技でした。

主張1:順位は「元がどの分布だったか」を忘れる

第4回の変数変換で使った X=F1(U)X = F^{-1}(U) を思い出します。一様分布 UU を分位点関数 F1F^{-1} に通せば、任意の分布 FF に従う確率変数が作れる、というものです。

ここで重要なのは、F1F^{-1} が単調非減少だということ。u1<u2u_1 < u_2 なら F1(u1)F1(u2)F^{-1}(u_1) \leq F^{-1}(u_2) で、順序が逆転することはありません。

ただし「非減少」であって「増加」ではない点が後で効いてきます。FF が離散だと F1F^{-1} は階段状になって平坦な部分を持つので、u1<u2u_1 < u_2 でも F1(u1)=F1(u2)F^{-1}(u_1) = F^{-1}(u_2) になりえます。これがタイ(同順位)です。FF が連続なら確率1でタイが起きないので、狭義の順序が保たれます。この「連続分布・タイなし」が分布によらない性質の前提で、崩れたときの対処が後半のタイ補正になります。

同じ6個の一様乱数A〜Fを4種類の分布に変換した図。左から一様分布そのまま、正規分布の分位点関数を通したもの、指数分布の分位点関数を通したもの、対数正規分布に変換したもの。縦軸の値の目盛りは0.2〜0.9、−1.5〜1.5、0〜2.5、0.1〜10と激しく変わるが、A(1位)からF(6位)までの順位は4パネルすべてで完全に一致している。単調変換は順序を保つので順位は元の分布を忘れることを示している

同じ6個の一様乱数を4種類の分布に変換した図です。縦軸の値は激しく変わるのに、1位から6位までの並びは4パネルすべてで一致しています。変数変換のときはヤコビアンを計算して密度の変化を追いかけましたが、順位だけを見るならヤコビアンが要らない。順序しか見ていないので、変換の「引き伸ばし方」は関係ないからです。

つまり、順位のパターンは元の分布の情報を一切持っていません。忘れているから、仮定する必要がない。

主張2:忘れた結果、数え上げで分布が確定する

ここが2段目です。忘れただけでは検定になりません。p値を計算するには帰無分布が必要です。

帰無仮説「2群は同じ分布から来ている」(H0:F=GH_0: F = G)が正しいとします。すると、全部を混ぜて順位をつけたとき、どの順位が群1に割り当てられるかは完全に偶然です。N=11N = 11 個から群1の5個を選ぶ組合せは (115)=462\binom{11}{5} = 462 通りで、タイがなければそのどれもが確率 1/4621/462 になる。

この「H0:F=GH_0: F = G」という強い帰無仮説が効いていることに注意してください。「平均だけが等しい」では足りません。分布がまったく同じでないと、割り当てが等確率になる根拠が消えます。

順位和Wの帰無分布を確認した図。左は n1=5、n2=6 のときの順位和Wのヒストグラムで、462通りの数え上げによる厳密分布(灰色の棒)に、正規・指数・コーシー・対数正規の4分布から40万回ずつサンプリングした実測値(4本の折れ線)がぴったり重なっている。E[W]=30、V[W]=30。右は462通りのうち代表的な割り当てを列挙した表で、群1の順位が{1,2,3,4,5}ならW=15で確率1/462、{1,2,3,4,6}ならW=16で1/462、{7,8,9,10,11}ならW=45で1/462というように、どの割り当ても等確率であることを示している

コーシー分布(平均が存在しない)と対数正規分布(極端に歪んでいる)を含む4分布で40万回ずつ回しましたが、462通りの数え上げから計算した厳密分布と最大誤差 0.0012 で一致しました。母集団を変えても WW の分布はまったく動かない。

これが「順位検定の表が作れる」理由です。パラメトリック検定は「母集団の分散を推定する」ために自由度を消費しますが、順位検定は数え上げで分散を確定させる。ここが設計思想の分かれ目でした。

手順を最後まで通してみる

原理が分かっても、実際に手を動かすまでは身につきませんでした。小さいデータで全手順をやります。

記事Aと記事Bの滞在時間(秒)を比べます。Aが5人、Bが4人。

滞在時間(秒)
記事A182, 95, 240, 310, 145
記事B62, 118, 41, 88

ウィルコクソンの順位和検定の全手順を4段階で示した図。手順1は9個の値を混ぜて小さい順に並べた横棒グラフで、41・62・88がB、95がA、118がB、145・182・240・310がAという並び。手順2は値を捨てて順位だけ残す過程で、記事Aの値95・145・182・240・310が順位4・6・7・8・9に、記事Bの値41・62・88・118が順位1・2・3・5になる。310を3100や999999にしても順位は9位のままなので結果は完全に同一という注記がある。手順3はW=4+6+7+8+9=34、E[W]=5×10/2=25、V[W]=5×4×10/12=16.67、取りうる範囲15〜35で、実測W=34は最大値35の隣。手順4は126通りの数え上げによるWの帰無分布の棒グラフで、各棒の上にその値になる組合せ数が書かれており、W=34とW=35は各1通り、W=15とW=16も各1通り、中央のW=25が11通りで最大。両端の4通りが赤く塗られ両側p=0.0317となる

手順1:2群を混ぜて小さい順に並べる。 41(B)、62(B)、88(B)、95(A)、118(B)、145(A)、182(A)、240(A)、310(A)。

手順2:値を捨てて順位だけ残す。 これが核心です。Aの順位は {4,6,7,8,9}\{4, 6, 7, 8, 9\}、Bは {1,2,3,5}\{1, 2, 3, 5\}

ここで310を3100にしても999999にしても、順位は「9位」のままです。だから検定結果は完全に同一になります。「値を捨てる」というのがどういうことか、これで具体的に見えました。

手順3:片方の群の順位を足す。

W=4+6+7+8+9=34W = 4 + 6 + 7 + 8 + 9 = 34

期待値と分散は公式で出ます。

E[W]=n1(N+1)2=5×102=25,V[W]=n1n2(N+1)12=5×4×1012=16.67E[W] = \frac{n_1(N+1)}{2} = \frac{5 \times 10}{2} = 25, \quad V[W] = \frac{n_1 n_2 (N+1)}{12} = \frac{5 \times 4 \times 10}{12} = 16.67

WW が取りうる範囲は 1515(Aが最小の5個を独占)から 3535(最大の5個を独占)まで。実測 34 は最大値 35 の隣なので、Aが大きい側に強く偏っています。

手順4:p値は126通りを数え上げるだけで出る。(95)=126\binom{9}{5} = 126 通りのうち、W34W \geq 34 になるのは2通り(W=34W = 34W=35W = 35)。片側 2/126=0.01592/126 = 0.0159、両側 4/126=0.03174/126 = 0.0317

母集団の分布を一度も使っていません。 t検定なら「正規分布だと仮定して、標本分散から標準誤差を推定して」という段階が必要ですが、それが丸ごと消えています。

ここで自分が引っかかった罠を書いておきます。126通りは「観測されたデータ」ではありません。 帰無仮説が正しいとしたら起こりえた仮想のパターンで、実際に観測したのはそのうち1通りだけです。最初これを「126通りのデータを集めた」と読み違えて混乱しました。

公式の分母の 2 と 12 はどこから来たのか

この公式を暗記しようとして嫌になったので、由来を調べました。3つとも出自が違います。

順位和の期待値と分散の分母を3パネルで説明した図。①はN=9の離散一様分布の棒グラフで、1からNまでの両端に双方向矢印が引かれ、E[k]=(1+N)/2=5であることを示す。②は一様分布の分散の12で、離散版(N²−1)/12と連続版(b−a)²/12を比較する表があり、N=5で2.0000対1.3333(比1.500)、N=10で8.2500対6.7500(1.222)、N=50で208.2500対200.0833(1.041)、N=1000で83333.25対83166.75(1.002)と、Nが大きくなるほど一致することを示す。③はV[W]の式全体の導出で、n1×(N²−1)/12×(N−n1)/(N−1)を変形してn1n2(N+1)/12になる過程と、5行の検証表がある

E[W]E[W] の 2 は等差数列の平均です。 順位は 1,2,,N1, 2, \dots, N という等差数列なので、1個の期待値は両端の平均 (1+N)/2(1 + N)/2。ガウス和 N(N+1)/2N(N+1)/2 の 2 と同じものです。

V[W]V[W] の 12 は一様分布の分散の 12 です。第6回でやった (ba)2/12(b-a)^2/12 と同根で、離散版は (N21)/12(N^2-1)/12NN を大きくすると連続版に一致していきます(N=1000N = 1000 で比 1.002)。

(N+1)(N+1) は約分の残りかすでした。 順位は非復元抽出なので有限母集団修正 Nn1N1\frac{N - n_1}{N-1} が掛かります。

V[W]=n1N2112Nn1N1=n1(N1)(N+1)12n2N1=n1n2(N+1)12V[W] = n_1 \cdot \frac{N^2-1}{12} \cdot \frac{N-n_1}{N-1} = n_1 \cdot \frac{(N-1)(N+1)}{12} \cdot \frac{n_2}{N-1} = \frac{n_1 n_2 (N+1)}{12}

(N21)=(N1)(N+1)(N^2-1) = (N-1)(N+1) と分解して (N1)(N-1) が約分され、Nn1=n2N - n_1 = n_2 が現れる。12・(N+1)(N+1)n2n_2 は出自が3つとも違うと分かってから、この式が覚えやすくなりました。

n1=5,n2=4,N=9n_1 = 5, n_2 = 4, N = 9 の126通りを数え上げると平均 25.000000、分散 16.666667 で公式と完全一致しました。

「順位以外を捨てる」とは具体的に何を捨てているのか

では失っているものは何か。ここも数字で見ておきたかった部分です。

順位以外を捨てることの意味を示した図。左のグラフは記事Aの値を変えたときのt検定と順位和検定のp値の比較で、元データではt=0.0347・順位和=0.0317、1つを3100にするとt=0.3446・順位和=0.0317、1つを999999にするとt=0.4069・順位和=0.0317、差を10倍にするとt=0.0031・順位和=0.0159。順位和の3本が完全に0.0317で一致していることが赤い注記で示されている。右は捨てているものとして値の間隔・平均差117.2秒・分散の情報を挙げ、それでも残る差の大きさの指標としてU統計量19、効果量0.95、ホッジス=レーマン推定量112.0秒を挙げている

捨てているものは、値の間隔(310と240の差が70であること)、平均差そのもの(117.2秒)、分散の情報です。図の左を見ると、記事Aの値を3100にしても999999にしても順位和のp値は0.0317で微動もしません。t検定は 0.0347 から 0.4069 へ暴れています。

ここで自分が誤解していたことがあります。「順位検定は信頼区間や効果量が苦手」と思い込んでいましたが、これは誤りでした。 苦手なのではなく、指標が平均差ではないだけです。

U統計量U=Wn1(n1+1)2=3415=19U = W - \frac{n_1(n_1+1)}{2} = 34 - 15 = 19。これは「AとBを1つずつペアにしたとき、A > B になるペアの数」です。全20組のうち19組。

効果量(確率的優越)θ^=U/(n1n2)=0.95\hat\theta = U / (n_1 n_2) = 0.95。「Aの読者とBの読者を1人ずつ選ぶと、95%くらいの確率でAの方が長い」と読めます。平均差より解釈しやすい場面すらある指標です。ただしこれは θ=P(X>Y)\theta = P(X > Y)推定値で、しかも20組だけから出しているので精度は極めて粗い(信頼区間は非常に広い)ことを忘れてはいけません。タイがあるときは半分数えて θ^=(U+0.5T)/(n1n2)\hat\theta = (U + 0.5T)/(n_1 n_2) とします。

ホッジス=レーマン推定量:全20組のペア差の中央値 = 112.0秒(t検定に対応する平均差は117.2秒)。これが順位検定における「差の大きさ」の点推定で、ここから信頼区間も作れます。

何を失っているのか:保険料は5%だった

いよいよ「鈍り」の定量です。理論値は漸近相対効率という形で知られています。

t検定と順位和検定の検出力を4つの分布で比較した図。各群n=20、α=0.05、40万回。横軸はシフト量(母標準偏差の何倍か)で0から1.0まで。正規分布ではt検定がわずかに上を行き(シフト1.0で0.87対0.85)「t検定が勝つ」と注記。t(3)分布・外れ値混入・対数正規の3パネルではいずれも順位和検定が明確に上で「順位和が勝つ」と注記。特に外れ値混入ではシフト0.5付近でt検定0.41に対し順位和0.90と大差がつく。各パネル下部にα実測値が記され、正規はt=0.049/W=0.049、t(3)はt=0.046/W=0.049、外れ値混入はt=0.030/W=0.050、対数正規はt=0.039/W=0.049

ARE は「t検定に必要な nn ÷ 順位和に必要な nn」で定義します。1より小さければ順位和の負けです。

母集団の分布ARE(t検定の必要 nn ÷ 順位和の必要 nn意味
正規3/π=0.95493/\pi = 0.95494.5%の損
一様1.0000損得なし
ロジスティックπ2/9=1.0966\pi^2/9 = 1.096610%の得
二重指数(ラプラス)1.550%の得
t(3)t(3)1.9090%の得
コーシー\inftyt検定は無力

正規分布での負け幅が 3/π=0.9553/\pi = 0.955。これが有名な数字です。実測すると、t検定 n=20n = 20 の検出力 0.3382 に順位和が追いつくには n=21n = 212222 が必要でした(0.3346 / 0.3490)。保険料は「サンプルを1〜2個足す」で払える。

ここで注意が必要でした。正規分布は最悪のケースではありません。 表に一様分布の 1.0 が並んでいるので「正規が底で、あとは得しかない」と読みたくなりますが、実際には裾の短い分布でもう少し損をしえます。ホッジス=レーマンの結果として、あらゆる連続分布にわたる ARE の下限は 108/125=0.864108/125 = 0.864 であることが知られています。つまり正しい保証は「正規で4.5%の損、どんな分布でも最大14%以内の損」です。「保険料は5%」は正規分布での話で、一般の保証は14%だと理解しておく必要がありました。

そして崩れたときの見返りが大きい。

分布ずれt検定順位和検定
正規1.00.870.85
t(3)t(3)1.00.890.98
外れ値混入0.50.410.90
対数正規1.00.881.00

外れ値が10%混ざるだけで、シフト0.5のときの検出力が 0.41 対 0.90 になります。2倍以上。

図の下部に書いた α\alpha の実測値も重要です。t検定は外れ値混入で α\alpha が 0.030 に落ちています。名目5%より小さいので一見安全に見えますが、これは第13回でも確認したとおり安全マージンではなく検出力の漏れです。外れ値が分散を膨らませてt統計量の分母を吊り上げ、検定そのものを鈍らせている。順位和は全条件で 0.049〜0.050 を保っていました。

t検定と順位和検定で結論が食い違ったら

実務でいちばん困るのがこれです。3段階で考えることにしました。

(a) そもそも検定はデータを見る前に選ぶ

原則としてこれが答えです。両方やって都合のよい方を採るのは、α\alpha を水面下で2倍近くに引き上げる行為(多重比較の一種)です。第13回で「F検定で等分散を確かめてからt検定」が推奨されない理由と同じ構造です。

(b) 食い違いの「向き」が診断になる

とはいえ、すでに食い違いを見てしまうことはあります。そのとき有用なのが非対称性のチェックでした。

状況t検定のみ有意順位和のみ有意読み方
正規・差なし0.01030.0094ほぼ対称 → 偶然
外れ値混入0.00020.2901極端に非対称 → t検定が鈍っている

正規分布で差がないときは、どちらか片方だけ有意になる確率がほぼ同じ(1%程度)です。これは偶然の産物。一方、外れ値が混ざると「順位和だけ有意」が29%も起きます。片方向にだけ偏った食い違いは、その検定の前提が壊れているサインでした。

t検定と順位和検定で結論が食い違う例を3パネルで示した図。①は生の値の散布図で、群Aは12から20の8個が集まり平均16.38、群Bは1から7の7個と外れ値90の合計8個で平均14.75。外れ値90に「これ1つがt検定を壊す」と注記。②は同じデータを順位に変換した散布図で、Aの平均順位11.50、Bの平均順位5.50と明確に分離し、90は「ただの16位」になって影響が上限で止まることを示す。③は2つの検定の結論で、t検定はt=+0.1503、p=0.8827で有意でない、順位和検定(厳密)はW=92(期待値68)、p=0.0104で有意。16個中15個でA>Bであり、外れ値1個が平均と分散の両方を膨らませてtの分母を吊り上げ検定を無力化したという解説がある

極端な例を作りました。A=[12,14,15,16,17,18,19,20]A = [12,14,15,16,17,18,19,20]B=[1,2,3,4,5,6,7,90]B = [1,2,3,4,5,6,7,90]Aの8個すべてがBの下位7個を上回り、外れ値90だけが例外という明白な差があるのに、t検定は p=0.8827p = 0.8827 で「有意でない」と答えます。外れ値90が平均を14.75まで持ち上げ、同時に分散を膨らませてt統計量の分母を吊り上げたからです。順位和では90が「ただの16位」に丸められて、p=0.0104p = 0.0104 で有意になります。

(c) 「何を知りたいのか」に戻る

いちばん納得したのがこれでした。両方が正しく、別のことを検定しているケースが作れます。

AExp(1)1A \sim \text{Exp}(1) - 1B(Exp(1)1)B \sim -(\text{Exp}(1) - 1) とすると、平均は両方ちょうど0で、中央値は 0.307\mp 0.307ln21\ln 2 - 1)です。この2群を比べると、t検定は 6.4%、順位和は 21.2% で棄却しました。

t検定の 6.4% は「平均差がないので α\alpha 付近であるべき」という予測どおりの挙動ですが、名目5%より少し膨らんでいます。強い歪みのぶんです。一方の順位和 21.2% は、P(A>B)=3e2=0.406P(A > B) = 3e^{-2} = 0.406 と確率的優越が崩れているので正しく検出しています。中央値が 0.307\mp 0.307 ずれているのはその一つの現れです。

t検定は平均を、順位和は「どちらが大きく出やすいか」を見ている。 食い違いは矛盾ではなく、質問が違うことの表れでした。

ここで正確に区別しておくべきことがあります。順位和検定の α\alpha が保証されるのは H0:F=GH_0: F = G のときだけです。この例のように分布の形自体が違う設定では、そもそも F=GF = G が成り立っていないので「α\alpha が正しい」という枠組みが当てはまりません。順位和が敏感な方向は平均差ではなく確率的優越 P(X>Y)1/2P(X > Y) \neq 1/2 ですが、これを帰無仮説に置き換えて「P(X>Y)=1/2P(X>Y) = 1/2 を検定している」と読むと危険で、形や分散が違う2群では α\alpha 自体がずれます(マン=ホイットニーのベーレンス=フィッシャー問題。n1n2n_1 \neq n_2 かつ分散が違うと名目5%を大きく超えることが知られています)。厳密にやるならブルンナー=ムンツェル検定などが必要です。

「順位和は中央値の検定」と読むには、さらに位置ずれモデル G(x)=F(xΔ)G(x) = F(x - \Delta) を仮定する必要があります。この記事の前半で使った例のように「同じ形の分布が横にずれただけ」ならその読み方でよいのですが、形が違う場合は成り立ちません。

並べ替え検定こそ最強ではないのか

計算機があるのだから、順位に丸めずに生の値のまま全パターンを並べ替えて帰無分布を作ればいいのではないか。順位に直すのは手計算しかなかった時代の遺物ではないか。そう思っていました。

枠組みとしてはほぼ正しかったのですが、決定的に混同していたことがありました。

並べ替え検定と順位和検定の関係を4パネルで示した図。①は生の値の平均差を統計量とした126通りの並べ替えの帰無分布のヒストグラムで、両端の4通りが赤く塗られp=4/126=0.0317。②は同じデータを順位に置換してからの並べ替えの帰無分布で、こちらも同じp=0.0317となり「W=34、4/126と一致」と注記されている。③は外れ値を大きくしていったときの3手法のp値の変化を示す群化棒グラフで、元データは並べ替え0.0317・順位和0.0317、310を3100にすると並べ替え0.4444・順位和0.0317、310を999999にすると並べ替え0.4603・順位和0.0317と、並べ替え(平均差)だけが崩壊する。④は3手法の比較表。下部に帰無分布の作り方・統計量の選び方・順位検定が今も使われる理由の3つの結論ボックスがある

同じデータで2つの並べ替えをやりました。

方法両側p
生の値のまま、平均差を統計量にして並べ替え0.0317
順位に置換してから並べ替え(=順位和検定)0.0317

順位和検定は、並べ替え検定の統計量として順位和を選んだものです。これは定義上そうなっているので、証明が要る話ではありません。上の表で p が 4/1264/126 で一致したのはこのデータでの偶然で(次に見るように一般には別物になります)、「特殊ケースである」ことの証拠ではありません。ここを取り違えると次の話が分からなくなります。

そして外れ値を大きくしていくと、この2つが分かれます。

データ並べ替え(平均差)順位和
元データ0.03170.0317
310 → 31000.44440.0317
310 → 9999990.46030.0317

並べ替え検定なのに崩壊しています。 ここで自分の混同が判明しました。

「並べ替え」は帰無分布の作り方であって、頑健性は統計量の選び方から来る。 この2つは直交している。

並べ替えは「p値をどう計算するか」の話です。しかし統計量に平均差を選んだ以上、平均差そのものが外れ値に弱いという弱点はそのまま残ります。順位和検定が頑健なのは「並べ替えるから」ではなく「順位和を統計量に選んだから」でした。

そして並べ替えにも前提があります。厳密になるのは帰無仮説のもとでデータが交換可能(exchangeable)なとき、つまり2標本なら F=GF = G、対応ありなら差が0のまわりに対称であるときだけです。「平均だけが等しく分散が違う」という弱い帰無仮説に対しては、並べ替えでも α\alpha は保証されません。この記事のシミュレーションで並べ替えが α\alpha を守れているのは、2群を同じ分布から生成している(=強い帰無仮説が成り立っている)からです。「並べ替えなら前提が不要」ではない。

では並べ替え検定の売りは何なのか。n=12n = 12 ずつ・20000回で測りました。

分布ずれt検定並べ替え(平均差)順位和
正規00.04950.04810.0428
正規1.00.65020.64530.6085
外れ値混入00.02530.05120.0457
外れ値混入1.00.22630.30140.4376
対数正規00.03550.04830.0447
対数正規1.00.34600.37980.6073

並べ替え検定の売りは検出力ではなく、第一種の誤りの正確さです。α\alpha の行(ずれ0)を見ると、並べ替えは全条件で 0.048〜0.051 を保っています。t検定は 0.0253 / 0.0355 に落ちています。しかし検出力では順位和に負けます(0.3014 対 0.4376、0.3798 対 0.6073)。なお上で書いたとおり、この α\alpha の正確さは交換可能性が成り立っているおかげです。

そして順位検定が今も使われる理由が3つあると分かりました。

第1に、重い裾では検出力が上。上の表のとおりです。

第2に、nn が大きいと正規近似が一瞬で済む。並べ替え検定は n1=n2=20n_1 = n_2 = 20 でも (4020)1378\binom{40}{20} \approx 1378 億通りあるのでモンテカルロ近似が必要ですが、順位和には E[W]E[W]V[W]V[W] の閉じた式があるので zz を計算して終わりです。

第3に、帰無分布が表になっていて手計算・査読できる。試験で出るのはこの性質のおかげです。

対応があるかないかの見分け方

ここは記法の問題ではなく、間違えると結論が壊れるところでした。

判定法は一行です。2列に並べて、横に並んだ2つの数字が同じ個体のものか。 行を入れ替えると意味が壊れるなら対応あり。Excelの1行が「1人の被験者のビフォー・アフター」なら対応あり、「無関係な2人」なら対応なしです。

対応のあるデータの分析を5パネルで示した図。①は8人のbefore/afterを線で結んだ散布図で、7人が減少し1人だけ+5増加していることに注記がある。②は5つの手法のp値を比較した棒グラフで、対応ありt検定0.0060、符号付順位検定0.0156、符号検定0.0703、誤用の順位和検定0.7929、誤用の対応なしt検定0.7556。③はW+の256通りの帰無分布の棒グラフで、棄却域が赤く塗られp=4/256=0.0156。④は情報の階段を示す表。⑤はE[W+]=n(n+1)/4とV[W+]=n(n+1)(2n+1)/24の導出と検証表で、n=8のとき平均18.0000・分散51.0000が公式と完全一致することを示す

8人の被験者で、施策前後の指標を測ったとします。

被験者
1182171−11
2240226−14
3145150+5
49582−13
5310289−21
6128120−8
7205198−7
8167152−15

対応ありのノンパラメトリック検定は「引き算して1標本問題に変換するだけ」でした。 新しい技術は出てきません。差を取ると8個の数字になり、あとは「これらは0のまわりに対称に散らばっているか」を調べるだけです。

符号付順位検定の帰無仮説は「差の分布が0を中心に対称(かつ連続)」です。この対称性は帰無仮説であると同時にモデル仮定でもある点に注意が必要でした。差の分布が歪んでいると、位置がずれていなくても対称性の破れだけで棄却されえます。順位和のところで「中央値の検定と単純化するのは危険」と書いたのと同じ話です。なお差がちょうど0になる個体は除いて nn を減らします。

帰無分布の作り方が変わります。群のラベルを入れ替えるのではなく、各人の符号を ±\pm 入れ替える 28=2562^8 = 256 通りを数えます。

ウィルコクソンの符号付順位検定の手順は、差の絶対値に順位をつけて(114|{-11}| \to 4位、146|{-14}| \to 6位、+51|{+5}| \to 1位、…)、正の差の順位だけを足す。ここでは +5+5 の1位だけなので W+=1W^+ = 1

E[W+]=n(n+1)4=18,V[W+]=n(n+1)(2n+1)24=51E[W^+] = \frac{n(n+1)}{4} = 18, \quad V[W^+] = \frac{n(n+1)(2n+1)}{24} = 51

256通りの数え上げで平均 18.0000、分散 51.0000。完全一致しました。

この 4 と 24 も由来があります。W+=kkIkW^+ = \sum_k k I_k と書けて、IkI_k は「kk 位の差が正か」を表す指示変数です。対称性の仮定のおかげで「絶対値の順位」と「符号」が独立になるので、IkI_k は独立に確率 1/21/2 のベルヌーイ試行になります。したがって E=12k=n(n+1)4E = \frac{1}{2}\sum k = \frac{n(n+1)}{4}V=14k2=n(n+1)(2n+1)24V = \frac{1}{4}\sum k^2 = \frac{n(n+1)(2n+1)}{24}4=2×24 = 2 \times 224=6×424 = 6 \times 4 です。

ここに順位和検定との構造的な違いがあります。W+W^+独立和なので有限母集団修正が要らない。だから (N+1)(N+1) のような「約分の残りかす」が出てこない。順位和の V[W]V[W](N+1)(N+1) が出るのは非復元抽出だからでした。この独立性の根拠が対称性の仮定にあるわけで、仮定と公式の形がつながっています。

対応を無視すると何が起きるか

手法両側p
対応のあるt検定0.0060
符号付順位検定(正確)0.0156
符号検定0.0703
【誤用】 対応を無視した順位和検定0.7929
【誤用】 対応なしt検定0.7556

0.0060 から 0.7929 へ飛びます。理由は数字を見れば明らかで、個人差のSDが68.0なのに対し差のSDは7.6です。対応を無視すると、個人差という巨大なばらつきを「ノイズ」として計算に入れてしまう。ノイズを9倍に増やすのと同じでした。

符号検定 → 符号付順位 → 対応ありt の「情報の階段」

上の表の上3行は、使う情報の量が階段状に増えていく構造になっています。

手法使う情報p
符号検定増えたか減ったかだけ0.0703
符号付順位検定増減 + 変化量の順位0.0156
対応のあるt検定増減 + 変化量の実数値0.0060

このデータでは情報を足すほどp値が小さくなりました。ただしこれは一般法則ではありません。 差に外れ値があると順序が逆転して、対応ありt検定のほうが符号付順位検定より鈍ります(このあとの「食い違ったら」の話と同じ理由です)。一般に言えるのは、「符号検定は最も仮定が弱く、前提が満たされているときには最も鈍い」ということだけでした。

8人中7人が減少しても p=0.0703p = 0.0703 で有意にならないのは、符号検定が「7/8」という比率しか見ていないからです。

p=2[(87)+(88)]28=2×9256=18256=0.0703p = \frac{2\left[\binom{8}{7} + \binom{8}{8}\right]}{2^8} = \frac{2 \times 9}{256} = \frac{18}{256} = 0.0703

タイ(同順位):5段階評価アンケートの問題

ここまでは「同じ値が出ない」前提でした。5段階評価のアンケートでは同じ値が大量に出るので、(Nn1)\binom{N}{n_1} 通りが等確率という前提が壊れます。

タイの扱いを5パネルで示した図。①は中間順位の割り当てを積み上げ横棒で示し、評価2の3人が順位1〜3を分け合って全員2.0、評価3の7人が4〜10位で全員7.0、評価4の6人が11〜16位で全員13.5、評価5の4人が17〜20位で全員18.5になることを示す。②はタイがある場合のWの実際の分布(棒)に、補正なしの正規曲線(V0=175.00、赤破線)と補正ありの正規曲線(Vt=161.18、緑実線)を重ね、観測W=142の位置に縦線を引いている。③はタイ補正の式と数値、184756通りの数え上げから直接計算した分散161.1842がタイ補正の式と完全一致することを示す。④は粒度別の比較表。⑤は2×2表からフィッシャーの正確検定と順位和検定が一致することを示すパネル

対処は3段構えでした。

第1に、処理法は「中間順位」。 同じ値の人は順位を平均して分け合います。評価4の6人は11位から16位を占めるので、全員 (11+16)/2=13.5(11+16)/2 = 13.5 位。これで順位の総和は N(N+1)/2N(N+1)/2 のまま保たれます。

第2に、分散が縮むので補正が必要。タイがあると WW が取れる値が減り、分布が細くなります。この例では取れる WW の値が101種類から56種類に減っていました。

Vt=n1n212[(N+1)j(tj3tj)N(N1)]V_t = \frac{n_1 n_2}{12}\left[(N+1) - \frac{\sum_j (t_j^3 - t_j)}{N(N-1)}\right]

tjt_jjj 番目の同じ値のかたまりの人数です。タイが無ければ tj=1t_j = 1t3t=0t^3 - t = 0 になり、補正項が自動的に消えて元の式に戻ります。 よくできた形です。

この例(A・B各10人、t=(3,7,6,4)t = (3, 7, 6, 4))では (t3t)=630\sum(t^3 - t) = 630630/(20×19)=1.658630 / (20 \times 19) = 1.658(N+1)=21(N+1) = 21 から引くので Vt/V0=0.921V_t/V_0 = 0.921184,756通りの数え上げから直接計算した分散が 161.1842 で、補正式と完全一致しました。

段階が粗いほど補正が重くなります。

データ値の種類Vt/V0V_t/V_0p 補正なしp 補正ありp 正確
連続値(タイなし)201.00000.00020.00020.0000
5段階評価40.92110.00580.00400.0044
3段階評価30.88950.00100.00050.0004
2値 0/120.74440.06400.03180.0698

最後の行が警告です。 補正すると 0.064 → 0.032 で有意になりますが、正確検定は 0.0698 で有意ではない。補正しても正規近似そのものが破綻しているケースです。段階が粗いときは補正だけで済ませず、正確検定を使うべきでした。

第3に、タイを極限まで進めると分割表の検定になります。 ここは自分でも驚きました。

手法両側p
順位和検定の正確な並べ替え0.0698
フィッシャーの正確検定0.0698

0/1の2値データでは、順位和検定の帰無分布は超幾何分布そのものです。WW が2×2表のセル度数の1次関数になるので、片側の正確p は恒等的に一致します。 前回(第14回)でやったフィッシャーの正確検定と地下でつながっていました。「順位に直して数え上げる」という原理は、値の種類が2つに縮んだ瞬間に分割表の検定と同一物になる。

ただし両側 p が一致するかは p 値の定義に依存します。順位和側は片側を2倍する倍化法、フィッシャー側は「観測以下の確率を全部足す」方法を使うのが普通で、この2つは一般には別の値を出します。上の表で一致したのはこの例の表がほぼ対称だったからで、非対称な表では違う数字になります。

実務への含意はこうです。5段階アンケートは中間順位とタイ補正でよい。ただし、「はい/いいえ」の2値なら順位検定を持ち出す必要はなく、素直にフィッシャーの正確検定か比率の検定を使えばいい(同じ答えが出るので)。

3群以上:クラスカル=ウォリス検定

3群に拡張しても、やはり新技術は出てきませんでした。

クラスカル=ウォリス検定を5パネルで示した図。①は3群のページ表示速度を通し順位にプロットした図で、サーバAの順位平均6.60、サーバBの13.00、サーバCの4.40が縦線で示され、全体の順位平均8.0が破線で引かれている。②は群間平方和SSB=199.6と群内平方和SSW=80.4の積み上げ棒で、全平方和SST=280.0がN(N²−1)/12で常に一定であることを示し、H=(N−1)SSB/SST=14×199.6/280.0=9.980という導出がある。③は756756通りの正確な帰無分布のヒストグラムにχ²(2)の曲線を重ねた図で、観測H=9.98に対し正確p=0.000904、χ²近似p=0.006806と併記されている。④はE[H]が厳密にk−1になることの数え上げ検証表。⑤は3群での分散分析とクラスカル=ウォリスの検出力比較の棒グラフ

サーバA・B・Cのページ表示速度(ms、各5台)を比べます。全15個を通し順位に直すと、順位平均はA が 6.60、B が 13.00、C が 4.40。全体の順位平均は (N+1)/2=8.0(N+1)/2 = 8.0。このズレの二乗和を測るのが HH です。

H=12N(N+1)i=1kni(RˉiN+12)2H = \frac{12}{N(N+1)}\sum_{i=1}^{k} n_i\left(\bar{R}_i - \frac{N+1}{2}\right)^2

ここで 12 がまた出てきます。順位和検定の V[W]V[W] と同じ、離散一様分布の分散の 12 です。ただし正確には 12N(N+1)\frac{12}{N(N+1)} は「順位1個の分散 (N21)/12(N^2-1)/12 で割る」のではなく、S2=SST/(N1)=N(N+1)/12S^2 = \text{SST}/(N-1) = N(N+1)/12 で割る標準化です(n1n-1 で割る標本分散のほう)。両者は N/(N1)N/(N-1) 倍だけ違い、この N/(N1)N/(N-1) が下の H=(N1)SSB/SSTH = (N-1)\cdot\text{SSB}/\text{SST}(N1)(N-1) と対応しています。いずれにせよ HH は単位のない量になります。教科書によく載っている 12N(N+1)Ri2ni3(N+1)\frac{12}{N(N+1)}\sum \frac{R_i^2}{n_i} - 3(N+1) は同じ式を展開しただけで、実測で両方 9.980000 でした。

正体は分散分析です。 順位に対して群間平方和 SSB と全平方和 SST を計算すると、

H=(N1)SSBSSTH = (N-1) \cdot \frac{\text{SSB}}{\text{SST}}

実測で SSB = 199.6、SST = 280.0、14×199.6/280.0=9.9814 \times 199.6/280.0 = 9.98。しかも SST は N(N21)/12=280.0N(N^2-1)/12 = 280.0 とデータに依らず決まります(順位の集合は常に 1,,N1, \dots, N だから)。

分母が定数だから、HH は SSB だけの関数になり、F 比のような「割り算の分布」を考えずにχ²で済む。 これが順位化のご利益でした。分散分析では分子と分母の両方が確率変数なのでF分布が必要になりますが、順位に直すと分母が消えるのです。

2群に戻すと順位和検定と同一物になります。k=2k = 2H=4.860000H = 4.860000、順位和の z2=4.860000z^2 = 4.860000、pも両方 0.027486。χ2(1)=z2\chi^2(1) = z^2 の関係そのままです(タイがない場合の恒等式)。クラスカル=ウォリスは順位和検定の多群拡張という位置づけが数値で確認できました。

自由度が k1k-1 になる根拠も数え上げで確認しました。タイがなければ E[H]=k1E[H] = k-1 が厳密に成り立ちます。

群のサイズk1k-1E[H]E[H] 実測V[H]V[H] 実測χ2\chi^2 の分散
3, 3, 322.0000002.724
2, 3, 422.0000002.624
2, 2, 2, 333.0000003.336
4, 5(=2群)11.0000001.582

平均は厳密に一致するのに分散は足りません(2.72 対 4)。nn が小さいと HH の裾がχ²より軽いので、χ²近似は保守的になります。今回のデータでは正確 p=0.000904p = 0.000904 に対しχ²近似 p=0.006806p = 0.006806 で、正確pの約7倍大きい(=棄却しにくい、厳しい側の)値でした。有意にはなるので実害はありませんが、境界付近では正確検定が必要です。

検出力は2群のときとまったく同じ構図でした(3群 各 n=10n = 10、20000回)。

分布ずれ一元配置分散分析(F)クラスカル=ウォリス(H)
正規00.05220.0482
正規1.00.58730.5498
外れ値混入00.02610.0481
外れ値混入1.00.19100.3849
対数正規00.03400.0452
対数正規1.00.27030.5618

正規では検出力で3.8ポイント(相対6%)劣り、崩れると2倍前後の逆転。ここは「保険料」という言葉を使いたくなりますが、ARE は必要標本数の比なので検出力の差とは別の量です(kk 群でも正規での ARE は 3/π3/\pi のままです)。F は α\alpha が 0.0261 / 0.0340 に落ちていて、これも検出力の漏れです。

順位相関:スピアマンとケンドール

ピアソンの相関係数は直線関係の強さを測ります。順位に直すとこれが単調関係の強さに変わる。「文字数が増えればPVが増える」と言いたいだけなら、それが直線である必要はありません。

順位相関を7パネルで示した図。①は記事の文字数とPVの散布図で、文字数1200から9100に対しPVが31から3100へ指数的に伸びる曲線を描き、ピアソンr=0.9126と表示。②は同じデータを順位に直した散布図で完全な直線になり、スピアマンρ=1.0000、ケンドールτ=1.0000と表示。③はケンドールτの定義図で、6点すべてのペアを線で結び、右上がりの一致ペア12本を緑、右下がりの不一致ペア3本を赤で描き、τ=(12−3)/15=0.6000という計算を示す。④は外れ値1個で3指標がどう動くかの表で、ピアソンが0.9394から0.5229へ半減する一方、順位版は0.9515と0.8222で不動。⑤はρとτの理論曲線と実測点。⑥はn=8の40320通りの帰無分布。⑦は近似のpと正確なpの比較表

記事の文字数(1200〜9100字)とPV(31〜3100)で試しました。PVは指数的に伸びるので直線ではありません。

指標
ピアソン rr0.9126
スピアマン ρ\rho1.0000
ケンドール τ\tau1.0000

完全に単調なので順位版は厳密に1になり、ピアソンは0.9台にとどまります。

スピアマンの ρ\rho は「順位に対するピアソン」そのものです。 教科書によく載っている公式

ρ=16di2n(n21)\rho = 1 - \frac{6\sum d_i^2}{n(n^2-1)}

did_i は同じ個体のxの順位とyの順位の差)は、タイが無いときだけ「順位に対するピアソン」と厳密に一致します。ここでも n(n21)n(n^2-1) が出てきて、これはクラスカル=ウォリスの SST=N(N21)/12\text{SST} = N(N^2-1)/12 と同根です。順位の平方和が最初から決まっているから、d2\sum d^2 だけで相関が復元できる。

ケンドールの τ\tau は考え方が違います。

τ=CD(n2)\tau = \frac{C - D}{\binom{n}{2}}

CC は一致ペア数、DD は不一致ペア数。(n2)\binom{n}{2} ペアすべてについて「xでもyでも同じ向きか」を判定して、その差の割合を取ります。「ランダムに2点選んだとき、順番が合っている確率 − 合っていない確率」という直接の解釈があるのが τ\tau の強みです。

スピアマンにも確率的な表現はありますが、3点を使う形(3[P((X1X2)(Y1Y3)>0)P(<0)]3[P((X_1-X_2)(Y_1-Y_3)>0) - P(\cdots<0)])になるので τ\tau ほど直感的ではありません。「ρ\rho には解釈がない」ではなく「2点では書けない」が正確でした。

なお上の式は τa\tau_a で、タイがあるときは分母を ((n2)Tx)((n2)Ty)\sqrt{(\binom{n}{2}-T_x)(\binom{n}{2}-T_y)} に取り替えた τb\tau_b が標準です(Tx,TyT_x, T_y はそれぞれの変数のタイペア数)。

ρ\rhoτ\tau の値を同じ物差しで比べてはいけない

ここが実務でいちばん危ない落とし穴でした。二変量正規のとき、母ピアソン相関 ρ\rho に対して、母集団のスピアマン値 ρS\rho_S と母集団のケンドール値 τ\tau には別々の公式があります。

ρS=6πarcsinρ2,τ=2πarcsinρ\rho_S = \frac{6}{\pi}\arcsin\frac{\rho}{2}, \qquad \tau = \frac{2}{\pi}\arcsin\rho

これは母集団の値(nn \to \infty の極限)です。有限の nn ではスピアマンにわずかなバイアスがあり、厳密には E[rS]=6π(n+1)[arcsinρ+(n2)arcsinρ2]E[r_S] = \frac{6}{\pi(n+1)}\left[\arcsin\rho + (n-2)\arcsin\frac{\rho}{2}\right] で、nn \to \infty で上の式に収束します。ケンドールのほうは有限 nn でも E[τ^]=2πarcsinρE[\hat\tau] = \frac{2}{\pi}\arcsin\rho が厳密です。以下は各120,000点なので極限値とみなして比較できます。

母ピアソン相関ピアソンスピアマンケンドール6πarcsinρ2\frac{6}{\pi}\arcsin\frac{\rho}{2}2πarcsinρ\frac{2}{\pi}\arcsin\rho
0.00.00390.00440.00290.00000.0000
0.30.29800.28500.19230.28760.1940
0.50.50020.48220.33320.48260.3333
0.80.80220.78870.59320.78590.5903

理論式と実測がぴったり合いました。母相関0.5のとき、ケンドールはちょうど 1/31/3 になります。だからτ=0.33\tau = 0.33 だから相関が弱い」と読むのは誤りです。τ\tauρ\rho より系統的に小さい別スケールの量でした。

外れ値への強さ

データピアソン rrスピアマン ρ\rhoケンドール τ\tau
元データ0.93940.93940.7778
1点の yy を 100 に0.59310.95150.8222
1点の yy を 10000 に0.52290.95150.8222
別の1点を −10000 に0.52290.95150.8222

1点いじるだけでピアソンは 0.94 から 0.52 に半減し、順位版は微動もしません。 順位和検定で外れ値を999999にしても W=34W = 34 が動かなかったのと同じ現象です。

無相関の検定

n=8n = 88!=403208! = 40320 通りを全数え上げしました。観測順位は [3,1,4,2,7,5,8,6][3,1,4,2,7,5,8,6]ρ=0.7619\rho = 0.7619τ=0.5714\tau = 0.5714

指標近似の方法近似のp正確なpα=0.05\alpha = 0.05 の判定
スピアマン ρ\rhot=ρn21ρ2=2.8814t = \rho\sqrt{\frac{n-2}{1-\rho^2}} = 2.8814, df=60.0280050.036756近似→有意 / 正確→有意
ケンドール τ\tauz=τ/2(2n+5)9n(n1)=1.9795z = \tau / \sqrt{\frac{2(2n+5)}{9n(n-1)}} = 1.97950.0477610.061012近似→有意 / 正確→有意でない

帰無分布の分散は公式と厳密一致していました。V[ρ]=1n1=0.142857V[\rho] = \frac{1}{n-1} = 0.142857V[τ]=2(2n+5)9n(n1)=0.083333V[\tau] = \frac{2(2n+5)}{9n(n-1)} = 0.083333、どちらも数え上げの値と完全に同じ。

それでも τ\tau は判定が逆転します。 分散が合っているのに pp が外れるのは、形(裾)が正規から外れているからです。分散が正しいことは分布が正しいことを意味しない。小標本では正確検定か数表を使うべきでした。

使い分けはこうなります。 直線を測りたいならピアソン、単調を測りたいなら順位相関、「順番が合う確率」として解釈したいなら τ\tau、小標本なら正確検定か表。ログデータのように外れ値が混ざる場面では、順位相関が既定の選択肢になります。

6手法は一本の原理の変奏だった

通して見ると、この章は独立した手法の羅列ではありませんでした。

手法何を並べ替えるか統計量平均分散
符号検定各個体の符号正の個数n/2n/2n/4n/4
符号付順位検定各個体の符号W+=kIkW^+ = \sum k I_kn(n+1)4\frac{n(n+1)}{4}n(n+1)(2n+1)24\frac{n(n+1)(2n+1)}{24}
順位和検定 / U群のラベルWWn1(N+1)2\frac{n_1(N+1)}{2}n1n2(N+1)12\frac{n_1 n_2 (N+1)}{12}
クラスカル=ウォリス群のラベル(多群)HHk1k-1
スピアマン ρ\rho片方の順位の並び順位のピアソン01n1\frac{1}{n-1}
ケンドール τ\tau片方の順位の並びCD(n2)\frac{C-D}{\binom{n}{2}}02(2n+5)9n(n1)\frac{2(2n+5)}{9n(n-1)}
並べ替え検定何でも何でも

「何を並べ替えるか」の列が設計そのものです。 対応ありは符号、対応なしは群ラベル、相関は片方の並び。ここを間違えると p が 0.0060 から 0.7929 に飛びます。

そして分散の列に 12・4・24・n(n21)n(n^2-1) が繰り返し現れる。全部、「順位の集合は必ず 1,,N1, \dots, N で、その平方和が最初から決まっている」という一点から来ています。

パラメトリック検定は母集団の分散を推定するために自由度を消費する。順位検定は分散を数え上げで確定させる。 この章の全体はこの一行でした。

実務での使い分け

学んだことを自分のブログ運営に落とすと、こうなりました。

5段階評価のアンケート(「この記事は役に立ちましたか」):中間順位とタイ補正で順位和検定を使う。平均を取って「3.8点でした」と報告するのは、順序尺度を間隔尺度として扱っている点で怪しい(「4と5の差」と「1と2の差」が同じ大きさだと仮定している)。

滞在時間やセッション長のログ:順位検定を既定にする。この種のデータは必ず極端な外れ値(タブを開いたまま寝た人)が混ざるので、平均が壊れます。中央値とホッジス=レーマン推定量で報告する。

「はい/いいえ」の2値:順位検定を持ち出さず、フィッシャーの正確検定か比率の検定。同じ答えが出るので、通りのよい名前を使ったほうがいい。

A/Bテストのコンバージョン率:これは2値なので上と同じ。ただし第13回でも書いたとおり、検定の選択より「途中で見て止めない」ことのほうが影響がずっと大きい

サンプルが極端に少ないとき(各群5〜10):正確検定を使う。この記事で何度も出てきたとおり、正規近似は小標本で判定が逆転します。

つまずいたところ

「順位検定は信頼区間や効果量が苦手」と思い込んでいた。 苦手なのではなく、指標が平均差ではないだけでした。U統計量・効果量(確率的優越)・ホッジス=レーマン推定量があり、中央値ベースの区間推定は普通にできます。

並べ替え検定が万能だと思っていた。 これがこの章でいちばん大きな勘違いでした。「並べ替え」は帰無分布の作り方で、頑健性は統計量の選び方。 この2つを混同していたので、「並べ替えなら外れ値に強いはず」と考えていました。実際は平均差を統計量にした並べ替え検定は外れ値で 0.0317 から 0.4603 まで崩壊します。

126通りを「観測されたデータ」と読み違えた。 帰無仮説のもとで起こりえた仮想のパターンであって、実際に観測したのはそのうち1通りです。並べ替え検定の考え方の根っこにある部分なので、ここを誤解していると全体が分からなくなります。

α\alpha が小さいのを「安全」だと思っていた。 t検定が外れ値混入で 0.030 に落ちるのを見て最初は「保守的でよいこと」と思いましたが、これは検出力の漏れでした。第13回で同じ間違いをしていたので、2回目です。

符号付順位検定の分散に有限母集団修正が必要だと考えた。 順位和検定に (N+1)(N+1) という「約分の残りかす」があったので同じだろうと思いましたが、W+W^+独立和なので修正が要らない。非復元抽出かどうかという構造の違いを見落としていました。

τ\tau の値を ρ\rho と同じ物差しで読んでいた。 母相関0.5でケンドールが 0.3333 になるのを見るまで、「τ\tau が小さいなら相関が弱い」と読んでいました。

分散が合っていれば近似が使えると思っていた。 ケンドールの n=8n = 8 で、V[τ]V[\tau] は公式と厳密に一致しているのに pp の判定が逆転しました(0.0478 対 0.0610)。分散が正しいことは分布が正しいことを意味しない。 モーメントの一致は分布の一致ではないという当たり前のことを、実例で叩き込まれました。

「正規分布が最悪ケース」だと思い込んでいた。 ARE の表に一様分布の 1.0 が並んでいるのを見て、「正規が底で、あとは得しかない」と読んでいました。実際には裾の短い分布でもう少し損をしえて、下限は 108/125=0.864108/125 = 0.864 です。表に載っている分布が全部ではないという当たり前のことを見落としていました。

「並べ替えなら前提が不要」だと思っていた。 並べ替え検定にも交換可能性という前提が必要です。この記事のシミュレーションで α\alpha が守られていたのは2群を同じ分布から生成していたからで、「平均だけが等しく分散が違う」場合は並べ替えでも崩れます。前提から自由になる方法はなくて、どの前提と引き換えにするかを選んでいるだけだと分かりました。

この記事の要点

  • 順位は元の分布を忘れる。 F1F^{-1} が単調非減少だから順序が保たれる(連続分布ならタイが起きないので狭義。ヤコビアン不要)
  • 忘れた結果、H0H_0 では全割り当てが等確率になり、帰無分布が数え上げで確定する。 4分布40万回で厳密分布と最大誤差 0.0012
  • 正規分布での保険料は 4.5%(ARE =3/π=0.9549= 3/\pi = 0.9549)。ただし正規は最悪ケースではなく、下限は 108/125=0.864108/125 = 0.864(最大14%の損)
  • 崩れると2倍の見返り。 2群 n=12n=12 で外れ値混入 0.2263 対 0.4376、対数正規 0.3460 対 0.6073(3群のF対Hでは 0.1910 対 0.3849、0.2703 対 0.5618)
  • t検定は外れ値で α\alpha が 0.030 に落ちる。安全ではなく検出力の漏れ
  • 食い違ったら向きを見る。片方だけ有意が非対称に出るのは前提が壊れているサイン
  • 順位和の α\alpha の保証は H0:F=GH_0: F=G が前提。 中央値の検定と読むには位置ずれモデルが要る
  • 並べ替えは帰無分布の作り方、頑健性は統計量の選び方。 直交している。ただし交換可能性は並べ替えにも要る
  • 並べ替え検定の売りは検出力ではなく α\alpha の正確さ(全条件で 0.048〜0.051)
  • 順位検定が残る理由は、重い裾で検出力が上・nn 大で正規近似が一瞬・帰無分布が表になっている
  • 対応ありは引き算して1標本問題に変換するだけ。無視すると 0.0060 → 0.7929
  • E[W+]=n(n+1)4E[W^+] = \frac{n(n+1)}{4}V[W+]=n(n+1)(2n+1)24V[W^+] = \frac{n(n+1)(2n+1)}{24}対称性の仮定から絶対値の順位と符号が独立になり、独立和なので有限母集団修正が要らない
  • タイは中間順位。VtV_t の補正項は tj=1t_j = 1 で自動的に消える。184,756通りの数え上げと厳密一致
  • 2値データでは順位和 = フィッシャーの正確検定(片側は恒等的に一致、両側は p の定義次第)。順位和の帰無分布は超幾何分布
  • クラスカル=ウォリスは「順位に対する一元配置分散分析」。 SST が定数なのでχ²で済む。k=2k=2 で順位和の z2z^2 と一致
  • E[H]=k1E[H] = k-1 は(タイがなければ)厳密だが分散は足りない(2.72 対 4)→ χ²近似は保守的
  • スピアマンは順位のピアソン、ケンドールは「順番が合う確率」。 母相関0.5で τ=1/3\tau = 1/3
  • 分散が公式と一致しても近似が使えるとは限らないτ\taun=8n=8 で判定が逆転)
  • 12・4・24・n(n21)n(n^2-1) は全部「順位の平方和が最初から決まっている」から来ている

これで推測統計編が終わりました。第8章から第13章まで、推定と検定を一通り扱ったことになります。振り返ると、この6章はすべて「分母のばらつきをどう見積もるか」の変奏でした。第13回では母集団の分散を推定して自由度を消費し、今回は数え上げで分散を確定させた。同じ問いに対する2つの答え方だったわけです。

次回からは線形モデル編に入ります。ここまでは1つか2つの変数を扱ってきましたが、変数が3つ以上になると「どの変数がどの変数に効いているのか」という新しい問いが出てきます。第16章の重回帰分析がその入口です。