「疑似相関分析」の機能
相関から因果関係を見出すことの必然性を問う、PARAs AIの「疑似相関分析」の数理的背景について
想定読者
疑似相関の数理的背景を、少しだけ専門的な水準で把握したい方
注意点
この記事ではPARAs AIの「疑似相関分析」の機能を、疑似相関が生じ得る機構の記述とともに、その数理的背景として記述しています。抽象的な概念や形式的な数式を扱っております。
目次
「疑似相関分析」の機能
PARAs AIで実装されている「疑似相関分析」の機能は、「疑似相関に関連したバイアス」を発見するための機能です。ここでいう「疑似相関に関連したバイアス」とは、主にマスコミュニケーションやソーシャルメディア上のコミュニケーションで形成される傾向にある「バイアス」の一種を意味します。この「バイアス」は、統計の誤用として生じる傾向にあります。特に「誤った因果推論」のような「誤謬」をもたらし得るのが、この「バイアス」の特徴です。
わかり易い例となるのが、政府統計などの二つの指標の「相関」を引き合いに出すことで実践される、経済や社会に関する「説明」です。「Xが上昇している時期には、Yも上昇している」という観察を示した上で、相関係数が高いことを根拠に「XがYを動かしている」と主張する――こうした「説明」は、政策を肯定する内容であれ、否定する内容であれ、同じ形式を取ります。
この場合、Yの変動の原因は、Xの変動に「帰属(attribution)」されます。厳密な科学・学問の領域でのコミュニケーションとは違い、マスコミュニケーションやソーシャルメディア上でのコミュニケーションでは、この帰属の妥当性は――その帰属が不都合だと思う人々が表れない限りは――あまり問われません。XとYが共通のトレンドを持っているだけかもしれない可能性、第三の要因が双方を動かしているかもしれない可能性、因果の向きが逆かもしれない可能性、あるいはYとXと同じくらい強い相関を持つ別の指標が他にもあり得る可能性は、あまり問われないのです。
いずれにしても、そうした「説明」の実践者たちは、当の二つの時系列データの間に「因果関係」を見出していることになります。正しいか否かはともかく、「見出している」というのは確実です。その実践者が「人間」であれ、「生成AI」であれ、「AIエージェント」であれ、このことに変わりは無いでしょう。
PARAs AIの「疑似相関分析」の機能は、こうした相関から因果関係を見出すことの「必然性(Necessity, Notwendigkeit)」を問う機能です。PARAs AIは、分析対象として指定された文書内の自然文/生成文を分析することで、「疑似相関に関連したバイアス」が孕んでいる疑いがある場合に、対象文書内で言及されている二つの指標を対象に、その相関が因果関係とは無関係に大きくなり得る機構を、幾つかの観点から分析します。
もし二つの指標の相関が、共通のトレンド、あるいは第三の要因のような、因果関係とは無関係な機構で説明できるのであれば、その相関の大きさは、「XがYの原因である」という主張の根拠にはなりません。この場合、その相関に基づいて因果関係を見出すことには、必然性がありません。反対に、そうした機構で説明できる可能性が見つからない場合でも、因果関係が存在することが証明される訳ではありません。この場合に言えるのは、因果関係を見出す必然性が無いとは言い切れないという程度のことに留まります。
「必然性が無い」という命題と「必然性が無いとは言い切れない」という命題は、因果関係の有無・向き・大きさを推定する統計的なデータ分析から得られる結論に比べれば、いずれも強い主張ではありません。しかしこの程度の可能性を指し示す分析であっても、「疑似相関に関連したバイアス」の発見を促すことは可能です。この命題は「別様の可能性もあり得る」という命題として再記述できます。この「疑似相関分析」の機能は、更なる分析の必要性と別様の結論の可能性を指し示すのです。そうすることで、「疑似相関に関連したバイアス」がどのような可能性を無視、忘却、あるいは隠蔽することで成立しているのかを明快にするのが、PARAs AIの分析結果となります。
この「疑似相関分析」の機能の由来は、統計学や計量経済学における、時系列データの「見せかけの相関」を巡る議論の歴史に見出すことができます。この概念の歴史においては、まず時系列の間の「無意味な相関(nonsense-correlations)」が問題にされたことから始まります(Yule, G. U., 1926)。この兼ね合いから、時系列の相関における有意性検定の問題も論じられるようになります(Bartlett, M. S., 1935)。そして、いわゆる「見せかけの回帰(spurious regressions)」の概念が、この問題の枠組みの中で記述されるようになりました(Granger, C. W. J., & Newbold, P., 1974)。更に、因果関係を形式的に記述する枠組みとして発展してきた統計的因果推論問題の枠組み(Pearl, J., 2009)も、この機能の背景に位置付けられます。ただし「疑似相関分析」の機能は、こうした理論をそのまま「横展開」している訳ではありません。各専門領域を横断する機能的な比較の観点から、それぞれの統計的なデータ分析方法を、線形の統計量に抽象化することで導入されています。
以下では、疑似相関が生じ得る機構を確認しつつ、「疑似相関分析」の機能の数理的な背景を記述していきましょう。
問題設定:疑似相関は如何にして生じ得るのか
同じ時刻に観測された2つの時系列、があります。今、ある観察者が、二つの時系列が同時に変化していることを発見しました。この二つの時系列の傾向から、この観察者は「がを動かしている」という認識に至ったとしましょう。この認識は、の変動の原因をの変動へと帰属(attribution)する認識です。つまりこの観察者は、との間に因果関係を見出していることになります。
この主張の根拠として最もよく使われる量が、ピアソンの相関係数(Pearson correlation coefficient)です。この相関係数は次のように算出されます。
ここで、は、との偏差の積和です。
は、の偏差の平方和です。
は、の偏差の平方和です。
、は、標本平均です。
またはのとき、は定義されません。
観察者がとの間に因果関係を見出した理由は、まずはに見出すことができるでしょう。この変数は、言うなればとが同時に動く度合いを言い表しています。分母は、とそれぞれの変動の大きさです。確かに、この分子と分母の関係として算出されるは、線形な共変動の強さと符号を表わしています。
しかし、が大きいという事実は、「がの原因である」という主張の十分な根拠にはなり得ません。は線形な共変動の強さを測るだけです。この指標は、因果の向きも、第三の要因の存在も区別しません。
したがって、「がの原因である」という主張は疑似相関の可能性に対して盲目的な主張です。これについては、以下のように、因果関係とは無関係にが大きくなる機構を記述することで明確化することができます。
問題解決策:決定的トレンドの共有
とします。、はトレンドの傾きです。は互いに無相関な定常系列で、分散は、とします。整数の分散は以下の通りです。
トレンド項どうしの共分散は、各系列の分散は、ですから、標本相関の概略値は次のように記述できます。
がの速さで増えるため、とが無関係でも、トレンドの傾き、がともに0でなければ、です(向きが同じなら、逆向きなら)。、、、で式(2)の中辺を評価すると、次のとおりです。
| 12 | 36 | 120 | 1200 | |
|---|---|---|---|---|
| の概略値 | 0.241 | 0.742 | 0.970 | 0.9997 |
問題解決策:確率的トレンドとしての「見せかけの回帰」
以下のような独立なランダムウォークを想定しましょう。
尚、は独立かつ同一の分布です。独立かつ同一な分布に従う系列では、標本相関の標準偏差が約で0に縮みます。これに対して、独立なランダムウォークでは、はでも0に収束せず、独立な2つのブラウン運動の標本相関という、非退化な確率変数(non-degenerate random variable)に収束します。そのため、標本を増やしても、強い相関が偶然現れる確率は0にはなり得ません。この現象を、「見せかけの回帰(spurious regression)」といいます(Yule, G. U., 1926., Granger, C. W. J., & Newbold, P., 1974., Phillips, P. C. B., 1986)。
数値で確かめると、長さ100の独立なランダムウォークの組では、となる割合が約0.40です。同じ長さの独立なiid系列では、この割合は0です(数値検証の記録)。
問題解決策:交絡因子
がとの両方を動かす次の構造を想定しましょう。
ここで、、、は、互いに無相関です。各変数は全て、その平均が0です。 の分散、の分散、そしての分散は、それぞれ、、です。
この時、との分散は、次のように計算できます。
共分散は、誤差項が互いに、またと無相関なので、次の関係が成立します。
と、との相関は、次の通りです。
したがって、次の関係が成り立ちます。
との間に直接の因果がなくても、双方はを介して相関することがわかります。
問題解決策:向きの情報
式(1)はとの入れ替えで不変です。
したがって、同じの値は、「がを動かした」という仮説と「がを動かした」という仮説を全く同じ強さで支持します。向きの情報はに含まれません。
問題解決策:多重性の記述
「が原因」という主張の根拠がだけなら、との相関が以上になる別の指標()についても、同じ理屈で「が原因」と主張できます。各候補が偶然に基準を超える確率をとし、候補同士を独立と仮定すると、1つ以上が基準を超える確率は
です。例えば、なら約0.87になります。候補が多いほど、因果と無関係に、強い対抗馬が発見され易くなります。
問題再設定:疑似相関の発見は如何にして可能になるのか
疑似相関が生じる機構に関する以上の記述を前提とするなら、疑似相関を発見するために必要となるのは、因果関係を否定し得る統計量です。ピアソンの相関係数は線形の関係を前提としています。そのため、因果関係を否定し得る統計量もまた線形の統計量で構いません。
2系列について、が大きい時、その大きさが上述した機構のいずれかで説明できるなら、この二つの系列に因果関係を見出す認識は疑似相関に対して盲目的な認識であると記述できます。そうすれば、はを原因とする根拠にはならないということが明確化します。
問題解決策:標本の共通化
複数の系列を比較するには、同一時刻の観測データ同士を対応付ける必要があります。系列の集合に対し、全ての系列で値が有限な時刻の集合を共通のサンプルとします。基準の相関には、候補の偏相関には、対抗馬の相関には、を使います。
共通のサンプルが3点未満のときは、統計量を計算しません。
問題解決策:差分相関
隣り合う点の差分を作ります。
差分同士の相関を、差分相関と呼びます。
ここでは共通のサンプルの点数であり、差分は共通のサンプルの中で隣り合う点どうしで取ります。
決定的トレンドに対する効果
式(2)のモデルでは、差分は次のとおりになります。
定数、は、相関の計算で標本平均として引かれます。残るのは誤差の差分であり、とが無相関なので、次が成り立ちます。
差分は、線形トレンドを消します。
確率的トレンドに対する効果
独立なランダムウォークの差分は、とそのものです。これらは独立かつ同一の分布ですから、の標準偏差は約です。では約0.1であり、は約95%の確率で成り立ちます。尚、等差数列のように、 またはが定数の時、式(5)の分母が0になり、は定義されません。
限界
差分は、低周波の共変動も消去してしまいます。真に関係のある2系列でも、短期の変動が独立なら、は小さくなり得ます。これは共和分している系列の場合にも該当します。
定常な系列を差分すると、過剰差分が生じます。例えばがホワイトノイズなら、の1次の自己相関はになります。
加えて、欠測で共通のサンプルが不連続になると、差分が複数期間にまたがり、変化の期間が混在します。
したがって、「が大きく、が小さい」は、トレンド共有の疑いを示すに留まります。
問題解決策:偏相関係数
偏相関係数は、第三の系列の線形な影響を取り除いた後の、との相関です。とをそれぞれに回帰し、その残差を、とします。偏差をのように書くと、残差は次の通りです。
残差はと直交するので、次の関係が成り立ちます。
残差同士の相関を取り、分子と分母をで割ると、次の式を得ます。
分母が0のとき、すなわちまたはのときは、定義されません。
式(6)の3つの相関を同一の標本で求めると、が保証されます。3系列の相関行列
は、同一の標本から作る限り半正定値であり、です。行列式を展開すると、次の恒等式を得ます。
式(7)とから、が従います。右辺が正のとき、両辺を右辺で割ると、式(6)についてを得ます。標本が系列ごとに異なると、は半正定値と限らず、この保証は失われます。このため、候補の評価では、式(6)に入れるも、基準のではなくで求め直します。
交絡下での性質
式(3)の構造では、分子がとなるので、母集団の偏相関は0です。標本でも、式(6)の分子が0に近づき、となります。との相関がだけで説明できるなら、を制御すると相関が消えます。
制御による相関の低下を、次の量で測ります。
ここでは、で求めた値です。
- :制御で相関が弱まりました。が交絡因子である疑いがあります。
- :制御で相関が強まりました。抑制変数の効果です。
候補を「強い交絡」の順に並べる基準は、2通りあります。
- が大きい順(既定)。
- が小さい順。
両者は、一般に異なる順序を与えます。偏相関を計算できない候補は、どちらの基準でも最後に回ります。
限界
偏相関は、因果構造を知らずに、変数を機械的に制御する量です。この量を参照する場合に盲点となるのは、まず媒介変数と交絡因子の差異です。 の構造でも、を制御すると偏相関は0に近づきます。したがって偏相関係数を参照するだけでは、交絡と媒介は区別できません。
もう一つの盲点となるのが、合流点です。の構造では、とは本来無相関()です。ところが、を制御すると、式(6)より次の値になります。
これは0になりません。制御が、見せかけの関連を作ります。
偏相関係数は更に、複合的な関連を捉え切れません。この係数の計算時において、変数候補は一つずつ制御されます。複数の変数を同時に制御する訳ではありません。そのため、複数の因子が組み合わさった交絡は、原理的に捉えられません。
問題解決策:単純回帰による向きの対称性の確認
向きの情報がに含まれないことについては、回帰で確認することができます。まず、決定係数は相関係数の2乗です。
回帰モデルの残差平方和をとで偏微分し、0と置くと、最小二乗解が得られます。
回帰で説明される平方和はです。これをで割るとになります。したがって、回帰の決定係数は式(10)に一致します。
標本標準偏差を、とすると、傾きと標準化係数は次の通りです。
単回帰の標準化係数は、そのものです。向きを入れ替えた傾きとの積は、次の通りです。
したがって、とは、両方向で同じ値です。単位付きの傾きだけが、非対称となります。
次の2つの説は、同じを根拠にしています。
- が1単位動くと、が単位動く。
- が1単位動くと、が単位動く。
は相関に基づく見かけの量であり、因果的効果の推定値ではありません。
問題解決策:対抗馬による多重性の可視化
「がの原因である」という主張の根拠を、一先ずは素の相関係数(、式(12))、決定係数、単位付きの傾きの3つとします。各候補について、結果側をとみなした同じ量を計算して並べます。
結果側をとみなす逆向きも、同様に並べます。
候補が基準より強いとは、次が成り立つことと定めます。
逆向きでは、とします。式(14)を満たす候補の数をとします。ここで、候補の相関はで、基準のはで求めた値であり、標本が異なります。
- なら、と同じ強さの根拠で、についても「がを動かした」と主張できます。したがって、だけでは、を特別扱いする理由になりません。
- でも、を原因とする根拠にはなりません。探索した候補は有限であり、未探索の要因は排除できません。
- 式(4)のとおり、が大きいほど、偶然によってとなる確率は高くなります。
ただしこれは検定ではなく反例の探索です。対抗馬の存在は、因果の否定ではなく、根拠の弱さの指標として読むのが正しいです。
問題解決策:疑似相関の判定規則
以上の統計量を、経験的な規則で判定にまとめます。閾値は、理論から導かれたものではなく、慣習的な値です。まず以下の条件が満たされる場合は、トレンド共有の可能性が生じています。
一方、以下の条件が満たされる場合には、交絡因子の可能性が生じています。
は、強い交絡の順位付けで最上位になった候補です。つまり式(8)の減少幅が大きい順、またはが小さい順で最上位になった候補です。この規則の性質は、次のように整理できます。
- 式(15)、(16)のは、基準ので求めた値です。一方、はで求めた値であり、標本が異なります。
- の選び方で、判定が変わりうります。減少幅の大きい順か、偏相関の絶対値の小さい順かで、が異なります。
- 統計量が定義されないとき(分散が0のとき、点数が足りないとき、全候補の偏相関が計算できないとき)は、疑いなしとして扱われます。
- 判定は、疑似相関である可能性の目安であり、証明ではありません。
問題解決策:数値的な不安定性への対処
候補が(または)にほぼ一致すると、式(6)は不安定になります。とすると、分子も分母のも0に近づき、0/0の不定形となります。このとき偏相関の値は、データの構造ではなく、のからのずれ(雑音)の向きで決まります。
実際に、交絡構造の標本(乱数の種7、)で、(は標準正規乱数)としたときのを、雑音の乱数を変えて調べました。
| 雑音の乱数 | |||
|---|---|---|---|
| 種1 | |||
| 種2 | |||
| 種3 |
で値は雑音の実現ごとに異なる値に収束します。これは、そのものの情報ではなく雑音の情報であり、解釈できません。がと完全に同じ値なら、で式(6)の分母が0となり、偏相関は定義されません。
本機能は、次の対処を取ります。
- 偏相関の計算では、分母が0なら定義されないものとして扱います。
- 政府統計の候補では、指標・と同じ統計表かつ同じ項目指定の系列を、同じ系列の言い換えとして除きます。
- CSVの候補では、・と共通の日付のすべてで同じ値の列を除きます。さらに、・との相関がの列は、除外せず警告します。単位換算した同一データの可能性があるためです。
派生問題:統計的な検定
ここで求める統計量は、因果関係の有無を判定するための指標ではありません。観測データだけでは因果の向きも大きさも決まりません。これは式(1)の対称性が示す通りです。求めるのは、「が大きいことは根拠として不十分である」と示すための材料であり、疑似相関である可能性の目安に留まります。
それどころか一連の計算は、p値や信頼区間のような統計的な検定方法の諸概念も扱っていません。特に確率的トレンドを形式的に扱うためには、単位根検定と共和分検定が必要になります。上述した差分相関は、これらの簡便な代理に過ぎません。
参考文献
- Bartlett, M. S. (1935). Some aspects of the time-correlation problem in regard to tests of significance. Journal of the Royal Statistical Society, 98(3), 536–543.
- Granger, C. W. J., & Newbold, P. (1974). Spurious regressions in econometrics. Journal of Econometrics, 2(2), 111–120.
- Pearl, J. (2009). Causality: Models, reasoning, and inference (2nd ed.). Cambridge University Press.
- Phillips, P. C. B. (1986). Understanding spurious regressions in econometrics. Journal of Econometrics, 33(3), 311–340.
- Yule, G. U. (1926). Why do we sometimes get nonsense-correlations between time-series?—A study in sampling and the nature of time-series. Journal of the Royal Statistical Society, 89(1), 1–63.