الارتباط الجزئي

إحدى الطرق البسيطة لحساب الارتباط الجزئي للعينة لبعض البيانات هي حل مسألتي الانحدار الخطي المرتبطتين بها وحساب الارتباط بين البواقي. لنفترض أن X و Y متغيران عشوائيان يأخذان قيمًا حقيقية، وأن Z متغير عشوائي متجهي ذو n بُعد. ولنرمز بـ xᵢ و _yᵢ و _zᵢ إلى المتغير i من المتغير _xᵢ .${\displaystyle N}$تُعرَّف المشاهدات المستقلة والمتطابقة التوزيع (iid) من توزيع احتمالي مشترك على متغيرات عشوائية حقيقية X و Y و Z ، حيث _تم إضافة 1 إلى zᵢ للسماح بوجود حد ثابت في الانحدار. ويتمثل حل مسألة الانحدار الخطي في إيجاد متجهات معاملات الانحدار ذات الأبعاد ( n +1).${\displaystyle \mathbf {w} _{X}^{*}}$و${\displaystyle \mathbf {w} _{Y}^{*}}$بحيث

${\displaystyle \mathbf {w} _{X}^{*}=\arg \min _{\mathbf {w} }\left\{\sum _{i=1}^{N}(x_{i}-\langle \mathbf {w} ,\mathbf {z} _{i}\rangle )^{2}\right\}}$

${\displaystyle \mathbf {w} _{Y}^{*}=\arg \min _{\mathbf {w} }\left\{\sum _{i=1}^{N}(y_{i}-\langle \mathbf {w} ,\mathbf {z} _{i}\rangle )^{2}\right\}}$

أين${\displaystyle N}$يمثل عدد المشاهدات، و${\displaystyle \langle \mathbf {w} ,\mathbf {z} _{i}\rangle }$هو حاصل الضرب القياسي بين المتجهين${\displaystyle \mathbf {w} }$و${\displaystyle \mathbf {z} _{i}}$.

ثم تكون البواقي

${\displaystyle e_{X,i}=x_{i}-\langle \mathbf {w} _{X}^{*},\mathbf {z} _{i}\rangle }$

${\displaystyle e_{Y,i}=y_{i}-\langle \mathbf {w} _{Y}^{*},\mathbf {z} _{i}\rangle }$

ويتم بعد ذلك حساب الارتباط الجزئي للعينة باستخدام الصيغة المعتادة لارتباط العينة ، ولكن بين هذه القيم المشتقة الجديدة:

${\displaystyle {\begin{aligned}{\hat {\rho }}_{XY\cdot \mathbf {Z} }&={\frac {N\sum _{i=1}^{N}e_{X,i}e_{Y,i}-\sum _{i=1}^{N}e_{X,i}\sum _{i=1}^{N}e_{Y,i}}{{\sqrt {N\sum _{i=1}^{N}e_{X,i}^{2}-\left(\sum _{i=1}^{N}e_{X,i}\right)^{2}}}~{\sqrt {N\sum _{i=1}^{N}e_{Y,i}^{2}-\left(\sum _{i=1}^{N}e_{Y,i}\right)^{2}}}}}\\&={\frac {N\sum _{i=1}^{N}e_{X,i}e_{Y,i}}{{\sqrt {N\sum _{i=1}^{N}e_{X,i}^{2}}}~{\sqrt {N\sum _{i=1}^{N}e_{Y,i}^{2}}}}}.\end{aligned}}}$

في التعبير الأول، جميع الحدود الثلاثة التي تلي علامات السالب تساوي صفرًا لأن كل منها يحتوي على مجموع البواقي من انحدار المربعات الصغرى العادية .

> x <- c ( 2 , 4 , 15 , 20 ) > y <- c ( 1 , 2 , 3 , 4 ) > z <- c ( 0 , 0 , 1 , 1 )# تطبيق نموذج الانحدار الخطي على x وحساب البواقي > res_x <- lm ( x ~ z ) $ residuals# تطبيق الانحدار الخطي على y وحساب البواقي > res_y <- lm ( y ~ z ) $ residuals# حساب معامل الارتباط بين البواقي > cor ( res_x , res_y ) # [1] 0.919145# أظهر أن هذا يختلف عن الارتباط بين x و y > cor ( x , y ) # [1] 0.9695016# حساب الارتباطات الجزئية المعممة > GeneralCorr :: parcorMany ( cbind ( x , y , z ) ) # nami namj Partij Partji rijMrji # [1,] "x" "y" "0.8844" "1" "-0.1156" # [2,] "x" "z" "0.1581" "1" "-0.8419"

قد يكون حل مسائل الانحدار الخطي مكلفًا حسابيًا. في الواقع، يمكن حساب معامل الارتباط الجزئي من الرتبة n (أي عندما | Z | = n ) بسهولة _من ثلاثة معاملات ارتباط جزئي من الرتبة ( n - 1). يُعرَّف معامل الارتباط الجزئي من الرتبة الصفرية ρXY _·Ø بأنه معامل الارتباط العادي ρXY _.

ينطبق هذا على أي${\displaystyle Z_{0}\in \mathbf {Z} ,}$ذلك ^{[ 5 ]}

${\displaystyle \rho _{XY\cdot \mathbf {Z} }={\frac {\rho _{XY\cdot \mathbf {Z} \setminus \{Z_{0}\}}-\rho _{XZ_{0}\cdot \mathbf {Z} \setminus \{Z_{0}\}}\rho _{Z_{0}Y\cdot \mathbf {Z} \setminus \{Z_{0}\}}}{{\sqrt {1-\rho _{XZ_{0}\cdot \mathbf {Z} \setminus \{Z_{0}\}}^{2}}}{\sqrt {1-\rho _{Z_{0}Y\cdot \mathbf {Z} \setminus \{Z_{0}\}}^{2}}}}}}$

يؤدي تنفيذ هذه العملية الحسابية ببساطة كخوارزمية تكرارية إلى تعقيد زمني أُسّي . ومع ذلك، تتميز هذه العملية الحسابية بخاصية تداخل المسائل الفرعية ، بحيث يؤدي استخدام البرمجة الديناميكية أو ببساطة تخزين نتائج الاستدعاءات التكرارية مؤقتًا إلى تعقيد زمني من${\displaystyle {\mathcal {O}}(n^{3})}$.

لاحظ أنه في حالة كون Z متغيرًا واحدًا، فإن هذا يختزل إلى:

${\displaystyle \rho _{XY\cdot Z}={\frac {\rho _{XY}-\rho _{XZ}\rho _{ZY}}{{\sqrt {1-\rho _{XZ}^{2}}}{\sqrt {1-\rho _{ZY}^{2}}}}}}$

يمكن أيضًا كتابة الارتباط الجزئي بدلالة مصفوفة الدقة المشتركة. لنفترض مجموعة من المتغيرات العشوائية،${\displaystyle \mathbf {V} ={X_{1},\dots ,X_{n}}}$عدد عناصرها n . نريد الارتباط الجزئي بين متغيرين${\displaystyle X_{i}}$و${\displaystyle X_{j}}$مع الأخذ في الاعتبار جميع العوامل الأخرى، أي${\displaystyle \mathbf {V} \setminus \{X_{i},X_{j}\}}$لنفترض مصفوفة التغاير (المشتركة/الكاملة)${\displaystyle \Sigma =(\sigma _{ij})}$موجبة التحديد ، وبالتالي قابلة للعكس . إذا عُرّفت مصفوفة الدقة على النحو التالي:${\displaystyle \Omega =(p_{ij})=\Sigma ^{-1}}$، ثم

${\displaystyle \rho _{X_{i}X_{j}\cdot \mathbf {V} \setminus \{X_{i},X_{j}\}}=-{\frac {p_{ij}}{\sqrt {p_{ii}p_{jj}}}}}$

1

يتطلب حساب ذلك${\displaystyle \Sigma ^{-1}}$، معكوس مصفوفة التغاير${\displaystyle \Sigma }$والذي يعمل في${\displaystyle {\mathcal {O}}(n^{3})}$الزمن (باستخدام مصفوفة التغاير العيني للحصول على الارتباط الجزئي العيني). لاحظ أنه يلزم فقط قلب مصفوفة واحدة لإعطاء جميع الارتباطات الجزئية بين أزواج المتغيرات في${\displaystyle \mathbf {V} }$.

لإثبات المعادلة ( 1 )، ارجع إلى الترميز السابق (أي${\displaystyle X,Y,\mathbf {Z} \leftrightarrow X_{i},X_{j},\mathbf {V} \setminus \{X_{i},X_{j}\}}$) وابدأ بتعريف الارتباط الجزئي: ρ _{XY · Z} هو الارتباط بين البواقي e _X و e _Y الناتجة عن الانحدار الخطي لـ X مع Z و Y مع Z ، على التوالي.

أولاً، لنفترض${\displaystyle \beta ,\gamma }$هي معاملات الانحدار الخطي؛ أي

${\displaystyle \beta =\operatorname {argmin} _{\beta }\mathbb {E} \|X-\beta ^{T}Z\|^{2}}$

${\displaystyle \gamma =\operatorname {argmin} _{\gamma }\mathbb {E} \|Y-\gamma ^{T}Z\|^{2}}$

اكتب مصفوفة التغاير المشترك للمتجه${\displaystyle (X,Y,Z^{T})^{T}}$مثل

${\displaystyle \Sigma ={\begin{bmatrix}\Sigma _{XX}&\Sigma _{XY}&\Sigma _{XZ}\\\Sigma _{YX}&\Sigma _{YY}&\Sigma _{YZ}\\\Sigma _{ZX}&\Sigma _{ZY}&\Sigma _{ZZ}\end{bmatrix}}={\begin{bmatrix}C_{11}&C_{12}\\C_{21}&C_{22}\\\end{bmatrix}}}$

أين$${\displaystyle C_{11}={\begin{bmatrix}\Sigma _{XX}&\Sigma _{XY}\\\Sigma _{YX}&\Sigma _{YY}\end{bmatrix}},\qquad C_{12}={\begin{bmatrix}\Sigma _{XZ}\\\Sigma _{YZ}\end{bmatrix}},\qquad C_{21}={\begin{bmatrix}\Sigma _{ZX}&\Sigma _{ZY}\end{bmatrix}},\qquad C_{22}=\Sigma _{ZZ}}$$ثم تعطي الصيغة القياسية للانحدار الخطي

${\displaystyle \beta =\left(\Sigma _{ZZ}\right)^{-1}\Sigma _{ZX}}$

وبالتالي، يمكن كتابة البواقي على النحو التالي

${\displaystyle R_{X}=X-\beta ^{T}Z=X-\Sigma _{XZ}\left(\Sigma _{ZZ}\right)^{-1}Z}$

لاحظ أن${\displaystyle R_{X}}$يكون التوقع صفراً بسبب تضمين حد ثابت في${\displaystyle Z}$. حساب التباين المشترك الآن يعطي

${\displaystyle \operatorname {Cov} (R_{X},R_{Y})=\mathbb {E} (R_{X},R_{Y})=\dots =\Sigma _{XY}-\Sigma _{XZ}\left(\Sigma _{ZZ}\right)^{-1}\Sigma _{ZY}}$

2

بعد ذلك، اكتب مصفوفة الدقة${\displaystyle \Omega =\Sigma ^{-1}}$على شكل كتلة مماثلة:

${\displaystyle \Omega ={\begin{bmatrix}\Omega _{XX}&\Omega _{XY}&\Omega _{XZ}\\\Omega _{YX}&\Omega _{YY}&\Omega _{YZ}\\\Omega _{ZX}&\Omega _{ZY}&\Omega _{ZZ}\end{bmatrix}}={\begin{bmatrix}P_{11}&P_{12}\\P_{21}&P_{22}\\\end{bmatrix}}}$

ثم، باستخدام صيغة شور لعكس المصفوفة الكتلية ،

${\displaystyle P_{11}^{-1}=C_{11}-C_{12}C_{22}^{-1}C_{21}}$

عناصر المصفوفة الموجودة على الجانب الأيمن هي بالضبط التغايرات التي تم حسابها مسبقًا في ( 2 )، مما يعطي

${\displaystyle P_{11}^{-1}={\begin{bmatrix}\operatorname {Cov} (R_{X},R_{X})&\operatorname {Cov} (R_{X},R_{Y})\\\operatorname {Cov} (R_{Y},R_{X})&\operatorname {Cov} (R_{Y},R_{Y})\\\end{bmatrix}}}$

باستخدام صيغة معكوس المصفوفة 2×2 نحصل على

${\displaystyle {\begin{aligned}P_{11}^{-1}&={\frac {1}{{\text{det}}P_{11}}}{\begin{pmatrix}[P_{11}]_{22}&-[P_{11}]_{12}\\-[P_{11}]_{21}&[P_{11}]_{11}\\\end{pmatrix}}\\&={\frac {1}{{\text{det}}P_{11}}}{\begin{pmatrix}p_{YY}&-p_{XY}\\-p_{YX}&p_{XX}\\\end{pmatrix}}\end{aligned}}}$

إذن، في الواقع، الارتباط الجزئي هو

${\displaystyle \rho _{XY\cdot Z}={\frac {\operatorname {Cov} (R_{X},R_{Y})}{\sqrt {\operatorname {Cov} (R_{X},R_{X})\operatorname {Cov} (R_{Y},R_{Y})}}}={\frac {-{\tfrac {1}{{\text{det}}P_{11}}}p_{XY}}{\sqrt {{\tfrac {1}{{\text{det}}P_{11}}}p_{XX}{\tfrac {1}{{\text{det}}P_{11}}}p_{YY}}}}=-{\frac {p_{XY}}{\sqrt {p_{XX}p_{YY}}}}}$

كما هو مذكور في ( 1 ).

لنفترض أن ثلاثة متغيرات X و Y و Z (حيث Z هو "المتغير الضابط" أو "المتغير الإضافي") يتم اختيارها من توزيع احتمالي مشترك على n متغير V. كذلك، لنفترض أن vᵢ _، حيث 1 ≤ i ≤ N ، هي N مشاهدة مستقلة ومتطابقة التوزيع ذات n بُعد ، مأخوذة من التوزيع الاحتمالي المشترك على V. يأتي التفسير الهندسي من خلال النظر إلى المتجهات ذات N بُعد x (المُشكّلة من القيم المتتالية لـ X على المشاهدات)، و y (المُشكّلة من قيم Y )، و z (المُشكّلة من قيم Z ).

يمكن إثبات أن البواقي e _X,i الناتجة عن الانحدار الخطي لـ X على Z ، إذا اعتبرناها أيضًا متجهًا ذا N بُعد e _X (يُشار إليه بـ r _X في الرسم البياني المرفق)، يكون حاصل ضربها القياسي مع المتجه z الناتج عن Z يساوي صفرًا . هذا يعني أن متجه البواقي يقع على مستوى فائق S _z ذي ( N – 1) بُعد، وهو عمودي على z .

وينطبق الأمر نفسه على البواقي eY _,i التي تولد المتجه eY . وبالتالي _، فإن الارتباط الجزئي المطلوب هو جيب تمام الزاوية φ بين إسقاطي _x و _y ، على التوالي ، على المستوى الفائق العمودي على z ، وهما eX و eY . ^{[ 6 ] : الفصل 7}

بافتراض أن جميع المتغيرات المعنية هي متغيرات ^غاوسية متعددة المتغيرات ، فإن الارتباط الجزئي ρ _{XY · Z} يساوي صفرًا إذا وفقط إذا كان X مستقلًا شرطيًا عن Y بشرط Z. [ ^{1 ]} هذه الخاصية لا تنطبق في الحالة العامة.

لاختبار ما إذا كان الارتباط الجزئي للعينة${\displaystyle {\hat {\rho }}_{XY\cdot \mathbf {Z} }}$يشير ذلك إلى أن الارتباط الجزئي الحقيقي للسكان يختلف عن الصفر، ويمكن استخدام تحويل فيشر z للارتباط الجزئي :

${\displaystyle z({\hat {\rho }}_{XY\cdot \mathbf {Z} })={\frac {1}{2}}\ln \left({\frac {1+{\hat {\rho }}_{XY\cdot \mathbf {Z} }}{1-{\hat {\rho }}_{XY\cdot \mathbf {Z} }}}\right)}$

الفرضية الصفرية هي${\displaystyle H_{0}:\rho _{XY\cdot \mathbf {Z} }=0}$، ليتم اختبارها مقابل البديل ذي الذيلين${\displaystyle H_{A}:\rho _{XY\cdot \mathbf {Z} }\neq 0}$.${\displaystyle H_{0}}$يمكن رفضها إذا

${\displaystyle {\sqrt {N-|\mathbf {Z} |-3}}\cdot |z({\hat {\rho }}_{XY\cdot \mathbf {Z} })|>\Phi ^{-1}(1-\alpha /2)}$

أين${\displaystyle \Phi }$هي دالة التوزيع التراكمي لتوزيع غاوسي بمتوسط ​​صفر وانحراف معياري يساوي واحدًا ،${\displaystyle \alpha }$مستوى الأهمية لـ${\displaystyle H_{0}}$، و${\displaystyle N}$يمثل حجم العينة . هذا التحويل z تقريبي، والتوزيع الفعلي لمعامل الارتباط الجزئي للعينة ليس واضحًا تمامًا. ومع ذلك، يتوفر اختبار t دقيق يعتمد على مزيج من معامل الانحدار الجزئي، ومعامل الارتباط الجزئي، والتباينات الجزئية. ^{[ 7 ]}

وصف فيشر توزيع الارتباط الجزئي للعينة. ^{[ 8 ]}