التوزيع الطبيعي متعدد المتغيرات

التوزيع الطبيعي متعدد المتغيرات لمتجه عشوائي ذي أبعاد k${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{k})^{\mathrm {T} }}$يمكن كتابتها بالصيغة التالية:

${\displaystyle \mathbf {X} \ \sim \ {\mathcal {N}}({\boldsymbol {\mu }},\,{\boldsymbol {\Sigma }}),}$

أو لإعلان ذلك صراحةً${\displaystyle \mathbf {X} }$هو ذو أبعاد k ،

${\displaystyle \mathbf {X} \ \sim \ {\mathcal {N}}_{k}({\boldsymbol {\mu }},\,{\boldsymbol {\Sigma }}),}$

مع متجه متوسط ​​k- الأبعاد

${\displaystyle {\boldsymbol {\mu }}=\operatorname {E} [\mathbf {X} ]=(\operatorname {E} [X_{1}],\operatorname {E} [X_{2}],\ldots ,\operatorname {E} [X_{k}])^{\mathrm {T} },}$

و${\displaystyle k\times k}$مصفوفة التغاير

${\displaystyle \Sigma _{i,j}=\operatorname {E} [(X_{i}-\mu _{i})(X_{j}-\mu _{j})]=\operatorname {Cov} [X_{i},X_{j}]}$

بحيث${\displaystyle 1\leq i\leq k}$و${\displaystyle 1\leq j\leq k}$يُطلق على معكوس مصفوفة التغاير اسم مصفوفة الدقة ، ويُرمز لها بـ${\displaystyle {\boldsymbol {Q}}={\boldsymbol {\Sigma }}^{-1}}$.

متجه عشوائي حقيقي${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{k})^{\mathrm {T} }}$يُطلق عليه اسم متجه عشوائي طبيعي قياسي إذا كانت جميع مكوناته${\displaystyle X_{i}}$مستقلة، وكل منها متغير عشوائي ذو توزيع طبيعي بمتوسط ​​صفر وتباين واحد، أي إذا${\displaystyle X_{i}\sim \ {\mathcal {N}}(0,1)}$للجميع${\displaystyle i=1\ldots k}$[ ^{1 ] : ص 454}

متجه عشوائي حقيقي${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{k})^{\mathrm {T} }}$يُطلق عليه اسم متجه عشوائي طبيعي مركزي إذا وُجد${\displaystyle k\times \ell }$مصفوفة${\displaystyle {\boldsymbol {A}}}$بحيث${\displaystyle {\boldsymbol {A}}\mathbf {Z} }$له نفس التوزيع مثل${\displaystyle \mathbf {X} }$أين${\displaystyle \mathbf {Z} }$هو متجه عشوائي طبيعي معياري ذو${\displaystyle \ell }$المكونات. ^{[ 1 ] : ص 454}

متجه عشوائي حقيقي${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{k})^{\mathrm {T} }}$يُطلق عليه اسم متجه عشوائي طبيعي إذا وُجد متجه عشوائي${\displaystyle \ell }$-متجه${\displaystyle \mathbf {Z} }$، وهو متجه عشوائي طبيعي معياري، أ${\displaystyle k}$-متجه${\displaystyle {\boldsymbol {\mu }}}$و${\displaystyle k\times \ell }$مصفوفة${\displaystyle {\boldsymbol {A}}}$بحيث${\displaystyle \mathbf {X} ={\boldsymbol {A}}\mathbf {Z} +{\boldsymbol {\mu }}}$[ ^{2 ] : ص 454 [ 1 ] : ص 455}

رسميا:

مصفوفة التغاير هنا هي${\displaystyle {\boldsymbol {\Sigma }}={\boldsymbol {A}}{\boldsymbol {A}}^{\mathrm {T} }}$.

في الحالة المنحلة حيث تكون مصفوفة التغاير منفردة ، فإن التوزيع المقابل لا يمتلك دالة كثافة احتمالية؛ انظر القسم أدناه لمزيد من التفاصيل. تظهر هذه الحالة بشكل متكرر في الإحصاء ؛ على سبيل المثال، في توزيع متجه البواقي في انحدار المربعات الصغرى العادية .${\displaystyle X_{i}}$بشكل عام، لا تكون مستقلة؛ ويمكن اعتبارها نتيجة لتطبيق المصفوفة${\displaystyle {\boldsymbol {A}}}$إلى مجموعة من المتغيرات الغاوسية المستقلة${\displaystyle \mathbf {Z} }$.

التعريفات التالية مكافئة للتعريف المذكور أعلاه. متجه عشوائي${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{k})^{\mathrm {T} }}$يكون له توزيع طبيعي متعدد المتغيرات إذا استوفى أحد الشروط المكافئة التالية.

• كل تركيبة خطية${\displaystyle Y=a_{1}X_{1}+\cdots +a_{k}X_{k}}$يتم توزيع مكوناته توزيعًا طبيعيًا . أي أنه لأي متجه ثابت${\displaystyle \mathbf {a} \in \mathbb {R} ^{k}}$المتغير العشوائي${\displaystyle Y=\mathbf {a} ^{\mathrm {T} }\mathbf {X} }$له توزيع طبيعي أحادي المتغير، حيث يكون التوزيع الطبيعي أحادي المتغير ذو التباين الصفري عبارة عن كتلة نقطية على متوسطه.
• يوجد متجه k${\displaystyle \mathbf {\mu } }$وشبه محدد موجب متناظر${\displaystyle k\times k}$مصفوفة${\displaystyle {\boldsymbol {\Sigma }}}$، بحيث تكون الدالة المميزة لـ${\displaystyle \mathbf {X} }$يكون$${\displaystyle \varphi _{\mathbf {X} }(\mathbf {u} )=\exp {\Big (}i\mathbf {u} ^{\mathrm {T} }{\boldsymbol {\mu }}-{\tfrac {1}{2}}\mathbf {u} ^{\mathrm {T} }{\boldsymbol {\Sigma }}\mathbf {u} {\Big )}.}$$

يمكن وصف التوزيع الطبيعي الكروي بأنه التوزيع الوحيد الذي تكون فيه المكونات مستقلة في أي نظام إحداثيات متعامد. ^{[ 3 ] [ 4 ]}

يمكن توسيع مفهوم دالة التوزيع التراكمي (cdf) في البعد 1 بطريقتين إلى الحالة متعددة الأبعاد، استنادًا إلى المناطق المستطيلة والبيضاوية.

الطريقة الأولى هي تعريف دالة التوزيع التراكمي${\displaystyle F(\mathbf {x} )}$من متجه عشوائي${\displaystyle \mathbf {X} }$كاحتمال أن تكون جميع مكونات${\displaystyle \mathbf {X} }$تكون أقل من أو تساوي القيم المقابلة في المتجه${\displaystyle \mathbf {x} }$[ ^{11 ]​}

${\displaystyle F(\mathbf {x} )=\mathbb {P} (\mathbf {X} \leq \mathbf {x} ),\quad {\text{where }}\mathbf {X} \sim {\mathcal {N}}({\boldsymbol {\mu }},\,{\boldsymbol {\Sigma }}).}$

على الرغم من عدم وجود صيغة مغلقة لـ${\displaystyle F(\mathbf {x} )}$هناك عدد من الخوارزميات التي تُقدّرها عددياً. ^{[ 11 ] [ 12 ]}

وهناك طريقة أخرى وهي تعريف دالة التوزيع التراكمي${\displaystyle F(r)}$باعتبارها احتمالية وقوع عينة داخل القطع الناقص المحدد بواسطة مسافة ماهالانوبيس الخاصة بها${\displaystyle r}$من التوزيع الغاوسي، وهو تعميم مباشر للانحراف المعياري. ^{[ 13 ]} ولحساب قيم هذه الدالة، توجد صيغة تحليلية مغلقة، ^{[ 13 ]} كما يلي.

تُعرَّف دالة التوزيع التراكمي التكميلية (ccdf) أو توزيع الذيل على النحو التالي:${\displaystyle {\overline {F}}(\mathbf {x} )=1-\mathbb {P} \left(\mathbf {X} \leq \mathbf {x} \right)}$. متى${\displaystyle \mathbf {X} \sim {\mathcal {N}}({\boldsymbol {\mu }},\,{\boldsymbol {\Sigma }})}$، ثم يمكن كتابة دالة التوزيع التراكمي التكميلي كاحتمال أقصى متغيرات غاوسية تابعة: ^{[ 15 ]}

${\displaystyle {\overline {F}}(\mathbf {x} )=\mathbb {P} \left(\bigcup _{i}\{X_{i}\geq x_{i}\}\right)=\mathbb {P} \left(\max _{i}Y_{i}\geq 0\right),\quad {\text{where }}\mathbf {Y} \sim {\mathcal {N}}\left({\boldsymbol {\mu }}-\mathbf {x} ,\,{\boldsymbol {\Sigma }}\right).}$

على الرغم من عدم وجود صيغة مغلقة بسيطة لحساب دالة التوزيع التراكمي التكميلي، إلا أنه يمكن تقدير الحد الأقصى للمتغيرات الغاوسية التابعة بدقة باستخدام طريقة مونت كارلو . ^{[ 15 ] [ 16 ]}

تُعطى العزوم من الرتبة k للمتغير x بالعلاقة التالية:

${\displaystyle \mu _{1,\ldots ,N}(\mathbf {x} )\mathrel {\stackrel {\mathrm {def} }{=}} \mu _{r_{1},\ldots ,r_{N}}(\mathbf {x} )\mathrel {\stackrel {\mathrm {def} }{=}} \operatorname {E} \left[\prod _{j=1}^{N}X_{j}^{r_{j}}\right]}$

حيث r ₁ + r ₂ + ⋯ + r _N = k .

العزوم المركزية من الرتبة k هي كما يلي

حيث يتم حساب المجموع على جميع تخصيصات المجموعة${\displaystyle \left\{1,\ldots ,2\lambda \right\}}$إلى أزواج λ (غير مرتبة). أي، بالنسبة للعزم المركزي رقم k (= 2 λ = 6) ، يتم جمع نواتج التغايرات λ = 3 (يتم اعتبار القيمة المتوقعة μ مساوية للصفر من أجل التبسيط):

${\displaystyle {\begin{aligned}&\operatorname {E} [X_{1}X_{2}X_{3}X_{4}X_{5}X_{6}]\\[8pt]={}&\operatorname {E} [X_{1}X_{2}]\operatorname {E} [X_{3}X_{4}]\operatorname {E} [X_{5}X_{6}]+\operatorname {E} [X_{1}X_{2}]\operatorname {E} [X_{3}X_{5}]\operatorname {E} [X_{4}X_{6}]+\operatorname {E} [X_{1}X_{2}]\operatorname {E} [X_{3}X_{6}]\operatorname {E} [X_{4}X_{5}]\\[4pt]&{}+\operatorname {E} [X_{1}X_{3}]\operatorname {E} [X_{2}X_{4}]\operatorname {E} [X_{5}X_{6}]+\operatorname {E} [X_{1}X_{3}]\operatorname {E} [X_{2}X_{5}]\operatorname {E} [X_{4}X_{6}]+\operatorname {E} [X_{1}X_{3}]\operatorname {E} [X_{2}X_{6}]\operatorname {E} [X_{4}X_{5}]\\[4pt]&{}+\operatorname {E} [X_{1}X_{4}]\operatorname {E} [X_{2}X_{3}]\operatorname {E} [X_{5}X_{6}]+\operatorname {E} [X_{1}X_{4}]\operatorname {E} [X_{2}X_{5}]\operatorname {E} [X_{3}X_{6}]+\operatorname {E} [X_{1}X_{4}]\operatorname {E} [X_{2}X_{6}]\operatorname {E} [X_{3}X_{5}]\\[4pt]&{}+\operatorname {E} [X_{1}X_{5}]\operatorname {E} [X_{2}X_{3}]\operatorname {E} [X_{4}X_{6}]+\operatorname {E} [X_{1}X_{5}]\operatorname {E} [X_{2}X_{4}]\operatorname {E} [X_{3}X_{6}]+\operatorname {E} [X_{1}X_{5}]\operatorname {E} [X_{2}X_{6}]\operatorname {E} [X_{3}X_{4}]\\[4pt]&{}+\operatorname {E} [X_{1}X_{6}]\operatorname {E} [X_{2}X_{3}]\operatorname {E} [X_{4}X_{5}]+\operatorname {E} [X_{1}X_{6}]\operatorname {E} [X_{2}X_{4}]\operatorname {E} [X_{3}X_{5}]+\operatorname {E} [X_{1}X_{6}]\operatorname {E} [X_{2}X_{5}]\operatorname {E} [X_{3}X_{4}].\end{aligned}}}$

وهذا ينتج عنه${\displaystyle {\tfrac {(2\lambda -1)!}{2^{\lambda -1}(\lambda -1)!}}}$يحتوي المجموع على 15 حدًا (في الحالة المذكورة أعلاه)، كل حد منها هو حاصل ضرب λ (في هذه الحالة 3) من التغايرات. بالنسبة للعزوم من الرتبة الرابعة (أربعة متغيرات)، يوجد ثلاثة حدود. أما بالنسبة للعزوم من الرتبة السادسة، فيوجد 15 حدًا (3 × 5)، وبالنسبة للعزوم من الرتبة الثامنة، فيوجد 105 حدود (3 × 5 × 7).

ثم يتم تحديد التغايرات عن طريق استبدال حدود القائمة${\displaystyle [1,\ldots ,2\lambda ]}$بواسطة الحدود المقابلة للقائمة المكونة من r ₁ واحد، ثم r ₂ اثنين، إلخ. لتوضيح ذلك، افحص حالة العزم المركزي من الرتبة الرابعة التالية:

${\displaystyle {\begin{aligned}\operatorname {E} \left[X_{i}^{4}\right]&=3\sigma _{ii}^{2}\\[4pt]\operatorname {E} \left[X_{i}^{3}X_{j}\right]&=3\sigma _{ii}\sigma _{ij}\\[4pt]\operatorname {E} \left[X_{i}^{2}X_{j}^{2}\right]&=\sigma _{ii}\sigma _{jj}+2\sigma _{ij}^{2}\\[4pt]\operatorname {E} \left[X_{i}^{2}X_{j}X_{k}\right]&=\sigma _{ii}\sigma _{jk}+2\sigma _{ij}\sigma _{ik}\\[4pt]\operatorname {E} \left[X_{i}X_{j}X_{k}X_{n}\right]&=\sigma _{ij}\sigma _{kn}+\sigma _{ik}\sigma _{jn}+\sigma _{in}\sigma _{jk}.\end{aligned}}}$

أين${\displaystyle \sigma _{ij}}$يمثل التباين المشترك بين X _i و X _j . باستخدام الطريقة المذكورة أعلاه، يتم أولاً إيجاد الحالة العامة للعزم k مع k متغيرات X مختلفة .${\displaystyle E\left[X_{i}X_{j}X_{k}X_{n}\right]}$ثم يتم تبسيط ذلك وفقًا لذلك. على سبيل المثال، بالنسبة لـ${\displaystyle \operatorname {E} [X_{i}^{2}X_{k}X_{n}]}$، نفرض أن X _i = X _j ونستخدم حقيقة أن${\displaystyle \sigma _{ii}=\sigma _{i}^{2}}$.

الشكل التربيعي للمتجه العمودي${\displaystyle {\boldsymbol {x}}}$،${\displaystyle q({\boldsymbol {x}})={\boldsymbol {x}}'\mathbf {Q_{2}} {\boldsymbol {x}}+{\boldsymbol {q_{1}}}'{\boldsymbol {x}}+q_{0}}$(أين${\displaystyle \mathbf {Q_{2}} }$هي مصفوفة،${\displaystyle {\boldsymbol {q_{1}}}}$هو متجه، و${\displaystyle q_{0}}$(وهو عدد قياسي)، هو متغير كاي تربيع معمّم . ويتبع اتجاه المتجه الطبيعي توزيعًا طبيعيًا مُسقطًا . ^{[ 17 ]}

لو${\displaystyle f({\boldsymbol {x}})}$هي دالة عامة ذات قيمة عددية لمتجه عادي، ويمكن حساب دالة كثافة الاحتمال الخاصة بها ، ودالة التوزيع التراكمي ، ودالة التوزيع التراكمي العكسي باستخدام الطريقة العددية لتتبع الأشعة ( كود Matlab مؤرشف في 2025-02-20 في Wayback Machine ).

الإنتروبيا التفاضلية للتوزيع الطبيعي متعدد المتغيرات هي ^{[ 19 ]}

$${\displaystyle {\begin{aligned}h\left(f\right)&=-\int _{-\infty }^{\infty }\int _{-\infty }^{\infty }\cdots \int _{-\infty }^{\infty }f(\mathbf {x} )\ln f(\mathbf {x} )\,d\mathbf {x} \\[1ex]&={\frac {1}{2}}\ln \left|2\pi e{\boldsymbol {\Sigma }}\right|={\frac {k}{2}}\left(1+\ln 2\pi \right)+{\frac {1}{2}}\ln \left|{\boldsymbol {\Sigma }}\right|,\end{aligned}}}$$

حيث تشير الخطوط إلى محدد المصفوفة ، و k هو بُعد الفضاء المتجهي، والنتيجة لها وحدات nats .

تباعد كولباك -لايبير من${\displaystyle {\mathcal {N}}_{1}({\boldsymbol {\mu }}_{1},{\boldsymbol {\Sigma }}_{1})}$ل${\displaystyle {\mathcal {N}}_{0}({\boldsymbol {\mu }}_{0},{\boldsymbol {\Sigma }}_{0})}$، للمصفوفات غير المفردة Σ ₁ و Σ ₀ ، هي: ^{[ 20 ]}

${\displaystyle D_{\text{KL}}({\mathcal {N}}_{0}\parallel {\mathcal {N}}_{1})={1 \over 2}\left\{\operatorname {tr} \left({\boldsymbol {\Sigma }}_{1}^{-1}{\boldsymbol {\Sigma }}_{0}\right)+\left({\boldsymbol {\mu }}_{1}-{\boldsymbol {\mu }}_{0}\right)^{\rm {T}}{\boldsymbol {\Sigma }}_{1}^{-1}({\boldsymbol {\mu }}_{1}-{\boldsymbol {\mu }}_{0})-k+\ln {|{\boldsymbol {\Sigma }}_{1}| \over |{\boldsymbol {\Sigma }}_{0}|}\right\},}$

أين${\displaystyle |\cdot |}$يرمز إلى محدد المصفوفة ،${\displaystyle tr(\cdot )}$هو الأثر ،${\displaystyle \ln(\cdot )}$هو اللوغاريتم الطبيعي و${\displaystyle k}$يمثل بُعد الفضاء المتجهي.

يجب أخذ اللوغاريتم للأساس e لأن الحدين التاليين للوغاريتم هما لوغاريتمات للأساس e لتعبيرات إما أنها عوامل لدالة الكثافة أو تنشأ بشكل طبيعي. وبالتالي، تعطي المعادلة نتيجة مقاسة بالنات . بقسمة التعبير أعلاه بالكامل على log _e² نحصل على التباعد بوحدة البت . 

متى${\displaystyle {\boldsymbol {\mu }}_{1}={\boldsymbol {\mu }}_{0}}$،

${\displaystyle D_{\text{KL}}({\mathcal {N}}_{0}\parallel {\mathcal {N}}_{1})={1 \over 2}\left\{\operatorname {tr} \left({\boldsymbol {\Sigma }}_{1}^{-1}{\boldsymbol {\Sigma }}_{0}\right)-k+\ln {|{\boldsymbol {\Sigma }}_{1}| \over |{\boldsymbol {\Sigma }}_{0}|}\right\}.}$

المعلومات المتبادلة لتوزيعين طبيعيين متعدد المتغيرات هي حالة خاصة من تباعد كولباك-لايبير حيث${\displaystyle P}$هو كامل${\displaystyle k}$التوزيع متعدد المتغيرات ذو الأبعاد و${\displaystyle Q}$هو نتاج${\displaystyle k_{1}}$و${\displaystyle k_{2}}$التوزيعات الهامشية متعددة الأبعاد${\displaystyle X}$و${\displaystyle Y}$بحيث${\displaystyle k_{1}+k_{2}=k}$المعلومات المتبادلة بين${\displaystyle X}$و${\displaystyle Y}$يتم تحديده بواسطة: ^{[ 21 ]}

${\displaystyle I({\boldsymbol {X}},{\boldsymbol {Y}})={\frac {1}{2}}\ln \left({\frac {\det(\Sigma _{X})\det(\Sigma _{Y})}{\det(\Sigma )}}\right),}$

أين

${\displaystyle \Sigma ={\begin{bmatrix}\Sigma _{X}&\Sigma _{XY}\\\Sigma _{XY}&\Sigma _{Y}\end{bmatrix}}.}$

لو${\displaystyle Q}$هو نتاج${\displaystyle k}$التوزيعات الطبيعية أحادية البعد، ثم باستخدام تدوين قسم تباعد كولباك-لايبير من هذه المقالة،${\displaystyle {\boldsymbol {\Sigma }}_{1}}$هي مصفوفة قطرية عناصرها القطرية هي${\displaystyle {\boldsymbol {\Sigma }}_{0}}$، و${\displaystyle {\boldsymbol {\mu }}_{1}={\boldsymbol {\mu }}_{0}}$الصيغة الناتجة للمعلومات المتبادلة هي:

${\displaystyle I({\boldsymbol {X}})=-{1 \over 2}\ln |{\boldsymbol {\rho }}_{0}|,}$

أين${\displaystyle {\boldsymbol {\rho }}_{0}}$هي مصفوفة الارتباط التي تم إنشاؤها من${\displaystyle {\boldsymbol {\Sigma }}_{0}}$[ ^{22 ]​}

في حالة المتغيرين، يكون التعبير عن المعلومات المتبادلة كما يلي:

${\displaystyle I(x;y)=-{1 \over 2}\ln(1-\rho ^{2}).}$

إذا تم تقسيم x ذي الأبعاد N على النحو التالي

${\displaystyle \mathbf {x} ={\begin{bmatrix}\mathbf {x} _{1}\\\mathbf {x} _{2}\end{bmatrix}}{\text{ with sizes }}{\begin{bmatrix}q\times 1\\(N-q)\times 1\end{bmatrix}}}$

وبناءً على ذلك، يتم تقسيم μ و Σ على النحو التالي

${\displaystyle {\boldsymbol {\mu }}={\begin{bmatrix}{\boldsymbol {\mu }}_{1}\\{\boldsymbol {\mu }}_{2}\end{bmatrix}}{\text{ with sizes }}{\begin{bmatrix}q\times 1\\(N-q)\times 1\end{bmatrix}}}$

${\displaystyle {\boldsymbol {\Sigma }}={\begin{bmatrix}{\boldsymbol {\Sigma }}_{11}&{\boldsymbol {\Sigma }}_{12}\\{\boldsymbol {\Sigma }}_{21}&{\boldsymbol {\Sigma }}_{22}\end{bmatrix}}{\text{ with sizes }}{\begin{bmatrix}q\times q&q\times (N-q)\\(N-q)\times q&(N-q)\times (N-q)\end{bmatrix}}}$

_{عندئذٍ يكون} توزيع x1 المشروط بـ _x2 = a توزيعًا _{طبيعيًا} متعدد المتغيرات ^{[ 23 ]} ( x1 | x2 = a ) ~ N ( μ , _Σ ) حيث  

${\displaystyle {\bar {\boldsymbol {\mu }}}={\boldsymbol {\mu }}_{1}+{\boldsymbol {\Sigma }}_{12}{\boldsymbol {\Sigma }}_{22}^{-1}\left(\mathbf {a} -{\boldsymbol {\mu }}_{2}\right)}$

ومصفوفة التغاير

${\displaystyle {\overline {\boldsymbol {\Sigma }}}={\boldsymbol {\Sigma }}_{11}-{\boldsymbol {\Sigma }}_{12}{\boldsymbol {\Sigma }}_{22}^{-1}{\boldsymbol {\Sigma }}_{21}.}$^{[ 24 ]}

هنا${\displaystyle {\boldsymbol {\Sigma }}_{22}^{-1}}$هو المعكوس المعمم لـ${\displaystyle {\boldsymbol {\Sigma }}_{22}}$المصفوفة${\displaystyle {\overline {\boldsymbol {\Sigma }}}}$هي مكمل شور لـ Σ ₂₂ في Σ . أي أن المعادلة أعلاه مكافئة لعكس مصفوفة التغاير الكلية، وحذف الصفوف والأعمدة المقابلة للمتغيرات التي يتم التكييف عليها، ثم عكسها مرة أخرى للحصول على مصفوفة التغاير الشرطية.

لاحظ أن معرفة أن x² = a تُغير التباين، على الرغم من أن التباين الجديد لا يعتمد على القيمة المحددة لـ a ؛ وربما الأكثر إثارة للدهشة هو _أن المتوسط ​​يتغير بمقدار${\displaystyle {\boldsymbol {\Sigma }}_{12}{\boldsymbol {\Sigma }}_{22}^{-1}\left(\mathbf {a} -{\boldsymbol {\mu }}_{2}\right)}$قارن هذا بحالة عدم معرفة قيمة a ، وفي هذه الحالة سيكون لـ _x1 توزيع${\displaystyle {\mathcal {N}}_{q}\left({\boldsymbol {\mu }}_{1},{\boldsymbol {\Sigma }}_{11}\right)}$.

ومن الحقائق المثيرة للاهتمام التي تم التوصل إليها لإثبات هذه النتيجة، أن المتجهات العشوائية${\displaystyle \mathbf {x} _{2}}$و${\displaystyle \mathbf {y} _{1}=\mathbf {x} _{1}-{\boldsymbol {\Sigma }}_{12}{\boldsymbol {\Sigma }}_{22}^{-1}\mathbf {x} _{2}}$مستقلون.

تُعرف المصفوفة Σ ₁₂ Σ ₂₂ ^{−1 باسم مصفوفة} معاملات الانحدار .

للحصول على التوزيع الهامشي لمجموعة فرعية من المتغيرات العشوائية الطبيعية متعددة المتغيرات، يكفي حذف المتغيرات غير ذات الصلة (المتغيرات التي يُراد تهميشها) من متجه المتوسط ​​ومصفوفة التباين. ويستند برهان ذلك إلى تعريفات التوزيعات الطبيعية متعددة المتغيرات والجبر الخطي. ^{[ 27 ]}

مثال

لتكن X = [ X1 _, X2 _, X3 ] متغيرات عشوائية _طبيعية متعددة المتغيرات، ذات متجه متوسط _​​μ = [ μ1 , μ2 , μ3 ] ومصفوفة تباين Σ ( وهي معلمات قياسية للتوزيعات الطبيعية متعددة المتغيرات). عندئذٍ، يكون التوزيع المشترك لـ _X ′ = [ X1 , X3 ] _{توزيعًا طبيعيًا متعدد المتغيرات ،} ذو متجه متوسط ​​μ ′ = _[ μ1 , μ3 _] ومصفوفة تباين${\displaystyle {\boldsymbol {\Sigma }}'={\begin{bmatrix}{\boldsymbol {\Sigma }}_{11}&{\boldsymbol {\Sigma }}_{13}\\{\boldsymbol {\Sigma }}_{31}&{\boldsymbol {\Sigma }}_{33}\end{bmatrix}}}$.

إذا كان Y = c + BX تحويلًا أفينيًا لـ${\displaystyle \mathbf {X} \ \sim {\mathcal {N}}({\boldsymbol {\mu }},{\boldsymbol {\Sigma }}),}$حيث c هو${\displaystyle M\times 1}$متجه من الثوابت و B ثابت${\displaystyle M\times N}$إذا كانت المصفوفة Y تتبع توزيعًا طبيعيًا متعدد المتغيرات بقيمة متوقعة c + Bμ وتباين BΣB ^T ، أي${\displaystyle \mathbf {Y} \sim {\mathcal {N}}\left(\mathbf {c} +\mathbf {B} {\boldsymbol {\mu }},\mathbf {B} {\boldsymbol {\Sigma }}\mathbf {B} ^{\rm {T}}\right)}$على وجه الخصوص، أي مجموعة جزئية من Xᵢ _{لها توزيع هامشي طبيعي متعدد المتغيرات. ولتوضيح ذلك، انظر المثال التالي :} لاستخراج المجموعة الجزئية ( X₁ , _X₂ , _X₄ ) ᵀ ^، استخدم

${\displaystyle \mathbf {B} ={\begin{bmatrix}1&0&0&0&0&\ldots &0\\0&1&0&0&0&\ldots &0\\0&0&0&1&0&\ldots &0\end{bmatrix}}}$

والذي يستخرج العناصر المطلوبة مباشرة.

ومن النتائج المترتبة على ذلك أن توزيع Z = b · X ، حيث b متجه ثابت له نفس عدد عناصر X، وتشير النقطة إلى الضرب النقطي ، هو توزيع غاوسي أحادي المتغير مع${\displaystyle Z\sim {\mathcal {N}}\left(\mathbf {b} \cdot {\boldsymbol {\mu }},\mathbf {b} ^{\rm {T}}{\boldsymbol {\Sigma }}\mathbf {b} \right)}$وتتحقق هذه النتيجة باستخدام

${\displaystyle \mathbf {B} ={\begin{bmatrix}b_{1}&b_{2}&\ldots &b_{n}\end{bmatrix}}=\mathbf {b} ^{\rm {T}}.}$

لاحظ كيف أن خاصية الإيجابية المحددة لـ Σ تعني أن تباين حاصل الضرب النقطي يجب أن يكون موجبًا.

التحويل الأفيني لـ X مثل 2 X ليس هو نفسه مجموع تحقيقين مستقلين لـ X.

تُعدّ خطوط تساوي الكثافة لتوزيع طبيعي متعدد المتغيرات غير منفرد أشكالًا بيضاوية (أي تحويلات تآلفية للأشكال الكروية الفائقة ) متمركزة عند المتوسط. ^{[ 28 ]} لذا، يُعدّ التوزيع الطبيعي متعدد المتغيرات مثالًا على فئة التوزيعات البيضاوية . وتُحدد اتجاهات المحاور الرئيسية للأشكال البيضاوية بواسطة المتجهات الذاتية لمصفوفة التغاير.${\displaystyle {\boldsymbol {\Sigma }}}$. يتم تحديد مربعات الأطوال النسبية للمحاور الرئيسية بواسطة القيم الذاتية المقابلة.

إذا كانت Σ = UΛU ^T = UΛ ^1/2 ( UΛ ^1/2 ) ^T عبارة عن تحليل للقيم الذاتية حيث أعمدة U هي متجهات ذاتية وحدوية و Λ هي مصفوفة قطرية للقيم الذاتية، فإننا نحصل على

${\displaystyle \mathbf {X} \ \sim {\mathcal {N}}({\boldsymbol {\mu }},{\boldsymbol {\Sigma }})\iff \mathbf {X} \ \sim {\boldsymbol {\mu }}+\mathbf {U} {\boldsymbol {\Lambda }}^{1/2}{\mathcal {N}}(0,\mathbf {I} )\iff \mathbf {X} \ \sim {\boldsymbol {\mu }}+\mathbf {U} {\mathcal {N}}(0,{\boldsymbol {\Lambda }}).}$

علاوة على ذلك، يمكن اختيار U لتكون مصفوفة دوران ، إذ أن عكس محور لا يؤثر على N (0, Λ )، بينما عكس عمود يغير إشارة محدد U. وبالتالي، فإن التوزيع N ( μ , Σ ) هو في الواقع N (0, I ) مضروبًا في Λ ^½ ، ومدورًا بواسطة U ، ومزاحًا بواسطة μ .

على النقيض، فإن أي اختيار لـ μ ، ومصفوفة U كاملة الرتبة ، وعناصر قطرية موجبة Λᵢ _ينتج عنه توزيع طبيعي متعدد المتغيرات غير منفرد. إذا كان أي عنصر Λᵢ _يساوي صفرًا وكانت U مربعة، فإن مصفوفة التغاير الناتجة UΛᵢᵢᵢᵢ ^تكون منفردة . هندسيًا، هذا يعني أن كل قطع ناقص محيطي يكون رقيقًا للغاية وله حجم صفري في فضاء ذي n بُعد، حيث أن طول أحد المحاور الرئيسية على الأقل يساوي صفرًا؛ وهذه هي الحالة المنحلة .

"يتبع نصف القطر حول المتوسط ​​الحقيقي في متغير عشوائي طبيعي ثنائي المتغيرات، المعاد كتابته في الإحداثيات القطبية (نصف القطر والزاوية)، توزيع هويت ." ^{[ 29 ]}

في بُعد واحد، احتمال العثور على عينة من التوزيع الطبيعي في الفترة${\displaystyle \mu \pm \sigma }$تبلغ النسبة حوالي 68.27%، ولكن في الأبعاد الأعلى، يكون احتمال العثور على عينة في منطقة القطع الناقص للانحراف المعياري أقل. ^{[ 30 ]}

إن اشتقاق مقدر الاحتمال الأقصى لمصفوفة التغاير لتوزيع طبيعي متعدد المتغيرات أمر مباشر.

باختصار، دالة كثافة الاحتمال (pdf) للتوزيع الطبيعي متعدد المتغيرات هي

${\displaystyle f(\mathbf {x} )={\frac {1}{\sqrt {(2\pi )^{k}|{\boldsymbol {\Sigma }}|}}}\exp \left(-{1 \over 2}(\mathbf {x} -{\boldsymbol {\mu }})^{\rm {T}}{\boldsymbol {\Sigma }}^{-1}({\mathbf {x} }-{\boldsymbol {\mu }})\right)}$

والمُقدِّر ML لمصفوفة التغاير من عينة مكونة من n مشاهدة هو ^{[ 31 ]}

${\displaystyle {\widehat {\boldsymbol {\Sigma }}}={1 \over n}\sum _{i=1}^{n}({\mathbf {x} }_{i}-{\overline {\mathbf {x} }})({\mathbf {x} }_{i}-{\overline {\mathbf {x} }})^{\mathrm {T} }}$

وهي ببساطة مصفوفة التباين المشترك للعينة . هذا مُقدِّر متحيز، وقيمته المتوقعة هي

${\displaystyle E\left[{\widehat {\boldsymbol {\Sigma }}}\right]={\frac {n-1}{n}}{\boldsymbol {\Sigma }}.}$

التباين المشترك للعينة غير المتحيز هو

${\displaystyle {\widehat {\boldsymbol {\Sigma }}}={\frac {1}{n-1}}\sum _{i=1}^{n}(\mathbf {x} _{i}-{\overline {\mathbf {x} }})(\mathbf {x} _{i}-{\overline {\mathbf {x} }})^{\rm {T}}={\frac {1}{n-1}}\left[X'\left(I-{\frac {1}{n}}\cdot J\right)X\right]}$ (صيغة المصفوفة؛${\displaystyle I}$هو${\displaystyle K\times K}$مصفوفة الوحدة، J هي${\displaystyle K\times K}$مصفوفة من الآحاد؛ وبالتالي فإن الحد الموجود بين قوسين هو${\displaystyle K\times K}$مصفوفة التمركز)

تحتوي مصفوفة معلومات فيشر لتقدير معلمات التوزيع الطبيعي متعدد المتغيرات على صيغة مغلقة. ويمكن استخدامها، على سبيل المثال، لحساب حد كرامر-راو لتقدير المعلمات في هذا السياق. راجع معلومات فيشر لمزيد من التفاصيل.

في الإحصاء البايزي ، يكون التوزيع المسبق المترافق لمتجه المتوسط ​​توزيعًا طبيعيًا متعدد المتغيرات آخر، ويكون التوزيع المسبق المترافق لمصفوفة التغاير توزيع ويشارت العكسي${\displaystyle {\mathcal {W}}^{-1}}$لنفترض إذن أنه تم إجراء n من الملاحظات

${\displaystyle \mathbf {X} =\{\mathbf {x} _{1},\dots ,\mathbf {x} _{n}\}\sim {\mathcal {N}}({\boldsymbol {\mu }},{\boldsymbol {\Sigma }})}$

وأنّ احتمالاً مترافقاً قد تمّ تعيينه، حيث

${\displaystyle p({\boldsymbol {\mu }},{\boldsymbol {\Sigma }})=p({\boldsymbol {\mu }}\mid {\boldsymbol {\Sigma }})\ p({\boldsymbol {\Sigma }}),}$

أين

${\displaystyle p({\boldsymbol {\mu }}\mid {\boldsymbol {\Sigma }})\sim {\mathcal {N}}({\boldsymbol {\mu }}_{0},m^{-1}{\boldsymbol {\Sigma }}),}$

و

${\displaystyle p({\boldsymbol {\Sigma }})\sim {\mathcal {W}}^{-1}({\boldsymbol {\Psi }},n_{0}).}$

ثم ^{[ 31 ]}

${\displaystyle {\begin{array}{rcl}p({\boldsymbol {\mu }}\mid {\boldsymbol {\Sigma }},\mathbf {X} )&\sim &{\mathcal {N}}\left({\frac {n{\bar {\mathbf {x} }}+m{\boldsymbol {\mu }}_{0}}{n+m}},{\frac {1}{n+m}}{\boldsymbol {\Sigma }}\right),\\p({\boldsymbol {\Sigma }}\mid \mathbf {X} )&\sim &{\mathcal {W}}^{-1}\left({\boldsymbol {\Psi }}+n\mathbf {S} +{\frac {nm}{n+m}}({\bar {\mathbf {x} }}-{\boldsymbol {\mu }}_{0})({\bar {\mathbf {x} }}-{\boldsymbol {\mu }}_{0})',n+n_{0}\right),\end{array}}}$

أين

${\displaystyle {\begin{aligned}{\bar {\mathbf {x} }}&={\frac {1}{n}}\sum _{i=1}^{n}\mathbf {x} _{i},\\\mathbf {S} &={\frac {1}{n}}\sum _{i=1}^{n}(\mathbf {x} _{i}-{\bar {\mathbf {x} }})(\mathbf {x} _{i}-{\bar {\mathbf {x} }})'.\end{aligned}}}$

تتحقق اختبارات التوزيع الطبيعي متعدد المتغيرات من مدى تشابه مجموعة بيانات معينة مع التوزيع الطبيعي متعدد المتغيرات . تنص الفرضية الصفرية على أن مجموعة البيانات مشابهة للتوزيع الطبيعي، وبالتالي فإن قيمة p صغيرة بما يكفي تشير إلى بيانات غير طبيعية. تشمل اختبارات التوزيع الطبيعي متعدد المتغيرات اختبار كوكس-سمول ^{[ 32 ]} وتعديل سميث وجين ^{[ 33 ]} لاختبار فريدمان-رافسكي الذي ابتكره لاري رافسكي وجيروم فريدمان . ^{[ 34 ]}