التوزيع الاحتمالي المشترك

تحتوي كل من الجرتين على ضعف عدد الكرات الحمراء مقارنة بالكرات الزرقاء، ولا تحتوي على أي كرات أخرى، ويتم اختيار كرة واحدة عشوائياً من كل جرة، مع كون السحبتين مستقلتين عن بعضهما البعض.${\displaystyle A}$و${\displaystyle B}$لنفترض أن لدينا متغيرات عشوائية منفصلة مرتبطة بنتائج السحب من الجرة الأولى والجرة الثانية على التوالي. احتمال سحب كرة حمراء من أي من الجرتين هو ٢/٣ ، واحتمال سحب كرة زرقاء هو ١/٣ . يُعرض التوزيع الاحتمالي المشترك في الجدول التالي :

تُظهر كل خلية من الخلايا الأربع الداخلية احتمال الحصول على توليفة معينة من النتائج من السحبتين؛ وهذه الاحتمالات هي التوزيع المشترك. في أي خلية، يكون احتمال حدوث توليفة معينة (بما أن السحبتين مستقلتان) هو حاصل ضرب احتمال الحصول على النتيجة المحددة للسحب A واحتمال الحصول على النتيجة المحددة للسحب B. مجموع الاحتمالات في هذه الخلايا الأربع يساوي 1، كما هو الحال في جميع التوزيعات الاحتمالية.

علاوة على ذلك، يُعطي الصف الأخير والعمود الأخير توزيع الاحتمال الهامشي لـ A وتوزيع الاحتمال الهامشي لـ B على التوالي. على سبيل المثال، بالنسبة لـ A ، تُعطي الخلية الأولى من هاتين الخليتين مجموع احتمالات كون A أحمر، بغض النظر عن أي احتمال لـ B في العمود الذي يسبق الخلية، وهو 2/3 . وبالتالي ، فإن توزيع الاحتمال الهامشي لـ${\displaystyle A}$أعطِ${\displaystyle A}$احتمالات 's غير مشروطة بـ${\displaystyle B}$، في هامش الجدول.

لنفترض أننا نرمي عملتين نقديتين متوازنتين ؛${\displaystyle A}$و${\displaystyle B}$لنفترض أن لدينا متغيرات عشوائية منفصلة مرتبطة بنتائج رمية العملة الأولى والثانية على التوالي. كل رمية عملة هي تجربة برنولي وتتبع توزيع برنولي . إذا ظهرت "صورة" على العملة ، فإن المتغير العشوائي المرتبط بها يأخذ القيمة 1، وإلا فإنه يأخذ القيمة 0. احتمال كل من هاتين النتيجتين هو 1/2 ، لذا فإن دوال الكثافة الحدية (غير المشروطة) هي

$${\displaystyle {\begin{aligned}P(A)&=1/2\quad {\text{لـ}}\quad A\in \{0,1\};\\P(B)&=1/2\quad {\text{لـ}}\quad B\in \{0,1\}.\end{aligned}}}$$

دالة الكتلة الاحتمالية المشتركة لـ${\displaystyle A}$و${\displaystyle B}$يُحدد احتمالات كل زوج من النتائج. جميع النتائج الممكنة هي $${\displaystyle (A,B)\in \{(0,0),(0,1),(1,0),(1,1)\}.}$$ بما أن كل نتيجة محتملة بنفس القدر، فإن دالة الكتلة الاحتمالية المشتركة تصبح $${\displaystyle P(A,B)=1/4\quad {\text{for}}\quad A,B\in \{0,1\}.}$$

بما أن رميات العملة مستقلة، فإن دالة الكتلة الاحتمالية المشتركة هي حاصل ضرب التوزيعات الهامشية: $${\displaystyle P(A,B)=P(A)P(B)\quad {\text{لـ}}\quad A,B\in \{0,1\}.}$$

لنفترض رمية نرد متوازنة ولندع${\displaystyle A=1}$إذا كان العدد زوجيًا (أي 2 أو 4 أو 6) و${\displaystyle A=0}$وإلا. علاوة على ذلك، دع${\displaystyle B=1}$إذا كان العدد أوليًا (أي 2 أو 3 أو 5) و${\displaystyle B=0}$خلاف ذلك.

ثم، التوزيع المشترك لـ${\displaystyle A}$و${\displaystyle B}$، معبراً عنها كدالة كتلة احتمالية، هي $${\displaystyle {\begin{align}\mathrm {P} (A=0,B=0)&=P\{1\}={\frac {1}{6}},&\mathrm {P} (A=1,B=0)&=P\{4,6\}={\frac {2}{6}},\\\mathrm {P} (A=0,B=1)&=P\{3,5\}={\frac {2}{6}},&\mathrm {P} (A=1,B=1)&=P\{2\}={\frac {1}{6}}.\end{محاذاة}}}$$

يجب أن يكون مجموع هذه الاحتمالات مساوياً لـ 1، لأن احتمال حدوث توليفة معينة من${\displaystyle A}$و${\displaystyle B}$يحدث هو 1.

دالة الكتلة الاحتمالية المشتركة لمتغيرين عشوائيين منفصلين${\displaystyle X,Y}$يكون:

أو مكتوبة بصيغة التوزيعات الشرطية $${\displaystyle p_{X,Y}(x,y)=\mathrm {P} (Y=y\mid X=x)\cdot \mathrm {P} (X=x)=\mathrm {P} (X=x\mid Y=y)\cdot \mathrm {P} (Y=y)}$$ أين${\displaystyle \mathrm {P} (Y=y\mid X=x)}$هو احتمال​${\displaystyle Y=y}$بشرط${\displaystyle X=x}$.

إن تعميم الحالة السابقة ذات المتغيرين هو التوزيع الاحتمالي المشترك لـ${\displaystyle n}$المتغيرات العشوائية المنفصلة${\displaystyle X_{1},X_{2},\dots ,X_{n}}$وهو:

أو ما يعادل ذلك

$${\displaystyle {\begin{aligned}p_{X_{1},\ldots ,X_{n}}(x_{1},\ldots ,x_{n})={}&\mathrm {P} (X_{1}=x_{1})\\&\cdot \mathrm {P} (X_{2}=x_{2}\mid X_{1}=x_{1})\\&\cdot \mathrm {P} (X_{3}=x_{3}\mid X_{1}=x_{1},X_{2}=x_{2})\\&\cdots \\&\cdot \mathrm {P} (X_{n}=x_{n}\mid X_{1}=x_{1},X_{2}=x_{2},\dots ,X_{n-1}=x_{n-1}).\end{aligned}}}$$

تُعرف هذه المتطابقة باسم قاعدة السلسلة في الاحتمالات .

بما أن هذه احتمالات، ففي حالة المتغيرين

$${\displaystyle \sum _{i}\sum _{j}\mathrm {P} (X=x_{i}\ \mathrm {and} \ Y=y_{j})=1,\,}$$ وهو ما يعمم لـ${\displaystyle n\,}$المتغيرات العشوائية المنفصلة${\displaystyle X_{1},X_{2},\dots ,X_{n}}$ل

$${\displaystyle \sum _{i}\sum _{j}\dots \sum _{k}\mathrm {P} (X_{1}=x_{1i},X_{2}=x_{2j},\dots ,X_{n}=x_{nk})=1.\;}$$

دالة كثافة الاحتمال المشتركة${\displaystyle f_{X,Y}(x,y)}$بالنسبة لمتغيرين عشوائيين مستمرين، يتم تعريفها على أنها مشتقة دالة التوزيع التراكمي المشترك (انظر المعادلة 1 ):

وهذا يساوي: $${\displaystyle f_{X,Y}(x,y)=f_{Y\mid X}(y\mid x)f_{X}(x)=f_{X\mid Y}(x\mid y)f_{Y}(y)}$$

أين${\displaystyle f_{Y\mid X}(y\mid x)}$و${\displaystyle f_{X\mid Y}(x\mid y)}$هي التوزيعات الشرطية لـ${\displaystyle Y}$منح${\displaystyle X=x}$و من${\displaystyle X}$منح${\displaystyle Y=y}$على التوالي، و${\displaystyle f_{X}(x)}$و${\displaystyle f_{Y}(y)}$هي التوزيعات الهامشية لـ${\displaystyle X}$و${\displaystyle Y}$على التوالى.

يمتد التعريف بشكل طبيعي ليشمل أكثر من متغيرين عشوائيين:

ومرة أخرى، بما أن هذه توزيعات احتمالية، فإن المرء لديه $${\displaystyle \int _{x}\int _{y}f_{X,Y}(x,y)\;dy\;dx=1}$$ على التوالى $${\displaystyle \int _{x_{1}}\ldots \int _{x_{n}}f_{X_{1},\ldots ,X_{n}}(x_{1},\ldots ,x_{n})\;dx_{n}\ldots \;dx_{1}=1}$$

يمكن تعريف "الكثافة المشتركة المختلطة" عندما يكون متغير عشوائي واحد أو أكثر متصلاً، بينما تكون المتغيرات العشوائية الأخرى منفصلة. مع متغير واحد من كل نوع $${\displaystyle f_{X,Y}(x,y)=f_{X\mid Y}(x\mid y)\mathrm {P} (Y=y)=\mathrm {P} (Y=y\mid X=x)f_{X}(x).}$$ من الأمثلة على الحالات التي قد يرغب فيها المرء في إيجاد التوزيع التراكمي لمتغير عشوائي متصل وآخر منفصل، هو استخدام الانحدار اللوجستي للتنبؤ باحتمالية نتيجة ثنائية Y مشروطة بقيمة نتيجة ذات توزيع متصل.${\displaystyle X}$يجب استخدام دالة الكثافة المشتركة "المختلطة" عند إيجاد التوزيع التراكمي لهذه النتيجة الثنائية لأن متغيرات الإدخال${\displaystyle (X,Y)}$تم تعريفها في البداية بطريقة لا تسمح بتخصيص دالة كثافة احتمالية أو دالة كتلة احتمالية لها بشكل جماعي. رسميًا،${\displaystyle f_{X,Y}(x,y)}$هي دالة كثافة الاحتمال لـ${\displaystyle (X,Y)}$فيما يتعلق بقياس المنتج على الدعامات المعنية لـ${\displaystyle X}$و${\displaystyle Y}$ويمكن استخدام أي من هذين التحليلين لاستعادة دالة التوزيع التراكمي المشترك: $${\displaystyle F_{X,Y}(x,y)=\sum _{t\leq y}\int _{-\infty }^{x}f_{X,Y}(s,t)\;ds.}$$ يمكن تعميم التعريف ليشمل مزيجًا من أعداد عشوائية من المتغيرات العشوائية المنفصلة والمتصلة.

بشكل عام، متغيران عشوائيان${\displaystyle X}$و${\displaystyle Y}$تكون المتغيرات مستقلة إذا وفقط إذا كانت دالة التوزيع التراكمي المشترك تحقق الشرط التالي: $${\displaystyle F_{X,Y}(x,y)=F_{X}(x)\cdot F_{Y}(y)}$$

متغيران عشوائيان منفصلان${\displaystyle X}$و${\displaystyle Y}$تكون المتغيرات مستقلة إذا وفقط إذا كانت دالة الكتلة الاحتمالية المشتركة تحقق الشرط التالي: $${\displaystyle P(X=x\ {\text{and}}\ Y=y)=P(X=x)\cdot P(Y=y)}$$ للجميع${\displaystyle x}$و${\displaystyle y}$.

بينما يزداد عدد الأحداث العشوائية المستقلة، تنخفض قيمة الاحتمال المشترك المرتبطة بها بسرعة إلى الصفر، وفقًا لقانون أسي سلبي.

وبالمثل، يكون متغيران عشوائيان متصلان بشكل مطلق مستقلين إذا وفقط إذا $${\displaystyle f_{X,Y}(x,y)=f_{X}(x)\cdot f_{Y}(y)}$$ للجميع${\displaystyle x}$و${\displaystyle y}$وهذا يعني أن الحصول على أي معلومات حول قيمة واحد أو أكثر من المتغيرات العشوائية يؤدي إلى توزيع شرطي لأي متغير آخر مطابق لتوزيعه غير الشرطي (الهامشي)؛ وبالتالي لا يوفر أي متغير أي معلومات حول أي متغير آخر.

إذا كانت مجموعة جزئية${\displaystyle A}$من المتغيرات${\displaystyle X_{1},\cdots ,X_{n}}$تعتمد بشكل مشروط على مجموعة فرعية أخرى${\displaystyle B}$إذا كانت هذه المتغيرات هي دالة الكتلة الاحتمالية للتوزيع المشترك، فإنها${\displaystyle \mathrm {P} (X_{1},\ldots ,X_{n})}$.${\displaystyle \mathrm {P} (X_{1},\ldots ,X_{n})}$يساوي${\displaystyle P(B)\cdot P(A\mid B)}$لذلك، يمكن تمثيلها بكفاءة باستخدام توزيعات الاحتمالية ذات الأبعاد المنخفضة${\displaystyle P(B)}$و${\displaystyle P(A\mid B)}$يمكن تمثيل علاقات الاستقلال الشرطي هذه بشبكة بايزية أو دوال الاقتران .

عند تعريف متغيرين عشوائيين أو أكثر في فضاء احتمالي، من المفيد وصف كيفية تغيرهما معًا؛ أي قياس العلاقة بينهما. يُعد التغاير مقياسًا شائعًا لهذه العلاقة، فهو يقيس العلاقة الخطية بين المتغيرات العشوائية. أما إذا كانت العلاقة غير خطية، فقد لا يكون التغاير حساسًا لها، أي أنه لا يعكس الارتباط بين المتغيرين.

التباين المشترك بين المتغيرات العشوائية${\displaystyle X}$و${\displaystyle Y}$هو ^{[ 2 ]}$${\displaystyle \operatorname {cov} (X,Y)=\sigma _{XY}=\operatorname {E} \left[(X-\mu _{x})(Y-\mu _{y})\right]=\operatorname {E} (XY)-\mu _{x}\mu _{y}.}$$

هناك مقياس آخر للعلاقة بين متغيرين عشوائيين غالباً ما يكون تفسيره أسهل من التغاير.

يُقاس الارتباط ببساطة بضرب التباين المشترك في الانحراف المعياري لكل متغير. وبالتالي، يُعد الارتباط كميةً لا بُعدية تُستخدم لمقارنة العلاقات الخطية بين أزواج المتغيرات بوحدات مختلفة. إذا كانت النقاط في التوزيع الاحتمالي المشترك لـ X و Y التي تحمل احتمالًا موجبًا تميل إلى الوقوع على طول خط ذي ميل موجب (أو سالب)، فإن ρXY _يكون قريبًا من +1 (أو -1). إذا كان ρXY _يساوي +1 أو -1، فيمكن إثبات أن النقاط في التوزيع الاحتمالي المشترك التي تحمل احتمالًا موجبًا تقع تمامًا على خط مستقيم. يُقال إن متغيرين عشوائيين لهما ارتباط غير صفري مرتبطان. ومثل التباين المشترك، يُعد الارتباط مقياسًا للعلاقة الخطية بين المتغيرات العشوائية.

معامل الارتباط بين المتغيرات العشوائية${\displaystyle X}$و${\displaystyle Y}$يكون $${\displaystyle \rho _{XY}={\frac {\operatorname {cov} (X,Y)}{\sqrt {V(X)V(Y)}}}={\frac {\sigma _{XY}}{\sigma _{X}\sigma _{Y}}}.}$$