الاستقلال (نظرية الاحتمالات)

الاستقلال هو مفهوم أساسي في نظرية الاحتمالات ، كما هو الحال في الإحصاء ونظرية العمليات العشوائية . يكون الحدثان مستقلين ، أو مستقلين إحصائيًا ، أو مستقلين عشوائيًا [1] إذا لم يؤثر حدوث أحدهما على احتمال حدوث الآخر، أو على نحو مكافئ، لا يؤثر على الاحتمالات . وبالمثل، يكون المتغيران العشوائيان مستقلين إذا لم يؤثر حدوث أحدهما على توزيع احتمالات الآخر.

عند التعامل مع مجموعات من أكثر من حدثين، يجب التمييز بين مفهومين للاستقلال. تسمى الأحداث مستقلة زوجيًّا إذا كان أي حدثين في المجموعة مستقلين عن بعضهما البعض، في حين يعني الاستقلال المتبادل (أو الاستقلال الجماعي ) للأحداث، بشكل غير رسمي، أن كل حدث مستقل عن أي مجموعة من الأحداث الأخرى في المجموعة. يوجد مفهوم مماثل لمجموعات المتغيرات العشوائية. يشير الاستقلال المتبادل إلى الاستقلال الزوجي، ولكن ليس العكس. في الأدبيات القياسية لنظرية الاحتمالات والإحصاء والعمليات العشوائية، يشير الاستقلال دون مزيد من التأهيل عادةً إلى الاستقلال المتبادل.

تعريف

للمناسبات

حدثان

الحدثان و مستقلان (غالبًا ما يُكتبان على هيئة أو ، حيث يُستخدم الرمز الأخير غالبًا أيضًا للاستقلال الشرطي ) إذا وفقط إذا كان احتمالهما المشترك يساوي حاصل ضرب احتمالاتهما: [2] : ص 29  [3] : ص 10 

( المعادلة 1 )

يشير إلى أن حدثين مستقلين و لهما عناصر مشتركة في فضاء العينة الخاص بهما بحيث لا يكونان متنافيين (متبادلين التنافي إذا ). يتضح سبب تعريف الاستقلال من خلال إعادة الكتابة بالاحتمالات الشرطية كاحتمال وقوع الحدث بشرط أن يكون الحدث قد وقع أو من المفترض أنه قد وقع:

وبالمثل

وبالتالي، فإن حدوث لا يؤثر على احتمال ، والعكس صحيح. بعبارة أخرى، و مستقلان عن بعضهما البعض. على الرغم من أن التعبيرات المشتقة قد تبدو أكثر بديهية، إلا أنها ليست التعريف المفضل، حيث قد تكون الاحتمالات الشرطية غير محددة إذا كانت أو تساوي 0. وعلاوة على ذلك، يوضح التعريف المفضل من خلال التناظر أنه عندما تكون مستقلة عن ، تكون أيضًا مستقلة عن .

احتمال

إذا ما صِيغ من حيث الاحتمالات ، فإن حدثين يكونان مستقلين إذا وفقط إذا كانت نسبة احتمالات و تساوي الواحد (1). وعلى نحو مماثل للاحتمال، فإن هذا يعادل أن تكون الاحتمالات الشرطية مساوية للاحتمالات غير الشرطية:

أو إلى احتمالات حدوث حدث واحد، مع الأخذ في الاعتبار حدوث الحدث الآخر، والتي تكون هي نفسها احتمالات حدوث الحدث، مع الأخذ في الاعتبار عدم حدوث الحدث الآخر:

يمكن تعريف نسبة الاحتمالات على أنها

أو بشكل متماثل لاحتمالات معينة ، وبالتالي تكون 1 إذا وفقط إذا كانت الأحداث مستقلة .

أكثر من حدثين

تكون المجموعة المحدودة من الأحداث مستقلة زوجيًّا إذا كان كل زوج من الأحداث مستقلًّا [4] — أي إذا وفقط إذا كان لجميع أزواج المؤشرات المميزة ،

( المعادلة 2 )

تكون المجموعة المحدودة من الأحداث مستقلة عن بعضها البعض إذا كان كل حدث مستقلاً عن أي تقاطع للأحداث الأخرى [4] [3] : ص 11  - أي إذا وفقط إذا لكل k من المؤشرات ،

( المعادلة 3 )

يُطلق على هذا اسم قاعدة الضرب للأحداث المستقلة. وهي ليست شرطًا واحدًا يتضمن حاصل ضرب جميع احتمالات جميع الأحداث الفردية فحسب؛ بل يجب أن تنطبق على جميع المجموعات الفرعية من الأحداث.

بالنسبة لأكثر من حدثين، فإن مجموعة الأحداث المستقلة المتبادلة تكون (بحكم التعريف) مستقلة زوجيًّا؛ ولكن العكس ليس صحيحًا بالضرورة. [2] : ص 30 

احتمالية السجل ومحتوى المعلومات

من حيث الاحتمال اللوغاريتمي ، يكون الحدثان مستقلين إذا وفقط إذا كان الاحتمال اللوغاريتمي للحدث المشترك هو مجموع الاحتمال اللوغاريتمي للحدثين الفرديين:

في نظرية المعلومات ، يتم تفسير احتمال اللوغاريتم السالب على أنه محتوى معلومات ، وبالتالي يكون الحدثان مستقلين إذا وفقط إذا كان محتوى المعلومات للحدث المجمع يساوي مجموع محتوى المعلومات للأحداث الفردية:

راجع محتوى المعلومات § إمكانية إضافة الأحداث المستقلة للحصول على التفاصيل.

للمتغيرات العشوائية ذات القيمة الحقيقية

متغيرين عشوائيين

متغيران عشوائيان و مستقلان إذا وفقط إذا (إذا) كانت عناصر النظام π الناتج عنهما مستقلة؛ أي أنه بالنسبة لكل و ، فإن الأحداث و أحداث مستقلة (كما هو موضح أعلاه في المعادلة 1 ). أي أن و مع دوال التوزيع التراكمية و ، مستقلان إذا كان للمتغير العشوائي المدمج دالة توزيع تراكمية مشتركة [3] : ص 15 

( المعادلة 4 )

أو على نحو مكافئ، إذا كانت كثافات الاحتمال وكثافة الاحتمال المشتركة موجودة،

أكثر من متغيرين عشوائيين

تكون المجموعة المحدودة من المتغيرات العشوائية مستقلة زوجيًّا إذا وفقط إذا كان كل زوج من المتغيرات العشوائية مستقلًّا. وحتى إذا كانت مجموعة المتغيرات العشوائية مستقلة زوجيًّا، فإنها لا تكون بالضرورة مستقلة عن بعضها البعض كما هو محدد فيما يلي.

تكون مجموعة منتهية من المتغيرات العشوائية مستقلة عن بعضها البعض إذا وفقط إذا كانت الأحداث لأي تسلسل من الأرقام أحداثًا مستقلة عن بعضها البعض (كما هو موضح أعلاه في المعادلة 3 ). وهذا يعادل الشرط التالي على دالة التوزيع التراكمية المشتركة . تكون مجموعة منتهية من المتغيرات العشوائية مستقلة عن بعضها البعض إذا وفقط إذا [3] : ص 16 

( المعادلة 5 )

ليس من الضروري هنا أن نطلب أن يحلل توزيع الاحتمالات لجميع المجموعات الفرعية المحتملة المكونة من عنصر - كما هو الحال بالنسبة للأحداث. هذا ليس مطلوبًا لأن eg يعني .

قد يفضل المائلون إلى نظرية القياس استبدال الأحداث بالأحداث في التعريف أعلاه، حيث أي مجموعة بوريل . هذا التعريف يعادل تمامًا التعريف أعلاه عندما تكون قيم المتغيرات العشوائية أرقامًا حقيقية . يتمتع بميزة العمل أيضًا للمتغيرات العشوائية ذات القيمة المعقدة أو للمتغيرات العشوائية التي تأخذ قيمًا في أي مساحة قابلة للقياس (والتي تتضمن مساحات طوبولوجية مزودة بجبر سيجما مناسب).

بالنسبة للمتجهات العشوائية ذات القيمة الحقيقية

يُطلق على متجهين عشوائيين اسم المتجهين المستقلين إذا [5] : ص 187 

( المعادلة 6 )

حيث و تشير إلى دوال التوزيع التراكمية لـ و و تشير إلى دالة التوزيع التراكمية المشتركة. غالبًا ما يتم الإشارة إلى استقلال و بواسطة . مكتوبة على شكل مكون، و تسمى مستقلة إذا

للعمليات العشوائية

لعملية عشوائية واحدة

يمكن توسيع تعريف الاستقلال من المتجهات العشوائية إلى عملية عشوائية . لذلك، من المطلوب لعملية عشوائية مستقلة أن تكون المتغيرات العشوائية التي تم الحصول عليها عن طريق أخذ عينات من العملية في أي وقت متغيرات عشوائية مستقلة لأي . [6] : ص. 163 

رسميًا، تُسمى العملية العشوائية مستقلة، إذا وفقط إذا كانت للجميع وللجميع

( المعادلة 7 )

حيث . استقلال العملية العشوائية هو خاصية داخل عملية عشوائية، وليس بين عمليتين عشوائيتين.

لعمليتين عشوائيتين

استقلال عمليتين عشوائيتين هو خاصية بين عمليتين عشوائيتين و يتم تعريفهما على نفس فضاء الاحتمالية . رسميًا، يقال عن عمليتين عشوائيتين و أنهما مستقلتان إذا كان لكل و لكل ، المتجهات العشوائية و مستقلة، [7] : ص 515  أي إذا

( المعادلة 8 )

جبر سيجما المستقل

التعاريف أعلاه ( المعادلة 1 والمعادلة 2 ) يتم تعميمها من خلال التعريف التالي للاستقلال لجبر سيجما . ليكن فضاء احتمال وليكن وجبرين فرعيين لـ سيجما لـ ويقال إنهما مستقلان إذا، متى و ،

على نحو مماثل، يقال عن عائلة منتهية من جبر سيجما ، حيث هي مجموعة فهرس ، أنها مستقلة إذا وفقط إذا

ويقال إن عائلة لا نهائية من جبر سيجما مستقلة إذا كانت كل عائلاتها الفرعية المحدودة مستقلة.

يرتبط التعريف الجديد بالتعاريف السابقة بشكل مباشر للغاية:

  • يكون الحدثان مستقلين (بالمعنى القديم) إذا وفقط إذا كانت جبر سيجما الناتج عنهما مستقلين (بالمعنى الجديد). جبر سيجما الناتج عن حدث ما ، بحكم التعريف، هو
  • متغيران عشوائيان و معرفان على أنهما مستقلان (بالمعنى القديم) إذا وفقط إذا كانت جبر سيجما التي يولدانها مستقلة (بالمعنى الجديد). يتكون جبر سيجما الناتج عن متغير عشوائي يأخذ قيمًا في بعض المساحات القابلة للقياس ، بحكم التعريف، من جميع المجموعات الفرعية من الشكل ، حيث أي مجموعة فرعية قابلة للقياس من .

باستخدام هذا التعريف، من السهل إظهار أنه إذا كان و متغيرين عشوائيين و ثابتين، فإن و مستقلين، لأن جبر سيجما الناتج عن متغير عشوائي ثابت هو جبر سيجما البسيط . لا يمكن للأحداث ذات الاحتمالية الصفرية أن تؤثر على الاستقلال، لذا فإن الاستقلال صحيح أيضًا إذا كان Pr- ثابتًا تقريبًا .

ملكيات

الاستقلال الذاتي

لاحظ أن الحدث مستقل عن نفسه إذا وفقط إذا

وبالتالي فإن الحدث يكون مستقلاً عن نفسه إذا وفقط إذا حدث بشكل شبه مؤكد أو حدث مكمل له بشكل شبه مؤكد؛ وهذه الحقيقة مفيدة عند إثبات قوانين الصفر والواحد . [8]

التوقعات والتباين

إذا كانت و متغيرات عشوائية مستقلة إحصائيًا، فإن عامل التوقع له الخاصية

[9] : ص 10 

والتغاير يساوي صفرًا، كما يلي من

لا ينطبق العكس: إذا كان متغيران عشوائيان لهما تباين يساوي 0، فما زال من الممكن عدم كونهما مستقلين.

وبالمثل بالنسبة لعمليتين عشوائيتين و : إذا كانتا مستقلتين، فإنهما غير مرتبطتين . [10] : ص 151 

وظيفة مميزة

متغيران عشوائيان مستقلان إذا وفقط إذا كانت الدالة المميزة للمتجه العشوائي تلبي

وعلى وجه الخصوص، فإن الدالة المميزة لمجموعهما هي حاصل ضرب دوالهما المميزة الهامشية:

على الرغم من أن الاستدلال العكسي ليس صحيحًا. تُسمى المتغيرات العشوائية التي تلبي الشرط الأخير بالمتغيرات الفرعية المستقلة .

أمثلة

رمي النرد

إن حدث الحصول على الرقم 6 في المرة الأولى التي يتم فيها إلقاء النرد وحدث الحصول على الرقم 6 في المرة الثانية هما حدثان مستقلان . وعلى النقيض من ذلك، فإن حدث الحصول على الرقم 6 في المرة الأولى التي يتم فيها إلقاء النرد وحدث أن يكون مجموع الأرقام التي تظهر في المحاولة الأولى والثانية 8 ليسا حدثين مستقلين .

بطاقات الرسم

إذا سُحبت بطاقتان مع استبدالهما من مجموعة أوراق، فإن حدث سحب بطاقة حمراء في المحاولة الأولى وحدث سحب بطاقة حمراء في المحاولة الثانية مستقلان . وعلى النقيض من ذلك، إذا سُحبت بطاقتان دون استبدال من مجموعة أوراق، فإن حدث سحب بطاقة حمراء في المحاولة الأولى وحدث سحب بطاقة حمراء في المحاولة الثانية ليسا مستقلين ، لأن المجموعة التي أزيلت منها بطاقة حمراء تحتوي على عدد أقل نسبيًا من البطاقات الحمراء.

الاستقلال الزوجي والمتبادل

الأحداث المستقلة عن بعضها البعض، ولكنها ليست مستقلة عن بعضها البعض
الأحداث المستقلة المتبادلة

فكر في فضائي الاحتمال الموضحين. في كلتا الحالتين، و . الأحداث في الفضاء الأول مستقلة عن بعضها البعض لأن ، ، و ؛ ولكن الأحداث الثلاثة ليست مستقلة عن بعضها البعض. الأحداث في الفضاء الثاني مستقلة عن بعضها البعض ومستقلة عن بعضها البعض. لتوضيح الفرق، فكر في التكييف على حدثين. في حالة الاستقلال عن بعضها البعض، على الرغم من أن أي حدث واحد مستقل عن كل من الحدثين الآخرين بشكل فردي، إلا أنه ليس مستقلاً عن تقاطع الحدثين الآخرين:

وفي الحالة المستقلة المتبادلة، مع ذلك،

استقلال ثلاثي ولكن لا يوجد استقلال زوجي

من الممكن إنشاء مثال لثلاثة أحداث حيث

ومع ذلك، لا يوجد حدثان من الأحداث الثلاثة مستقلان عن بعضهما البعض (ومن ثم فإن مجموعة الأحداث ليست مستقلة عن بعضها البعض). [11] يوضح هذا المثال أن الاستقلال المتبادل ينطوي على متطلبات على حاصل ضرب احتمالات جميع مجموعات الأحداث، وليس فقط الأحداث الفردية كما في هذا المثال.

الاستقلال المشروط

للمناسبات

الأحداث و مستقلة شرطيًا نظرًا لوجود حدث عندما

.

للمتغيرات العشوائية

حدسيًا، يكون متغيران عشوائيان و مستقلان شرطيًا إذا كانت قيمة لا تضيف أي معلومات إضافية عن بمجرد معرفتها . على سبيل المثال، لا يكون قياسان و لنفس الكمية الأساسية مستقلين، لكنهما مستقلان شرطيًا (ما لم تكن الأخطاء في القياسين مرتبطة بطريقة ما).

يعتمد التعريف الرسمي للاستقلال الشرطي على فكرة التوزيعات الشرطية . إذا كانت ، ، و متغيرات عشوائية منفصلة ، فإننا نحدد و لتكون مستقلة شرطيًا إذا

بالنسبة لجميع ، و بحيث . من ناحية أخرى، إذا كانت المتغيرات العشوائية متصلة ولها دالة كثافة احتمالية مشتركة ، فإن و مستقلان شرطيًا إذا

لجميع الأعداد الحقيقية ، وحيث .

إذا كانت منفصلة و مستقلة شرطيًا ، إذن

لأي ، ومع . أي أن التوزيع الشرطي لـ و المعطى هو نفس التوزيع المعطى وحده . تنطبق معادلة مماثلة على وظائف كثافة الاحتمال الشرطية في الحالة المستمرة.

يمكن النظر إلى الاستقلال باعتباره نوعاً خاصاً من الاستقلال الشرطي، حيث يمكن النظر إلى الاحتمال باعتباره نوعاً من الاحتمال الشرطي في حالة عدم وجود أحداث.

تاريخ

قبل عام 1933، كان الاستقلال، في نظرية الاحتمالات، يُعرَّف بطريقة لفظية. على سبيل المثال، أعطى دي موافر التعريف التالي: "يكون حدثان مستقلين، عندما لا يكون لهما اتصال أحدهما بالآخر، وأن حدوث أحدهما لا يؤدي إلى تقدم أو إعاقة حدوث الآخر". [12] إذا كان هناك n حدث مستقل، فإن احتمال وقوع الحدث، أي وقوعها جميعًا، كان يُحسب على أنه حاصل ضرب احتمالات هذه الأحداث n. على ما يبدو، كان هناك اقتناع بأن هذه الصيغة كانت نتيجة للتعريف أعلاه. (أحيانًا كان يُطلق عليها نظرية الضرب). بالطبع، لا يمكن إثبات تأكيده بدون افتراضات ضمنية أكثر رسمية.

أصبح تعريف الاستقلال، الوارد في هذه المقالة، هو التعريف القياسي (المستخدم الآن في جميع الكتب) بعد ظهوره في عام 1933 كجزء من بديهيات كولموغوروف للاحتمالات. [13] نسب كولموغوروف ذلك إلى إس. إن. بيرنشتاين ، واستشهد بمنشور ظهر باللغة الروسية في عام 1927. [14]

لسوء الحظ، لم يكن كل من بيرنشتاين وكولموجوروف على علم بعمل جورج بولمان . أعطى بولمان نفس التعريف لحدثين في عام 1901 [15] ولعدد n من الأحداث في عام 1908 [16] . في الورقة الأخيرة، درس مفهومه بالتفصيل. على سبيل المثال، أعطى المثال الأول الذي يوضح أن الاستقلال الزوجي لا يعني الاستقلال المتبادل. حتى اليوم، نادرًا ما يتم الاستشهاد ببولمان. يمكن العثور على المزيد حول عمله في حول مساهمات جورج بولمان في نظرية الاحتمالات من de:Ulrich Krengel. [17]

انظر أيضا

مراجع

  1. ^ راسل، ستيوارت؛ نورفيج، بيتر (2002). الذكاء الاصطناعي: نهج حديث . برنتيس هول . ص. 478. ISBN 0-13-790395-2.
  2. ^ أب فلوريسكو ، إيونوت (2014). الاحتمالية والعمليات العشوائية . وايلي. رقم ISBN 978-0-470-62455-5.
  3. ^ abcd Gallager, Robert G. (2013). Stochastic Processes Theory for Applications . Cambridge University Press. ISBN 978-1-107-03975-9.
  4. ^ ab Feller, W (1971). "الاستقلال العشوائي". مقدمة لنظرية الاحتمالات وتطبيقاتها . وايلي .
  5. ^ Papoulis, Athanasios (1991). Probability, Random Variables and Stochastic Processes . MCGraw Hill. ISBN 0-07-048477-5.
  6. ^ هوي، بياو (1997). نظرية ومشكلات الاحتمالات والمتغيرات العشوائية والعمليات العشوائية . ماكجرو هيل. ISBN 0-07-030644-3.
  7. ^ آموس لابيدوث (8 فبراير 2017). مؤسسة في الاتصالات الرقمية. مطبعة جامعة كامبريدج. رقم ISBN 978-1-107-17732-1.
  8. ^ دوريت، ريتشارد (1996). الاحتمالية: النظرية والأمثلة (الطبعة الثانية).الصفحة 62
  9. ^ إي جاكمان. نمذجة التقلبات في الموجات المتناثرة . ISBN 978-0-7503-1005-5.
  10. ^ بارك، كون إيل (2018). أساسيات الاحتمالات والعمليات العشوائية مع التطبيقات على الاتصالات . سبرينغر. رقم ISBN 978-3-319-68074-3.
  11. ^ جورج، جلين، "اختبار استقلال ثلاثة أحداث"، مجلة الرياضيات 88، نوفمبر 2004، 568. PDF
  12. ^ تم الاستشهاد به وفقًا لـ: Grinstead and Snell's Introduction to Probability. في: The CHANCE Project. إصدار 4 يوليو 2006.
  13. ^ كولموجوروف ، أندريه (1933). Grundbegriffe der Wahrscheinlichkeitsrechnung (في المانيا). برلين: يوليوس سبرينغر ترجمة: كولموجوروف، أندريه (1956). ترجمة: أسس نظرية الاحتمالية (الطبعة الثانية). نيويورك: تشيلسي. ردمك 978-0-8284-0023-7.
  14. ^ SN Bernstein ، نظرية الاحتمالات (بالروسية)، موسكو، 1927 (4 طبعات، أحدثها 1946)
  15. ^ جورج بولمان : Lebensversicherungsmathematik، Encyklop¨adie der mathematischen Wissenschaften، Bd I، Teil 2، Artikel ID 4b (1901)، 852–917
  16. ^ جورج بولمان : Die Grundbegriffe der Wahrscheinlichkeitsrechnung in ihrer Anwendung auf die Lebensversichrung, Atti del IV. مؤتمر. كثافة العمليات. دي ماتيم. روم، دينار بحريني. الثالث (1908)، 244-278.
  17. ^ من: أولريش كرينجل: حول مساهمات جورج بولمان في نظرية الاحتمالات (PDF؛ 6.4 ميجا بايت)، المجلة الإلكترونية لتاريخ الاحتمالات والإحصاء، 2011.
  • الوسائط المتعلقة بـ Independence (Probability theory) على ويكيميديا ​​كومنز
Retrieved from "https://en.wikipedia.org/w/index.php?title=Independence_(probability_theory)&oldid=1241496878#Independent_random_variables"
Original text
Rate this translation
Your feedback will be used to help improve Google Translate