نظرية الاحتمالات

لنفترض تجربةً يمكن أن تُنتج عددًا من النتائج. تُسمى مجموعة جميع النتائج فضاء العينة للتجربة. تتشكل مجموعة القوى لفضاء العينة (أو ما يُكافئها، فضاء الأحداث) من خلال النظر في جميع مجموعات النتائج المُحتملة. على سبيل المثال، يُنتج رمي نردٍ نزيه إحدى ست نتائج مُحتملة. تُقابل إحدى مجموعات النتائج المُحتملة الحصول على عدد فردي. بالتالي، تُعد المجموعة الجزئية {1، 3، 5} عنصرًا من مجموعة القوى لفضاء عينة رمي النرد. تُسمى هذه المجموعات أحداثًا . في هذه الحالة، {1، 3، 5} هو حدث سقوط النرد على عدد فردي. إذا وقعت النتائج التي حدثت بالفعل ضمن حدث مُعين، يُقال إن هذا الحدث قد وقع.

الاحتمال هو طريقة لتخصيص قيمة بين الصفر والواحد لكل "حدث"، مع اشتراط أن يُخصص للحدث المكون من جميع النتائج الممكنة (في مثالنا، الحدث {1، 2، 3، 4، 5، 6}) القيمة واحد. ولكي يُعتبر توزيعًا احتماليًا ، يجب أن يُلبي تخصيص القيم الشرط التالي: إذا نظرنا إلى مجموعة من الأحداث المتنافية (أي الأحداث التي لا تحتوي على نتائج مشتركة، مثل الأحداث {1، 6}، {3}، و{2، 4}، وهي أحداث متنافية)، فإن احتمال وقوع أي من هذه الأحداث يُعطى بمجموع احتمالات تلك الأحداث. ^{[ 10 ]}

احتمالية وقوع أي من الأحداث {1، 6} أو {3} أو {2، 4} هي 5/6. وهذا يعني أن احتمالية وقوع الحدث {1، 2، 3، 4، 6} هي 5/6. يشمل هذا الحدث احتمالية ظهور أي عدد ما عدا 5. أما الحدث {5}، وهو حدث متنافٍ، فاحتماليته 1/6، بينما احتمالية وقوع الحدث {1، 2، 3، 4، 5، 6} هي 1، أي أنها مؤكدة تمامًا.

عند إجراء حسابات باستخدام نتائج تجربة ما، من الضروري أن تُخصص أرقام لجميع الأحداث الأولية . ويتم ذلك باستخدام متغير عشوائي . المتغير العشوائي هو دالة تُخصص لكل حدث أولي في فضاء العينة عددًا حقيقيًا . ويُرمز لهذه الدالة عادةً بحرف كبير. ^{[ 11 ]} في حالة النرد، يمكن تخصيص رقم لبعض الأحداث الأولية باستخدام دالة التطابق . لكن هذا لا ينجح دائمًا. على سبيل المثال، عند رمي قطعة نقدية، تكون النتيجتان المحتملتان هما "صورة" و"كتابة". في هذا المثال، يمكن للمتغير العشوائي X أن يُخصص للنتيجة "صورة" الرقم "0" (${\textstyle X({\text{heads}})=0}$) وإلى نتيجة "الذيل" الرقم "1" (${\displaystyle X({\text{tails}})=1}$).

تتعامل نظرية الاحتمالات المنفصلة مع الأحداث التي تحدث في فضاءات عينة قابلة للعد .

أمثلة: رمي النرد ، تجارب باستخدام مجموعات أوراق اللعب ، المشي العشوائي ، ورمي العملات المعدنية .

التعريف الكلاسيكي : في البداية، تم تعريف احتمال وقوع حدث ما على أنه عدد الحالات المواتية للحدث، مقسومًا على عدد النتائج الإجمالية الممكنة في فضاء عينة متساوي الاحتمالات: انظر التعريف الكلاسيكي للاحتمال .

على سبيل المثال، إذا كان الحدث هو "ظهور عدد زوجي عند رمي النرد"، فإن الاحتمالية تُعطى بواسطة${\displaystyle {\tfrac {3}{6}}={\tfrac {1}{2}}}$، لأن 3 من أصل 6 وجوه لها أرقام زوجية ولكل وجه نفس احتمالية الظهور.

التعريف الحديث : يبدأ التعريف الحديث بمجموعة منتهية أو قابلة للعد تسمى فضاء العينة ، والتي ترتبط بمجموعة جميع النتائج الممكنة بالمعنى الكلاسيكي، ويرمز لها بـ$أوميغا$ثم يُفترض أنه لكل عنصر${\displaystyle x\in \Omega \,}$، قيمة "احتمالية" جوهرية${\displaystyle f(x)\,}$مرفق، والذي يستوفي الخصائص التالية:

1. ${\displaystyle f(x)\in [0,1]{\mbox{ لكل }}x\in \Omega \,;}$
2. ${\displaystyle \sum _{x\in \Omega }f(x)=1\,.}$

أي أن دالة الاحتمال f ( x ) تقع بين الصفر والواحد لكل قيمة من قيم x في فضاء العينة Ω ، ومجموع f ( x ) على جميع قيم x في فضاء العينة Ω يساوي 1. ويُعرَّف الحدث بأنه أي مجموعة جزئية${\displaystyle E\,}$من فضاء العينة${\displaystyle \Omega \,}$احتمالية وقوع الحدث${\displaystyle E\,}$يُعرَّف بأنه

${\displaystyle \mathbb {P} (E)=\sum _{x\in E}f(x)\,.}$

إذن، احتمال فضاء العينة بأكمله هو 1، واحتمال الحدث الصفري هو 0.

الوظيفة${\displaystyle f(x)\,}$يُطلق على عملية ربط نقطة في فضاء العينة بقيمة "الاحتمالية" اسم دالة كتلة الاحتمال ، ويختصر ذلك بـ pmf .

تتعامل نظرية الاحتمالات المستمرة مع الأحداث التي تحدث في فضاء عينة مستمر.

التعريف الكلاسيكي : ينهار التعريف الكلاسيكي عند مواجهة الحالة المستمرة. انظر مفارقة برتراند .

التعريف الحديث : إذا كانت فضاء العينة لمتغير عشوائي X هو مجموعة الأعداد الحقيقية (${\displaystyle \mathbb {R} }$) أو مجموعة فرعية منها، ثم دالة تسمى دالة التوزيع التراكمي ( CDF )${\displaystyle F\,}$موجود، محدد بواسطة${\displaystyle F(x)=\mathbb {P} (X\leq x)\,}$أي أن F ( x ) تعيد احتمال أن تكون X أقل من أو تساوي x .

يجب أن تستوفي دالة التوزيع التراكمي الخصائص التالية.

1. ${\displaystyle F\,}$هي دالة غير متناقصة بشكل رتيب ، ومتصلة من اليمين ؛
2. ${\displaystyle \lim _{x\rightarrow -\infty }F(x)=0\,;}$
3. ${\displaystyle \lim _{x\rightarrow \infty }F(x)=1\,.}$

المتغير العشوائي${\displaystyle X}$يقال إن له توزيع احتمالي مستمر إذا كانت دالة التوزيع التراكمي المقابلة له${\displaystyle F}$متصلة. إذا${\displaystyle F\,}$إذا كانت الدالة متصلة تمامًا ، فإن مشتقتها موجودة في كل مكان تقريبًا، وتكامل المشتقة يعطينا دالة التوزيع التراكمي (CDF). في هذه الحالة، يُقال إن المتغير العشوائي X له دالة كثافة احتمالية ( PDF ) أو ببساطة دالة كثافة.${\displaystyle f(x)={\frac {dF(x)}{dx}}\,.}$

لمجموعة${\displaystyle E\subseteq \mathbb {R} }$، احتمال أن يكون المتغير العشوائي X في${\displaystyle E\,}$يكون

${\displaystyle \mathbb {P} (X\in E)=\int _{x\in E}dF(x)\,.}$

في حال وجود ملف PDF، يمكن كتابة ذلك على النحو التالي:

${\displaystyle \mathbb {P} (X\in E)=\int _{x\in E}f(x)\,dx\,.}$

بينما توجد دالة كثافة الاحتمال فقط للمتغيرات العشوائية المستمرة، توجد دالة التوزيع التراكمي لجميع المتغيرات العشوائية (بما في ذلك المتغيرات العشوائية المنفصلة) التي تأخذ قيمًا في${\displaystyle \mathbb {R} \,.}$

يمكن تعميم هذه المفاهيم على الحالات متعددة الأبعاد${\displaystyle \mathbb {R} ^{n}}$وغيرها من فضاءات العينات المتصلة.

تكمن فائدة المعالجة النظرية للقياس في الاحتمال في أنها توحد الحالات المنفصلة والمتصلة، وتجعل الفرق بينهما مسألة تتعلق بالمقياس المستخدم. علاوة على ذلك، فهي تشمل التوزيعات التي ليست منفصلة ولا متصلة ولا مزيجًا من الاثنين.

من أمثلة هذه التوزيعات مزيج من التوزيعات المنفصلة والمتصلة، على سبيل المثال، متغير عشوائي قيمته صفر باحتمالية 1/2، ويأخذ قيمة عشوائية من التوزيع الطبيعي باحتمالية 1/2. ويمكن دراسته إلى حد ما باعتبار أن له دالة كثافة احتمالية${\displaystyle (\delta [x]+\varphi (x))/2}$، أين${\displaystyle \delta [x]}$هي دالة ديراك دلتا و${\displaystyle \varphi (x)}$دالة كثافة الاحتمال للتوزيع الطبيعي.

قد لا تكون بعض التوزيعات مزيجًا أصلًا، فعلى سبيل المثال، لا يمتلك توزيع كانتور أي احتمال موجب لأي نقطة منفردة، كما أنه لا يمتلك دالة كثافة. ويحل المنهج الحديث لنظرية الاحتمالات هذه المشكلات باستخدام نظرية القياس لتحديد فضاء الاحتمالات .

بالنظر إلى أي مجموعة${\displaystyle \Omega \,}$(وتسمى أيضًا فضاء العينة ) وجبر سيجما${\displaystyle {\mathcal {F}}\,}$عليه، مقياس${\displaystyle \mathbb {P} }$محدد في${\displaystyle {\mathcal {F}}\,}$يُطلق عليه مقياس احتمالي إذا${\displaystyle \mathbb {P} (\Omega )=1.\,}$

لو${\displaystyle {\mathcal {F}}\,}$إذا كانت جبر بوريل سيجما على مجموعة الأعداد الحقيقية، فإنه يوجد مقياس احتمالي فريد على${\displaystyle {\mathcal {F}}\,}$لأي دالة توزيع تراكمي، والعكس صحيح. يُقال إن المقياس المقابل لدالة التوزيع التراكمي مُستنتج من تلك الدالة. يتطابق هذا المقياس مع دالة الكتلة الاحتمالية للمتغيرات المنفصلة ودالة كثافة الاحتمال للمتغيرات المستمرة، مما يجعل المنهج القائم على نظرية القياس خاليًا من المغالطات.

احتمالية مجموعة​${\displaystyle E\,}$في الجبر سيجما${\displaystyle {\mathcal {F}}\,}$يُعرَّف بأنه

${\displaystyle \mathbb {P} (E)=\int _{\omega \in E}\mu _{F}(d\omega )\,}$

حيث يكون التكامل فيما يتعلق بالمقياس${\displaystyle \mu _{F}\,}$ناتج عن${\displaystyle F\,.}$

إلى جانب توفير فهم أفضل وتوحيد للاحتمالات المنفصلة والمتصلة، فإن المعالجة القائمة على نظرية القياس تسمح لنا أيضًا بالعمل على الاحتمالات خارج${\displaystyle \mathbb {R} ^{n}}$كما هو الحال في نظرية العمليات العشوائية . على سبيل المثال، لدراسة الحركة البراونية ، يتم تعريف الاحتمال على فضاء من الدوال.

عندما يكون من الملائم العمل باستخدام مقياس مهيمن، تُستخدم نظرية رادون-نيكوديم لتعريف الكثافة على أنها مشتقة رادون-نيكوديم لتوزيع الاحتمال المطلوب بالنسبة لهذا المقياس المهيمن. تُعرَّف الكثافات المنفصلة عادةً على أنها هذه المشتقة بالنسبة لمقياس عدٍّ على مجموعة جميع النتائج الممكنة. أما كثافات التوزيعات المستمرة تمامًا ، فتُعرَّف عادةً على أنها هذه المشتقة بالنسبة لمقياس ليبيغ . إذا أمكن إثبات نظرية ما في هذا السياق العام، فإنها تنطبق على كلٍّ من التوزيعات المنفصلة والمستمرة، بالإضافة إلى غيرها؛ ولا يلزم تقديم براهين منفصلة للتوزيعات المنفصلة والمستمرة.

يشير الحدس الشائع إلى أنه إذا تم رمي عملة معدنية متوازنة عدة مرات، فستظهر الصورة في نصف المرات تقريبًا ، والكتابة في النصف الآخر . علاوة على ذلك، كلما زاد عدد مرات رمي ​​العملة، زادت احتمالية اقتراب نسبة عدد مرات ظهور الصورة إلى عدد مرات ظهور الكتابة من الواحد. تقدم نظرية الاحتمالات الحديثة صيغة رسمية لهذه الفكرة البديهية، تُعرف بقانون الأعداد الكبيرة . يتميز هذا القانون بأنه ليس مفترضًا في أسس نظرية الاحتمالات، بل ينبثق منها كنظرية. ولأنه يربط الاحتمالات المستنتجة نظريًا بتكرار حدوثها الفعلي في العالم الحقيقي، يُعتبر قانون الأعداد الكبيرة ركيزة أساسية في تاريخ النظرية الإحصائية، وله تأثير واسع النطاق. ^{[ 12 ]}

ينص قانون الأعداد الكبيرة على أن متوسط ​​العينة

${\displaystyle {\overline {X}}_{n}={\frac {1}{n}}{\sum _{k=1}^{n}X_{k}}}$

من سلسلة من المتغيرات العشوائية المستقلة والمتطابقة التوزيع${\displaystyle X_{k}}$يتقارب نحو قيمتهم المتوقعة المشتركة (القيمة المتوقعة)${\displaystyle \mu }$بشرط أن يكون التوقع${\displaystyle |X_{k}|}$محدود.

يكمن الفرق بين القانون الضعيف والقانون القوي للأعداد الكبيرة في الأشكال المختلفة لتقارب المتغيرات العشوائية ^{[ 13 ].}

قانون ضعيف:${\displaystyle \displaystyle {\overline {X}}_{n}\,\xrightarrow {\mathbb {P} } \,\mu }$ل${\displaystyle n\to \infty }$

قانون قوي:${\displaystyle \displaystyle {\overline {X}}_{n}\,{\xrightarrow {\mathrm {a.\,s.} }}\,\mu }$ل${\displaystyle n\to \infty .}$

ويترتب على ذلك من قانون LLN أنه إذا تم رصد حدث باحتمالية p بشكل متكرر خلال تجارب مستقلة، فإن نسبة التكرار المرصود لهذا الحدث إلى العدد الإجمالي للتكرارات تتقارب نحو p .

على سبيل المثال، إذا${\displaystyle Y_{1},Y_{2},...\,}$إذا كانت المتغيرات العشوائية المستقلة من نوع برنولي تأخذ القيمتين 1 باحتمال p و 0 باحتمال 1- p ، فإن${\displaystyle {\textrm {E}}(Y_{i})=p}$لكل i ، بحيث${\displaystyle {\bar {Y}}_{n}}$يتقارب إلى p بشكل شبه مؤكد .

تشرح نظرية النهاية المركزية (CLT) الانتشار الواسع للتوزيع الطبيعي في الطبيعة، وهذه النظرية، وفقًا لديفيد ويليامز، "هي واحدة من أعظم نتائج الرياضيات". ^{[ 14 ]}

تنص النظرية على أن متوسط ​​العديد من المتغيرات العشوائية المستقلة والمتطابقة التوزيع ذات التباين المحدود يميل نحو التوزيع الطبيعي بغض النظر عن التوزيع الذي تتبعه المتغيرات العشوائية الأصلية. بصورة رسمية، ليكن${\displaystyle X_{1},X_{2},\dots \,}$لتكن متغيرات عشوائية مستقلة ذات متوسط${\displaystyle \mu }$والتباين​${\displaystyle \sigma ^{2}>0.\,}$ثم سلسلة المتغيرات العشوائية

${\displaystyle Z_{n}={\frac {\sum _{i=1}^{n}(X_{i}-\mu )}{\sigma {\sqrt {n}}}}\,}$

يتقارب في التوزيع إلى متغير عشوائي طبيعي معياري .

بالنسبة لبعض فئات المتغيرات العشوائية، تعمل نظرية النهاية المركزية الكلاسيكية بسرعة نسبية، كما هو موضح في نظرية بيري-إسين . على سبيل المثال، التوزيعات ذات العزوم الأولى والثانية والثالثة المحدودة من العائلة الأسية ؛ من ناحية أخرى، بالنسبة لبعض المتغيرات العشوائية من نوع الذيل الثقيل والذيل السمين ، فإنها تعمل ببطء شديد أو قد لا تعمل على الإطلاق: في مثل هذه الحالات، يمكن استخدام نظرية النهاية المركزية المعممة (GCLT).

• فهرس المقالات في نظرية الاحتمالات
• قائمة بمواضيع الاحتمالات
• قائمة المنشورات في مجال الإحصاء
• قائمة المواضيع الإحصائية