عامل بايز

عامل بايز هو نسبة بين نموذجين إحصائيين متنافسين، يُمثل كل منهما بأدلته ، ويُستخدم لتحديد مدى تفضيل أحد النموذجين على الآخر. ^{[ 1 ]} قد يشترك النموذجان في مجموعة من المعاملات، كفرضية العدم وفرضية بديلة، ولكن هذا ليس شرطًا؛ فعلى سبيل المثال، قد يكون النموذج غير خطي مقارنةً بتقريبه الخطي . يُمكن اعتبار عامل بايز نظيرًا بايزيًا لاختبار نسبة الاحتمال ، مع أنه يستخدم الاحتمال المُتكامل (أي الهامشي) بدلًا من الاحتمال المُعظم. ولذلك، لا تتطابق الكميتان إلا في ظل فرضيات بسيطة (مثل قيمتين محددتين للمعاملات). ^{[ 2 ]} كذلك، وعلى عكس اختبار دلالة فرضية العدم ، يدعم عامل بايز تقييم الأدلة المؤيدة لفرضية العدم، بدلًا من الاقتصار على رفضها أو عدم رفضها. ^{[ 3 ]}

على الرغم من بساطته المفاهيمية، قد يكون حساب عامل بايز صعبًا اعتمادًا على مدى تعقيد النموذج والفرضيات. ^{[ 4 ]} ولأن الصيغ المغلقة للاحتمالية الحدية غير متوفرة عمومًا، فقد اقتُرحت تقريبات عددية تستند إلى عينات سلسلة ماركوف مونت كارلو . ^{[ 5 ]} في بعض الحالات الخاصة، يمكن اشتقاق صيغ جبرية مبسطة؛ على سبيل المثال، نسبة كثافة سافاج-ديكي في حالة فرضية دقيقة (مقيدة بالمساواة) مقابل بديل غير مقيد. ^{[ 6 ] [ 7 ]} يُعرف تقريب آخر، مشتق بتطبيق تقريب لابلاس على الاحتمالات المتكاملة، بمعيار معلومات بايز (BIC)؛ ^{[ 8 ]} في مجموعات البيانات الكبيرة، يقترب عامل بايز من معيار معلومات بايز مع تضاؤل ​​تأثير التوزيعات الاحتمالية المسبقة. في مجموعات البيانات الصغيرة، تكون المعلومات المسبقة مهمة بشكل عام ويجب ألا تكون غير مناسبة لأن عامل بايز سيكون غير معرف إذا لم يكن أي من التكاملين في نسبته محدودًا.

عامل بايز هو نسبة احتمالين هامشيين؛ أي احتمالات نموذجين إحصائيين متكاملين على الاحتمالات المسبقة لمعلماتهما. ^{[ 9 ]}

الاحتمال اللاحق${\displaystyle \Pr(M|D)}$يتم تحديد نموذج M بالنظر إلى البيانات D بواسطة نظرية بايز :

${\displaystyle \Pr(M|D)={\frac {\Pr(D|M)\Pr(M)}{\Pr(D)}}.}$

المصطلح الرئيسي الذي يعتمد على البيانات${\displaystyle \Pr(D|M)}$يمثل احتمال إنتاج بعض البيانات في ظل افتراض النموذج M ؛ وتقييمه بشكل صحيح هو المفتاح لمقارنة النماذج البايزية.

بالنظر إلى مشكلة اختيار النموذج حيث يرغب المرء في الاختيار بين نموذجين بناءً على البيانات المرصودة D ، _فإن معقولية النموذجين المختلفين _M1 و M2 ، المحددين بواسطة متجهات معلمات النموذج${\displaystyle \theta _{1}}$و${\displaystyle \theta _{2}}$يتم تقييمها بواسطة عامل بايز K المعطى بواسطة

${\displaystyle K={\frac {\Pr(D|M_{1})}{\Pr(D|M_{2})}}={\frac {\int \Pr(\theta _{1}|M_{1})\Pr(D|\theta _{1},M_{1})\,d\theta _{1}}{\int \Pr(\theta _{2}|M_{2})\Pr(D|\theta _{2},M_{2})\,d\theta _{2}}}={\frac {\frac {\Pr(M_{1}|D)\Pr(D)}{\Pr(M_{1})}}{\frac {\Pr(M_{2}|D)\Pr(D)}{\Pr(M_{2})}}}={\frac {\Pr(M_{1}|D)}{\Pr(M_{2}|D)}}{\frac {\Pr(M_{2})}{\Pr(M_{1})}}.}$

عندما يكون للنموذجين احتمال مسبق متساوٍ، بحيث${\displaystyle \Pr(M_{1})=\Pr(M_{2})}$يُساوي عامل بايز نسبة الاحتمالات اللاحقة للنموذجين _M1 و M2 . _إذا استُخدمت دالة الاحتمال المقابلة لتقدير الاحتمال الأقصى للمعلمة لكل نموذج إحصائي بدلاً من تكامل عامل بايز، فإن الاختبار يتحول إلى اختبار نسبة الاحتمال الكلاسيكي . على عكس اختبار نسبة الاحتمال، لا تعتمد مقارنة النماذج البايزية هذه على أي مجموعة معلمات منفردة، إذ تُكامل على جميع المعلمات في كل نموذج (بالنسبة للاحتمالات المسبقة الخاصة بها). من مزايا استخدام عوامل بايز أنها تتضمن تلقائيًا، وبشكل طبيعي، عقوبةً لإدراج بنية نموذجية زائدة. ^{[ 10 ]} وبالتالي، فهي تحمي من التجاوز في التوفيق . بالنسبة للنماذج التي لا يتوفر فيها إصدار صريح من دالة الاحتمال أو يكون تقييمها عدديًا مكلفًا للغاية، يمكن استخدام الحساب البايزي التقريبي لاختيار النموذج في إطار بايزي، ^{[ 11 ]} مع التنبيه إلى أن تقديرات عوامل بايز التقريبية غالبًا ما تكون متحيزة. ^{[ 12 ]}

وتشمل الأساليب الأخرى ما يلي:

• التعامل مع مقارنة النماذج كمشكلة قرار ، وحساب القيمة المتوقعة أو تكلفة كل اختيار من النماذج؛
• لاستخدام الحد الأدنى لطول الرسالة (MML).
• استخدام الحد الأدنى لطول الوصف (MDL).

قيمة K > 1 تعني أن البيانات قيد الدراسة تدعم الفرضية M1 بقوة أكبر من الفرضية _M2 . _تجدر الإشارة إلى أن اختبار الفرضيات التقليدي يُعطي فرضية واحدة (أو نموذجًا واحدًا) مكانةً مفضلة (الفرضية الصفرية)، ولا يأخذ في الاعتبار إلا الأدلة المُعارضة لها. إن قدرة عامل بايز على تقديم أدلة مؤيدة للفرضية الصفرية، وليس فقط أدلة مُعارضة لها، تُعد إحدى المزايا الرئيسية لأسلوب التحليل هذا. ^{[ 13 ]}

وضع هارولد جيفريز مقياسًا ( مقياس جيفريز ) لتفسير${\displaystyle K}$[ ^{14 ]​}

يُبيّن العمود الثاني أوزان الأدلة المقابلة بوحدة ديسي هارتلي (المعروفة أيضًا باسم ديسي بان )؛ وتُضاف البتات في العمود الثالث للتوضيح. ويستمر الجدول في الاتجاه المعاكس، بحيث، على سبيل المثال،${\displaystyle K\leq 10^{-2}}$يُعدّ هذا دليلاً قاطعاً على${\displaystyle M_{2}}$.

تم تقديم جدول بديل، يتم الاستشهاد به على نطاق واسع، من قبل كاس ورافتر (1995): ^{[ 10 ]}

بحسب آي جيه جود ، فإن الفرق الملحوظ لدى البشر في حياتهم اليومية، عندما يتعلق الأمر بدرجة تغير الإيمان بفرضية ما، يبلغ حوالي 1.3 ضعف، أو 1 ديسيب، أو 1/3 بت، أو من 1:1 إلى 5:4 في نسبة الاحتمالات. ^{[ 15 ]}

لنفترض أن لدينا متغيرًا عشوائيًا ينتج عنه إما نجاح أو فشل. نريد مقارنة نموذج${\displaystyle M_{1}}$حيث احتمال النجاح هو q = 1 ⁄ 2 ، ونموذج آخر${\displaystyle M_{2}}$حيث q غير معلومة، ونعتمد توزيعًا احتماليًا مسبقًا لـ q يكون منتظمًا على الفترة [0,1]. نأخذ عينة من 200، ونجد 115 حالة نجاح و85 حالة فشل. يمكن حساب الاحتمالية وفقًا للتوزيع ذي الحدين .

${\displaystyle {{200 \choose 115}q^{115}(1-q)^{85}}.}$

وهكذا لدينا لـ${\displaystyle M_{1}}$

${\displaystyle P(X=115\mid M_{1})={200 \choose 115}\left({1 \over 2}\right)^{200}\approx 0.006}$

أما بالنسبة لـ${\displaystyle M_{2}}$لدينا

${\displaystyle P(X=115\mid M_{2})=\int _{0}^{1}{200 \choose 115}q^{115}(1-q)^{85}dq={1 \over 201}\approx 0.005}$

إذن، النسبة هي 1.2، وهي نسبة "لا تستحق الذكر" حتى لو كانت تشير بشكل طفيف جدًا إلى${\displaystyle M_{1}}$.

اختبار الفرضية التكرارية لـ${\displaystyle M_{1}}$(التي تُعتبر هنا فرضية العدم ) كانت ستؤدي إلى نتيجة مختلفة تمامًا. يقول هذا الاختبار أن ${\displaystyle M_{1}}$يجب رفض الفرضية عند مستوى دلالة 5%، لأن احتمال الحصول على 115 نجاحًا أو أكثر من عينة مكونة من 200 إذا كانت q = 1/2 هو 0.02 ، بينما احتمال الحصول على قيمة متطرفة مساوية أو أكبر من 115 في اختبار ذي طرفين هو 0.04. تجدر الإشارة إلى أن 115 تبعد أكثر من انحرافين معياريين عن 100. وبالتالي، في حين أن اختبار الفرضية التكراري سيعطي نتائج دالة إحصائيًا عند مستوى دلالة 5%، فإن عامل بايز لا يعتبر هذه النتيجة متطرفة. مع ذلك، تجدر الإشارة إلى أن التوزيع الاحتمالي المسبق غير المنتظم (على سبيل المثال، التوزيع الذي يعكس توقع أن يكون عدد النجاحات والإخفاقات من نفس الرتبة) قد يؤدي إلى عامل بايز أكثر توافقًا مع اختبار الفرضية التكراري.

كان من الممكن أن يجد اختبار نسبة الاحتمال الكلاسيكي تقدير الاحتمال الأقصى لـ q ، أي${\displaystyle {\hat {q}}={\frac {115}{200}}=0.575}$ومن ثم

${\displaystyle \textstyle P(X=115\mid M_{2})={{200 \choose 115}{\hat {q}}^{115}(1-{\hat {q}})^{85}}\approx 0.06}$

(بدلاً من حساب المتوسط ​​لجميع قيم q الممكنة ). وهذا يعطي نسبة احتمالية قدرها 0.1 ويشير إلى M ₂ .

${\displaystyle M_{2}}$هو نموذج أكثر تعقيدًا من${\displaystyle M_{1}}$لأنها تحتوي على مُعامل حر يسمح لها بنمذجة البيانات بشكل أدق. إن قدرة عوامل بايز على أخذ هذا في الاعتبار هي أحد أسباب طرح الاستدلال البايزي كمبرر نظري وتعميم لمبدأ أوكام ، مما يقلل من أخطاء النوع الأول . ^{[ 16 ]}

من ناحية أخرى، تأخذ طريقة الاحتمال النسبي الحديثة في الحسبان عدد المعاملات الحرة في النماذج، على عكس نسبة الاحتمال الكلاسيكية. ويمكن تطبيق طريقة الاحتمال النسبي كما يلي: يحتوي النموذج M1 على صفر من المعاملات، وبالتالي فإن _قيمة معيار معلومات أكايكي (AIC) الخاص به هي${\displaystyle 2\cdot 0-2\cdot \ln(0.005956)\approx 10.2467}$يحتوي النموذج M2 على مُعامل واحد، وبالتالي فإن قيمة AIC الخاصة به _هي${\displaystyle 2\cdot 1-2\cdot \ln(0.056991)\approx 7.7297}$وبالتالي فإن M ₁ تقريبًا${\displaystyle \exp \left({\frac {7.7297-10.2467}{2}}\right)\approx 0.284}$احتمالية M1 أعلى من احتمالية _M2 لتقليل فقدان المعلومات. لذا، _يُفضّل M2 قليلاً، لكن لا يمكن استبعاد M1 _.

• معيار معلومات أكايكي
• الحساب التقريبي باستخدام طريقة بايز
• معيار المعلومات البايزي
• معيار معلومات الانحراف
• مفارقة ليندلي
• الحد الأدنى لطول الرسائل
• اختيار الطراز
• القيمة الإلكترونية

النسب الإحصائية

• نسبة الاحتمالات
• المخاطر النسبية

• برناردو، ج.؛ سميث، أ. ف. م. (1994). نظرية بايز . جون وايلي. ISBN 0-471-92416-4.
• دينيسون، دي جي تي؛ هولمز، سي سي؛ ماليك، بي كيه؛ سميث، إيه إف إم (2002). الأساليب البايزية للتصنيف والانحدار غير الخطي . جون وايلي. ISBN 0-471-49036-9.
• دينيس، ز. (2019). كيف أعرف ما تتنبأ به نظريتي؟ التطورات في مناهج وممارسات العلوم النفسية doi : 10.1177/2515245919876960
• دودا، ريتشارد أو.؛ ​​هارت، بيتر إي.؛ ستورك، ديفيد جي. (2000). "القسم 9.6.5". تصنيف الأنماط (  الطبعة الثانية). وايلي. الصفحات 487-489 . ISBN  0-471-05669-3.
• جيلمان، أ.؛ كارلين، ج.؛ ستيرن، هـ.؛ روبين، د. (1995). تحليل البيانات البايزي . لندن: تشابمان وهول . ISBN 0-412-03991-5.
• جاينز، إي تي (1994)، نظرية الاحتمالات: منطق العلم مؤرشف في 2018-10-24 في آلة Wayback ، الفصل 24.
• كادان، جوزيف ب.؛ ديكي، جيمس م. (1980). "نظرية القرار البايزية وتبسيط النماذج". في كمنتا، جان؛ رامزي، جيمس ب. (محرران). تقييم النماذج الاقتصادية القياسية . نيويورك: أكاديميك برس. ص 245-268 . ISBN  0-12-416550-8.
• لي، بي إم (2012). الإحصاء البايزي: مقدمة . وايلي. ISBN 9781118332573.
• ريتشارد، مارك؛ فيسر، جان (2021). "اختبار كفاءة أسواق التنبؤ: منهج مارتينجال، ونسبة الاحتمال، وتحليل عامل بايز" . المخاطر . 9 (2): 31. doi : 10.3390/risks9020031 . hdl : 10419/258120 .
• وينكلر، روبرت (2003). مقدمة في الاستدلال واتخاذ القرار البايزي (  الطبعة الثانية). الاحتمالات. ISBN 0-9647938-4-9.

• "BayesFactor" . مؤرشف من الأصل بتاريخ 21-06-2013.— حزمة برمجية بلغة R لحساب عوامل بايز في تصميمات البحث الشائعة
• "حاسبة عامل بايز" . مؤرشفة من الأصل بتاريخ 2015-05-07.— حاسبة إلكترونية لعوامل بايز المُستنيرة
• "حاسبات عامل بايز" . مؤرشف من الأصل بتاريخ 2015-05-07.— نسخة ويب من معظم حزمة BayesFactor