أخذ العينات بالتحويل العكسي

الموسوعة الحرة

أخذ العينات بالتحويل العكسي (المعروف أيضًا باسم أخذ العينات العكسي ، أو التحويل التكاملي الاحتمالي العكسي ، أو طريقة التحويل العكسي ، أو تحويل سميرنوف ) هو طريقة أساسية لأخذ عينات الأرقام شبه العشوائية ، أي لتوليد أرقام عينة عشوائية من أي توزيع احتمالي معطى دالة التوزيع التراكمي الخاصة به .

تعتمد عملية أخذ العينات بالتحويل العكسي على أخذ عينات منتظمة من عدد منu{\displaystyle u}يتم تفسير القيمة بين 0 و1 على أنها احتمال، ثم يتم إرجاع أصغر رقمx∈R{\displaystyle x\in \mathbb {R} }بحيثF(x)≥u{\displaystyle F(x)\geq u}بالنسبة لدالة التوزيع التراكميF{\displaystyle F}لمتغير عشوائي. على سبيل المثال، تخيل أنF{\displaystyle F}يمثل التوزيع الطبيعي القياسي بمتوسط ​​صفر وانحراف معياري واحد. يوضح الجدول أدناه عينات مأخوذة من التوزيع المنتظم وتمثيلها على التوزيع الطبيعي القياسي.

التحويل من عينة منتظمة إلى عينة طبيعية
u{\displaystyle u}F-1(u){\displaystyle F^{-1}(u)}
0.50
0.9751.95996
0.9952.5758
0.9999994.75342
1-2 −528.12589
أخذ العينات بالتحويل العكسي للتوزيع الطبيعي

نختار عشوائيًا نسبةً من المساحة تحت المنحنى، ونُعيد العدد في المجال بحيث تقع هذه النسبة من المساحة تحديدًا على يسار ذلك العدد. وبديهيًا، من غير المرجح أن نختار عددًا في الطرف البعيد من الذيل، لأن المساحة فيه ضئيلة جدًا، مما يستلزم اختيار عدد قريب جدًا من الصفر أو الواحد.

من الناحية الحسابية، تتضمن هذه الطريقة حساب دالة الكمية للتوزيع، أي حساب دالة التوزيع التراكمي (CDF) للتوزيع (التي تربط كل قيمة في المجال باحتمالية بين 0 و1)، ثم عكس هذه الدالة. ومن هنا جاء مصطلح "العكس" أو "الانعكاس" في معظم مسميات هذه الطريقة. تجدر الإشارة إلى أنه بالنسبة للتوزيعات المتقطعة ، فإن حساب دالة التوزيع التراكمي ليس صعبًا في الغالب، إذ نجمع ببساطة الاحتمالات الفردية لمختلف نقاط التوزيع. أما بالنسبة للتوزيعات المستمرة ، فنحتاج إلى حساب تكامل دالة كثافة الاحتمال (PDF) للتوزيع، وهو أمر مستحيل حسابه تحليليًا لمعظم التوزيعات (بما في ذلك التوزيع الطبيعي ). ونتيجة لذلك، قد تكون هذه الطريقة غير فعالة حسابيًا للعديد من التوزيعات، وتُفضّل طرق أخرى؛ ومع ذلك، فهي طريقة مفيدة لبناء خوارزميات أخذ عينات أكثر عمومية، مثل تلك القائمة على أخذ العينات بالرفض .

بالنسبة للتوزيع الطبيعي ، فإن عدم وجود صيغة تحليلية لدالة الكمية المقابلة يعني أنه قد يُفضّل استخدام طرق أخرى (مثل تحويل بوكس-مولر ) من الناحية الحسابية. في كثير من الأحيان، حتى بالنسبة للتوزيعات البسيطة، يمكن تحسين طريقة أخذ العينات بالتحويل العكسي: [ 1 ] انظر، على سبيل المثال، خوارزمية الزقورة وأخذ العينات بالرفض . من ناحية أخرى، من الممكن تقريب دالة الكمية للتوزيع الطبيعي بدقة فائقة باستخدام كثيرات الحدود متوسطة الدرجة، وفي الواقع، فإن طريقة القيام بذلك سريعة بما يكفي لدرجة أن أخذ العينات بالتحويل العكسي أصبح الآن الطريقة الافتراضية لأخذ العينات من التوزيع الطبيعي في حزمة الإحصاء R. [ 2 ]

بيان رسمي

لأي متغير عشوائيX{\displaystyle X}علىR{\displaystyle \mathbb {R} }المتغير العشوائيFX-1(يو){\displaystyle F_{X}^{-1}(U)}له نفس التوزيع مثلX{\displaystyle X}، أينFX-1{\displaystyle F_{X}^{-1}}هي المعكوس المعمم لدالة التوزيع التراكميFX{\displaystyle F_{X}}لX{\displaystyle X}ويو{\displaystyle U}موحد في[0،1]{\displaystyle [0,1]}[ 3 ]​

بالنسبة للمتغيرات العشوائية المستمرة ، فإن تحويل التكامل الاحتمالي العكسي هو في الواقع معكوس تحويل التكامل الاحتمالي ، والذي ينص على أنه بالنسبة لمتغير عشوائي مستمرX{\displaystyle X}باستخدام دالة التوزيع التراكميFX{\displaystyle F_{X}}المتغير العشوائييو=FX(X){\displaystyle U=F_{X}(X)}موحد في​[0،1]{\displaystyle [0,1]}.

رسم بياني لتقنية الانعكاس منx{\displaystyle x}لF(x){\displaystyle F(x)}في أسفل اليمين نرى الدالة العادية وفي أعلى اليسار معكوسها.

حدس

منيو∼يونأناو[0،1]{\displaystyle U\sim \mathrm {Unif} [0,1]}نريد أن نولدX{\displaystyle X}مع CDFFX(x).{\displaystyle F_{X}(x).}نفترضFX(x){\displaystyle F_{X}(x)}أن تكون دالة متصلة ومتزايدة تمامًا ، مما يوفر حدسًا جيدًا.

نريد أن نرى ما إذا كان بإمكاننا إيجاد تحويل رتيب تمامًاتي:[0،1]↦R{\displaystyle T:[0,1]\mapsto \mathbb {R} }بحيثتي(يو)=دX{\displaystyle T(U){\overset {d}{=}}X}سيكون لدينا

FX(x)=برو(X≤x)=برو(تي(يو)≤x)=برو(يو≤تي-1(x))=تي-1(x)، ل x∈R،{\displaystyle F_{X}(x)=\Pr(X\leq x)=\Pr(T(U)\leq x)=\Pr(U\leq T^{-1}(x))=T^{-1}(x),{\text{ لـ }}x\in \mathbb {R} ,}

حيث استخدمت الخطوة الأخيرة ذلكبرو(يو≤y)=y{\displaystyle \Pr(U\leq y)=y}متىيو{\displaystyle U}موحد في[0،1]{\displaystyle [0,1]}.

وهكذا حصلناFX{\displaystyle F_{X}}لتكون الدالة العكسية لـتي{\displaystyle T}أو، على نحو مماثلتي(u)=FX-1(u)،u∈[0،1].{\displaystyle T(u)=F_{X}^{-1}(u),u\in [0,1].}

لذلك، يمكننا توليدX{\displaystyle X}منFX-1(يو).{\displaystyle F_{X}^{-1}(U).}

الطريقة

رسم تخطيطي لأخذ العينات بالتحويل العكسي. الدالة العكسية لـy=FX(x){\displaystyle y=F_{X}(x)}يمكن تعريفها بواسطةFX-1(y)=أنانو{x|FX(x)≥y}{\displaystyle F_{X}^{-1}(y)=\mathrm {inf} \{x|F_{X}(x)\geq y\}}.
رسم متحرك يوضح كيف تولد عملية أخذ العينات بالتحويل العكسي قيمًا عشوائية موزعة توزيعًا طبيعيًا من قيم عشوائية موزعة توزيعًا منتظمًا

تتمثل المشكلة التي تحلها طريقة أخذ العينات بالتحويل العكسي فيما يلي:

تعمل طريقة أخذ العينات بالتحويل العكسي على النحو التالي:

  1. قم بتوليد رقم عشوائيu{\displaystyle u}من التوزيع المنتظم القياسي في الفترة[0،1]{\displaystyle [0,1]}أي منيو∼يونأناو[0،1].{\displaystyle U\sim \mathrm {Unif} [0,1].}
  2. أوجد المعكوس المعمم لدالة التوزيع التراكمي المطلوبة، أيFX-1(u){\displaystyle F_{X}^{-1}(u)}.
  3. الحوسبةX′(u)=FX-1(u){\displaystyle X'(u)=F_{X}^{-1}(u)}المتغير العشوائي المحسوبX′(يو){\displaystyle X'(U)}يتم توزيعهاFX{\displaystyle F_{X}}وبالتالي نفس القانون كماX{\displaystyle X}.

وبعبارة أخرى، بالنظر إلى دالة التوزيع التراكميFX{\displaystyle F_{X}}ومتغير موحديو∈[0،1]{\displaystyle U\in [0,1]}المتغير العشوائيX=FX-1(يو){\displaystyle X=F_{X}^{-1}(U)}لديها التوزيعFX{\displaystyle F_{X}}[ 3 ]​

في الحالة المستمرة، يمكن معالجة هذه الدوال العكسية ككائنات تحقق المعادلات التفاضلية. [ 4 ] بعض هذه المعادلات التفاضلية تقبل حلولاً صريحة على شكل متسلسلات قوى ، على الرغم من عدم خطيتها. [ 5 ]

أمثلة

  • على سبيل المثال، لنفترض أن لدينا متغيرًا عشوائيًايو∼يونأناو(0،1){\displaystyle U\sim \mathrm {Unif} (0,1)}ودالة التوزيع التراكمي
F(x)=1-خبرة⁡(-x){\displaystyle {\begin{aligned}F(x)=1-\exp(-{\sqrt {x}})\end{aligned}}}
لإجراء عملية عكسية، نريد حل المعادلة التالية:F(F-1(u))=u{\displaystyle F(F^{-1}(u))=u}
F(F-1(u))=u1-خبرة⁡(-F-1(u))=uF-1(u)=(-سجل⁡(1-u))2=(سجل⁡(1-u))2{\displaystyle {\begin{aligned}F(F^{-1}(u))&=u\\1-\exp \left(-{\sqrt {F^{-1}(u)}}\right)&=u\\F^{-1}(u)&=(-\log(1-u))^{2}\\&=(\log(1-u))^{2}\end{aligned}}}
ومن هنا سنقوم بتنفيذ الخطوات الأولى والثانية والثالثة.
  • كمثال آخر، نستخدم التوزيع الأسي معFX(x)=1-هـ-λx{\displaystyle F_{X}(x)=1-e^{-\lambda x}}لـ x ≥ 0 (و 0 فيما عدا ذلك). بحل المعادلة y = F(x) نحصل على الدالة العكسية
x=F-1(y)=-1λln⁡(1-y).{\displaystyle x=F^{-1}(y)=-{\frac {1}{\lambda }}\ln(1-y).}
هذا يعني أنه إذا رسمنا بعضy0{\displaystyle y_{0}}منيو∼يونأناو(0،1){\displaystyle U\sim \mathrm {Unif} (0,1)}واحسبx0=FX-1(y0)=-1λln⁡(1-y0)،{\displaystyle x_{0}=F_{X}^{-1}(y_{0})=-{\frac {1}{\lambda }}\ln(1-y_{0}),}هذاx0{\displaystyle x_{0}}له توزيع أسي.
تتضح الفكرة في الرسم البياني التالي:
يتم توليد أعداد عشوائية yᵢ من توزيع منتظم بين 0 و1، أي Y ~ U(0, 1). ويتم تمثيلها كنقاط ملونة على المحور y. يتم تمثيل كل نقطة وفقًا للمعادلة x = F − 1 (y)، والموضحة بأسهم رمادية لنقطتين كمثال. في هذا المثال، استخدمنا التوزيع الأسي. وبالتالي، بالنسبة لـ x ≥ 0، تكون دالة كثافة الاحتمال هيϱX(x)=λهـ-λx{\displaystyle \varrho _{X}(x)=\lambda e^{-\lambda \,x}}ودالة التوزيع التراكمي هيF(x)=1-هـ-λx{\displaystyle F(x)=1-e^{-\lambda \,x}}. لذلك،x=F-1(y)=-ln⁡(1-y)λ{\displaystyle x=F^{-1}(y)=-{\frac {\ln(1-y)}{\lambda }}}يمكننا أن نرى أنه باستخدام هذه الطريقة، ينتهي المطاف بالعديد من النقاط بالقرب من الصفر، وينتهي المطاف بعدد قليل فقط من النقاط بقيم x عالية - تمامًا كما هو متوقع للتوزيع الأسي.
لاحظ أن التوزيع لا يتغير إذا بدأنا بـ 1-y بدلاً من y. ولأغراض الحساب، يكفي توليد أعداد عشوائية y في الفترة [0، 1] ثم حسابها ببساطة.
x=F-1(y)=-1λln⁡(y).{\displaystyle x=F^{-1}(y)=-{\frac {1}{\lambda }}\ln(y).}

إثبات صحة النتائج

يتركF{\displaystyle F}لتكن دالة التوزيع التراكمي ، ولتكنF-1{\displaystyle F^{-1}}لتكن دالتها العكسية المعممة (باستخدام الحد الأدنى لأن دوال التوزيع التراكمي رتيبة بشكل ضعيف ومستمرة من اليمين ): [ 6 ]

F-1(u)=معلومات{x|F(x)≥u}(0<u<1).{\displaystyle F^{-1}(u)=\inf \;\{x\mid F(x)\geq u\}\qquad (0<u<1).}

الادعاء: إذايو{\displaystyle U}متغير عشوائي منتظم على[0،1]{\displaystyle [0,1]}ثمF-1(يو){\displaystyle F^{-1}(U)}لديهF{\displaystyle F}كدالة توزيعها التراكمية.

دليل:

برو(F-1(يو)≤x)=برو(يو≤F(x))(F هي دالة متصلة من اليمين، لذا {u:F-1(u)≤x}={u:u≤F(x)})=F(x)(لأن برو(يو≤u)=u، متى يو موحد في [0،1]){\displaystyle {\begin{aligned}&\Pr(F^{-1}(U)\leq x)\\&{}=\Pr(U\leq F(x))\quad &(F{\text{ is right-continuous, so }}\{u:F^{-1}(u)\leq x\}=\{u:u\leq F(x)\})\\&{}=F(x)\quad &({\text{because }}\Pr(U\leq u)=u,{\text{ when }}U{\text{ is uniform on }}[0,1])\\\end{aligned}}}

توزيع مختصر

يمكن ببساطة توسيع نطاق أخذ العينات بالتحويل العكسي ليشمل حالات التوزيعات المقتطعة على الفترة(أ،ب]{\displaystyle (a,b]}دون تكلفة أخذ عينات الرفض: يمكن اتباع نفس الخوارزمية، ولكن بدلاً من توليد رقم عشوائيu{\displaystyle u}موزعة بشكل منتظم بين 0 و1، توليدu{\displaystyle u}موزعة بشكل منتظم بينF(أ){\displaystyle F(a)}وF(ب){\displaystyle F(b)}ثم خذ مرة أخرىF-1(u){\displaystyle F^{-1}(u)}.

تقليل عدد الانقلابات

للحصول على عدد كبير من العينات، يلزم إجراء نفس العدد من عمليات عكس التوزيع. إحدى الطرق الممكنة لتقليل عدد عمليات العكس مع الحصول على عدد كبير من العينات هي تطبيق ما يُسمى بأخذ عينات مونت كارلو بالتجميع العشوائي (SCMC sampler) ضمن إطار توسيع الفوضى متعدد الحدود . يتيح لنا هذا توليد أي عدد من عينات مونت كارلو ببضع عمليات عكس فقط للتوزيع الأصلي باستخدام عينات مستقلة لمتغير تتوفر عمليات عكسه تحليليًا، مثل متغير التوزيع الطبيعي القياسي. [ 7 ]

تطبيقات البرمجيات

تتوفر تطبيقات برمجية لتطبيق طريقة المعاينة العكسية باستخدام تقريبات عددية للمعكوس في حال عدم توفره بصيغة مغلقة. على سبيل المثال، يمكن حساب تقريب للمعكوس إذا قدم المستخدم بعض المعلومات حول التوزيعات، مثل دالة كثافة الاحتمال [ 8 ] أو دالة التوزيع التراكمي.

انظر أيضاً

مراجع

  1. ↑ لوك ديفروي (1986). توليد المتغيرات العشوائية غير المنتظمة (ملف PDF) . نيويورك: سبرينغر-فيرلاغ. مؤرشف من الأصل (ملف PDF) بتاريخ 18 أغسطس 2014. تم الاطلاع عليه بتاريخ 12 أبريل 2012 .
  2. ↑ "R: توليد الأرقام العشوائية" .
  3. 1 2 ماكنيل، ألكسندر جيه؛ فراي، روديجر؛ إمبريشتس، بول (2005). إدارة المخاطر الكمية . سلسلة برينستون في التمويل. مطبعة جامعة برينستون، برينستون، نيوجيرسي. ص 186. ISBN  0-691-12255-5.
  4. ↑ شتاينبريكر، جيورجي؛ شو، ويليام ت. (19 مارس 2008). "ميكانيكا الكميات". المجلة الأوروبية للرياضيات التطبيقية . 19 (2): 87-112 . doi : 10.1017/S0956792508007341 . S2CID 6899308 . 
  5. ↑ أريج، سيمون؛ ماس، بيتر؛ أوكتيم، أوزان؛ شونليب، كارولا-بيبيان (2019). "حل المسائل العكسية باستخدام النماذج القائمة على البيانات" . أكتا نوميريكا . 28 : 1-174 . doi : 10.1017/S0962492919000059 . ISSN 0962-4929 . S2CID 197480023 .  
  6. ↑ لوك ديفروي (1986). "القسم 2.2. الانعكاس بواسطة الحل العددي لـ F ( X ) = U " (ملف PDF) . توليد المتغيرات العشوائية غير المنتظمة . نيويورك: سبرينغر-فيرلاغ.  
  7. ↑ إل إيه غرزيلاك، جيه إيه إس ويتفين، إم سواريز، وسي دبليو أوسترلي. خوارزمية مونت كارلو للتجميع العشوائي: أخذ عينات عالي الكفاءة من التوزيعات "المكلفة". https://ssrn.com/abstract=2529691
  8. ↑ ديرفلينجر، جيرهارد؛ هورمان، فولفغانغ؛ ليدولد، جوزيف (2010). "توليد متغيرات عشوائية عن طريق الانعكاس العددي عندما تكون الكثافة فقط معروفة" (ملف PDF) . معاملات ACM في النمذجة والمحاكاة الحاسوبية . 20 (4). doi : 10.1145/945511.945517 .
  9. ↑ "UNU.RAN - مولدات الأرقام العشوائية غير المنتظمة العالمية" .
  10. ↑ "Runuran: واجهة R لمولدات المتغيرات العشوائية 'UNU.RAN'" . 17 يناير 2023.
  11. ↑ "مولدات الأرقام العشوائية (Scipy.stats.sampling) — دليل SciPy الإصدار 1.12.0" .
  12. ↑ باومغارتن، كريستوف؛ باتيل، تيرث (2022). "التوليد التلقائي للمتغيرات العشوائية في بايثون". وقائع المؤتمر الحادي والعشرين لبايثون في العلوم . الصفحات 46-51 . doi : 10.25080/majora-212e5952-007 .