خوارزمية التسجيل

خوارزمية التسجيل ، والمعروفة أيضًا باسم تسجيل فيشر ، [ 1 ] هي شكل من أشكال طريقة نيوتن المستخدمة في الإحصاء لحل معادلات الاحتمال الأقصى عدديًا ، سميت على اسم رونالد فيشر .

مخطط الاشتقاق

يتركY1،...،Yن{\displaystyle Y_{1},\ldots ,Y_{n}}لتكن متغيرات عشوائية ، مستقلة وموزعة توزيعًا متطابقًا، ولها دالة كثافة احتمالية قابلة للتفاضل مرتينو(y؛θ){\displaystyle f(y;\theta )}ونرغب في حساب مقدر الاحتمال الأقصى (MLE).θ*{\displaystyle \theta ^{*}}لθ{\displaystyle \theta }أولاً، لنفترض أن لدينا نقطة بداية لخوارزميتناθ0{\displaystyle \theta _{0}}، ولنأخذ في الاعتبار توسيع تايلور لدالة النتيجة ،V(θ){\displaystyle V(\theta )}، عنθ0{\displaystyle \theta _{0}}:

V(θ)V(θ0)-ج(θ0)(θ-θ0)،{\displaystyle V(\theta )\approx V(\theta _{0})-{\mathcal {J}}(\theta _{0})(\theta -\theta _{0}),\,}

أين

ج(θ0)=-أنا=1ن|θ=θ0سجلو(Yأنا؛θ){\displaystyle {\mathcal {J}}(\theta _{0})=-\sum _{i=1}^{n}\left.\nabla \nabla ^{\top }\right|_{\theta =\theta _{0}}\log f(Y_{i};\theta )}

هي مصفوفة المعلومات المرصودة عندθ0{\displaystyle \theta _{0}}الآن، الإعدادθ=θ*{\displaystyle \theta =\theta ^{*}}، باستخدام ذلكV(θ*)=0{\displaystyle V(\theta ^{*})=0}وإعادة الترتيب تعطينا:

θ*θ0+ج-1(θ0)V(θ0).{\displaystyle \theta ^{*}\approx \theta _{0}+{\mathcal {J}}^{-1}(\theta _{0})V(\theta _{0}).\,}

لذلك نستخدم الخوارزمية

θم+1=θم+ج-1(θم)V(θم)،{\displaystyle \theta _{m+1}=\theta _{m}+{\mathcal {J}}^{-1}(\theta _{m})V(\theta _{m}),\,}

وفي ظل شروط انتظام معينة، يمكن إثبات أنθمθ*{\displaystyle \theta _{m}\rightarrow \theta ^{*}}.

تسجيل فيشر

عملياً،ج(θ){\displaystyle {\mathcal {J}}(\theta )}عادة ما يتم استبدالها بـأنا(θ)=هـ[ج(θ)]{\displaystyle {\mathcal {I}}(\theta )=\mathrm {E} [{\mathcal {J}}(\theta )]}، معلومات فيشر ، مما يعطينا خوارزمية تسجيل فيشر :

θم+1=θم+أنا-1(θم)V(θم){\displaystyle \theta _{m+1}=\theta _{m}+{\mathcal {I}}^{-1}(\theta _{m})V(\theta _{m})}..

في ظل بعض شروط الانتظام، إذاθم{\displaystyle \theta _{m}}إذا كان مقدرًا متسقًا ، فإنθم+1{\displaystyle \theta _{m+1}}(التصحيح بعد خطوة واحدة) هو "الأمثل" بمعنى أن توزيع الخطأ فيه مطابق تقريبًا لتوزيع الخطأ في تقدير الاحتمال الأقصى الحقيقي. [ 2 ]

انظر أيضاً

مراجع

  1. لونغفورد، نيكولاس ت. (1987). "خوارزمية تسجيل سريعة لتقدير الاحتمال الأقصى في النماذج المختلطة غير المتوازنة ذات التأثيرات العشوائية المتداخلة". Biometrika . 74 (4): 817–827 . doi : 10.1093/biomet/74.4.817 .
  2. لي، بينغ؛ بابو، جي. جوجيش (2019)، "الاستدلال البايزي" ، نصوص سبرينغر في الإحصاء ، نيويورك، نيويورك: سبرينغر نيويورك، النظرية 9.4، doi : 10.1007/978-1-4939-9761-9_6 ، ISBN 978-1-4939-9759-6، S2CID 239322258 ، تم الاسترجاع في 2023-01-03 

للمزيد من القراءة