الترشيح المعمم

الهدف هو تقريب الكثافة الاحتمالية اللاحقة للحالات المخفية وحالات التحكم، بالنظر إلى حالات المستشعر ونموذج توليدي – وتقدير (التكامل المساري لـ) دليل النموذج${\displaystyle p({\tilde {s}}(t)\vert m)}$لمقارنة النماذج المختلفة. يتضمن هذا عادةً عملية تهميش معقدة للحالات الخفية، لذا يتم استبدال دليل النموذج (أو الاحتمالية الهامشية) بحد طاقة حرة متغيرة. ^{[ 5 ]} بالنظر إلى التعريفات التالية:

${\displaystyle {\tilde {\mu }}(t)={\underset {\tilde {\mu }}{\operatorname {arg\,min} }}\{F({\tilde {s}}(t),{\tilde {\mu }})\}}$

${\displaystyle G({\tilde {s}},{\tilde {x}},{\tilde {u}})=-\ln p({\tilde {s}},{\tilde {x}},{\tilde {u}}\vert m)}$

لنرمز إلى إنتروبيا شانون للكثافة${\displaystyle q}$بواسطة${\displaystyle H[q]=E_{q}[-\log(q)]}$يمكننا بعد ذلك كتابة الطاقة الحرة المتغيرة بطريقتين:

${\displaystyle F({\tilde {s}},{\tilde {\mu }})=E_{q}[G({\tilde {s}},{\tilde {x}},{\tilde {u}})]-H[q({\tilde {x}},{\tilde {u}}\vert {\tilde {\mu }})]=-\ln p({\tilde {s}}\vert m)+D_{KL[q({\tilde {x}},{\tilde {u}}\vert {\tilde {\mu }})\vert \vert p({\tilde {x}},{\tilde {u}}\vert {\tilde {s}},m)]}$

تُظهر المساواة الثانية أن تقليل الطاقة الحرة التباينية (أ) يقلل من تباعد كولباك-لايبير بين الكثافة الاحتمالية الخلفية التباينية والحقيقية، و(ب) يجعل الطاقة الحرة التباينية (تقريبًا محدودًا) دليل اللوغاريتم السالب (لأن التباعد لا يمكن أن يكون أقل من الصفر أبدًا). ^{​​[ 6 ]} في ظل فرضية لابلاس${\displaystyle q({\tilde {x}},{\tilde {u}}\mid {\tilde {\mu }})={\mathcal {N}}({\tilde {\mu }},C)}$الكثافة التباينية غاوسية، والدقة التي تقلل الطاقة الحرة هي${\displaystyle C^{-1}=\Pi =\partial _{{\tilde {\mu }}{\tilde {\mu }}}G({\tilde {\mu }})}$وهذا يعني أنه يمكن التعبير عن الطاقة الحرة بدلالة المتوسط ​​التبايني ^{[ 7 ]} (مع حذف الثوابت):

${\displaystyle F=G({\tilde {\mu }})+\textstyle {1 \over 2}\ln \vert \partial _{{\tilde {\mu }}{\tilde {\mu }}}G({\tilde {\mu }})\vert }$

يمكن الآن استعادة الوسائل التباينية التي تقلل من (تكامل المسار) للطاقة الحرة عن طريق حل المرشح المعمم:

${\displaystyle {\dot {\tilde {\mu }}}=D{\tilde {\mu }}-\partial _{\tilde {\mu }}F({\tilde {s}},{\tilde {\mu }})}$

أين${\displaystyle D}$هو عامل اشتقاق المصفوفات الكتلية لمصفوفات الوحدة بحيث${\displaystyle D{\tilde {u}}=[u',u'',\ldots ]^{T}}$

تعتمد عملية الترشيح المعممة على اللمة التالية: الحل المتسق ذاتيًا لـ${\displaystyle {\dot {\tilde {\mu }}}=D{\tilde {\mu }}-\partial _{\tilde {\mu }}F(s,{\tilde {\mu }})}$يفي بمبدأ التغير للفعل الثابت ، حيث يكون الفعل هو التكامل المساري للطاقة الحرة المتغيرة

${\displaystyle S=\int dt\,F({\tilde {s}}(t),{\tilde {\mu }}(t))}$

البرهان : يتطلب الاتساق الذاتي أن تكون حركة المتوسط ​​هي متوسط ​​الحركة (وبحسب اللمة الأساسية لحساب التفاضل والتكامل التغيري )

${\displaystyle {\dot {\tilde {\mu }}}=D{\tilde {\mu }}\Leftrightarrow \partial _{\tilde {\mu }}F({\tilde {s}},{\tilde {\mu }})=0\Leftrightarrow \delta _{\tilde {\mu }}S=0}$

ببساطة، الاضطرابات الصغيرة في مسار المتوسط ​​لا تغير الطاقة الحرة المتغيرة، ولها أقل تأثير من بين جميع المسارات (المحلية) الممكنة.

ملاحظات : من الناحية الاستدلالية، يقوم الترشيح المعمم بإجراء عملية هبوط التدرج على الطاقة الحرة المتغيرة في إطار مرجعي متحرك:${\displaystyle {\dot {\tilde {\mu }}}-D{\tilde {\mu }}=-\partial _{\tilde {\mu }}F(s,{\tilde {\mu }})}$حيث يقلل الإطار نفسه من الطاقة الحرة المتغيرة. وللحصول على مثال ذي صلة في الفيزياء الإحصائية، انظر كير وغراهام ^{[ 8 ]} اللذين يستخدمان ديناميكيات المجموعة في الإحداثيات المعممة لتقديم نسخة معممة من فضاء الطور لمعادلات لانجفين ومعادلات فوكر-بلانك المرتبطة بها.

من الناحية العملية، تستخدم عملية الترشيح المعممة التخطيط الخطي المحلي ^{[ 9 ]} على فترات زمنية${\displaystyle \Delta t}$لاستعادة التحديثات المنفصلة

${\displaystyle {\begin{aligned}\Delta {\tilde {\mu }}&=(\exp(\Delta t\cdot J)-I)J^{-1}{\dot {\tilde {\mu }}}\\J&=\partial _{\tilde {\mu }}{\dot {\tilde {\mu }}}=D-\partial _{{\tilde {\mu }}{\tilde {\mu }}}F({\tilde {s}},{\tilde {\mu }})\end{aligned}}}$

يقوم هذا بتحديث متوسطات المتغيرات الخفية في كل فاصل زمني (عادةً ما يكون الفاصل الزمني بين الملاحظات).

عندما تُلاحظ السلاسل الزمنية كسلسلة منفصلة من${\displaystyle N}$في الملاحظات، يتم التعامل مع أخذ العينات الضمني كجزء من العملية التوليدية، حيث (باستخدام نظرية تايلور )

${\displaystyle [s_{1},\dots ,s_{N}]^{T}=(E\otimes I)\cdot {\tilde {s}}(t):\qquad E_{ij}={\frac {(i-t)^{(j-1)}}{(j-1)!}}}$

من حيث المبدأ، يمكن استخدام التسلسل بأكمله لتقدير المتغيرات الخفية عند كل نقطة زمنية. مع ذلك، تتراجع دقة العينات في الماضي والمستقبل بسرعة، ويمكن تجاهلها. يسمح هذا للخوارزمية بدمج البيانات بشكل فوري، باستخدام الملاحظات المحلية حول كل نقطة زمنية (عادةً ما بين نقطتين وثماني نقاط).

بالنسبة لأي معلمات نموذجية متغيرة ببطء لمعادلات الحركة${\displaystyle f(x,u,\theta )}$أو الدقة${\displaystyle {\tilde {\Pi }}(x,u,\theta )}$تأخذ عملية الترشيح المعممة الشكل التالي (حيث${\displaystyle \mu }$(يتوافق مع المتوسط ​​التبايني للمعاملات)

${\displaystyle {\begin{aligned}{\dot {\mu }}&=\mu '\\{\dot {\mu '}}&=-\partial _{\mu }F({\tilde {s}},\mu )-\kappa \mu '\end{aligned}}}$

الحل هنا${\displaystyle {\dot {\tilde {\mu }}}=0}$يُقلل من الطاقة الحرة المتغيرة، عندما تكون حركة المتوسط ​​صغيرة. ويمكن ملاحظة ذلك من خلال ملاحظة${\displaystyle {\dot {\mu }}={\dot {\mu }}'=0\Rightarrow \partial _{\mu }F=0\Rightarrow \delta _{\mu }S=0}$من السهل إثبات أن هذا الحل يتوافق مع تحديث نيوتن الكلاسيكي . ^{[ 11 ]}

يُعادل الترشيح الكلاسيكي في ظل افتراضات ماركوف أو وينر افتراض أن دقة حركة التقلبات العشوائية تساوي صفرًا. في هذه الحالة الحدية، يكفي النظر في الحالات ومشتقاتها الأولى.${\displaystyle {\tilde {\mu }}=(\mu ,{\mu }')}$وهذا يعني أن الترشيح المعمم يأخذ شكل مرشح كالمان-بوسي، مع مصطلحات التنبؤ والتصحيح:

${\displaystyle {\begin{aligned}{\dot {\mu }}&=\mu '-\partial _{\mu }F(s,{\tilde {\mu }})\\{\dot {\mu '}}&=-\partial _{\mu '}F(s,{\tilde {\mu }})\end{aligned}}}$

يؤدي استبدال هذا الترشيح من الدرجة الأولى في مخطط التحديث المنفصل أعلاه إلى الحصول على ما يعادل ترشيح كالمان (الموسع). ^{[ 12 ]}

ترشيح الجسيمات هو أسلوب يعتمد على أخذ العينات، ويتخلى عن الافتراضات المتعلقة بشكل الكثافة الاحتمالية التقريبية أو التباينية. يُطلق على أسلوب الترشيح المعمم المقابل اسم الترشيح التبايني . ^{[ 3 ]} في الترشيح التبايني، تنتشر مجموعة من الجسيمات على سطح طاقة جيبس ​​الحرة في إطار مرجعي يتحرك مع الحركة المتوقعة (المعممة) للمجموعة. يوفر هذا أسلوبًا بسيطًا نسبيًا يتجنب افتراضات التوزيع الغاوسي (أحادي النمط). على عكس ترشيح الجسيمات، لا يتطلب الترشيح التبايني كثافات اقتراح، أو حذف الجسيمات أو إنشائها.

تعتمد طريقة بايز التباينية على تقسيم المجال المتوسط ​​للكثافة التباينية:

${\displaystyle q({\tilde {x}},{\tilde {u}},\theta \dots \vert {\tilde {\mu }},\mu )=q({\tilde {x}},{\tilde {u}}\vert {\tilde {\mu }})q(\theta \vert \mu )\dots }$

يُؤدي هذا التقسيم إلى تحديث أو خطوة تباينية لكل كثافة هامشية، والتي تُحل عادةً تحليليًا باستخدام التوزيعات الاحتمالية المسبقة المترافقة. في الترشيح المعمم، يُؤدي هذا إلى تعظيم التوقع الديناميكي ^{[ 4 ]} الذي يتضمن خطوة D لتحسين الإحصائيات الكافية للحالات غير المعروفة، وخطوة E للمعاملات، وخطوة M للدقة.

تُستخدم عملية الترشيح المعممة عادةً لعكس النماذج الهرمية ذات الشكل التالي

${\displaystyle {\begin{aligned}{\tilde {s}}&={\tilde {g}}^{1}({\tilde {x}}^{1},{\tilde {u}}^{(1)})+{\tilde {\omega }}_{s}^{(1)}\\{\dot {\tilde {x}}}^{(1)}&={\tilde {f}}^{(1)}({\tilde {x}}^{(1)},{\tilde {u}}^{(1)})+{\tilde {\omega }}_{x}^{(1)}\\\vdots \\{\tilde {u}}^{(i-1)}&={\tilde {g}}^{(i)}({\tilde {x}}^{(i)},{\tilde {u}}^{(i)})+{\tilde {\omega }}_{u}^{(i)}\\{\dot {\tilde {x}}}^{(i)}&={\tilde {f}}^{(i)}({\tilde {x}}^{(i)},{\tilde {u}}^{(i)})+{\tilde {\omega }}_{x}^{(i)}\\\vdots \end{aligned}}}$

يمكن بعد ذلك التعبير عن عملية التدرج المعمم اللاحقة على الطاقة الحرة بشكل مختصر من حيث أخطاء التنبؤ، حيث (مع حذف الحدود ذات الرتبة العالية):

${\displaystyle {\begin{aligned}{\dot {\tilde {\mu }}}_{u}^{(i)}&=D{\tilde {\mu }}^{(u,i)}-\partial _{u}{\tilde {\varepsilon }}^{(i)}\cdot \Pi ^{(i)}{\tilde {\varepsilon }}^{(i)}-\Pi ^{(i+1)}{\tilde {\varepsilon }}_{u}^{(i+1)}\\{\dot {\tilde {\mu }}}_{x}^{(i)}&=D{\tilde {\mu }}^{(x,i)}-\partial _{x}{\tilde {\varepsilon }}^{(i)}\cdot \Pi ^{(i)}{\tilde {\varepsilon }}^{(i)}\\\\{\tilde {\varepsilon }}_{u}^{(i)}&={\tilde {\mu }}_{u}^{(i-1)}-{\tilde {g}}^{(i)}\\{\tilde {\varepsilon }}_{x}^{(i)}&=D{\tilde {\mu }}_{x}^{(i)}-{\tilde {f}}^{(i)}\end{aligned}}}$

هنا،${\displaystyle \Pi ^{(i)}}$تمثل دقة التقلبات العشوائية عند المستوى i . يُعرف هذا باسم الترميز التنبؤي المعمم [11]، مع اعتبار الترميز التنبؤي الخطي حالة خاصة منه.