البرمجة البايزية

البرمجة البايزية هي شكلية ومنهجية للحصول على تقنية لتحديد النماذج الاحتمالية وحل المشكلات عندما تكون المعلومات المتاحة أقل من المعلومات اللازمة.

اقترح إدوين تي. جاينز أن الاحتمالية يمكن اعتبارها بديلاً وامتداداً للمنطق في الاستدلال العقلاني في ظل معلومات غير كاملة وغير مؤكدة. في كتابه التأسيسي " نظرية الاحتمالات: منطق العلم" [ 1 طوّر هذه النظرية واقترح ما أسماه "الروبوت"، وهو ليس جهازاً مادياً، بل محرك استدلال لأتمتة الاستدلال الاحتمالي - نوع من لغة البرمجة "برولوج" للاحتمالية بدلاً من المنطق. البرمجة البايزية [ 2 ] هي تطبيق رسمي وملموس لهذا "الروبوت".

يمكن أيضًا اعتبار البرمجة البايزية شكلاً جبريًا لتحديد النماذج البيانية ، مثل الشبكات البايزية ، والشبكات البايزية الديناميكية ، ومرشحات كالمان ، ونماذج ماركوف المخفية . في الواقع، تُعد البرمجة البايزية أكثر عمومية من الشبكات البايزية، ولها قدرة تعبيرية مكافئة للرسوم البيانية للعوامل الاحتمالية . [ 3 ]

الشكلية

البرنامج البايزي هو وسيلة لتحديد مجموعة من التوزيعات الاحتمالية.

يتم عرض العناصر المكونة لبرنامج بايزي أدناه: [ 4 ]

برنامج{وصف{مواصفة(π){المتغيراتالتحللالنماذجتحديد الهوية (بناءً على دلتا)سؤال{\displaystyle {\text{البرنامج}}{\begin{cases}{\text{الوصف}}{\begin{cases}{\text{المواصفات}}(\pi ){\begin{cases}{\text{المتغيرات}}\\{\text{التحليل}}\\{\text{الصيغ}}\\\end{cases}}\\{\text{التعريف (بناءً على }}\delta )\end{cases}}\\{\text{السؤال}}\end{cases}}}
  1. يتم بناء البرنامج من وصف وسؤال.
  2. يتم إنشاء الوصف باستخدام بعض المواصفات (π{\displaystyle \pi }) كما هو محدد من قبل المبرمج وعملية تحديد أو تعلم المعلمات التي لم يتم تحديدها بالكامل في المواصفات، باستخدام مجموعة بيانات (دلتا{\displaystyle \delta }).
  3. يتم بناء المواصفات من مجموعة من المتغيرات ذات الصلة، والتفكيك، ومجموعة من الأشكال.
  4. تكون النماذج إما نماذج بارامترية أو أسئلة موجهة إلى برامج بايزية أخرى.
  5. يحدد السؤال توزيع الاحتمالات المطلوب حسابه.

وصف

الغرض من الوصف هو تحديد طريقة فعالة لحساب التوزيع الاحتمالي المشترك على مجموعة من المتغيرات{X1،X2،،Xشمال}{\displaystyle \left\{X_{1},X_{2},\cdots ,X_{N}\right\}}بالنظر إلى مجموعة من البيانات التجريبيةدلتا{\displaystyle \delta }وبعض المواصفاتπ{\displaystyle \pi }يُشار إلى هذا التوزيع المشترك على النحو التالي:P(X1X2Xشمال|دلتاπ){\displaystyle P\left(X_{1}\wedge X_{2}\wedge \cdots \wedge X_{N}\mid \delta \wedge \pi \right)}[ 5 ]

لتحديد المعرفة الأوليةπ{\displaystyle \pi }يجب على المبرمج القيام بما يلي:

  1. حدد مجموعة المتغيرات ذات الصلة{X1،X2،،Xشمال}{\displaystyle \left\{X_{1},X_{2},\cdots ,X_{N}\right\}}والتي يتم تعريف التوزيع المشترك عليها.
  2. قم بتحليل التوزيع المشترك (قم بتقسيمه إلى احتمالات مستقلة أو شرطية ذات صلة ).
  3. حدد أشكال كل توزيع من التوزيعات (على سبيل المثال، لكل متغير، واحد من قائمة التوزيعات الاحتمالية ).

التحلل

بافتراض تقسيم{X1،X2،...،Xشمال}{\displaystyle \left\{X_{1},X_{2},\ldots ,X_{N}\right\}}يحتوي علىك{\displaystyle K}المجموعات الفرعية،ك{\displaystyle K}يتم تعريف المتغيرات ل1،،لك{\displaystyle L_{1},\cdots ,L_{K}}، كل منها يتوافق مع إحدى هذه المجموعات الفرعية. كل متغيرلك{\displaystyle L_{k}}يتم الحصول عليها من خلال اقتران المتغيرات{Xك1،Xك2،}{\displaystyle \left\{X_{k_{1}},X_{k_{2}},\cdots \right\}} ينتمي إلىكتح{\displaystyle k^{th}}مجموعة جزئية. يؤدي التطبيق المتكرر لنظرية بايز إلى:

P(X1X2Xشمال|دلتاπ)=P(ل1لك|دلتاπ)=P(ل1|دلتاπ)×P(ل2|ل1دلتاπ)××P(لك|لك-1ل1دلتاπ){\displaystyle {\begin{aligned}&P\left(X_{1}\wedge X_{2}\wedge \cdots \wedge X_{N}\mid \delta \wedge \pi \right)\\={}&P\left(L_{1}\wedge \cdots \wedge L_{K}\mid \delta \wedge \pi \right)\\={}&P\left(L_{1}\mid \delta \wedge \pi \right)\times P\left(L_{2}\mid L_{1}\wedge \delta \wedge \pi \right)\times \cdots \times P\left(L_{K}\mid L_{K-1}\wedge \cdots \wedge L_{1}\wedge \delta \wedge \pi \right)\end{aligned}}}

تسمح فرضيات الاستقلال الشرطي بمزيد من التبسيطات. فرضية الاستقلال الشرطي للمتغيرلك{\displaystyle L_{k}}يتم تحديده عن طريق اختيار متغير ماXن{\displaystyle X_{n}} من بين المتغيرات التي تظهر في الاقترانلك-1ل2ل1{\displaystyle L_{k-1}\wedge \cdots \wedge L_{2}\wedge L_{1}}، وضع العلاماتRك{\displaystyle R_{k}}باعتبارها اقترانًا لهذه المتغيرات المختارة والإعداد:

P(لك|لك-1ل1دلتاπ)=P(لك|Rكدلتاπ){\displaystyle P\left(L_{k}\mid L_{k-1}\wedge \cdots \wedge L_{1}\wedge \delta \wedge \pi \right)=P\left(L_{k}\mid R_{k}\wedge \delta \wedge \pi \right)}

ثم نحصل على:

P(X1X2Xشمال|دلتاπ)=P(ل1|دلتاπ)×P(ل2|R2دلتاπ)××P(لك|Rكدلتاπ){\displaystyle {\begin{aligned}&P\left(X_{1}\wedge X_{2}\wedge \cdots \wedge X_{N}\mid \delta \wedge \pi \right)\\={}&P\left(L_{1}\mid \delta \wedge \pi \right)\times P\left(L_{2}\mid R_{2}\wedge \delta \wedge \pi \right)\times \cdots \times P\left(L_{K}\mid R_{K}\wedge \delta \wedge \pi \right)\end{aligned}}}

يُطلق على هذا التبسيط للتوزيع المشترك باعتباره ناتجًا لتوزيعات أبسط اسم التفكيك، ويتم اشتقاقه باستخدام قاعدة السلسلة .

يضمن هذا أن يظهر كل متغير مرة واحدة على الأكثر على يسار شريط التكييف، وهو الشرط الضروري والكافي لكتابة تحليلات صحيحة رياضياً. [ 6 ]

النماذج

كل توزيعP(لك|Rكدلتاπ){\displaystyle P\left(L_{k}\mid R_{k}\wedge \delta \wedge \pi \right)}ثم يرتبط ظهورها في المنتج إما بصيغة بارامترية (أي دالة).وμ(لك){\displaystyle f_{\mu }\left(L_{k}\right)}) أو سؤال لبرنامج بايزي آخرP(لك|Rكدلتاπ)=P(ل|Rدلتا^π^){\displaystyle P\left(L_{k}\mid R_{k}\wedge \delta \wedge \pi \right)=P\left(L\mid R\wedge {\widehat {\delta }}\wedge {\widehat {\pi }}\right)}.

عندما يكون نموذجًاوμ(لك){\displaystyle f_{\mu }\left(L_{k}\right)}، على العموم،μ{\displaystyle \mu }هو متجه من المعاملات التي قد تعتمد علىRك{\displaystyle R_{k}}أودلتا{\displaystyle \delta }أو كلاهما. يحدث التعلم عندما يتم حساب بعض هذه المعلمات باستخدام مجموعة البيانات.دلتا{\displaystyle \delta }.

تتمثل إحدى السمات المهمة للبرمجة البايزية في هذه القدرة على استخدام الأسئلة الموجهة إلى برامج بايزية أخرى كمكونات لتعريف برنامج بايزي جديد.P(لك|Rكدلتاπ){\displaystyle P\left(L_{k}\mid R_{k}\wedge \delta \wedge \pi \right)}يتم الحصول عليها من خلال بعض الاستدلالات التي يقوم بها برنامج بايزي آخر محدد بالمواصفاتπ^{\displaystyle {\widehat {\pi }}}والبياناتدلتا^{\displaystyle {\widehat {\delta }}}يشبه هذا استدعاء روتين فرعي في البرمجة الكلاسيكية ويوفر طريقة سهلة لبناء نماذج هرمية .

سؤال

بناءً على وصف (أي،P(X1X2Xشمال|دلتاπ){\displaystyle P\left(X_{1}\wedge X_{2}\wedge \cdots \wedge X_{N}\mid \delta \wedge \pi \right)}يتم الحصول على السؤال عن طريق التقسيم{X1،X2،،Xشمال}{\displaystyle \left\{X_{1},X_{2},\cdots ,X_{N}\right\}} إلى ثلاث مجموعات: المتغيرات التي تم البحث عنها، والمتغيرات المعروفة، والمتغيرات الحرة.

المتغيرات الثلاثةSهـأرجحهـد{\displaystyle تم البحث}،كنowن{\displaystyle معروف}وFرهـهـ{\displaystyle Free}تُعرَّف بأنها اقتران المتغيرات التي تنتمي إلى هذه المجموعات.

يُعرَّف السؤال بأنه مجموعة التوزيعات:

P(Sهـأرجحهـد|معروفدلتاπ){\displaystyle P\left(Searched\mid {\text{Known}}\wedge \delta \wedge \pi \right)}

يتألف من العديد من "الأسئلة المتجسدة" باعتبارها الأساس لـكنowن{\displaystyle معروف}، حيث يمثل كل سؤال مُجسّد التوزيع التالي:

P(تم البحث|معروفدلتاπ){\displaystyle P\left({\text{Searched}}\mid {\text{Known}}\wedge \delta \wedge \pi \right)}

الاستدلال

بالنظر إلى التوزيع المشتركP(X1X2Xشمال|دلتاπ){\displaystyle P\left(X_{1}\wedge X_{2}\wedge \cdots \wedge X_{N}\mid \delta \wedge \pi \right)}، من الممكن دائمًا حساب أي سؤال محتمل باستخدام الاستدلال العام التالي:

P(تم البحث|معروفدلتاπ)=حر[P(تم البحثحر|معروفدلتاπ)]=حر[P(تم البحثحرمعروف|دلتاπ)]P(معروف|دلتاπ)=حر[P(تم البحثحرمعروف|دلتاπ)]حرتم البحث[P(تم البحثحرمعروف|دلتاπ)]=1Z×حر[P(تم البحثحرمعروف|دلتاπ)]{\displaystyle {\begin{aligned}&P\left({\text{Searched}}\mid {\text{Known}}\wedge \delta \wedge \pi \right)\\={}&\sum _{\text{Free}}\left[P\left({\text{Searched}}\wedge {\text{Free}}\mid {\text{Known}}\wedge \delta \wedge \pi \right)\right]\\={}&{\frac {\displaystyle \sum _{\text{Free}}\left[P\left({\text{Searched}}\wedge {\text{Free}}\wedge {\text{Known}}\mid \delta \wedge \pi \right)\right]}{\displaystyle P\left({\text{Known}}\mid \delta \wedge \pi \right)}}\\={}&{\frac {\displaystyle \sum _{\text{Free}}\left[P\left({\text{Searched}}\wedge {\text{Free}}\wedge {\text{Known}}\mid \delta \wedge \pi \right)\right]}{\displaystyle \sum _{{\text{Free}}\wedge {\text{Searched}}}\left[P\left({\text{Searched}}\wedge {\text{Free}}\wedge {\text{Known}}\mid \delta \wedge \pi \right)\right]}}\\={}&{\frac {1}{Z}}\times \sum _{\text{Free}}\left[P\left({\text{Searched}}\wedge {\text{Free}}\wedge {\text{Known}}\mid \delta \wedge \pi \right)\right]\end{aligned}}}

حيث تنتج المساواة الأولى من قاعدة التهميش، والثانية من نظرية بايز، والثالثة تمثل تطبيقًا ثانيًا للتهميش. ويبدو أن المقام هو حدّ للتطبيع ويمكن استبداله بثابت.Z{\displaystyle Z}.

نظريًا، يسمح هذا بحل أي مشكلة استدلال بايزي. لكن عمليًا، تكون تكلفة الحساب الشامل والدقيق باهظة.P(تم البحث|معروفدلتاπ){\displaystyle P\left({\text{Searched}}\mid {\text{Known}}\wedge \delta \wedge \pi \right)}كبير جدًا في معظم الحالات.

باستبدال التوزيع المشترك بتفكيكه نحصل على:

P(تم البحث|معروفدلتاπ)=1Zحر[ك=1ك[P(لأنا|كأناπ)]]{\displaystyle {\begin{aligned}&P\left({\text{Searched}}\mid {\text{Known}}\wedge \delta \wedge \pi \right)\\={}&{\frac {1}{Z}}\sum _{\text{Free}}\left[\prod _{k=1}^{K}\left[P\left(L_{i}\mid K_{i}\wedge \pi \right)\right]\right]\end{aligned}}}

وهو تعبير أبسط بكثير في الحساب، حيث يتم تقليل أبعاد المشكلة بشكل كبير عن طريق التفكيك إلى ناتج توزيعات ذات أبعاد أقل.

مثال

الكشف عن البريد العشوائي باستخدام بايز

الغرض من تصفية البريد العشوائي باستخدام بايز هو التخلص من رسائل البريد الإلكتروني غير المرغوب فيها.

المشكلة سهلة التحديد. يجب تصنيف رسائل البريد الإلكتروني إلى فئتين: رسائل غير مزعجة ورسائل مزعجة. المعلومة الوحيدة المتاحة لتصنيف هذه الرسائل هي محتواها: مجموعة من الكلمات. يُطلق على استخدام هذه الكلمات دون مراعاة ترتيبها اسم نموذج "حقيبة الكلمات" .

ينبغي أن يكون المصنف قادراً أيضاً على التكيف مع المستخدم والتعلم من التجربة. انطلاقاً من إعدادات قياسية أولية، ينبغي للمصنف تعديل معاييره الداخلية عندما لا يوافق المستخدم على قراره. وبذلك، سيتكيف مع معايير المستخدم للتمييز بين الرسائل الإلكترونية غير المزعجة والمزعجة. وسيُحسّن نتائجه كلما زاد عدد الرسائل الإلكترونية المصنفة التي يواجهها.

المتغيرات

المتغيرات اللازمة لكتابة هذا البرنامج هي كما يلي:

  1. Sصأم{\displaystyle Spam}متغير ثنائي، خطأ إذا لم يكن البريد الإلكتروني بريدًا عشوائيًا، وصواب خلاف ذلك.
  2. دبليو0،دبليو1،...،دبليوشمال-1{\displaystyle W_{0},W_{1},\ldots ,W_{N-1}}:شمال{\displaystyle N}المتغيرات الثنائية .دبليون{\displaystyle W_{n}}صحيح إذا كاننتح{\displaystyle n^{th}}الكلمة الموجودة في القاموس موجودة في النص.

هؤلاءشمال+1{\displaystyle N+1}تُلخص المتغيرات الثنائية جميع المعلومات المتعلقة بالبريد الإلكتروني.

التحلل

انطلاقاً من التوزيع المشترك وتطبيقاً لنظرية بايز بشكل متكرر ، نحصل على:

P(رسائل إلكترونية مزعجةدبليو0دبليوشمال-1)=P(رسائل إلكترونية مزعجة)×P(دبليو0|رسائل إلكترونية مزعجة)×P(دبليو1|رسائل إلكترونية مزعجةدبليو0)××P(دبليوشمال-1|رسائل إلكترونية مزعجةدبليو0دبليوشمال-2){\displaystyle {\begin{aligned}&P({\text{Spam}}\wedge W_{0}\wedge \cdots \wedge W_{N-1})\\={}&P({\text{Spam}})\times P(W_{0}\mid {\text{Spam}})\times P(W_{1}\mid {\text{Spam}}\wedge W_{0})\\&\times \cdots \\&\times P\left(W_{N-1}\mid {\text{Spam}}\wedge W_{0}\wedge \cdots \wedge W_{N-2}\right)\end{aligned}}}

هذا تعبير رياضي دقيق.

يمكن تبسيط الأمر بشكل كبير بافتراض أن احتمال ظهور كلمة ما، مع معرفة طبيعة النص (بريد مزعج أم لا)، مستقل عن ظهور الكلمات الأخرى. هذا هو افتراض بايز البسيط ، وهو ما يجعل مرشح البريد المزعج هذا نموذجًا لبايز البسيط .

على سبيل المثال، يمكن للمبرمج أن يفترض ما يلي:

P(دبليو1|رسائل إلكترونية مزعجةدبليو0)=P(دبليو1|رسائل إلكترونية مزعجة){\displaystyle P(W_{1}\mid {\text{Spam}}\land W_{0})=P(W_{1}\mid {\text{Spam}})}

للحصول في النهاية على:

P(رسائل إلكترونية مزعجةدبليو0...دبليوشمال-1)=P(رسائل إلكترونية مزعجة)ن=0شمال-1[P(دبليون|رسائل إلكترونية مزعجة)]{\displaystyle P({\text{Spam}}\land W_{0}\land \ldots \land W_{N-1})=P({\text{Spam}})\prod _{n=0}^{N-1}[P(W_{n}\mid {\text{Spam}})]}

يُعرف هذا النوع من الافتراضات بافتراض بايز الساذج . وهو "ساذج" بمعنى أن استقلال الكلمات ليس صحيحًا تمامًا. على سبيل المثال، يتجاهل هذا الافتراض تمامًا أن ظهور أزواج من الكلمات قد يكون أكثر أهمية من ظهورها منفردة. ومع ذلك، يمكن للمبرمج افتراض هذه الفرضية وتطوير النموذج والاستدلالات المرتبطة به لاختبار مدى موثوقيته وكفاءته.

الأشكال البارامترية

لكي يتمكن المبرمج من حساب التوزيع المشترك، يجب عليه الآن تحديد شمال+1{\displaystyle N+1}التوزيعات التي تظهر في عملية التفكيك:

  1. P(رسائل إلكترونية مزعجة){\displaystyle P({\text{Spam}})}هو احتمال مسبق محدد، على سبيل المثال بواسطةP([رسائل إلكترونية مزعجة=1])=0.75{\displaystyle P([{\text{Spam}}=1])=0.75}
  2. كل واحد منشمال{\displaystyle N} النماذجP(دبليون|رسائل إلكترونية مزعجة){\displaystyle P(W_{n}\mid {\text{Spam}})}يمكن تحديد ذلك باستخدام قاعدة لابلاس للتتابع (وهي تقنية تنعيم تعتمد على العد الزائف لمواجهة مشكلة التردد الصفري للكلمات التي لم يسبق رؤيتها من قبل):
    1. P(دبليون|[رسائل إلكترونية مزعجة=خطأ شنيع])=1+أون2+أو{\displaystyle P(W_{n}\mid [{\text{Spam}}={\text{false}}])={\frac {1+a_{f}^{n}}{2+a_{f}}}}
    2. P(دبليون|[رسائل إلكترونية مزعجة=حقيقي])=1+أتن2+أت{\displaystyle P(W_{n}\mid [{\text{Spam}}={\text{true}}])={\frac {1+a_{t}^{n}}{2+a_{t}}}}

أينأون{\displaystyle a_{f}^{n}}يرمز إلى عدد مرات ظهورنتح{\displaystyle n^{th}}كلمة في رسائل البريد الإلكتروني غير المزعجة وأو{\displaystyle a_{f}}يمثل هذا العدد الإجمالي للرسائل الإلكترونية غير المزعجة. وبالمثل،أتن{\displaystyle a_{t}^{n}}يرمز إلى عدد مرات ظهورنتح{\displaystyle n^{th}}كلمة في رسائل البريد الإلكتروني العشوائية وأت{\displaystyle a_{t}}يمثل هذا الرقم إجمالي عدد رسائل البريد الإلكتروني العشوائية.

تعريف

الشمال{\displaystyle N} النماذجP(دبليون|رسائل إلكترونية مزعجة){\displaystyle P(W_{n}\mid {\text{Spam}})}لم يتم تحديدها بالكامل بعد لأن2شمال+2{\displaystyle 2N+2}حدودأون=0،...،شمال-1{\displaystyle a_{f}^{n=0,\ldots ,N-1}}،أتن=0،...،شمال-1{\displaystyle a_{t}^{n=0,\ldots ,N-1}}،أو{\displaystyle a_{f}}وأت{\displaystyle a_{t}}ليس لها قيم حتى الآن.

يمكن تحديد هذه المعلمات إما عن طريق المعالجة الدفعية لسلسلة من رسائل البريد الإلكتروني المصنفة أو عن طريق التحديث التدريجي للمعلمات باستخدام تصنيفات المستخدم لرسائل البريد الإلكتروني عند وصولها.

يمكن الجمع بين الطريقتين: يمكن للنظام أن يبدأ بقيم قياسية أولية لهذه المعلمات صادرة من قاعدة بيانات عامة، ثم يقوم بعض التعلم التدريجي بتخصيص المصنف لكل مستخدم على حدة.

سؤال

السؤال المطروح على البرنامج هو: "ما هو احتمال أن يكون نص معين بريدًا عشوائيًا (سبام) مع العلم بالكلمات التي تظهر فيه والتي لا تظهر؟" ويمكن صياغته رسميًا على النحو التالي:

P(رسائل إلكترونية مزعجة|w0wشمال-1){\displaystyle P({\text{Spam}}\mid w_{0}\wedge \cdots \wedge w_{N-1})}

والتي يمكن حسابها على النحو التالي:

P(رسائل إلكترونية مزعجة|w0wشمال-1)=P(رسائل إلكترونية مزعجة)ن=0شمال-1[P(wن|رسائل إلكترونية مزعجة)]رسائل إلكترونية مزعجة[P(رسائل إلكترونية مزعجة)ن=0شمال-1[P(wن|رسائل إلكترونية مزعجة)]]{\displaystyle {\begin{aligned}&P({\text{Spam}}\mid w_{0}\wedge \cdots \wedge w_{N-1})\\={}&{\frac {\displaystyle P({\text{Spam}})\prod _{n=0}^{N-1}[P(w_{n}\mid {\text{Spam}})]}{\displaystyle \sum _{\text{Spam}}[P({\text{Spam}})\prod _{n=0}^{N-1}[P(w_{n}\mid {\text{Spam}})]]}}\end{aligned}}}

يبدو أن المقام ثابت توحيد . ليس من الضروري حسابه لتحديد ما إذا كنا نتعامل مع بريد مزعج. على سبيل المثال، تتمثل إحدى الحيل السهلة في حساب النسبة:

P([رسائل إلكترونية مزعجة=حقيقي]|w0wشمال-1)P([رسائل إلكترونية مزعجة=خطأ شنيع]|w0wشمال-1)=P([رسائل إلكترونية مزعجة=حقيقي])P([رسائل إلكترونية مزعجة=خطأ شنيع])×ن=0شمال-1[P(wن|[رسائل إلكترونية مزعجة=حقيقي])P(wن|[رسائل إلكترونية مزعجة=خطأ شنيع])]{\displaystyle {\begin{aligned}&{\frac {P([{\text{Spam}}={\text{true}}]\mid w_{0}\wedge \cdots \wedge w_{N-1})}{P([{\text{Spam}}={\text{false}}]\mid w_{0}\wedge \cdots \wedge w_{N-1})}}\\={}&{\frac {P([{\text{Spam}}={\text{true}}])}{P([{\text{Spam}}={\text{false}}])}}\times \prod _{n=0}^{N-1}\left[{\frac {P(w_{n}\mid [{\text{Spam}}={\text{true}}])}{P(w_{n}\mid [{\text{Spam}}={\text{false}}])}}\right]\end{aligned}}}

هذه العملية الحسابية أسرع وأسهل لأنها تتطلب فقط2شمال{\displaystyle 2N}منتجات.

برنامج بايزي

يتم تعريف برنامج تصفية البريد العشوائي البايزي بالكامل من خلال:

برو{دs{Sص(π){Vأ:رسائل إلكترونية مزعجة،دبليو0،دبليو1...دبليوشمال-1دج:{P(رسائل إلكترونية مزعجةدبليو0...دبليون...دبليوشمال-1)=P(رسائل إلكترونية مزعجة)ن=0شمال-1P(دبليون|رسائل إلكترونية مزعجة)Fo:{P(رسائل إلكترونية مزعجة):{P([رسائل إلكترونية مزعجة=خطأ شنيع])=0.25P([رسائل إلكترونية مزعجة=حقيقي])=0.75P(دبليون|رسائل إلكترونية مزعجة):{P(دبليون|[رسائل إلكترونية مزعجة=خطأ شنيع])=1+أون2+أوP(دبليون|[رسائل إلكترونية مزعجة=حقيقي])=1+أتن2+أتتحديد الهوية (بناءً على دلتا)سؤالu:P(رسائل إلكترونية مزعجة|w0...wن...wشمال-1){\displaystyle \Pr {\begin{cases}Ds{\begin{cases}Sp(\pi ){\begin{cases}Va:{\text{Spam}},W_{0},W_{1}\ldots W_{N-1}\\Dc:{\begin{cases}P({\text{Spam}}\land W_{0}\land \ldots \land W_{n}\land \ldots \land W_{N-1})\\=P({\text{Spam}})\prod _{n=0}^{N-1}P(W_{n}\mid {\text{Spam}})\end{cases}}\\Fo:{\begin{cases}P({\text{Spam}}):{\begin{cases}P([{\text{Spam}}={\text{false}}])=0.25\\P([{\text{Spam}}={\text{true}}])=0.75\end{cases}}\\P(W_{n}\mid {\text{Spam}}):{\begin{cases}P(W_{n}\mid [{\text{Spam}}={\text{false}}])\\={\frac {1+a_{f}^{n}}{2+a_{f}}}\\P(W_{n}\mid [{\text{Spam}}={\text{true}}])\\={\frac {1+a_{t}^{n}}{2+a_{t}}}\end{cases}}\\\end{cases}}\\\end{cases}}\\{\text{Identification (based on }}\delta )\end{cases}}\\Qu:P({\text{Spam}}\mid w_{0}\land \ldots \land w_{n}\land \ldots \land w_{N-1})\end{cases}}}

مرشح بايزي، مرشح كالمان، ونموذج ماركوف المخفي

تُعدّ المرشحات البايزية (التي تُسمى غالبًا بالتقدير البايزي التكراري ) نماذج احتمالية عامة للعمليات المتطورة مع الزمن. وتُعتبر العديد من النماذج حالات خاصة من هذا النهج العام، على سبيل المثال: مرشح كالمان أو نموذج ماركوف المخفي (HMM).

المتغيرات

  • المتغيراتS0،...،Sتي{\displaystyle S^{0},\ldots ,S^{T}}هي سلسلة زمنية من متغيرات الحالة التي تعتبر على أفق زمني يتراوح من0{\displaystyle 0}لتي{\displaystyle T}.
  • المتغيراتيا0،...،ياتي{\displaystyle O^{0},\ldots ,O^{T}}هي سلسلة زمنية لمتغيرات الملاحظة على نفس الأفق الزمني.

التحلل

يعتمد التفكيك على:

  • علىP(Sت|Sت-1){\displaystyle P(S^{t}\mid S^{t-1})}، والذي يُطلق عليه نموذج النظام أو نموذج الانتقال أو النموذج الديناميكي، والذي يُضفي الطابع الرسمي على الانتقال من الحالة في وقتت-1{\displaystyle t-1}إلى الولاية في ذلك الوقتت{\displaystyle t}؛
  • علىP(يات|Sت){\displaystyle P(O^{t}\mid S^{t})}، وهو ما يسمى نموذج الملاحظة، والذي يعبر عما يمكن ملاحظته في وقت معينت{\displaystyle t}عندما يكون النظام في حالةSت{\displaystyle S^{t}}؛
  • في حالة أولية في وقت0{\displaystyle 0}:P(S0يا0){\displaystyle P(S^{0}\wedge O^{0})}.

الأشكال البارامترية

لا توجد قيود على الأشكال البارامترية، وتؤدي الخيارات المختلفة إلى نماذج مختلفة معروفة: انظر مرشحات كالمان ونماذج ماركوف المخفية أدناه.

سؤال

السؤال النموذجي لمثل هذه النماذج هوP(Sت+ك|يا0يات){\displaystyle P\left(S^{t+k}\mid O^{0}\wedge \cdots \wedge O^{t}\right)}ما هو التوزيع الاحتمالي للحالة في الزمن tت+ك{\displaystyle t+k}معرفة الملاحظات من لحظة0{\displaystyle 0}لت{\displaystyle t}؟

الحالة الأكثر شيوعًا هي الترشيح البايزي حيثك=0{\displaystyle k=0}، والتي تبحث عن الحالة الحالية، مع العلم بالملاحظات السابقة.

لكن من الممكن أيضاً(ك>0){\displaystyle (k>0)}، لاستقراء حالة مستقبلية من الملاحظات السابقة، أو لإجراء عملية تنعيم(ك<0){\displaystyle (k<0)}، لاستعادة حالة سابقة من خلال الملاحظات التي أجريت إما قبل تلك اللحظة أو بعدها.

قد تُطرح أسئلة أكثر تعقيدًا كما هو موضح أدناه في قسم HMM.

مرشحات بايزية(ك=0){\displaystyle (k=0)}تتمتع بخاصية تكرارية مثيرة للاهتمام للغاية، مما يساهم بشكل كبير في جاذبيتها.P(Sت|يا0يات){\displaystyle P\left(S^{t}|O^{0}\wedge \cdots \wedge O^{t}\right)}يمكن حسابها ببساطة منP(Sت-1|يا0يات-1){\displaystyle P\left(S^{t-1}\mid O^{0}\wedge \cdots \wedge O^{t-1}\right)}باستخدام الصيغة التالية:

P(Sت|يا0يات)=P(يات|Sت)×Sت-1[P(Sت|Sت-1)×P(Sت-1|يا0يات-1)]{\displaystyle {\begin{array}{ll}&P\left(S^{t}|O^{0}\wedge \cdots \wedge O^{t}\right)\\=&P\left(O^{t}|S^{t}\right)\times \sum _{S^{t-1}}\left[P\left(S^{t}|S^{t-1}\right)\times P\left(S^{t-1}|O^{0}\wedge \cdots \wedge O^{t-1}\right)\right]\end{array}}}

ومن وجهة نظر أخرى مثيرة للاهتمام لهذه المعادلة، النظر إلى وجود مرحلتين: مرحلة التنبؤ ومرحلة التقدير:

  • خلال مرحلة التنبؤ، يتم التنبؤ بالحالة باستخدام النموذج الديناميكي وتقدير الحالة في اللحظة السابقة:
P(Sت|يا0يات-1)=Sت-1[P(Sت|Sت-1)×P(Sت-1|يا0يات-1)]{\displaystyle {\begin{array}{ll}&P\left(S^{t}|O^{0}\wedge \cdots \wedge O^{t-1}\right)\\=&\sum _{S^{t-1}}\left[P\left(S^{t}|S^{t-1}\right)\times P\left(S^{t-1}|O^{0}\wedge \cdots \wedge O^{t-1}\right)\right]\end{array}}}
  • خلال مرحلة التقدير، يتم تأكيد التنبؤ أو دحضه باستخدام آخر ملاحظة:
P(Sت|يا0يات)=P(يات|Sت)×P(Sت|يا0يات-1){\displaystyle {\begin{aligned}&P\left(S^{t}\mid O^{0}\wedge \cdots \wedge O^{t}\right)\\={}&P\left(O^{t}\mid S^{t}\right)\times P\left(S^{t}|O^{0}\wedge \cdots \wedge O^{t-1}\right)\end{aligned}}}

برنامج بايزي

Pر{دs{Sص(π){Vأ:S0،،Sتي،يا0،،ياتيدج:{P(S0Sتييا0ياتي|π)=P(S0يا0)×ت=1تي[P(Sت|Sت-1)×P(يات|Sت)]Fo:{P(S0يا0)P(Sت|Sت-1)P(يات|Sت)أنادسؤالu:{P(Sت+ك|يا0يات)(ك=0)تصفية(ك>0)تنبؤ(ك<0)التنعيم{\displaystyle Pr{\begin{cases}Ds{\begin{cases}Sp(\pi ){\begin{cases}Va:\\S^{0},\cdots ,S^{T},O^{0},\cdots ,O^{T}\\Dc:\\{\begin{cases}&P\left(S^{0}\wedge \cdots \wedge S^{T}\wedge O^{0}\wedge \cdots \wedge O^{T}|\pi \right)\\=&P\left(S^{0}\wedge O^{0}\right)\times \prod _{t=1}^{T}\left[P\left(S^{t}|S^{t-1}\right)\times P\left(O^{t}|S^{t}\right)\right]\end{cases}}\\Fo:\\{\begin{cases}P\left(S^{0}\wedge O^{0}\right)\\P\left(S^{t}|S^{t-1}\right)\\P\left(O^{t}|S^{t}\right)\end{cases}}\end{cases}}\\Id\end{cases}}\\Qu:\\{\begin{cases}{\begin{array}{l}P\left(S^{t+k}|O^{0}\wedge \cdots \wedge O^{t}\right)\\\left(k=0\right)\equiv {\text{Filtering}}\\\left(k>0\right)\equiv {\text{Prediction}}\\\left(k<0\right)\equiv {\text{Smoothing}}\end{array}}\end{cases}}\end{cases}}}

مرشح كالمان

تُعد مرشحات كالمان المعروفة جدًا [ 7 ] حالة خاصة من مرشحات بايز.

يتم تعريفها بواسطة برنامج بايزي التالي:

Pر{دs{Sص(π){Vأ:S0،،Sتي،يا0،،ياتيدج:{P(S0ياتي|π)=[P(S0يا0|π)ت=1تي[P(Sت|Sت-1π)×P(يات|Sتπ)]]Fo:{P(Sت|Sت-1π)جي(Sت،أSت-1،سؤال)P(يات|Sتπ)جي(يات،حSت،R)أنادسؤالu:P(Sتي|يا0ياتيπ){\displaystyle Pr{\begin{cases}Ds{\begin{cases}Sp(\pi ){\begin{cases}Va:\\S^{0},\cdots ,S^{T},O^{0},\cdots ,O^{T}\\Dc:\\{\begin{cases}&P\left(S^{0}\wedge \cdots \wedge O^{T}|\pi \right)\\=&\left[{\begin{array}{c}P\left(S^{0}\wedge O^{0}|\pi \right)\\\prod _{t=1}^{T}\left[P\left(S^{t}|S^{t-1}\wedge \pi \right)\times P\left(O^{t}|S^{t}\wedge \pi \right)\right]\end{array}}\right]\end{cases}}\\Fo:\\{\begin{cases}P\left(S^{t}\mid S^{t-1}\wedge \pi \right)\equiv G\left(S^{t},A\bullet S^{t-1},Q\right)\\P\left(O^{t}\mid S^{t}\wedge \pi \right)\equiv G\left(O^{t},H\bullet S^{t},R\right)\end{cases}}\end{cases}}\\Id\end{cases}}\\Qu:\\P\left(S^{T}\mid O^{0}\wedge \cdots \wedge O^{T}\wedge \pi \right)\end{cases}}}
  • المتغيرات متصلة.
  • نموذج الانتقالP(Sت|Sت-1π){\displaystyle P(S^{t}\mid S^{t-1}\wedge \pi )}ونموذج الملاحظةP(يات|Sتπ){\displaystyle P(O^{t}\mid S^{t}\wedge \pi )}كلاهما محدد باستخدام قوانين غاوسية بمتوسطات هي دوال خطية لمتغيرات التكييف.

باستخدام هذه الفرضيات والصيغة التكرارية، من الممكن حل مشكلة الاستدلال تحليليًا للإجابة على الأسئلة المعتادةP(Sتي|يا0ياتيπ){\displaystyle P(S^{T}\mid O^{0}\wedge \cdots \wedge O^{T}\wedge \pi )}هذا يؤدي إلى خوارزمية فعالة للغاية، وهو ما يفسر شعبية مرشحات كالمان وعدد تطبيقاتها اليومية.

عندما لا توجد نماذج انتقال وملاحظة خطية واضحة، فإنه لا يزال من الممكن في كثير من الأحيان، باستخدام توسيع تايلور من الدرجة الأولى، التعامل مع هذه النماذج على أنها خطية محليًا. يُطلق على هذا التعميم عادةً اسم مرشح كالمان الموسع .

نموذج ماركوف المخفي

تُعد نماذج ماركوف المخفية (HMMs) تخصصًا شائعًا جدًا آخر لمرشحات بايز.

يتم تعريفها بواسطة برنامج بايزي التالي:

برو{دs{Sص(π){Vأ:S0،...،Sتي،يا0،...،ياتيدج:{P(S0ياتي|π)=[P(S0يا0|π)ت=1تي[P(Sت|Sت-1π)×P(يات|Sتπ)]]Fo:{P(S0يا0|π)المصفوفةP(Sت|Sت-1π)المصفوفةP(يات|Sتπ)المصفوفةأنادسؤالu:الأعلىS1Sتي-1[P(S1Sتي-1|Sتييا0ياتيπ)]{\displaystyle \Pr {\begin{cases}Ds{\begin{cases}Sp(\pi ){\begin{cases}Va:\\S^{0},\ldots ,S^{T},O^{0},\ldots ,O^{T}\\Dc:\\{\begin{cases}&P\left(S^{0}\wedge \cdots \wedge O^{T}\mid \pi \right)\\=&\left[{\begin{array}{c}P\left(S^{0}\wedge O^{0}\mid \pi \right)\\\prod _{t=1}^{T}\left[P\left(S^{t}\mid S^{t-1}\wedge \pi \right)\times P\left(O^{t}\mid S^{t}\wedge \pi \right)\right]\end{array}}\right]\end{cases}}\\Fo:\\{\begin{cases}P\left(S^{0}\wedge O^{0}\mid \pi \right)\equiv {\text{Matrix}}\\P\left(S^{t}\mid S^{t-1}\wedge \pi \right)\equiv {\text{Matrix}}\\P\left(O^{t}\mid S^{t}\wedge \pi \right)\equiv {\text{Matrix}}\end{cases}}\end{cases}}\\Id\end{cases}}\\Qu:\\\max _{S^{1}\wedge \cdots \wedge S^{T-1}}\left[P\left(S^{1}\wedge \cdots \wedge S^{T-1}\mid S^{T}\wedge O^{0}\wedge \cdots \wedge O^{T}\wedge \pi \right)\right]\end{cases}}}
  • تُعامل المتغيرات على أنها منفصلة.
  • نموذج الانتقالP(Sت|Sت-1π){\displaystyle P\left(S^{t}\mid S^{t-1}\wedge \pi \right)}ونموذج الملاحظةP(يات|Sتπ){\displaystyle P\left(O^{t}\mid S^{t}\wedge \pi \right)}نكون

كلاهما محدد باستخدام مصفوفات الاحتمالات.

  • السؤال الأكثر شيوعاً حول نماذج ماركوف المخفية هو:
الأعلىS1Sتي-1[P(S1Sتي-1|Sتييا0ياتيπ)]{\displaystyle \max _{S^{1}\wedge \cdots \wedge S^{T-1}}\left[P\left(S^{1}\wedge \cdots \wedge S^{T-1}\mid S^{T}\wedge O^{0}\wedge \cdots \wedge O^{T}\wedge \pi \right)\right]}

ما هي سلسلة الحالات الأكثر احتمالاً التي تؤدي إلى الحالة الحالية، مع العلم بالملاحظات السابقة؟

يمكن الإجابة على هذا السؤال تحديداً باستخدام خوارزمية محددة وفعالة للغاية تسمى خوارزمية فيتربي .

تم تطوير خوارزمية Baum–Welch لنماذج ماركوف المخفية (HMMs ) .

التطبيقات

الطلبات الأكاديمية

منذ عام 2000، تم استخدام البرمجة البايزية لتطوير تطبيقات الروبوتات ونماذج علوم الحياة. [ 8 ]

الروبوتات

في مجال الروبوتات، طُبقت البرمجة البايزية على الروبوتات ذاتية التشغيل ، [ 9 ] [ 10 ] [ 11 ] [ 12 ] [ 13 ] وأنظمة التصميم بمساعدة الحاسوب الروبوتية ، [ 14 ] وأنظمة مساعدة السائق المتقدمة ، [ 15 ] والتحكم في الأذرع الروبوتية ، والروبوتات المتنقلة ، [ 16 ] [ 17 ] والتفاعل بين الإنسان والروبوت، [ 18 ] والتفاعل بين الإنسان والمركبة (نماذج السائقين ذاتية التشغيل البايزية) ، [ 19 ] [ 20 ] [ 21 ] [ 22 ] [ 23 ] وبرمجة وتدريب شخصيات ألعاب الفيديو ، [ 24 ] وألعاب الاستراتيجية في الوقت الحقيقي (الذكاء الاصطناعي). [ 25 ]

علوم الحياة

في علوم الحياة، استُخدمت البرمجة البايزية في مجال الرؤية لإعادة بناء الشكل من الحركة، [ 26 ] ولنمذجة التفاعل البصري الدهليزي ، [ 27 ] ولدراسة حركات العين السريعة (الرمشات )؛ [ 28 ] وفي إدراك الكلام والتحكم فيه لدراسة اكتساب الكلام المبكر ، [ 29 ] ونشوء الأنظمة النطقية الصوتية؛ [ 30 ] ولنمذجة إدراك الكتابة اليدوية والتحكم فيها. [ 31 ]

التعرف على الأنماط

يتمتع التعلم البرمجي البايزي بتطبيقات محتملة في التعرف على الصوت وتوليفه، والتعرف على الصور ، ومعالجة اللغة الطبيعية . وهو يستخدم مبادئ التركيبية (بناء تمثيلات مجردة من أجزاء)، والسببية (بناء التعقيد من أجزاء)، والتعلم من أجل التعلم (استخدام المفاهيم المعروفة مسبقًا لتسهيل إنشاء مفاهيم جديدة). [ 32 ]

نظريات الاحتمالية

لا تزال المقارنة بين المناهج الاحتمالية (ليس فقط البرمجة البايزية) ونظريات الإمكانية موضع نقاش.

تُعدّ نظريات الاحتمالية، مثل المجموعات الضبابية [ 33 ] والمنطق الضبابي [ 34 ] ونظرية الاحتمالية [ 35 ] ، بدائل للاحتمالية في نمذجة عدم اليقين. وتُجادل هذه النظريات بأن الاحتمالية غير كافية أو غير ملائمة لنمذجة جوانب معينة من المعرفة غير الكاملة/غير المؤكدة.

يرتكز الدفاع عن نظرية الاحتمالات بشكل أساسي على نظرية كوكس ، التي تنطلق من أربع مسلمات تتعلق بالاستدلال العقلاني في ظل وجود عدم اليقين. وتُبين هذه النظرية أن الإطار الرياضي الوحيد الذي يُحقق هذه المسلمات هو نظرية الاحتمالات . ويُجادل بأن أي منهج آخر غير الاحتمالات يُخالف بالضرورة إحدى هذه المسلمات، وبالتالي يُقلل من قيمة هذا المخالفة.

البرمجة الاحتمالية

إن الغرض من البرمجة الاحتمالية هو توحيد نطاق لغات البرمجة الكلاسيكية مع النمذجة الاحتمالية (وخاصة الشبكات البايزية ) للتعامل مع عدم اليقين مع الاستفادة من قدرة لغات البرمجة على التعبير عن التعقيد.

تشمل لغات البرمجة الكلاسيكية الموسعة اللغات المنطقية كما هو مقترح في Probabilistic Horn Abduction ، [ 36 ] Independent Choice Logic، [ 37 ] PRISM، [ 38 ] و ProbLog الذي يقترح امتدادًا لـ Prolog.

يمكن أن تكون أيضًا امتدادات للغات البرمجة الوظيفية (وخاصةً ليسب وسكيم ) مثل IBAL أو CHURCH. ويمكن أن تكون لغات البرمجة الأساسية كائنية التوجه كما في BLOG وFACTORIE، أو لغات أكثر شيوعًا كما في CES وFIGARO . [ 39 ]

يختلف هدف البرمجة البايزية. فمبدأ جاينز "الاحتمال كمنطق" يجادل بأن الاحتمال هو امتداد للمنطق وبديل له، يمكن من خلاله إعادة بناء نظرية كاملة للعقلانية والحوسبة والبرمجة. [ 1 ] وتسعى البرمجة البايزية إلى استبدال اللغات الكلاسيكية بنهج برمجي قائم على الاحتمال، يأخذ في الاعتبار عدم الاكتمال وعدم اليقين .

إن المقارنة الدقيقة بين دلالات وقوة التعبير في البرمجة البايزية والبرمجة الاحتمالية هي مسألة مفتوحة.

انظر أيضاً

مراجع

  1. 1 2 جاينز، إي تي (10 أبريل 2003). نظرية الاحتمالات: منطق العلم . مطبعة جامعة كامبريدج. ISBN 978-1-139-43516-1.
  2. ^ بيسير، بيير. مازر، إيمانويل. مانويل أهواكتزين، خوان؛ مخناشة، كامل (20-12-2013). البرمجة بايزي . الصحافة اتفاقية حقوق الطفل. رقم ISBN 978-1-4398-8032-6.
  3. "مخططات التعبير: توحيد مخططات العوامل وشبكات مجموع الضرب" (ملف PDF) . bcf.usc.edu . مؤرشف من النسخة الأصلية (ملف PDF) بتاريخ 12 أكتوبر 2018. تم الاطلاع عليه بتاريخ 11 أكتوبر 2018 .
  4. "النمذجة الاحتمالية والتحليل البايزي" (ملف PDF) . ocw.mit.edu .
  5. "الشبكات البايزية" (ملف PDF) . cs.brandeis.edu .
  6. ^ بيسيير، بيير. مازر، إيمانويل؛ أهواكتزين، خوان مانويل؛ مخناشة، كامل (2013). البرمجة بايزي . الصحافة اتفاقية حقوق الطفل. ص. 21. رقم ISBN  9781439880333.
  7. كالمان، ر. إي. (1960). "نهج جديد لمشاكل الترشيح والتنبؤ الخطي". مجلة الهندسة الأساسية . 82 : 33-45 . doi : 10.1115/1.3662552 . S2CID 1242324 . 
  8. بيسيير، بيير؛ لوجيه، كريستيان؛ سيغوارت، رولان (15 مايو 2008). الاستدلال الاحتمالي واتخاذ القرارات في الأنظمة الحسية الحركية . سبرينغر ساينس آند بيزنس ميديا. ISBN 978-3-540-79006-8.
  9. ^ ليبلتل، أو. بيسيير، ب. ديارد، J.؛ مازر، إي. (2004). “برمجة الروبوت بايزي” (PDF) . الروبوتات المتقدمة . 16 (1): 49-79 . دوى : 10.1023/ب:auro.0000008671.38949.43 . S2CID 18768468 . 
  10. ديارد، ج.؛ جيليه، إ.؛ سيمونين، إ.؛ بيسيير، ب. (2010). "التعلم التدريجي لنماذج بايز الحسية الحركية: من السلوكيات منخفضة المستوى إلى البنية واسعة النطاق للبيئة" (ملف PDF) . علوم الاتصال . 22 (4): 291-312 . Bibcode : 2010ConSc..22..291D . doi : 10.1080/09540091003682561 . S2CID 216035458 . 
  11. برادالييه، سي.؛ هيرموسيلو، ج.؛ كويكي، سي.؛ برايون، سي.؛ بيسيير، ب.؛ لوجيه، سي. (2005). "سايكاب: روبوت يشبه السيارة يتنقل بشكل مستقل وآمن بين المشاة". الروبوتات والأنظمة المستقلة . 50 (1): 51-68 . CiteSeerX 10.1.1.219.69 . doi : 10.1016/j.robot.2004.10.002 . 
  12. ^ فيريرا، ج. لوبو، J.؛ بيسيير، ب. كاستيلو برانكو، م.؛ دياس، ج. (2012). “إطار بايزي للإدراك الاصطناعي النشط” (PDF) . معاملات IEEE على الأنظمة والإنسان وعلم التحكم الآلي - الجزء ب: علم التحكم الآلي . 99 (2): 1– 13. دوى : 10.1109/TSMCB.2012.2214477 . بميد 23014760 . S2CID 1808051 .  
  13. فيريرا، جيه إف؛ دياس، جيه إم (2014). مناهج احتمالية للإدراك الروبوتي . سبرينغر. ISBN 978-3-319-02005-1.
  14. ميخناشا، ك.؛ مازر، إ.؛ بيسيير، ب. (2001). "تصميم وتنفيذ نموذج CAD بايزي للتطبيقات الروبوتية". الروبوتات المتقدمة . 15 (1): 45-69 . CiteSeerX 10.1.1.552.3126 . doi : 10.1163/156855301750095578 . S2CID 7920387 .  
  15. كويه، سي.؛ برادالييه، سي.؛ لوجيه، سي.؛ فرايشارد، تي.؛ بيسيير، بي. (2006). "ترشيح الإشغال البايزي لتتبع الأهداف المتعددة: تطبيق في مجال السيارات" (ملف PDF) . المجلة الدولية لبحوث الروبوتات . 25 (1): 19-30 . doi : 10.1177/0278364906061158 . S2CID 13874685 . 
  16. فاسوديفان، س.؛ سيغارت، ر. (2008). "التصور الفضائي البايزي وتصنيف الأماكن للخرائط الدلالية في الروبوتات المتنقلة". الروبوتات والأنظمة المستقلة . 56 (6): 522-537 . CiteSeerX 10.1.1.149.4189 . doi : 10.1016/j.robot.2008.03.005 . 
  17. بيرين، إكس.؛ تشافارياغا، ر.؛ كولاس، ف.؛ سيغارت، ر.؛ ميلان، ج. (2010). "التفاعل بين الدماغ والآلة للملاحة شبه المستقلة لروبوت مساعد" . الروبوتات والأنظمة المستقلة . 58 (12): 1246-1255 . doi : 10.1016/j.robot.2010.05.010 .
  18. ريت، ج.؛ دياس، ج.؛ أهواكتزين، ج.م. (2010). "الاستدلال البايزي لتحليل حركة لابن المستخدم في التفاعل بين الإنسان والآلة". المجلة الدولية للأنظمة الذكية القائمة على الاستدلال . 2 (1): 13-35 . CiteSeerX 10.1.1.379.6216 . doi : 10.1504/IJRIS.2010.029812 . 
  19. موبوس، سي.؛ إيلرز، إم.؛ غاربي، إتش.؛ زيلينسكي، إم. (2009). "النمذجة الاحتمالية والتجريبية القائمة على البيانات للوكلاء في سيناريوهات المرور التعاونية (الجزئية)" (ملف PDF) . في دافي، فينسنت جي. (محرر). نمذجة الإنسان الرقمي . المؤتمر الدولي الثاني، ICDHM 2009، سان دييغو، كاليفورنيا، الولايات المتحدة الأمريكية. سلسلة محاضرات في علوم الحاسوب. المجلد 5620. سبرينغر. الصفحات 423-432 . doi : 10.1007/978-3-642-02809-0_45 . ISBN   978-3-642-02808-3.
  20. موبوس، سي.؛ إيلرز، إم. (2009). "خطوات إضافية نحو نمذجة السائق وفقًا لمنهج البرمجة البايزية". في دافي، فينسنت جي. (محرر). نمذجة الإنسان الرقمي . المؤتمر الدولي الثاني، ICDHM 2009، سان دييغو، كاليفورنيا، الولايات المتحدة الأمريكية. سلسلة محاضرات في علوم الحاسوب. المجلد 5620. سبرينغر. الصفحات 413-422 . CiteSeerX 10.1.1.319.2067 . doi : 10.1007/978-3-642-02809-0_44 . ISBN    978-3-642-02808-3.
  21. ^ إيليرز، م. موبوس، سي. (2010). "تعلم بعض الوحدات النمطية لمزيج السلوكيات البايزية للسائق المستقل (BAD MoB)" (PDF) . في كولريب، هـ؛ يورجنسون، ث. (محرران). Fahrermodellierung - Zwischen Kinematischen Menschmodellen und dynamisch-kognitiven Verhaltensmodellen . Fortschrittsbericht des VDI in der Reihe 22 (نظام الآلات البشرية). دوسلدورف، ألمانيا: VDI-Verlag. ص 61 – 74. ردمك  978-3-18-303222-8أُرشف من النسخة الأصلية (PDF) بتاريخ 2014-02-03 . تم الاطلاع عليه بتاريخ 2014-01-21 .
  22. إيلرز، م.؛ موبوس، س. (2011). "تعلم الإدراكات ذات الصلة لنماذج السائق البايزية الهرمية المعيارية باستخدام معيار معلومات بايزي". في دافي، ف. ج. (محرر). نمذجة الإنسان الرقمي . سلسلة محاضرات في علوم الحاسوب 6777. هايدلبرغ، ألمانيا: سبرينغر. ص 463-472 . doi : 10.1007/978-3-642-21799-9_52 . ISBN  978-3-642-21798-2.
  23. إيلرز، م.؛ موبوس، س. (2011). "تعلم نموذج بايزي لسلوكيات السائق المستقل المختلطة (BAD-MoB)" . في دافي، ف. ج. (محرر). التطورات في نمذجة الإنسان الرقمي التطبيقية . سلسلة محاضرات في علوم الحاسوب 6777. بوكا راتون، الولايات المتحدة الأمريكية: مطبعة سي آر سي، مجموعة تايلور وفرانسيس. الصفحات 436-445 . ISBN  978-1-4398-3511-1.
  24. لو هي، ر.؛ أريغوني، أ.؛ بيسيير، ب.؛ ليبتيل، أ. (2004). "تعليم السلوكيات البايزية لشخصيات ألعاب الفيديو" (ملف PDF) . الروبوتات والأنظمة المستقلة . 47 ( 2-3 ): 177-185 . doi : 10.1016/j.robot.2004.03.012 . S2CID 16415524 . 
  25. Synnaeve, G. (2012). Bayesian Programming and Learning for Multiplayer Video Games (PDF) .
  26. كولاس، ف.؛ دروليز، ج.؛ ويكسلر، م.؛ بيسيير، ب. (2008). "نموذج احتمالي موحد لإدراك البنية ثلاثية الأبعاد من التدفق البصري". علم التحكم الحيوي . 97 ( 5-6 ): 461-477 . CiteSeerX 10.1.1.215.1491 . doi : 10.1007/s00422-007-0183-z . PMID 17987312. S2CID 215821150 .   
  27. لورينز، ج.؛ دروليز، ج. (2007). " المعالجة البايزية للمعلومات الدهليزية". علم التحكم الحيوي . 96 (4): 389-404 . doi : 10.1007/s00422-006-0133-1 . PMID 17146661. S2CID 18138027 .  
  28. كولاس، ف.؛ فلاشر، ف.؛ تانر، ت.؛ بيسيير، ب.؛ جيرارد، ب. (2009). " نماذج بايزية لاختيار حركة العين باستخدام خرائط شبكية" (ملف PDF) . علم التحكم الآلي البيولوجي . 100 (3): 203-214 . doi : 10.1007/s00422-009-0292-y . PMID 19212780. S2CID 5906668 .  
  29. سيرخان، ج.؛ شوارتز، ج. ل.؛ بيسيير، ب. (2005). "بناء روبوت طفل ناطق: مساهمة في دراسة اكتساب الكلام وتطوره" (ملف PDF) . دراسات التفاعل . 6 (2): 253-286 . doi : 10.1075/is.6.2.06ser .
  30. مولان-فرييه، سي.؛ لوران، ر.؛ بيسيير، ب.؛ شوارتز، ج. ل.؛ ديارد، ج. (2012). "تحسين التمييز بين النظريات السمعية والحركية والإدراكية الحركية لإدراك الكلام في ظل الظروف المعاكسة: دراسة استكشافية باستخدام النمذجة البايزية" (ملف PDF) . اللغة والعمليات المعرفية . 27 ( 7-8 ): 1240-1263 . doi : 10.1080/01690965.2011.645313 . S2CID 55504109 . 
  31. جيليه، إي.؛ ديارد، ج.؛ بيسيير، ب. (2011). سبورنز، أولاف (محرر). " نموذج حسابي بايزي للفعل والإدراك: تفاعل إنتاج الحروف المتصلة والتعرف عليها" . PLOS ONE . 6 (6) e20387. Bibcode : 2011PLoSO...620387G . doi : 10.1371/journal.pone.0020387 . PMC 3106017. PMID 21674043 .  
  32. "خوارزمية جديدة تساعد الآلات على التعلم بسرعة البشر" . www.gizmag.com . 22 يناير 2016. تاريخ الاطلاع: 23 يناير 2016 .
  33. زاده، ل. أ. (يونيو 1965). "المجموعات الضبابية" . المعلومات والتحكم . 8 (3). سان دييغو: 338-353 . doi : 10.1016/S0019-9958(65)90241-X . ISSN 0019-9958 . Zbl 0139.24606 . Wikidata Q25938993 .   
  34. زاده، ل. أ. ( سبتمبر 1975). "المنطق الضبابي والاستدلال التقريبي". سينثيز . 30 ( 3-4 ). سبرينغر : 407-428 . doi : 10.1007/BF00485052 . ISSN 0039-7857 . OCLC 714993477. S2CID 46975216. Zbl 0319.02016 . Wikidata Q57275767 .     
  35. دوبوا، د.؛ براد، هـ. (2001). "نظرية الإمكانية، ونظرية الاحتمالات، والمنطق متعدد القيم: توضيح" (ملف PDF) . حوليات الرياضيات والذكاء الاصطناعي ( FTP ). ص 35-66 . doi : 10.1023/A:1016740830286 . S2CID 10271476 .  (للاطلاع على المستندات، انظر صفحة المساعدة: FTP )
  36. بول، د. (1993). "الاستناد الاحتمالي لهورن والشبكات البايزية". الذكاء الاصطناعي . 64 : 81-129 . doi : 10.1016/0004-3702(93)90061-F .
  37. بول، د. (1997). "منطق الاختيار المستقل لنمذجة عدة عوامل في ظل عدم اليقين" . الذكاء الاصطناعي . 94 ( 1-2 ): 7-56 . doi : 10.1016/S0004-3702(97)00027-1 .
  38. ساتو، ت.؛ كاميا، ي. (2001). "تعلم معلمات البرامج المنطقية للنمذجة الإحصائية الرمزية" (ملف PDF) . مجلة أبحاث الذكاء الاصطناعي . 15 (2001): 391-454 . arXiv : 1106.1797 . Bibcode : 2011arXiv1106.1797S . doi : 10.1613/jair.912 . S2CID 7857569. مؤرشف من النسخة الأصلية (PDF) بتاريخ 12 يوليو 2014. تم الاطلاع عليه بتاريخ 18 أكتوبر 2015 . 
  39. فيجارو على جيت هاب

للمزيد من القراءة

  • كامل مخناشا (2013). البرمجة البايزية . تشابمان آند هول/سي آر سي. doi : 10.1201/b16111 . ISBN 978-1-4398-8032-6.
  • موقع مصاحب لكتاب البرمجة البايزية حيث يمكن تنزيل ProBT، وهو محرك استدلال مخصص للبرمجة البايزية.
  • موقع Bayesian-programming.org ( رابط قديم مؤرشف بتاريخ 23-11-2013 على archive.today) للترويج لبرمجة بايزية بمعلومات مفصلة ومنشورات عديدة.