نشر المعتقدات

خوارزمية نشر المعتقدات ، والمعروفة أيضًا باسم تمرير الرسائل بمجموع الضرب ، هي خوارزمية لتمرير الرسائل تُستخدم للاستدلال على النماذج البيانية ، مثل الشبكات البايزية وحقول ماركوف العشوائية . وتقوم هذه الخوارزمية بحساب التوزيع الهامشي لكل عقدة (أو متغير) غير مُلاحظة، بشرط وجود أي عقد (أو متغيرات) مُلاحظة. وتُستخدم خوارزمية نشر المعتقدات على نطاق واسع في الذكاء الاصطناعي ونظرية المعلومات ، وقد أثبتت نجاحها التجريبي في العديد من التطبيقات، بما في ذلك رموز التحقق من التكافؤ منخفضة الكثافة ، ورموز التوربو ، وتقريب الطاقة الحرة ، وقابلية الإرضاء . ^{[ 1 ]}

اقترح جوديا بيرل هذه الخوارزمية لأول مرة عام 1982، ^{[ 2 ]} حيث صاغها كخوارزمية استدلال دقيقة على الأشجار ، ثم وُسِّعت لاحقًا لتشمل الأشجار المتعددة . ^{[ 3 ]} ورغم أن الخوارزمية ليست دقيقة على الرسوم البيانية العامة، فقد ثبت أنها خوارزمية تقريبية مفيدة. ^{[ 4 ]}

بالنظر إلى مجموعة محدودة من المتغيرات العشوائية المنفصلة${\displaystyle X_{1},\ldots ,X_{n}}$مع دالة الكتلة الاحتمالية المشتركة${\displaystyle p}$تتمثل إحدى المهام الشائعة في حساب التوزيعات الهامشية لـ${\displaystyle X_{i}}$هامش واحد${\displaystyle X_{i}}$يُعرَّف بأنه

${\displaystyle p_{X_{i}}(x_{i})=\sum _{\mathbf {x} ':x'_{i}=x_{i}}p(\mathbf {x} ')}$

أين${\displaystyle \mathbf {x} '=(x'_{1},\ldots ,x'_{n})}$هو متجه من القيم الممكنة لـ${\displaystyle X_{i}}$، والترميز${\displaystyle \mathbf {x} ':x'_{i}=x_{i}}$وهذا يعني أن المجموع يُحسب على تلك${\displaystyle \mathbf {x} '}$لمن${\displaystyle i}$الإحداثي th يساوي${\displaystyle x_{i}}$.

يصبح حساب التوزيعات الهامشية باستخدام هذه الصيغة مكلفًا للغاية من الناحية الحسابية مع ازدياد عدد المتغيرات. على سبيل المثال، إذا كان لدينا 100 متغير ثنائي...${\displaystyle X_{1},\ldots ,X_{100}}$، حساب هامش واحد${\displaystyle X_{i}}$استخدام${\displaystyle p}$وتتضمن الصيغة المذكورة أعلاه عملية الجمع على${\displaystyle 2^{99}\approx 6.34\times 10^{29}}$القيم الممكنة لـ${\displaystyle \mathbf {x} '}$إذا عُلم أن دالة الكتلة الاحتمالية${\displaystyle p}$وباستخدام العوامل بطريقة ملائمة، يسمح نشر الاعتقاد بحساب الهوامش بكفاءة أكبر بكثير.

توجد صيغ مختلفة لخوارزمية نشر الاعتقاد لأنواع عديدة من النماذج البيانية ( الشبكات البايزية وحقول ماركوف العشوائية ^{[ 5 ]} على وجه الخصوص). نصف هنا الصيغة التي تعمل على الرسم البياني العاملي . الرسم البياني العاملي هو رسم بياني ثنائي الأجزاء يحتوي على عقد تتوافق مع المتغيرات.${\displaystyle V}$والعوامل${\displaystyle F}$، مع وجود روابط بين المتغيرات والعوامل التي تظهر فيها. يمكننا كتابة دالة الكتلة المشتركة:

${\displaystyle p(\mathbf {x} )=\prod _{a\in F}f_{a}(\mathbf {x} _{a})}$

أين${\displaystyle \mathbf {x} _{a}}$هو متجه العقد المتغيرة المجاورة لعقدة العامل${\displaystyle a}$يمكن تمثيل أي شبكة بايزية أو حقل ماركوف عشوائي كرسم بياني عاملي باستخدام عامل لكل عقدة مع آبائها أو عامل لكل عقدة مع جوارها على التوالي. ^{[ 6 ]}

تعمل الخوارزمية عن طريق تمرير دوال ذات قيم حقيقية تسمى الرسائل على طول الحواف بين العقد. بتعبير أدق، إذا${\displaystyle v}$هي عقدة متغيرة و${\displaystyle a}$هي عقدة عامل متصلة بـ${\displaystyle v}$في الرسم البياني للعوامل، ثم الرسائل${\displaystyle \mu _{v\to a}}$من${\displaystyle v}$ل${\displaystyle a}$والرسائل${\displaystyle \mu _{a\to v}}$من${\displaystyle a}$ل${\displaystyle v}$الدوال ذات القيم الحقيقية${\displaystyle \mu _{v\to a},\mu _{a\to v}:\operatorname {Dom} (v)\to \mathbb {R} }$، والتي يمثل نطاقها مجموعة القيم التي يمكن أن يأخذها المتغير العشوائي المرتبط بـ${\displaystyle v}$، المشار إليه${\displaystyle \operatorname {Dom} (v)}$تحتوي هذه الرسائل على "التأثير" الذي يمارسه متغير ما على متغير آخر. وتُحسب هذه الرسائل بطريقة مختلفة اعتمادًا على ما إذا كانت العقدة المُستقبلة للرسالة عقدة متغير أو عقدة عامل. مع الحفاظ على نفس الترميز:

• رسالة${\displaystyle \mu _{v\to a}:\operatorname {Dom} (v)\to \mathbb {R} }$من عقدة متغيرة${\displaystyle v}$إلى عقدة عامل${\displaystyle a}$يتم تعريفها بواسطة$${\displaystyle \mu _{v\to a}(x_{v})=\prod _{a^{*}\in N(v)\setminus \{a\}}\mu _{a^{*}\to v}(x_{v})}$$ل${\displaystyle x_{v}\in \operatorname {Dom} (v)}$، أين${\displaystyle N(v)}$هي مجموعة عقد العوامل المجاورة لـ${\displaystyle v}$. لو${\displaystyle N(v)\setminus \{a\}}$فارغ إذن${\displaystyle \mu _{v\to a}(x_{v})}$يتم ضبط التوزيع على التوزيع المنتظم على${\displaystyle \operatorname {Dom} (v)}$.

• رسالة${\displaystyle \mu _{a\to v}:\operatorname {Dom} (v)\to \mathbb {R} }$من عقدة عامل${\displaystyle a}$إلى عقدة متغيرة${\displaystyle v}$يُعرَّف بأنه حاصل ضرب العامل مع الرسائل الواردة من جميع العقد الأخرى، مع تهميش جميع المتغيرات باستثناء المتغير المرتبط بـ${\displaystyle v}$،$${\displaystyle \mu _{a\to v}(x_{v})=\sum _{\mathbf {x} '_{a}:x'_{v}=x_{v}}\left(f_{a}(\mathbf {x} '_{a})\prod _{v^{*}\in N(a)\setminus \{v\}}\mu _{v^{*}\to a}(x'_{v^{*}})\right)}$$ل${\displaystyle x_{v}\in \operatorname {Dom} (v)}$، أين${\displaystyle N(a)}$هي مجموعة العقد المجاورة (المتغيرة) لـ${\displaystyle a}$. لو${\displaystyle N(a)\setminus \{v\}}$فارغ، إذن${\displaystyle \mu _{a\to v}(x_{v})=f_{a}(x_{v})}$لأنه في هذه الحالة${\displaystyle x_{v}=x_{a}}$.

كما هو موضح في الصيغة السابقة: يتم اختزال التهميش الكامل إلى مجموع حاصل ضرب حدود أبسط من تلك التي تظهر في التوزيع المشترك الكامل. لهذا السبب يُطلق على نشر الاعتقاد أحيانًا اسم تمرير الرسائل بمجموع حاصل الضرب ، أو خوارزمية مجموع حاصل الضرب .

في عملية تشغيل نموذجية، يتم تحديث كل رسالة بشكل متكرر انطلاقًا من القيمة السابقة للرسائل المجاورة. يمكن استخدام جداول زمنية مختلفة لتحديث الرسائل. في حالة كون النموذج البياني شجريًا، يتقارب الجدول الزمني الأمثل بعد حساب كل رسالة مرة واحدة فقط (انظر القسم الفرعي التالي). عندما يحتوي الرسم البياني للعوامل على دورات، لا يوجد مثل هذا الجدول الزمني الأمثل، ويكون الخيار الشائع هو تحديث جميع الرسائل في وقت واحد في كل تكرار.

عند التقارب (إذا حدث التقارب)، يكون التوزيع الهامشي المقدر لكل عقدة متناسبًا مع حاصل ضرب جميع الرسائل من العوامل المجاورة (مع إغفال ثابت التطبيع):

${\displaystyle p_{X_{v}}(x_{v})\propto \prod _{a\in N(v)}\mu _{a\to v}(x_{v}).}$

وبالمثل، فإن التوزيع الهامشي المشترك المقدر لمجموعة المتغيرات التي تنتمي إلى عامل واحد يتناسب مع حاصل ضرب العامل والرسائل الواردة من المتغيرات:

${\displaystyle p_{X_{a}}(\mathbf {x} _{a})\propto f_{a}(\mathbf {x} _{a})\prod _{v\in N(a)}\mu _{v\to a}(x_{v}).}$

في حالة كون مخطط العوامل غير دوري (أي شجرة أو غابة)، فإن هذه القيم الهامشية المقدرة تتقارب فعلياً مع القيم الهامشية الحقيقية في عدد محدود من التكرارات. ويمكن إثبات ذلك بالاستقراء الرياضي .

في حالة كون مخطط العوامل شجرة ، ستحسب خوارزمية نشر الاعتقاد التوزيعات الهامشية بدقة. علاوة على ذلك، مع جدولة مناسبة لتحديثات الرسائل، ستنتهي الخوارزمية بعد دورتين كاملتين عبر الشجرة. يمكن وصف هذه الجدولة المثلى كما يلي:

قبل البدء، يتم توجيه الرسم البياني عن طريق تحديد عقدة واحدة كجذر ؛ وتسمى أي عقدة غير جذرية متصلة بعقدة واحدة أخرى فقط ورقة .

في الخطوة الأولى، تُمرَّر الرسائل من الداخل إلى الخارج: بدءًا من الأوراق، يمرر كل عقد رسالة على طول الحافة (الفريدة) باتجاه العقدة الجذرية. يضمن هيكل الشجرة إمكانية الحصول على رسائل من جميع العقد المجاورة الأخرى قبل تمرير الرسالة. يستمر هذا حتى تحصل العقدة الجذرية على رسائل من جميع العقد المجاورة لها.

تتضمن الخطوة الثانية إعادة توجيه الرسائل: بدءًا من الجذر، تُمرر الرسائل في الاتجاه المعاكس. وتكتمل الخوارزمية عندما تتلقى جميع الأوراق رسائلها.

على الرغم من أن خوارزمية نشر الاعتقاد صُممت في الأصل للنماذج الرسومية غير الدورية ، إلا أنه يمكن استخدامها في الرسوم البيانية العامة . ولذلك، تُسمى هذه الخوارزمية أحيانًا بنشر الاعتقاد الحلقي ، لأن الرسوم البيانية عادةً ما تحتوي على دورات أو حلقات. يجب تعديل تهيئة وجدولة تحديثات الرسائل تعديلًا طفيفًا (مقارنةً بالجدول الزمني الموصوف سابقًا للرسوم البيانية غير الدورية) لأن الرسوم البيانية قد لا تحتوي على أي أوراق. بدلًا من ذلك، تُهيأ جميع الرسائل المتغيرة إلى 1، وتُستخدم تعريفات الرسائل نفسها المذكورة أعلاه، مع تحديث جميع الرسائل في كل تكرار (مع العلم أن الرسائل الواردة من الأوراق المعروفة أو الرسوم البيانية الفرعية ذات البنية الشجرية قد لا تحتاج إلى تحديث بعد عدد كافٍ من التكرارات). من السهل إثبات أنه في الشجرة، ستتقارب تعريفات الرسائل لهذا الإجراء المُعدَّل إلى مجموعة تعريفات الرسائل المذكورة أعلاه خلال عدد من التكرارات يساوي قطر الشجرة.

لا تزال الشروط الدقيقة التي يتقارب في ظلها انتشار الاعتقاد الحلقي غير مفهومة تمامًا؛ من المعروف أنه على الرسوم البيانية التي تحتوي على حلقة واحدة، يتقارب في معظم الحالات، ولكن الاحتمالات المُستنتجة قد تكون غير صحيحة. ^{[ 7 ]} توجد عدة شروط كافية (ولكنها ليست ضرورية) لتقارب انتشار الاعتقاد الحلقي إلى نقطة ثابتة فريدة. ^{[ 8 ]} توجد رسوم بيانية لا تتقارب، أو تتأرجح بين حالات متعددة خلال التكرارات المتكررة. يمكن لتقنيات مثل مخططات الخروج أن توفر تصورًا تقريبيًا لتقدم انتشار الاعتقاد واختبارًا تقريبيًا للتقارب.

توجد طرق تقريبية أخرى للتهميش، بما في ذلك الطرق التباينية وطرق مونت كارلو .

إحدى طرق التهميش الدقيق في الرسوم البيانية العامة تُسمى خوارزمية شجرة الوصل ، وهي ببساطة نشر الاعتقاد على رسم بياني مُعدَّل مضمون أن يكون شجرة. وتتمثل الفرضية الأساسية في إزالة الحلقات عن طريق تجميعها في عقد منفردة.

تُعرف خوارزمية مشابهة باسم خوارزمية فيتربي ، ولكنها تُعرف أيضًا بأنها حالة خاصة من خوارزمية الحد الأقصى للضرب أو الحد الأدنى للمجموع، والتي تحل مشكلة التعظيم أو التفسير الأكثر احتمالًا. بدلًا من محاولة حل الهامش، يكمن الهدف هنا في إيجاد القيم.${\displaystyle \mathbf {x} }$التي تزيد من قيمة الدالة العامة (أي القيم الأكثر احتمالاً في بيئة احتمالية)، ويمكن تعريفها باستخدام الوسيط max :

${\displaystyle \operatorname {*} {\arg \max }_{\mathbf {x} }g(\mathbf {x} ).}$

إن الخوارزمية التي تحل هذه المشكلة تكاد تكون مطابقة لخوارزمية نشر الاعتقاد، مع استبدال المجاميع بالقيم القصوى في التعريفات. ^{[ 9 ]}

تجدر الإشارة إلى أن مسائل الاستدلال ، مثل التهميش والتعظيم، تُعدّ مسائل صعبة الحل من فئة NP، سواءً بدقة أو تقريبًا (على الأقل بالنسبة للخطأ النسبي ) في النموذج البياني. وبشكل أدق، فإن مسألة التهميش المذكورة أعلاه هي مسألة كاملة من فئة #P، بينما مسألة التعظيم هي مسألة كاملة من فئة NP .

يمكن تقليل استخدام الذاكرة لنشر الاعتقاد من خلال استخدام خوارزمية الجزيرة (بتكلفة صغيرة في التعقيد الزمني ).

ترتبط خوارزمية الجمع والضرب بحساب الطاقة الحرة في الديناميكا الحرارية . لنفترض أن Z هي دالة التوزيع . توزيع احتمالي

${\displaystyle P(\mathbf {X} )={\frac {1}{Z}}\prod _{f_{j}}f_{j}(x_{j})}$

(وفقًا لتمثيل الرسم البياني للعامل) يمكن اعتباره مقياسًا للطاقة الداخلية الموجودة في النظام، ويتم حسابه على النحو التالي

${\displaystyle E(\mathbf {X} )=-\log \prod _{f_{j}}f_{j}(x_{j}).}$

الطاقة الحرة للنظام هي

${\displaystyle F=U-H=\sum _{\mathbf {X} }P(\mathbf {X} )E(\mathbf {X} )+\sum _{\mathbf {X} }P(\mathbf {X} )\log P(\mathbf {X} ).}$

يمكن بعد ذلك إثبات أن نقاط تقارب خوارزمية الجمع والضرب تمثل النقاط التي تكون عندها الطاقة الحرة في مثل هذا النظام في أدنى مستوياتها. وبالمثل، يمكن إثبات أن النقطة الثابتة لخوارزمية نشر الاعتقاد التكرارية في الرسوم البيانية ذات الدورات هي نقطة ثابتة لتقريب الطاقة الحرة. ^{[ 10 ]}

تُعرض خوارزميات نشر الاعتقاد عادةً على شكل معادلات تحديث الرسائل على رسم بياني عاملي، تتضمن تبادل الرسائل بين العقد المتغيرة وعقدها العاملية المجاورة، والعكس صحيح. ويُعدّ النظر في الرسائل بين المناطق في الرسم البياني إحدى طرق تعميم خوارزمية نشر الاعتقاد. ^{[ 10 ]} توجد عدة طرق لتحديد مجموعة المناطق في الرسم البياني التي يمكنها تبادل الرسائل. إحدى هذه الطرق تستخدم أفكارًا طرحها كيكوتشي في الأدبيات الفيزيائية، ^{[ 11 ] [ 12 ] [ 13 ]} وتُعرف باسم طريقة كيكوتشي لتغير المجموعات . ^{[ 14 ]}

يمكن تحسين أداء خوارزميات نشر المعتقدات أيضًا عن طريق كسر تناظر النسخ المتماثلة في توزيعات الحقول (الرسائل). يؤدي هذا التعميم إلى نوع جديد من الخوارزميات يُسمى نشر المسح (SP)، والذي أثبت كفاءته العالية في حل مسائل NP-كاملة مثل مسائل الإرضاء ^{[ 1 ]} وتلوين الرسوم البيانية .

تُعدّ طريقة التباين العنقودي وخوارزميات نشر المسح تحسينين مختلفين لخوارزمية نشر المعتقدات. ولا يزال اسم "نشر المسح المعمم " (GSP) قيد الانتظار للإشارة إلى الخوارزمية التي تجمع بين هذين التعميمين.

يُعدّ نشر الاعتقاد الغاوسي أحد أنواع خوارزمية نشر الاعتقاد عندما تكون التوزيعات الأساسية غاوسية . وكان أول عمل يحلل هذا النموذج الخاص هو العمل الرائد الذي قام به وايس وفريمان. ^{[ 15 ]}

تحل خوارزمية GaBP مشكلة التهميش التالية:

${\displaystyle P(x_{i})={\frac {1}{Z}}\int _{j\neq i}\exp(-{\tfrac {1}{2}}x^{T}Ax+b^{T}x)\,dx_{j}}$

حيث Z هو ثابت التطبيع، و A هي مصفوفة متماثلة موجبة محددة (مصفوفة التغاير العكسي المعروفة أيضًا باسم مصفوفة الدقة ) و b هو متجه الإزاحة.

وبالمثل، يمكن إثبات أنه باستخدام النموذج الغاوسي، فإن حل مشكلة التهميش يعادل مشكلة تخصيص MAP :

${\displaystyle {\underset {x}{\operatorname {argmax} }}\ P(x)={\frac {1}{Z}}\exp(-{\tfrac {1}{2}}x^{T}Ax+b^{T}x).}$

تُعادل هذه المشكلة أيضًا مشكلة التصغير التالية ذات الشكل التربيعي :

${\displaystyle {\underset {x}{\operatorname {min} }}\ 1/2x^{T}Ax-b^{T}x.}$

وهو ما يعادل أيضاً نظام المعادلات الخطية

${\displaystyle Ax=b.}$

يُعدّ تحليل تقارب خوارزمية GaBP أسهل (مقارنةً بحالة BP العامة)، وهناك شرطان كافيان معروفان للتقارب. صاغ الشرط الأول وايس وآخرون عام 2000، عندما تكون مصفوفة المعلومات A مهيمنة قطريًا . أما الشرط الثاني، فقد صاغه جونسون وآخرون ^{[ 16 ]} عام 2006، عندما يكون نصف قطر الطيف للمصفوفة

${\displaystyle \rho (I-|D^{-1/2}AD^{-1/2}|)<1\,}$

حيث D = diag( A ). لاحقًا، وضع سو وو شروط التقارب اللازمة والكافية لـ GaBP المتزامن وGaBP المخمد، بالإضافة إلى شرط تقارب كافٍ آخر لـ GaBP غير المتزامن. في كل حالة، يتضمن شرط التقارب التحقق من: 1) أن تكون المجموعة (المحددة بواسطة A) غير فارغة، 2) أن يكون نصف قطر الطيف لمصفوفة معينة أصغر من واحد، و3) عدم حدوث مشكلة التفرد (عند تحويل رسالة BP إلى اعتقاد). ^{[ 17 ]}

تم ربط خوارزمية GaBP بمجال الجبر الخطي ، ^{[ 18 ]} وقد تبين أنها خوارزمية تكرارية لحل نظام المعادلات الخطية Ax = b، حيث A هي مصفوفة المعلومات و b هو متجه الإزاحة. وقد أظهرت التجارب أن خوارزمية GaBP تتقارب أسرع من الطرق التكرارية التقليدية مثل طريقة جاكوبي، وطريقة جاوس-سيدل ، وطريقة الاسترخاء المتتالي ، وغيرها. ^{[ 19 ]} بالإضافة إلى ذلك، تبين أن خوارزمية GaBP محصنة ضد المشكلات العددية لطريقة التدرج المترافق المُهيأ مسبقًا . ^{[ 20 ]}

يُطلق على الوصف السابق لخوارزمية BP اسم فك التشفير القائم على الكلمات المشفرة، والذي يحسب الاحتمالية الهامشية التقريبية${\displaystyle P(x|X)}$، بالنظر إلى كلمة المرور المستلمة${\displaystyle X}$توجد صيغة مكافئة، ^{[ 21 ]} والتي تحسب${\displaystyle P(e|s)}$، أين${\displaystyle s}$متلازمة الكلمة المشفرة المستلمة${\displaystyle X}$و${\displaystyle e}$يمثل الخطأ الذي تم فك تشفيره. متجه الإدخال الذي تم فك تشفيره هو${\displaystyle x=X+e}$هذا التباين لا يغير سوى تفسير دالة الكتلة${\displaystyle f_{a}(X_{a})}$وبصورة صريحة، فإن الرسائل هي

${\displaystyle \forall x_{v}\in \operatorname {Dom} (v),\;\mu _{v\to a}(x_{v})=P(X_{v})\prod _{a^{*}\in N(v)\setminus \{a\}}\mu _{a^{*}\to v}(x_{v}).}$

أين${\displaystyle P(X_{v})}$هي احتمالية الخطأ المسبق على المتغير${\displaystyle v}$،

${\displaystyle \forall x_{v}\in \operatorname {Dom} (v),\;\mu _{a\to v}(x_{v})=\sum _{\mathbf {x} '_{a}:x'_{v}=x_{v}}\delta ({\text{syndrome}}({\mathbf {x} }'_{v})={\mathbf {s} })\prod _{v^{*}\in N(a)\setminus \{v\}}\mu _{v^{*}\to a}(x'_{v^{*}}).}$

لا يتطلب هذا المفكك القائم على المتلازمة معلومات عن البتات المستلمة، وبالتالي يمكن تكييفه مع الرموز الكمومية، حيث تكون المعلومات الوحيدة هي متلازمة القياس.

في الحالة الثنائية،${\displaystyle x_{i}\in \{0,1\}}$ويمكن تبسيط تلك الرسائل لإحداث انخفاض كبير في${\displaystyle 2^{|\{v\}|+|N(v)|}}$في التعقيد. ^{[ 22 ] [ 23 ]}

تعريف نسبة الاحتمالية اللوغاريتمية${\displaystyle l_{v}=\log {\tfrac {u_{v\to a}(x_{v}=0)}{u_{v\to a}(x_{v}=1)}}}$،${\displaystyle L_{a}=\log {\tfrac {u_{a\to v}(x_{v}=0)}{u_{a\to v}(x_{v}=1)}}}$، ثم

${\displaystyle v\to a:l_{v}=l_{v}^{(0)}+\sum _{a^{*}\in N(v)\setminus \{a\}}(L_{a^{*}})}$

${\displaystyle a\to v:L_{a}=(-1)^{s_{a}}2\tanh ^{-1}\prod _{v^{*}\in N(a)\setminus \{v\}}\tanh(l_{v^{*}}/2)}$

أين${\displaystyle l_{v}^{(0)}=\log {\tfrac {P(x_{v}=0)}{P(x_{v}=1)}}={\text{const}}}$

يمكن تقدير نسبة الاحتمالية اللوغاريتمية اللاحقة على النحو التالي:${\displaystyle l_{v}=l_{v}^{(0)}+\sum _{a\in N(v)}(L_{a})}$

• بيكسون، داني. (2009). صفحة موارد نشر الاعتقاد الغاوسي — صفحة ويب تحتوي على منشورات حديثة بالإضافة إلى شفرة مصدرية لبرنامج ماتلاب.
• بيشوب، كريستوفر م. (2006). "الفصل 8: النماذج الرسومية" (ملف PDF) . التعرف على الأنماط والتعلم الآلي . سبرينغر. الصفحات 359-418 . ISBN  978-0-387-31073-2تم الاطلاع عليه بتاريخ 2 ديسمبر 2023 .
• كوفلان، جيمس. (2009). مقدمة تعليمية لنشر المعتقدات .
• لوليجر، هانز-أندريا (2004). "مقدمة في الرسوم البيانية العاملية". مجلة معالجة الإشارات IEEE . 21 (1): 28-41 . Bibcode : 2004ISPM...21...28L . doi : 10.1109/MSP.2004.1267047 . S2CID 7722934 . 
• ماكنزي، دانا (2005). " سرعة الاتصالات تقترب من سرعتها القصوى "، مجلة نيو ساينتست . 9 يوليو 2005. العدد 2507 (التسجيل مطلوب)
• ويميرش، هينك (2007). تصميم جهاز الاستقبال التكراري . مطبعة جامعة كامبريدج. ISBN 978-0-521-87315-4.
• يديديا، جيه إس؛ فريمان، دبليو تي؛ فايس، واي. (يناير 2003). "فهم انتشار المعتقدات وتعميماتها" . في: لاكيمير، جيرهارد؛ نيبيل، برنارد (محرران). استكشاف الذكاء الاصطناعي في الألفية الجديدة . مورغان كوفمان. ص 239-269 . ISBN  978-1-55860-811-5تم الاطلاع عليه بتاريخ 30 مارس 2009 .
• يديديا، جيه إس؛ فريمان، دبليو تي؛ فايس، واي. (يوليو 2005). "بناء تقريبات الطاقة الحرة وخوارزميات نشر الاعتقاد المعممة" . معاملات IEEE في نظرية المعلومات . 51 (7): 2282-2312 . CiteSeerX 10.1.1.3.5650 . doi : 10.1109/TIT.2005.850085 . S2CID 52835993 .