ألوبكس

ALOPEX (اختصار لـ "خوارزميات استخراج الأنماط") هي خوارزمية تعلم آلي قائمة على الارتباط اقترحها تزاناكو وهارث لأول مرة في عام 1974.

مبدأ

في مجال تعلم الآلة ، يتمثل الهدف في تدريب نظام لتقليل دالة التكلفة أو (في حالة ALOPEX) دالة الاستجابة. تعاني العديد من خوارزميات التدريب، مثل الانتشار العكسي ، من قابلية التعثر في القيم الدنيا أو القصوى المحلية لدالة الاستجابة. يستخدم ALOPEX الارتباط المتبادل للفروقات وعملية عشوائية للتغلب على هذه المشكلة في محاولة للوصول إلى القيمة الدنيا (أو القصوى) المطلقة لدالة الاستجابة.

طريقة

يُعرَّف نموذج ALOPEX، في أبسط صوره، بمعادلة تحديث:

Δ دبليوأناج(ن)=γ Δ دبليوأناج(ن-1)Δ R(ن)+رأنا(ن){\displaystyle \Delta \ W_{ij}(n)=\gamma \ \Delta \ W_{ij}(n-1)\Delta \ R(n)+r_{i}(n)}

أين:

  • ن0{\displaystyle n\geq 0}هي التكرار أو الخطوة الزمنية.
  • Δ دبليوأناج(ن){\displaystyle \Delta \ W_{ij}(n)}يمثل الفرق بين القيمة الحالية والقيمة السابقة لمتغير النظام دبليوأناج{\displaystyle \ W_{ij}}في التكرارن{\displaystyle n}.
  • Δ R(ن){\displaystyle \Delta \ R(n)}يمثل الفرق بين القيمة الحالية والقيمة السابقة لدالة الاستجابة R،{\displaystyle \ R,}في التكرارن{\displaystyle n}.
  • γ{\displaystyle \gamma }هو معامل معدل التعلم(γ <0{\displaystyle (\gamma \ <0}يقللR،{\displaystyle R,}وγ >0{\displaystyle \gamma \ >0}يحقق أقصى استفادةR ){\displaystyle R\ )}
  • رأنا(ن) شمال(0،σ 2){\displaystyle r_{i}(n)\sim \ N(0,\sigma \ ^{2})}

مناقشة

بشكل أساسي، يقوم برنامج ALOPEX بتغيير كل متغير من متغيرات النظامدبليوأناج(ن){\displaystyle W_{ij}(n)}بناءً على ناتج: التغير السابق في المتغيرΔ{\displaystyle \Delta }دبليوأناج(ن-1){\displaystyle W_{ij}(n-1)}، والتغير الناتج في دالة التكلفةΔ{\displaystyle \Delta }R(ن){\displaystyle R(n)}ومعامل معدل التعلمγ{\displaystyle \gamma }علاوة على ذلك، لإيجاد الحد الأدنى المطلق (أو الحد الأقصى المطلق)، فإن العملية العشوائيةرأناج(ن){\displaystyle r_{ij}(n)}(غاوسي أو غيره) يتم إضافته بشكل عشوائي "لدفع" الخوارزمية خارج أي حد أدنى محلي.

مراجع

  • هارث، إي.؛ تزاناكو، إي. (ديسمبر 1974). "ALOPEX: طريقة احتمالية لتحديد الحقول الاستقبالية البصرية". أبحاث الرؤية . 14 (12): 1475-1482 . doi : 10.1016/0042-6989(74)90024-8 . PMID 4446379 .