التعلم متعدد النواة

في مجال التعلم الخاضع للإشراف، توجد العديد من الخوارزميات الأخرى التي تستخدم أساليب مختلفة لتعلم شكل النواة. وقد اقترح غونين وألبايدين (2011) التصنيف التالي ^{[ 5 ]}

تتشابه أساليب التعلم شبه الموجه لتعلم النوى المتعددة مع امتدادات أخرى لأساليب التعلم الموجه. وقد طُوِّر إجراء استقرائي يستخدم دالة خسارة تجريبية من نوع لوغاريتم الاحتمالية، وتنظيم LASSO الجماعي مع توافق التوقع الشرطي على البيانات غير المصنفة لتصنيف الصور. يمكننا تعريف المشكلة على النحو التالي: ليكن${\displaystyle L={(x_{i},y_{i})}}$لتكن البيانات المصنفة، ولتكن${\displaystyle U={x_{i}}}$لنفترض أن لدينا مجموعة البيانات غير المصنفة. عندئذٍ، يمكننا كتابة دالة القرار على النحو التالي.

${\displaystyle f(x)=\alpha _{0}+\sum _{i=1}^{|L|}\alpha _{i}K_{i}(x)}$

يمكن كتابة المسألة على النحو التالي

${\displaystyle \min _{f}L(f)+\lambda R(f)+\gamma \Theta (f)}$

أين${\displaystyle L}$هي دالة الخسارة (اللوغاريتم السالب المرجح للاحتمالية في هذه الحالة)،${\displaystyle R}$يمثل معامل التنظيم ( مجموعة لاسو في هذه الحالة)، و${\displaystyle \Theta }$هي عقوبة توافق التوقعات الشرطية (CEC) على البيانات غير المصنفة. تُعرَّف عقوبة CEC كما يلي: لنفترض أن كثافة النواة الهامشية لجميع البيانات هي

${\displaystyle g_{m}^{\pi }(x)=\langle \phi _{m}^{\pi},\psi _{m}(x)\rangle }$

أين${\displaystyle \psi _{m}(x)=[K_{m}(x_{1},x),\ldots ,K_{m}(x_{L},x)]^{T}}$(مسافة النواة بين البيانات المصنفة وجميع البيانات المصنفة وغير المصنفة) و${\displaystyle \phi _{m}^{\pi }}$هو متجه عشوائي غير سالب ذو معيار 2 يساوي 1. قيمة${\displaystyle \Pi }$يمثل عدد مرات إسقاط كل نواة. ثم يتم تطبيق تنظيم التوقع على MKD، مما ينتج عنه توقع مرجعي.${\displaystyle q_{m}^{pi}(y|g_{m}^{\pi }(x))}$وتوقعات النموذج${\displaystyle p_{m}^{\pi }(f(x)|g_{m}^{\pi }(x))}$ثم نُعرّف

${\displaystyle \Theta ={\frac {1}{\Pi }}\sum _{\pi =1}^{\Pi }\sum _{m=1}^{M}D(q_{m}^{pi}(y|g_{m}^{\pi }(x))||p_{m}^{\pi }(f(x)|g_{m}^{\pi }(x)))}$

أين${\displaystyle D(Q||P)=\sum _{i}Q(i)\ln {\frac {Q(i)}{P(i)}}}$يمثل هذا تباعد كولباك-لايبير . يتم تحسين مسألة التصغير المدمجة باستخدام خوارزمية معدلة لانحدار التدرج الكتلي. لمزيد من المعلومات، انظر وانغ وآخرون ^{[ 15 ] .}

اقترح تشوانغ وآخرون أيضًا خوارزميات تعلم متعددة النواة غير خاضعة للإشراف . تُعرَّف المشكلة على النحو التالي: ليكن${\displaystyle U={x_{i}}}$لنفترض أن لدينا مجموعة من البيانات غير المصنفة. تعريف النواة هو النواة الخطية المركبة${\displaystyle K'=\sum _{i=1}^{M}\beta _{i}K_{m}}$في هذه المسألة، يجب "تجميع" البيانات في مجموعات بناءً على مسافات النواة. لنفترض${\displaystyle B_{i}}$أن تكون مجموعة أو عنقودًا منها${\displaystyle x_{i}}$هو عضو. نُعرّف دالة الخسارة على النحو التالي:${\displaystyle \sum _{i=1}^{n}\left\Vert x_{i}-\sum _{x_{j}\in B_{i}}K(x_{i},x_{j})x_{j}\right\Vert ^{2}}$علاوة على ذلك، نقلل التشوه عن طريق تقليل${\displaystyle \sum _{i=1}^{n}\sum _{x_{j}\in B_{i}}K(x_{i},x_{j})\left\Vert x_{i}-x_{j}\right\Vert ^{2}}$وأخيرًا، نضيف حدًا للتنظيم لتجنب التجاوز في التخصيص. وبدمج هذه الحدود، يمكننا كتابة مسألة التصغير على النحو التالي.

${\displaystyle \min _{\beta ,B}\sum _{i=1}^{n}\left\Vert x_{i}-\sum _{x_{j}\in B_{i}}K(x_{i},x_{j})x_{j}\right\Vert ^{2}+\gamma _{1}\sum _{i=1}^{n}\sum _{x_{j}\in B_{i}}K(x_{i},x_{j})\left\Vert x_{i}-x_{j}\right\Vert ^{2}+\gamma _{2}\sum _{i}|B_{i}|}$

حيث . إحدى صيغ هذا تُعرَّف على النحو التالي. ليكن${\displaystyle D\in {0,1}^{n\times n}}$لتكن مصفوفة بحيث${\displaystyle D_{ij}=1}$هذا يعني أن${\displaystyle x_{i}}$و${\displaystyle x_{j}}$هم جيران. ثم،${\displaystyle B_{i}={x_{j}:D_{ij}=1}}$تجدر الإشارة إلى أنه يجب تعلم هذه المجموعات أيضًا. وقد حل تشوانغ وآخرون هذه المشكلة باستخدام طريقة التصغير المتناوب لـ${\displaystyle K}$والمجموعات${\displaystyle B_{i}}$للمزيد من المعلومات، انظر Zhuang et al. ^{[ 16 ]}