شبكة وظائف الأساس الفائق

في مجال تعلم الآلة ، تُعدّ شبكة الدوال الأساسية الفائقة ( HyperBF ) تعميمًا لمفهوم شبكات الدوال الأساسية الشعاعية (RBF) ، حيث يُستخدم مقياس المسافة الشبيه بمقياس ماهالانوبيس بدلًا من مقياس المسافة الإقليدية . وقد طُرحت شبكات الدوال الأساسية الفائقة لأول مرة من قِبل بوجيو وجيروسي في ورقة بحثية نُشرت عام 1990 بعنوان "شبكات التقريب والتعلم". ^{[ 1 ] [ 2 ]}

يتكون هيكل شبكة HyperBF النموذجي من متجه إدخال حقيقي${\displaystyle x\in \mathbb {R} ^{n}}$تتكون الشبكة من طبقة مخفية من دوال التنشيط وطبقة إخراج خطية. ويكون خرج الشبكة دالة عددية لمتجه الإدخال.${\displaystyle \phi$ :\mathbb {R} ^{n}\to \mathbb {R} } , تُعطى بواسطة

${\displaystyle \phi (x)=\sum _{j=1}^{N}a_{j}\rho _{j}(||x-\mu _{j}||)}$

أين${\displaystyle N}$يمثل عدد الخلايا العصبية في الطبقة المخفية،${\displaystyle \mu _{j}}$ و${\displaystyle a_{j}}$مركز ووزن الخلية العصبية${\displaystyle j}$دالة التنشيط${\displaystyle \rho _{j}(||x-\mu _{j}||)}$تتخذ شبكة HyperBF الشكل التالي

${\displaystyle \rho _{j}(||x-\mu _{j}||)=e^{(x-\mu _{j})^{T}R_{j}(x-\mu _{j})}}$

أين${\displaystyle R_{j}}$هو إيجابي مؤكد${\displaystyle d\times d}$المصفوفة. اعتمادًا على التطبيق، توجد الأنواع التالية من المصفوفات${\displaystyle R_{j}}$عادة ما يتم اعتبارها ^{[ 3 ]}

• ${\displaystyle R_{j}={\frac {1}{2\sigma ^{2}}}\mathbb {I} _{d\times d}}$، أين${\displaystyle \sigma >0}$. تتوافق هذه الحالة مع شبكة RBF العادية.
• ${\displaystyle R_{j}={\frac {1}{2\sigma _{j}^{2}}}\mathbb {I} _{d\times d}}$، أين${\displaystyle \sigma _{j}>0}$في هذه الحالة، تكون الدوال الأساسية متناظرة شعاعيًا، ولكن يتم تغيير مقياسها بعرض مختلف.
• ${\displaystyle R_{j}=diag\left({\frac {1}{2\sigma _{j1}^{2}}},...,{\frac {1}{2\sigma _{jz}^{2}}}\right)\mathbb {I} _{d\times d}}$، أين${\displaystyle \sigma _{ji}>0}$كل خلية عصبية لها شكل بيضاوي بأحجام متفاوتة.
• مصفوفة موجبة محددة، ولكنها ليست قطرية.

يتضمن تدريب شبكات HyperBF تقدير الأوزان${\displaystyle a_{j}}$شكل ومراكز الخلايا العصبية${\displaystyle R_{j}}$و${\displaystyle \mu _{j}}$يصف بوجيو وجيروسى (1990) أسلوب التدريب باستخدام المراكز المتحركة وأشكال الخلايا العصبية القابلة للتكيف. ويرد أدناه ملخص لهذا الأسلوب.

ضع في اعتبارك الخسارة التربيعية للشبكة${\displaystyle H[\phi ^{*}]=\sum _{i=1}^{N}(y_{i}-\phi ^{*}(x_{i}))^{2}}$يجب استيفاء الشروط التالية عند الوصول إلى الوضع الأمثل:

${\displaystyle {\frac {\partial H(\phi ^{*})}{\partial a_{j}}}=0}$،${\displaystyle {\frac {\partial H(\phi ^{*})}{\partial \mu _{j}}}=0}$،${\displaystyle {\frac {\partial H(\phi ^{*})}{\partial W}}=0}$

أين${\displaystyle R_{j}=W^{T}W}$ثم في طريقة التدرج الهبوطي، يتم تحديد قيم${\displaystyle a_{j},\mu _{j},W}$ذلك يقلل${\displaystyle H[\phi ^{*}]}$يمكن إيجادها كنقطة ثابتة مستقرة للنظام الديناميكي التالي:

${\displaystyle {\dot {a_{j}}}=-\omega {\frac {\partial H(\phi ^{*})}{\partial a_{j}}}}$،${\displaystyle {\dot {\mu _{j}}}=-\أوميغا {\frac {\partial H(\phi ^{*})}{\partial \mu _{j}}}}$،${\displaystyle {\dot {W}}=-\أوميغا {\frac {\partial H(\phi ^{*})}{\partial W}}}$

أين${\displaystyle \omega }$يحدد معدل التقارب .

بشكل عام، قد يكون تدريب شبكات HyperBF تحديًا حسابيًا. علاوة على ذلك، تؤدي درجة الحرية العالية في HyperBF إلى فرط التخصيص وضعف التعميم. مع ذلك، تتميز شبكات HyperBF بميزة مهمة، وهي أن عددًا قليلًا من الخلايا العصبية يكفي لتعلم الوظائف المعقدة. ^{[ 2 ]}