فاستيكا

FastICA خوارزمية فعّالة وشائعة لتحليل المكونات المستقلة ، ابتكرها آبو هيفارينن في جامعة هلسنكي للتكنولوجيا . [ 1 ] [ 2 ] وكما هو الحال في معظم خوارزميات تحليل المكونات المستقلة، تسعى FastICA إلى إيجاد دوران متعامد للبيانات المُبيَّضة مسبقًا ، من خلال مخطط تكراري بنقطة ثابتة ، يُعظِّم مقياسًا لعدم التوزيع الطبيعي للمكونات المُدوَّرة. يُعدّ عدم التوزيع الطبيعي مؤشرًا على الاستقلال الإحصائي ، وهو شرط قوي جدًا ويتطلب بيانات غير محدودة للتحقق منه. ويمكن أيضًا اشتقاق FastICA كبديل باستخدام تكرار نيوتن التقريبي.

الخوارزمية

تبييض البيانات مسبقًا

دعX:=(xأناج)Rشمال×م{\displaystyle \mathbf {X} :=(x_{ij})\in \mathbb {R} ^{N\times M}} تشير إلى مصفوفة بيانات الإدخال،م{\displaystyle M}عدد الأعمدة التي تتوافق مع عدد عينات الإشارات المختلطة وشمال{\displaystyle N}عدد الصفوف الذي يتوافق مع عدد إشارات المصدر المستقلة. مصفوفة بيانات الإدخالX{\displaystyle \mathbf {X} }يجب تبييضها مسبقًا ، أو توسيطها وتبييضها، قبل تطبيق خوارزمية FastICA عليها.

  • يتطلب توسيط البيانات تقليل متوسط ​​كل مكون من مكونات بيانات الإدخالX{\displaystyle \mathbf {X} }، إنه،
xأناجxأناج-1مجxأناج{\displaystyle x_{ij}\leftarrow x_{ij}-{\frac {1}{M}}\sum _{j^{\prime }}x_{ij^{\prime }}}
لكلأنا=1،...،شمال{\displaystyle i=1,\ldots ,N}وج=1،...،م{\displaystyle j=1,\ldots ,M}بعد التوسيط، كل صف منX{\displaystyle \mathbf {X} }تبلغ قيمتها المتوقعة0{\displaystyle 0}.
  • يتطلب تبييض البيانات تحويلاً خطياًل:Rشمال×مRشمال×م{\displaystyle \mathbf {L} :\mathbb {R} ^{N\times M}\to \mathbb {R} ^{N\times M}} من البيانات المركزية بحيث تكون مكوناتل(X){\displaystyle \mathbf {L} (\mathbf {X} )}غير مترابطة ولها تباين يساوي واحدًا. بتعبير أدق، إذاX{\displaystyle \mathbf {X} }هي مصفوفة بيانات مركزية، والتباين المشترك لـلx:=ل(X){\displaystyle \mathbf {L} _{\mathbf {x} }:=\mathbf {L} (\mathbf {X} )}هو(شمال×شمال){\displaystyle (N\times N)}مصفوفة الوحدة ذات الأبعاد n، أي
هـ{لxلxتي}=أناشمال{\displaystyle \mathrm {E} \left\{\mathbf {L} _{\mathbf {x} }\mathbf {L} _{\mathbf {x} }^{T}\right\}=\mathbf {I} _{N}}
تتمثل إحدى الطرق الشائعة لتبييض البيانات في إجراء تحليل القيم الذاتية على مصفوفة التغاير للبيانات المركزية.X{\displaystyle \mathbf {X} }،هـ{XXتي}=هـدهـتي{\displaystyle E\left\{\mathbf {X} \mathbf {X} ^{T}\right\}=\mathbf {E} \mathbf {D} \mathbf {E} ^{T}}، أينهـ{\displaystyle \mathbf {E} }هي مصفوفة المتجهات الذاتية ود{\displaystyle \mathbf {D} }هي المصفوفة القطرية للقيم الذاتية. تُعرَّف مصفوفة البيانات المُبيَّضة على النحو التالي:
Xد-1/2هـتيX.{\displaystyle \mathbf {X} \leftarrow \mathbf {D} ^{-1/2}\mathbf {E} ^{T}\mathbf {X} .}

استخلاص مكون واحد

تحدد الخوارزمية التكرارية اتجاه متجه الوزنwRشمال{\displaystyle \mathbf {w} \in \mathbb {R} ^{N}} الذي يزيد من مقياس عدم غاوسية الإسقاطwتيX{\displaystyle \mathbf {w} ^{T}\mathbf {X} }، معXRشمال×م{\displaystyle \mathbf {X} \in \mathbb {R} ^{N\times M}}يشير ذلك إلى مصفوفة بيانات مُبيَّضة مسبقًا كما هو موضح أعلاه. لاحظ أنw{\displaystyle \mathbf {w} }هو متجه عمودي. لقياس اللاغوسية، يعتمد FastICA على دالة غير خطية غير تربيعيةو(u){\displaystyle f(u)}، مشتقها الأولز(u){\displaystyle g(u)}، ومشتقها الثانيز(u){\displaystyle g^{\prime }(u)}يذكر هيفارينن أن الوظائف

و(u)=سجلضرب بالعصا(u)،ز(u)=tanh(u)،وز(u)=1-tanh2(u)،{\displaystyle f(u)=\log \cosh(u),\quad g(u)=\tanh(u),\quad {\text{and}}\quad {g}'(u)=1-\tanh ^{2}(u),}

وهي مفيدة للأغراض العامة، بينما

و(u)=-هـ-u2/2،ز(u)=uهـ-u2/2،وز(u)=(1-u2)هـ-u2/2{\displaystyle f(u)=-e^{-u^{2}/2},\quad g(u)=ue^{-u^{2}/2},\quad {\text{and}}\quad {g}'(u)=(1-u^{2})e^{-u^{2}/2}}

قد يكون قويًا للغاية. [ 1 ] خطوات استخراج متجه الوزنw{\displaystyle \mathbf {w} }بالنسبة للمكون الواحد في FastICA، تكون القيم كالتالي:

  1. قم بتوزيع متجه الوزن الأولي عشوائياًw{\displaystyle \mathbf {w} }
  2. يتركw+هـ{Xز(wتيX)تي}-هـ{ز(wتيX)}w{\displaystyle \mathbf {w} ^{+}\leftarrow E\left\{\mathbf {X} g(\mathbf {w} ^{T}\mathbf {X} )^{T}\right\}-E\left\{g'(\mathbf {w} ^{T}\mathbf {X} )\right\}\mathbf {w} }، أينهـ{...}{\displaystyle E\left\{...\right\}}يعني حساب المتوسط ​​على جميع متجهات الأعمدة للمصفوفةX{\displaystyle \mathbf {X} }
  3. يتركww+/w+{\displaystyle \mathbf {w} \leftarrow \mathbf {w} ^{+}/\|\mathbf {w} ^{+}\|}
  4. إذا لم يتم التقارب، فارجع إلى 2

استخراج المكونات المتعددة

تقوم الخوارزمية التكرارية أحادية الوحدة بتقدير متجه وزن واحد فقط، مما يؤدي إلى استخراج مكون واحد. يتطلب تقدير مكونات إضافية "مستقلة" عن بعضها البعض تكرار الخوارزمية للحصول على متجهات إسقاط مستقلة خطيًا - تجدر الإشارة إلى أن مفهوم الاستقلال هنا يشير إلى تعظيم عدم التوزيع الغاوسي في المكونات المقدرة. يقدم هيفارينن عدة طرق لاستخراج مكونات متعددة، وأبسطها ما يلي. هنا،1م{\displaystyle \mathbf {1_{M}} }هو متجه عمودي من 1 ذي بُعدم{\displaystyle M}.

خوارزمية FastICA

مدخل:ج{\displaystyle C}عدد المكونات المطلوبة
مدخل:XRشمال×م{\displaystyle \mathbf {X} \in \mathbb {R} ^{N\times M}}مصفوفة مُبَيَّأة مسبقًا، حيث يمثل كل عمودشمال{\displaystyle N}عينة ذات أبعاد، حيثجشمال{\displaystyle C<=N}
الناتج:دبليوRشمال×ج{\displaystyle \mathbf {W} \in \mathbb {R} ^{N\times C}}مصفوفة فك المزج حيث يسقط كل عمودX{\displaystyle \mathbf {X} }على المكون المستقل.
الناتج:SRج×م{\displaystyle \mathbf {S} \in \mathbb {R} ^{C\times M}}مصفوفة المكونات المستقلة، معم{\displaystyle M}أعمدة تمثل عينة معج{\displaystyle C} أبعاد.
لكل قيمة p في النطاق من 1 إلى C: wص{\displaystyle \mathbf {w_{p}} \leftarrow }متجه عشوائي بطول N بينماwص{\displaystyle \mathbf {w_{p}} }التغييرات wص1مXز(wصتيX)تي-1مز(wصتيX)1مwص{\displaystyle \mathbf {w_{p}} \leftarrow {\frac {1}{M}}\mathbf {X} g(\mathbf {w_{p}} ^{T}\mathbf {X} )^{T}-{\frac {1}{M}}g'(\mathbf {w_{p}} ^{T}\mathbf {X} )\mathbf {1_{M}} \mathbf {w_{p}} }wصwص-ج=1ص-1(wصتيwج)wج{\displaystyle \mathbf {w_{p}} \leftarrow \mathbf {w_{p}} -\sum _{j=1}^{p-1}(\mathbf {w_{p}} ^{T}\mathbf {w_{j}} )\mathbf {w_{j}} }wصwصwص{\displaystyle \mathbf {w_{p}} \leftarrow {\frac {\mathbf {w_{p}} }{\|\mathbf {w_{p}} \|}}}المخرجاتدبليو[w1،...،wج]{\displaystyle \mathbf {W} \leftarrow {\begin{bmatrix}\mathbf {w_{1}} ,\dots ,\mathbf {w_{C}} \end{bmatrix}}}المخرجاتSدبليوتيX{\displaystyle \mathbf {S} \leftarrow \mathbf {W^{T}} \mathbf {X} }

انظر أيضاً

مراجع

  1. 1 2 هيفارينين، أ.؛ أوجا، إ. (2000). "تحليل المكونات المستقلة: الخوارزميات والتطبيقات" (ملف PDF) . الشبكات العصبية . 13 ( 4-5 ): 411-430 . CiteSeerX 10.1.1.79.7003 . doi : 10.1016/S0893-6080(00)00026-5 . PMID 10946390 .  
  2. هيفارينين، أ. (1999). "خوارزميات النقطة الثابتة السريعة والقوية لتحليل المكونات المستقلة" (ملف PDF) . معاملات IEEE في الشبكات العصبية . 10 (3): 626-634 . CiteSeerX 10.1.1.297.8229 . doi : 10.1109/72.761722 . PMID 18252563 .