تحليل المكونات الرئيسية المتفرقة

يُعد تحليل المكونات الرئيسية المتفرقة (SPCA أو PCA المتفرقة) أسلوبًا يُستخدم في التحليل الإحصائي، وخاصةً في تحليل مجموعات البيانات متعددة المتغيرات . وهو يُوسّع الطريقة الكلاسيكية لتحليل المكونات الرئيسية (PCA) لتقليل أبعاد البيانات من خلال إدخال هياكل التفرق إلى متغيرات الإدخال.

من أبرز عيوب تحليل المكونات الرئيسية التقليدي أن المكونات الرئيسية عادةً ما تكون تراكيب خطية لجميع متغيرات الإدخال. يتغلب تحليل المكونات الرئيسية المجزأ (SPCA) على هذا العيب بإيجاد مكونات تُشكل تراكيب خطية لعدد قليل من متغيرات الإدخال (SPCs). هذا يعني أن بعض معاملات التراكيب الخطية التي تُحدد هذه المكونات، والتي تُسمى معاملات التحميل ، ^{[ ملاحظة 1 ]} تساوي صفرًا. يُطلق على عدد معاملات التحميل غير الصفرية اسم عدد عناصر المكون الرئيسي المجزأ.

لنفترض وجود مصفوفة بيانات ،${\displaystyle X}$، حيث كل من${\displaystyle p}$تمثل الأعمدة متغيرًا مُدخلًا، وكل منها${\displaystyle n}$تمثل الصفوف عينة مستقلة من مجموعة البيانات. يفترض المرء أن كل عمود من${\displaystyle X}$يكون متوسطها صفرًا، وإلا يمكن طرح متوسط ​​كل عمود من كل عنصر من عناصر${\displaystyle X}$. يترك${\displaystyle \Sigma ={\frac {1}{n-1}}X^{\top }X}$لتكن مصفوفة التغاير التجريبية لـ${\displaystyle X}$، والتي لها أبعاد${\displaystyle p\times p}$.

بفرض عدد صحيح${\displaystyle k}$مع${\displaystyle 1\leq k\leq p}$يمكن صياغة مشكلة تحليل المكونات الرئيسية المتفرقة على أنها تعظيم التباين على طول اتجاه ممثل بواسطة متجه${\displaystyle v\in \mathbb {R} ^{p}}$مع تقييد عدد عناصرها:

${\displaystyle {\begin{aligned}\max \quad &v^{T}\Sigma v\\{\text{subject to}}\quad &\left\Vert v\right\Vert _{2}=1\\&\left\Vert v\right\Vert _{0}\leq k.\end{aligned}}}$المعادلة 1

ينص القيد الأول على أن v متجه وحدة . أما في القيد الثاني،${\displaystyle \left\Vert v\right\Vert _{0}}$يمثل${\displaystyle \ell _{0}}$المعيار الزائف للمصفوفة v ، والذي يُعرَّف بأنه عدد مكوناتها غير الصفرية. لذا، ينص القيد الثاني على أن عدد المكونات غير الصفرية في v أقل من أو يساوي k ، وهو عادةً عدد صحيح أصغر بكثير من البُعد p . تُعرف القيمة المثلى للمعادلة 1 باسم أكبر قيمة ذاتية متفرقة من الرتبة k .

إذا أخذنا k=p ، فإن المشكلة تختزل إلى PCA العادي ، وتصبح القيمة المثلى هي أكبر قيمة ذاتية لمصفوفة التغاير Σ .

بعد إيجاد الحل الأمثل v ، يتم تقليص Σ للحصول على مصفوفة جديدة

${\displaystyle \Sigma _{1}=\Sigma -(v^{T}\Sigma v)vv^{T},}$

ونكرر هذه العملية للحصول على المزيد من المكونات الرئيسية. مع ذلك، وعلى عكس تحليل المكونات الرئيسية (PCA)، لا يضمن تحليل المكونات الرئيسية المتفرقة تعامد المكونات الرئيسية المختلفة . ولتحقيق التعامد، يجب فرض قيود إضافية.

التعريف المكافئ التالي مكتوب بصيغة المصفوفة. ليكن${\displaystyle V}$إذا كانت مصفوفة متناظرة من الرتبة p×p ، فيمكن إعادة كتابة مسألة تحليل المكونات الرئيسية المتفرقة على النحو التالي:

${\displaystyle {\begin{aligned}\max \quad &Tr(\Sigma V)\\{\text{subject to}}\quad &Tr(V)=1\\&\Vert V\Vert _{0}\leq k^{2}\\&Rank(V)=1,V\succeq 0.\end{aligned}}}$المعادلة 2

Tr هو أثر المصفوفة ، و${\displaystyle \Vert V\Vert _{0}}$يمثل العناصر غير الصفرية في المصفوفة V. يشير السطر الأخير إلى أن رتبة المصفوفة V تساوي واحدًا وأنها شبه موجبة . يعني السطر الأخير أن واحدًا لديه${\displaystyle V=vv^{T}}$وبالتالي فإن المعادلة 2 تعادل المعادلة 1 .

علاوة على ذلك، فإن قيد الرتبة في هذه الصيغة هو في الواقع زائد عن الحاجة، وبالتالي يمكن صياغة PCA المتفرقة على أنها برنامج شبه محدد مختلط الأعداد الصحيحة التالي ^{[ 1 ].}

${\displaystyle {\begin{aligned}\max \quad &Tr(\Sigma V)\\{\text{subject to}}\quad &Tr(V)=1\\&\vert V_{i,i}\vert \leq z_{i},\forall i\in \{1,...,p\},\vert V_{i,j}\vert \leq {\frac {1}{2}}z_{i},\forall i,j\in \{1,...,p\}:i\neq j,\\&V\succeq 0,z\in \{0,1\}^{p},\sum _{i}z_{i}\leq k\end{aligned}}}$المعادلة 3

بسبب قيد العدد، يصعب حل مسألة التعظيم بدقة، خاصةً عندما يكون البُعد p كبيرًا. في الواقع، تُعدّ مسألة تحليل المكونات الرئيسية المتفرقة في المعادلة 1 مسألة صعبة الحل من نوع NP بالمعنى الدقيق. ^{[ 2 ]}

كما هو الحال مع معظم المشاكل المتفرقة، فإن اختيار المتغيرات في SPCA هو مشكلة غير محدبة صعبة حسابيًا من نوع NP-hard، ^{[ 3 ]} لذلك غالبًا ما يتم استخدام الخوارزميات الجشعة شبه المثلى لإيجاد الحلول.

تجدر الإشارة أيضًا إلى أن SPCA تُدخل معلمات فائقة تُحدد مدى تأثير معاقبة القيم الكبيرة للمعلمات. ^{[ 4 ]} قد يتطلب الأمر ضبط هذه المعلمات لتحقيق أداء مُرضٍ، مما يزيد من التكلفة الحسابية الإجمالية.

تم اقتراح العديد من المناهج البديلة ( للمعادلة 1 )، بما في ذلك

• إطار الانحدار، ^{[ 5 ]}
• إطار عمل لتحليل المصفوفة المعاقبة ، ^{[ 6 ]}
• إطار عمل للبرمجة شبه المحددة/الاسترخاء المحدب، ^{[ 7 ]}
• إطار عمل عام لطريقة القوة ^{[ 8 ]}
• إطار عمل التحسين المتناوب ^{[ 9 ]}
• البحث الجشع الأمامي والخلفي والأساليب الدقيقة باستخدام تقنيات التفرع والتقييد، ^{[ 10 ]}
• نهج التفرع والتقييد الأمثل المعتمد ^{[ 11 ]}
• إطار الصياغة البايزية. ^{[ 12 ]}
• نهج التفرع والقطع شبه المحدد للأعداد الصحيحة المختلطة الأمثل المعتمد ^{[ 1 ]}

تم استعراض التطورات المنهجية والنظرية لتقنية تحليل المكونات الرئيسية المتفرقة (Sparse PCA) بالإضافة إلى تطبيقاتها في الدراسات العلمية مؤخرًا في ورقة بحثية. ^{[ 13 ]}

• amanpg - حزمة R لتحليل المكونات الرئيسية المتفرقة باستخدام طريقة التدرج التقريبي للمشعب المتناوب ^{[ 16 ]}
• elasticnet – حزمة R للتقدير المتفرق وتحليل المكونات الرئيسية المتفرق باستخدام الشبكات المرنة ^{[ 17 ]}
• epca – حزمة R لتحليل المكونات الرئيسية الاستكشافي لمجموعات البيانات واسعة النطاق، بما في ذلك تحليل المكونات الرئيسية المتفرقة وتقريب المصفوفة المتفرقة. ^{[ 18 ]}
• nsprcomp - حزمة R لتحليل المكونات الرئيسية المتفرقة و/أو غير السالبة بناءً على تكرارات القوة المحددة ^{[ 19 ]}
• scikit-learn – مكتبة بايثون للتعلم الآلي تحتوي على Sparse PCA وتقنيات أخرى في وحدة التفكيك. ^{[ 20 ]}