تقليل الأبعاد

تُعدّ تقنية تحليل المكونات الرئيسية، وهي التقنية الخطية الأساسية لتقليل الأبعاد، بمثابة تحويل خطي للبيانات إلى فضاء ذي أبعاد أقل، بحيث يتم تعظيم تباين البيانات في التمثيل ذي الأبعاد المنخفضة. عمليًا، يتم إنشاء مصفوفة التغاير (وأحيانًا مصفوفة الارتباط ) للبيانات، ثم تُحسب المتجهات الذاتية لهذه المصفوفة. يمكن الآن استخدام المتجهات الذاتية التي تُقابل أكبر القيم الذاتية (المكونات الرئيسية) لإعادة بناء جزء كبير من تباين البيانات الأصلية. علاوة على ذلك، غالبًا ما يمكن تفسير المتجهات الذاتية القليلة الأولى من حيث السلوك الفيزيائي واسع النطاق للنظام، لأنها تُساهم في الغالبية العظمى من طاقة النظام، لا سيما في الأنظمة ذات الأبعاد المنخفضة. مع ذلك، يجب إثبات ذلك على أساس كل حالة على حدة، إذ لا تُظهر جميع الأنظمة هذا السلوك. تم تقليص الفضاء الأصلي (ذي البعد الذي يمثل عدد النقاط) (مع فقدان البيانات، ولكن نأمل في الاحتفاظ بأهم التباين) إلى الفضاء الذي تغطيه بضعة متجهات ذاتية.

تُحلل طريقة تحليل المصفوفات غير السالبة (NMF) المصفوفة غير السالبة إلى حاصل ضرب مصفوفتين غير سالبتين، وقد أثبتت هذه الطريقة جدواها كأداة واعدة في المجالات التي لا توجد فيها إلا إشارات غير سالبة، ^{[ 7 ] [ 8 ]} مثل علم الفلك. ^{[ 9 ] [ 10 ]} وقد اشتهرت طريقة NMF منذ قاعدة التحديث المضاعف التي وضعها لي وسيونغ، ^{[ 7 ]} والتي شهدت تطورًا مستمرًا، حيث شملت: تضمين حالات عدم اليقين، ^{[ 9 ]} ومراعاة البيانات المفقودة والحساب المتوازي، ^{[ 11 ]} والبناء التسلسلي ^{، [ 11 ]} مما يُسهم في استقرار NMF وخطيتها، ^{[ 10 ]} بالإضافة إلى تحديثات أخرى ، بما في ذلك معالجة البيانات المفقودة في معالجة الصور الرقمية . ^{[ 12 ]}

بفضل أساس مكونات ثابت أثناء عملية البناء، وعملية نمذجة خطية، تستطيع تقنية NMF التسلسلية ^{[ 11 ] الحفاظ على التدفق في التصوير المباشر للهياكل المحيطة بالنجوم في علم الفلك [ 10 ]} ، كإحدى طرق الكشف عن الكواكب الخارجية ، وخاصةً للتصوير المباشر للأقراص المحيطة بالنجوم . وبالمقارنة مع تحليل المكونات الرئيسية (PCA)، لا تزيل NMF متوسط ​​المصفوفات، مما يؤدي إلى تدفقات فيزيائية غير سالبة؛ ولذلك، تستطيع NMF الحفاظ على معلومات أكثر من PCA، كما أوضح رين وآخرون ^{[ 10 ] .}

يمكن استخدام تحليل المكونات الرئيسية بطريقة غير خطية باستخدام تقنية النواة . وتتيح هذه التقنية إنشاء دوال غير خطية تزيد من تباين البيانات. وتُعرف هذه التقنية باسم تحليل المكونات الرئيسية باستخدام النواة .

تشمل التقنيات غير الخطية البارزة الأخرى تقنيات تعلم المتشعبات مثل Isomap ، والتضمين الخطي المحلي (LLE)، ^{[ 13 ]} وHessian LLE، وخرائط Laplacian الذاتية، والأساليب القائمة على تحليل الفضاء المماسي. ^{[ 14 ]} تفترض هذه التقنيات أن بيانات الإدخال عالية الأبعاد تقع بالقرب من متشعب منخفض الأبعاد مُضمن في الفضاء المحيط، وتُنشئ تمثيلًا منخفض الأبعاد باستخدام دالة تكلفة تحتفظ بالخصائص المحلية للبيانات؛ ويمكن اعتبارها بمثابة تعريف لنواة قائمة على الرسم البياني لتحليل المكونات الرئيسية باستخدام النواة. ^{[ 15 ]}

في الآونة الأخيرة، طُرحت تقنياتٌ لا تعتمد على تحديد نواة ثابتة، بل تحاول تعلّم النواة باستخدام البرمجة شبه المحددة . وأبرز مثال على هذه التقنيات هو فكّ التباين الأقصى (MVU). وتتمثل الفكرة الأساسية لـ MVU في الحفاظ بدقة على جميع المسافات الثنائية بين أقرب الجيران (في فضاء الضرب الداخلي) مع تعظيم المسافات بين النقاط التي ليست أقرب الجيران.

يتمثل أحد الأساليب البديلة للحفاظ على الجوار في تقليل دالة التكلفة التي تقيس الفروق بين المسافات في فضاءات الإدخال والإخراج. ومن الأمثلة المهمة على هذه التقنيات: التحجيم متعدد الأبعاد الكلاسيكي ، وهو مطابق لتحليل المكونات الرئيسية (PCA)؛ وIsomap ، الذي يستخدم المسافات الجيوديسية في فضاء البيانات؛ وخرائط الانتشار ، التي تستخدم مسافات الانتشار في فضاء البيانات؛ وتضمين الجوار العشوائي الموزع t (t-SNE)، الذي يقلل التباعد بين التوزيعات على أزواج النقاط؛ وتحليل المكونات المنحنية.

يتمثل أحد الأساليب المختلفة لتقليل الأبعاد غير الخطية في استخدام المشفرات التلقائية ، وهي نوع خاص من الشبكات العصبية ذات التغذية الأمامية مع طبقة مخفية ذات عنق زجاجة. ^{[ 16 ]} يتم تدريب المشفرات العميقة عادةً باستخدام تدريب مسبق جشع على مستوى الطبقات (على سبيل المثال، باستخدام مجموعة من آلات بولتزمان المقيدة ) متبوعًا بمرحلة ضبط دقيق تعتمد على الانتشار العكسي .

يُعد تحليل التمييز الخطي (LDA) تعميمًا لتحليل التمييز الخطي لفيشر، وهو أسلوب يستخدم في الإحصاء والتعرف على الأنماط والتعلم الآلي لإيجاد توليفة خطية من السمات التي تميز أو تفصل بين فئتين أو أكثر من الكائنات أو الأحداث.

تتعامل خوارزمية GDA مع تحليل التمييز غير الخطي باستخدام مُعامل دالة النواة. وتتشابه النظرية الأساسية مع آلات المتجهات الداعمة (SVM) من حيث أن طريقة GDA تُوفر إسقاطًا لمتجهات الإدخال في فضاء ميزات عالي الأبعاد. ^{[ 17 ] [ 18 ]} وعلى غرار خوارزمية LDA، يهدف GDA إلى إيجاد إسقاط للميزات في فضاء منخفض الأبعاد عن طريق تعظيم نسبة التشتت بين الفئات إلى التشتت داخل الفئات.

يمكن استخدام المشفرات التلقائية لتعلم وظائف تقليل الأبعاد غير الخطية والترميز جنبًا إلى جنب مع دالة عكسية من الترميز إلى التمثيل الأصلي.

تقنية تضمين الجوار العشوائي الموزع T (t-SNE) هي تقنية غير خطية لتقليل الأبعاد، وهي مفيدة لتصوير مجموعات البيانات عالية الأبعاد. لا يُنصح باستخدامها في تحليلات مثل التجميع أو اكتشاف القيم الشاذة، لأنها لا تحافظ بالضرورة على الكثافات أو المسافات بشكل جيد. ^{[ 19 ]}

تقنية تقريب وإسقاط المشعب المنتظم (UMAP) هي تقنية غير خطية لتقليل الأبعاد. وهي تشبه ظاهريًا تقنية t-SNE، لكنها تفترض أن البيانات موزعة بشكل منتظم على مشعب ريماني متصل محليًا ، وأن المقياس الريماني ثابت محليًا أو شبه ثابت محليًا.