طريقة الفضاء الفرعي العشوائي

📅 آخر تحديث: ٢٣ يوليو ٢٠٢٦
✍️ نُشر في: ٢٣ يوليو ٢٠٢٦
الموسوعة الحرة

في مجال التعلم الآلي ، تعتبر طريقة الفضاء الفرعي العشوائي [ 1 ] ، والتي تسمى أيضًا تجميع السمات [ 2 ] أو تجميع الميزات ، طريقة تعلم جماعية تحاول تقليل الارتباط بين المقدرات في مجموعة من خلال تدريبها على عينات عشوائية من الميزات بدلاً من مجموعة الميزات بأكملها.

تحفيز

في التعلم الجماعي، يُسعى إلى دمج النماذج التي ينتجها عدة متعلمين في نموذج جماعي يحقق أداءً أفضل من أداء المتعلمين الأصليين. إحدى طرق دمج المتعلمين هي التجميع باستخدام أسلوب التمهيد (Bootstrap Aggregating) أو التجميع العشوائي (Bagging) ، حيث يُعرض على كل متعلم مجموعة فرعية مختارة عشوائيًا من نقاط التدريب، بحيث ينتج المتعلمون نماذج مختلفة يمكن حساب متوسطها بشكل معقول. [ أ ] في التجميع العشوائي، تُختار نقاط التدريب مع الإحلال من مجموعة التدريب الكاملة.

تُشبه طريقة الفضاء الفرعي العشوائي طريقة التجميع (bagging)، باستثناء أن الميزات ("السمات"، "المتنبئات"، "المتغيرات المستقلة") تُختار عشوائيًا، مع الإحلال، لكل مُتعلّم. وبصورة غير رسمية، يمنع هذا المُتعلّمين من التركيز المُفرط على الميزات التي تبدو ذات قدرة تنبؤية/وصفية عالية في مجموعة التدريب، ولكنها لا تُعدّ بنفس القدر من القدرة التنبؤية للنقاط خارج تلك المجموعة. لهذا السبب، تُعدّ الفضاءات الفرعية العشوائية خيارًا جذابًا للمسائل عالية الأبعاد حيث يكون عدد الميزات أكبر بكثير من عدد نقاط التدريب، مثل التعلّم من بيانات التصوير بالرنين المغناطيسي الوظيفي [ 3 ] أو بيانات التعبير الجيني [ 4 ] .

استُخدمت طريقة الفضاء الفرعي العشوائي في أشجار القرار ؛ وعند دمجها مع التجميع "العادي" لأشجار القرار، تُسمى النماذج الناتجة بالغابات العشوائية . [ 5 ] كما طُبقت هذه الطريقة على المصنفات الخطية ، [ 6 ] وآلات المتجهات الداعمة ، [ 7 ] وخوارزمية أقرب الجيران ، [ 8 ] [ 9 ] وأنواع أخرى من المصنفات. وتُطبق هذه الطريقة أيضًا على المصنفات أحادية الفئة . [ 10 ] [ 11 ] كما طُبقت طريقة الفضاء الفرعي العشوائي على مشكلة اختيار المحفظة الاستثمارية ، [ 12 ] [ 13 ] مُظهرةً تفوقها على المحفظة المُعاد تجميعها التقليدية القائمة أساسًا على التجميع.

لمعالجة المشكلات المتفرقة عالية الأبعاد، طُوِّر إطار عمل يُسمى تجميع الفضاءات الفرعية العشوائية (RaSE) [ 14 ] . يجمع RaSE بين مُتعلّمين ضعفاء مُدرَّبين في فضاءات فرعية عشوائية مع بنية ثنائية الطبقات وعملية تكرارية. [ 15 ] وقد أظهر RaSE خصائص نظرية جذابة وأداءً عمليًا متميزًا. [ 14 ]

الخوارزمية

يمكن إنشاء مجموعة من النماذج التي تستخدم طريقة الفضاء الفرعي العشوائي باستخدام الخوارزمية التالية :

  1. لنفترض أن عدد نقاط التدريب هو N وعدد الميزات في بيانات التدريب هو D.
  2. ليكن L عدد النماذج الفردية في المجموعة.
  3. لكل نموذج فردي l ، اختر n l (n l < N) ليكون عدد نقاط الإدخال لـ l. من الشائع أن يكون هناك قيمة واحدة فقط لـ n l لجميع النماذج الفردية.
  4. لكل نموذج فردي l، قم بإنشاء مجموعة تدريب عن طريق اختيار d l ميزات من D مع الاستبدال وقم بتدريب النموذج.

الآن، لتطبيق نموذج المجموعة على نقطة غير مرئية، قم بدمج مخرجات النماذج الفردية L عن طريق التصويت بالأغلبية أو عن طريق دمج الاحتمالات اللاحقة .

الحواشي

  1. ↑ إذا اتبع كل متعلم نفس الخوارزمية الحتمية ، فإن النماذج المنتجة ستكون بالضرورة متطابقة.

مراجع

  1. ↑ هو، تين كام (1998). "طريقة الفضاء الفرعي العشوائي لبناء غابات القرار" (ملف PDF) . معاملات IEEE في تحليل الأنماط والذكاء الآلي . 20 (8): 832-844 . رمز Bibcode : 1998ITPAM..20..832T . doi : 10.1109/34.709601 . S2CID 206420153. مؤرشف من الأصل (ملف PDF) بتاريخ 14 مايو 2019. 
  2. ↑ بريل، ر. (2003). "تجميع السمات: تحسين دقة مجموعات المصنفات باستخدام مجموعات فرعية عشوائية من السمات". التعرف على الأنماط . 36 (6): 1291-1302 . Bibcode : 2003PatRe..36.1291B . doi : 10.1016/s0031-3203(02)00121-8 .
  3. ↑ كونشيفا، لودميلا ؛ وآخرون (2010). "مجموعات الفضاء الفرعي العشوائي لتصنيف التصوير بالرنين المغناطيسي الوظيفي" (ملف PDF) . معاملات IEEE في التصوير الطبي . 29 (2): 531-542 . Bibcode : 2010ITMI...29..531K . CiteSeerX 10.1.1.157.1178 . doi : 10.1109/TMI.2009.2037756 . PMID 20129853 .   
  4. ↑ بيرتوني، ألبرتو؛ فولجيري، رافايلا؛ فالنتيني، جورجيو (2005). "التنبؤ الجزيئي الحيوي بالسرطان باستخدام مجموعات الفضاء الفرعي العشوائي لآلات المتجهات الداعمة" (ملف PDF) . الحوسبة العصبية . 63 : 535-539 . doi : 10.1016/j.neucom.2004.07.007 . hdl : 2434/9370 .
  5. ↑ هو، تين كام (1995). غابة القرار العشوائي (ملف PDF) . وقائع المؤتمر الدولي الثالث لتحليل المستندات والتعرف عليها، مونتريال، كيبيك، 14-16 أغسطس 1995. الصفحات 278-282 . 
  6. ↑ سكوريتشينا، مارينا (2002). "التجميع، والتعزيز، وطريقة الفضاء الفرعي العشوائي للمصنفات الخطية". تحليل الأنماط وتطبيقاتها . 5 (2): 121-135 . doi : 10.1007/s100440200011 .
  7. ↑ تاو، د. (2006). "التجميع غير المتماثل والفضاء الفرعي العشوائي لتغذية راجعة ذات صلة قائمة على آلات المتجهات الداعمة في استرجاع الصور" (ملف PDF) . معاملات IEEE في تحليل الأنماط والذكاء الآلي . 28 (7): 1088-1099 . Bibcode : 2006ITPAM..28.1088T . doi : 10.1109/tpami.2006.134 . PMID 16792098 . 
  8. ↑ هو، تين كام (1998). "أقرب الجيران في الفضاءات الفرعية العشوائية". التطورات في التعرف على الأنماط . سلسلة محاضرات في علوم الحاسوب. المجلد 1451. الصفحات 640-648 . doi : 10.1007/BFb0033288 . ISBN   978-3-540-64858-1.
  9. ↑ تريمبلاي، ج. (2004). تحسين أقرب جار في الفضاءات الفرعية العشوائية باستخدام خوارزمية جينية متعددة الأهداف (ملف PDF) . المؤتمر الدولي السابع عشر للتعرف على الأنماط. الصفحات 208-211 . doi : 10.1109/ICPR.2004.1334060 . ISBN  978-0-7695-2128-2.
  10. ↑ ناني، ل. (2006). "مقارنة تجريبية لمصنفات الفئة الواحدة للتحقق من التوقيعات عبر الإنترنت". الحوسبة العصبية . 69 (7): 869-873 . doi : 10.1016/j.neucom.2005.06.007 .
  11. ↑ تشيبليجينا، فيرونيكا؛ تاكس، ديفيد إم جيه (15-06-2011). "طريقة الفضاء الفرعي العشوائي المُقَصَّر لمصنفات الفئة الواحدة". في: سانسون، كارلو؛ كيتلر، جوزيف؛ رولي، فابيو (محررون). أنظمة المصنفات المتعددة . سلسلة محاضرات في علوم الحاسوب. المجلد 6713. سبرينغر برلين هايدلبرغ. الصفحات 96-105 . doi : 10.1007/978-3-642-21557-5_12 . ISBN   9783642215568.
  12. ↑ شين، ويوي؛ وانغ، جون (2017)، "اختيار المحفظة عبر إعادة أخذ عينات من مجموعة فرعية" ، وقائع مؤتمر AAAI حول الذكاء الاصطناعي ، 31 ، doi : 10.1609/aaai.v31i1.10728
  13. ↑ شين، ويوي؛ وانغ، بين؛ بو، جيان؛ وانغ، جون (2019)، "محفظة كيلي للنمو الأمثل مع التعلم الجماعي" ، وقائع مؤتمر AAAI حول الذكاء الاصطناعي ، 33 : 1134-1141 ، doi : 10.1609/aaai.v33i01.33011134
  14. 1 2 تيان، يي؛ فينغ، يانغ (2021). "RaSE: تصنيف مجموعة الفضاء الفرعي العشوائي" . مجلة أبحاث تعلم الآلة . 22 (45): 1-93 . ISSN 1533-7928 . 
  15. ↑ تيان، يي؛ فينغ، يانغ (2021). "حزمة R "RaSEn": تصنيف مجموعة الفضاء الفرعي العشوائي وفحص المتغيرات" . CRAN .