التعلم القائم على التباين

يُعدّ تعلّم مجموعات التباين شكلاً من أشكال تعلّم قواعد الارتباط ، ويهدف إلى تحديد الفروق الجوهرية بين مجموعات منفصلة من خلال تحليل المؤشرات الرئيسية لكل مجموعة على حدة. فعلى سبيل المثال، إذا توفرت لدينا مجموعة من السمات لمجموعة من الطلاب (مصنفة حسب نوع الشهادة)، فإنّ متعلّم مجموعات التباين سيحدد السمات المتباينة بين الطلاب الحاصلين على درجة البكالوريوس والطلاب الذين يسعون للحصول على درجة الدكتوراه.

ملخص

من الممارسات الشائعة في استخراج البيانات التصنيف ، أي النظر إلى سمات كائن أو موقف ما، ثم محاولة تحديد الفئة التي ينتمي إليها العنصر المرصود. ومع فحص أدلة جديدة (عادةً عن طريق تغذية خوارزمية التعلم بمجموعة بيانات تدريبية )، تُحسّن هذه التخمينات وتُطوّر. أما تعلم مجموعات التباين، فيعمل في الاتجاه المعاكس. فبينما تقرأ المصنفات مجموعة من البيانات وتجمع معلومات تُستخدم لوضع البيانات الجديدة في سلسلة من الفئات المنفصلة، ​​يأخذ تعلم مجموعات التباين الفئة التي ينتمي إليها عنصر ما، ويحاول استخلاص الأدلة الإحصائية التي تُحدد انتماء هذا العنصر إلى فئة معينة. أي أن متعلمي مجموعات التباين يبحثون عن قواعد تربط قيم السمات بالتغيرات في توزيع الفئات. [ 1 ] ويسعون إلى تحديد المؤشرات الرئيسية التي تُميز تصنيفًا عن آخر.

على سبيل المثال، قد يسجل مهندس طيران بيانات عن عمليات إطلاق تجريبية لصاروخ جديد. تُؤخذ القياسات على فترات منتظمة طوال فترة الإطلاق، مع ملاحظة عوامل مثل مسار الصاروخ، ودرجات حرارة التشغيل، والضغوط الخارجية، وما إلى ذلك. إذا فشل إطلاق الصاروخ بعد عدد من الاختبارات الناجحة، يمكن للمهندس استخدام خوارزمية تعلم مجموعات التباين للتمييز بين الاختبارات الناجحة والفاشلة. تُنتج هذه الخوارزمية مجموعة من قواعد الارتباط التي، عند تطبيقها، تُشير إلى المؤشرات الرئيسية لكل اختبار فاشل مقارنةً بالاختبارات الناجحة (ارتفاع درجة الحرارة، ارتفاع ضغط الرياح، إلخ).

يُعدّ تعلّم مجموعات التباين أحد أشكال تعلّم قواعد الارتباط . [ 2 ] عادةً ما يُقدّم متعلّمو قواعد الارتباط قواعد تربط بين السمات الشائعة في مجموعة التدريب (على سبيل المثال، يميل الأشخاص المسجلون في برامج دراسية مدتها أربع سنوات والذين يدرسون عددًا كاملاً من المقررات إلى السكن بالقرب من الحرم الجامعي). بدلاً من البحث عن قواعد تصف الوضع الحالي، يسعى متعلّمو مجموعات التباين إلى إيجاد قواعد تختلف بشكلٍ ملحوظ في توزيعها بين المجموعات (وبالتالي، يمكن استخدامها كمتنبئات لتلك المجموعات). [ 3 ] على سبيل المثال، قد يسأل متعلّم مجموعات التباين: "ما هي السمات الرئيسية التي تُميّز الشخص الحاصل على درجة البكالوريوس أو الشخص الحاصل على درجة الدكتوراه، وكيف يختلف الحاصلون على درجة الدكتوراه عن الحاصلين على درجة البكالوريوس؟"

لا تمتلك خوارزميات التصنيف القياسية ، مثل C4.5 ، مفهوم أهمية الفئة (أي أنها لا تعرف ما إذا كانت الفئة "جيدة" أم "سيئة"). لا تستطيع هذه الخوارزميات توجيه تنبؤاتها أو تصفيتها نحو فئات محددة مرغوبة. ولأن هدف تعلم مجموعات التباين هو اكتشاف الفروق الجوهرية بين المجموعات، فمن المفيد توجيه القواعد المُتعلمة نحو تصنيفات معينة. تقوم العديد من خوارزميات تعلم مجموعات التباين، مثل MINWAL [ 4 ] أو عائلة خوارزميات TAR [ 5 ] [ 6 ] [ 7 بتعيين أوزان لكل فئة لتركيز النظريات المُتعلمة على النتائج التي تهم جمهورًا معينًا. وبالتالي، يمكن اعتبار تعلم مجموعات التباين شكلاً من أشكال تعلم الفئات الموزونة [ 8 ] .

مثال: مشتريات السوبر ماركت

يمكن توضيح الفروقات بين التصنيف القياسي، وتعلم قواعد الارتباط، وتعلم مجموعات التباين باستخدام استعارة بسيطة من السوبر ماركت. في مجموعة البيانات الصغيرة التالية، يمثل كل صف معاملة في السوبر ماركت، ويشير الرقم "1" إلى شراء المنتج (بينما يشير الرقم "0" إلى عدم شرائه).

هامبرغرالبطاطسفواالبصلالشمبانياالغرض من عمليات الشراء
11010حفلة شواء
11010حفلة شواء
00101عيد
11010حفلة شواء
11001حفلة أخوية

بالنظر إلى هذه البيانات،

  • قد يكتشف تعلم قواعد الارتباط أن العملاء الذين يشترون البصل والبطاطس معًا من المرجح أن يشتروا أيضًا لحم الهامبرغر.
  • قد يكشف التصنيف أن العملاء الذين اشتروا البصل والبطاطس ولحوم الهامبرغر كانوا يشترون أغراضًا لحفلة شواء.
  • قد يكشف التعلم القائم على مجموعة التباين أن الفرق الرئيسي بين العملاء الذين يتسوقون لحفلة شواء وأولئك الذين يتسوقون لعشاء ذكرى زواج هو أن العملاء الذين يشترون عناصر لحفلة شواء يشترون البصل والبطاطس ولحم الهامبرغر ( ولا يشترون كبد الأوز أو الشمبانيا).

التعلم العلاجي

يُعدّ التعلّم العلاجي شكلاً من أشكال التعلّم القائم على مجموعات المقارنة الموزونة، حيث يتم اختيار مجموعة مرغوبة واحدة ومقارنتها بالمجموعات غير المرغوبة المتبقية (ويُعبّر عن مستوى الرغبة بفئات موزونة). [ 5 ] ويُشير "العلاج" الناتج إلى مجموعة من القواعد التي، عند تطبيقها، ستؤدي إلى النتيجة المرجوة.

يختلف تعلم العلاج عن تعلم مجموعة التباين القياسية من خلال القيود التالية:

  • بدلاً من البحث عن الاختلافات بين جميع المجموعات، يحدد التعلم العلاجي مجموعة معينة للتركيز عليها، ويطبق وزنًا على هذه المجموعة المرغوبة، ويجمع المجموعات المتبقية في فئة واحدة "غير مرغوبة".
  • يركز التعلم العلاجي بشكل أساسي على النظريات الدنيا. عمليًا، تقتصر العلاجات على أربعة قيود كحد أقصى (أي، بدلًا من ذكر جميع الأسباب التي تجعل الصاروخ يختلف عن لوح التزلج، سيذكر المتعلم العلاجي من واحد إلى أربعة اختلافات رئيسية تتنبأ بالصواريخ بمستوى عالٍ من الدلالة الإحصائية).

يُعدّ التركيز على البساطة هدفًا مهمًا للمتعلمين في مجال العلاج. ويسعى التعلم العلاجي إلى تحقيق أصغر تغيير له أكبر الأثر على توزيع الطلاب في الفصل. [ 8 ]

من الناحية النظرية، يستكشف متعلمو المعالجة جميع المجموعات الفرعية الممكنة لنطاق القيم لجميع السمات. غالبًا ما يكون هذا البحث غير عملي، لذا يركز تعلم المعالجة عادةً على الحذف السريع وتجاهل نطاقات السمات التي تؤدي، عند تطبيقها، إلى توزيع فئوي تكون فيه الفئة المطلوبة أقلية. [ 7 ]

مثال: بيانات الإسكان في بوسطن

يوضح المثال التالي مخرجات نموذج التعلم TAR3 على مجموعة بيانات سكنية من مدينة بوسطن (مجموعة بيانات عامة كبيرة تضم أكثر من 500 مثال). في هذه المجموعة، جُمعت عدة عوامل لكل منزل، وصُنِّف كل منزل وفقًا لجودته (منخفضة، متوسطة-منخفضة، متوسطة-عالية، وعالية). حُدِّدت الفئة المرغوبة على أنها "عالية"، وجُمِعت جميع الفئات الأخرى معًا على أنها غير مرغوبة.

تكون مخرجات برنامج التعلم العلاجي كما يلي:

توزيع الفئات الأساسية: منخفض: 29% ميدلو: 29% متوسط ​​مرتفع: 21% نسبة عالية: 21% العلاج المقترح: [PTRATIO=[12.6..16), RM=[6.7..9.78)] توزيع الفئات الجديد: منخفض: 0% ميدلو: 0% متوسط ​​الارتفاع: 3% نسبة عالية: 97%

بدون تطبيق أي معايير (قواعد)، لا تمثل الفئة المطلوبة سوى 21% من توزيع الفئات. مع ذلك، إذا تم تصفية مجموعة البيانات لتشمل المنازل التي تتراوح غرفها بين 6.7 و9.78 غرفة، ونسبة أولياء الأمور إلى المعلمين في الحي بين 12.6 و16، فإن 97% من الأمثلة المتبقية تندرج ضمن الفئة المطلوبة (المنازل عالية الجودة).

الخوارزميات

توجد عدة خوارزميات تقوم بتعلم مجموعات التباين. وتصف الأقسام الفرعية التالية مثالين على ذلك.

الجص

يتعامل مُتعلّم مجموعات التباين STUCCO [ 1 ] [ 3 ] مع مهمة التعلّم من مجموعات التباين كمسألة بحث شجري ، حيث تكون العقدة الجذرية للشجرة مجموعة تباين فارغة. تُضاف العقد الفرعية بتخصيص المجموعة بعناصر إضافية مُختارة وفقًا لترتيب معياري للسمات (لتجنب زيارة العقد نفسها مرتين). تتشكل العقد الفرعية بإلحاق المصطلحات التي تلي جميع المصطلحات الموجودة بترتيب مُحدد. يتم البحث في الشجرة المُشكّلة بطريقة البحث العرضي أولًا. بالنظر إلى العقد في كل مستوى، يتم مسح مجموعة البيانات وحساب الدعم لكل مجموعة. ثم يتم فحص كل عقدة لتحديد ما إذا كانت مهمة وكبيرة، وما إذا كان ينبغي حذفها، وما إذا كان ينبغي إنشاء عقد فرعية جديدة. بعد تحديد جميع مجموعات التباين المهمة، يختار مُعالج لاحق مجموعة فرعية لعرضها للمستخدم - تُعرض النتائج الأبسط والأدنى أولًا، تليها النتائج الأعلى التي تُعتبر "مُفاجئة ومختلفة بشكل كبير " . [ 3 ]

يُحسب الدعم من خلال اختبار فرضية العدم التي تنص على أن دعم مجموعة التباين متساوٍ بين جميع المجموعات (أي أن دعم مجموعة التباين مستقل عن انتماء المجموعة ). يُمثل عدد مرات الدعم لكل مجموعة قيمة تكرارية يمكن تحليلها في جدول توافق، حيث يُمثل كل صف القيمة الحقيقية لمجموعة التباين، ويُشير كل عمود إلى تكرار انتماء المجموعة. إذا وُجد اختلاف في النسب بين تكرارات مجموعة التباين وتكرارات فرضية العدم، فعلى الخوارزمية تحديد ما إذا كانت هذه الاختلافات تُمثل علاقة بين المتغيرات أم أنها تُعزى إلى أسباب عشوائية. يُمكن تحديد ذلك من خلال اختبار مربع كاي الذي يُقارن عدد مرات التكرار المُلاحظ بالعدد المُتوقع.

تُحذف العقد من الشجرة عندما لا تؤدي جميع تخصصات العقدة إلى مجموعة تباين كبيرة وذات دلالة إحصائية. ويستند قرار الحذف إلى ما يلي:

  • الحد الأدنى لحجم الانحراف: يجب أن يكون الحد الأقصى للاختلاف بين دعم أي مجموعتين أكبر من عتبة يحددها المستخدم.
  • التكرارات المتوقعة للخلايا: لا يمكن أن تنخفض التكرارات المتوقعة للخلايا في جدول التوافق إلا مع ازدياد تخصص مجموعة التباين. وعندما تكون هذه التكرارات صغيرة جدًا، فإن صحة اختبار مربع كاي تُنتهك.
  • χ2{\displaystyle \chi ^{2}}الحدود: يتم الاحتفاظ بحد أعلى لتوزيع إحصائية محسوبة عندما تكون الفرضية الصفرية صحيحة. تُحذف العقد عندما يتعذر استيفاء هذا الحد.

TAR3

يعتمد متعلم مجموعة التباين الموزون TAR3 [ 6 ] [ 9 ] على مفهومين أساسيين - رفع ودعم مجموعة القواعد.

يُعرَّف تأثير مجموعة من القواعد بأنه التغيير الذي يُحدثه قرارٌ ما على مجموعة من الأمثلة بعد تطبيقه (أي، كيف يتغير توزيع الفئات استجابةً لتطبيق قاعدة). يسعى نموذج TAR3 إلى إيجاد أصغر مجموعة من القواعد التي تُحدث أكبر تغيير في مجموع الأوزان المخصصة لكل فئة مضروبًا في تكرار ظهور كل فئة. يُحسب التأثير بقسمة درجة المجموعة التي طُبِّقت عليها مجموعة القواعد على درجة المجموعة الأساسية (أي، دون تطبيق أي قواعد). تجدر الإشارة إلى أنه بعكس دالة حساب التأثير، يستطيع نموذج TAR3 أيضًا اختيار الفئات المتبقية ورفض الفئة المستهدفة.

يُعدّ الاعتماد على قيمة رفع مجموعة القواعد وحدها إشكاليًا. فالتشويش في البيانات، سواءً كان غير صحيح أو مُضللًا، إذا ما ارتبط بأمثلة فاشلة، قد يؤدي إلى مجموعة قواعد مُفرطة التخصيص. قد يحصل هذا النموذج المُفرط التخصيص على قيمة رفع عالية، ولكنه لا يعكس بدقة الظروف السائدة في مجموعة البيانات. لتجنب فرط التخصيص ، يستخدم TAR3 عتبة دعم ويرفض جميع القواعد التي تقع خارج هذه العتبة. عند تحديد فئة مستهدفة، تكون عتبة الدعم قيمة يُحددها المستخدم (عادةً 0.2)، وتُقارن بنسبة تكرار الفئة المستهدفة عند تطبيق مجموعة القواعد إلى تكرار تلك الفئة في مجموعة البيانات ككل. يرفض TAR3 جميع مجموعات القواعد التي يقل دعمها عن هذه العتبة.

من خلال اشتراطها مستوى عالٍ من الجهد وقيمة دعم عالية، لا تُنتج TAR3 مجموعات قواعد مثالية فحسب، بل تُفضّل أيضًا مجموعات قواعد أصغر. فكلما قلّ عدد القواعد المُعتمدة، زادت الأدلة الداعمة لها.

تعتمد خوارزمية TAR3 على بناء مجموعات القواعد من نطاقات قيم السمات ذات القيمة الاستدلالية العالية فقط. وتحدد الخوارزمية النطاقات المستخدمة من خلال تحديد قيمة الرفع لكل نطاق من نطاقات قيم السمات. ثم تُرتّب هذه القيم الفردية وتُحوّل إلى توزيع احتمالي تراكمي. وتختار TAR3 القيم عشوائيًا من هذا التوزيع، مما يعني أن النطاقات ذات القيم المنخفضة من غير المرجح أن تُختار. ولإنشاء مجموعة قواعد مرشحة، تُختار عدة نطاقات وتُدمج. ثم تُقيّم مجموعات القواعد المرشحة هذه وتُرتّب. وإذا لم يُلاحظ أي تحسن بعد عدد محدد من الجولات يحدده المستخدم، تتوقف الخوارزمية وتُعيد مجموعات القواعد ذات القيم الأعلى.

مراجع

  1. 1 2 ستيفن باي؛ مايكل بازاني (2001). "الكشف عن الاختلافات بين المجموعات: استخراج مجموعات التباين" (ملف PDF) . استخراج البيانات واكتشاف المعرفة . 5 (3): 213-246 . doi : 10.1023/A:1011429418057 . S2CID 2941550 . 
  2. جي آي ويب؛ إس. بتلر؛ دي. نيولاندز (2003). حول اكتشاف الاختلافات بين المجموعات . وقائع مؤتمر ACM SIGKDD الدولي التاسع حول اكتشاف المعرفة واستخراج البيانات KDD'03.
  3. 1 2 3 ستيفن باي؛ مايكل بازاني (1999). الكشف عن التغيير في البيانات الفئوية: استخراج مجموعات التباين . وقائع مؤتمر KDD '99، المؤتمر الدولي الخامس لجمعية ACM SIGKDD حول اكتشاف المعرفة واستخراج البيانات.
  4. CH Cai؛ AWC Fu؛ CH Cheng؛ WW Kwong (1998). استخراج قواعد الارتباط باستخدام العناصر الموزونة (PDF) . وقائع ندوة هندسة وتطبيقات قواعد البيانات الدولية (IDEAS 98).
  5. 1 2 واي. هو (2003). التعلم العلاجي: التنفيذ والتطبيق (رسالة ماجستير). قسم الهندسة الكهربائية، جامعة كولومبيا البريطانية.
  6. 1 2 ك. غاندي-بورليت؛ ج. شومان؛ ت. باريت؛ ت. مينزيس (2007). التحليل البارامتري لخوارزميات توجيه إعادة دخول مركبة أنتاريس باستخدام توليد الاختبارات المتقدمة وتحليل البيانات . في الندوة الدولية التاسعة حول الذكاء الاصطناعي والروبوتات والأتمتة في الفضاء.
  7. 1 2 غريغوري غاي؛ تيم مينزيس؛ ميستي ديفيز؛ كارين غاندي-بورليت (2010). "إيجاد متغيرات التحكم تلقائيًا لسلوك النظام المعقد" (ملف PDF) . هندسة البرمجيات الآلية . 17 (4).
  8. 1 2 ت. مينزيس؛ ي. هو (2003). "استخراج البيانات للأشخاص المشغولين للغاية" (ملف PDF) . مجلة IEEE Computer . 36 (11): 22-29 . doi : 10.1109/mc.2003.1244531 .
  9. ج. شومان؛ ك. غوندي-بورليه؛ س. باساريانو ؛ ت. مينزيس؛ أ. باريت (2009). دعم التحقق والتحقق من صحة البرمجيات من خلال التحليل البارامتري لأنظمة محاكاة البرمجيات الكبيرة . وقائع مؤتمر IEEE للفضاء الجوي لعام 2009.