التعلم النشط (التعلم الآلي)

التعلم النشط هو حالة خاصة من التعلم الآلي، حيث يمكن لخوارزمية التعلم أن تستفسر بشكل تفاعلي من مستخدم بشري (أو مصدر معلومات آخر) لتصنيف نقاط البيانات الجديدة بالمخرجات المطلوبة. يجب أن يمتلك المستخدم البشري خبرة في مجال المشكلة، بما في ذلك القدرة على الرجوع إلى مصادر موثوقة عند الضرورة. [ 1 ] [ 2 ] [ 3 ] في أدبيات الإحصاء، يُطلق عليه أحيانًا اسم التصميم التجريبي الأمثل . [ 4 ] ويُطلق على مصدر المعلومات أيضًا اسم المعلم أو المرجع .

توجد حالات تتوافر فيها البيانات غير المصنفة بكثرة، لكن تصنيفها يدويًا مكلف. في مثل هذه الحالة، يمكن لخوارزميات التعلم أن تستعلم بنشاط من المعلم للحصول على التصنيفات. وبما أن المتعلم يختار الأمثلة، فإن عدد الأمثلة اللازمة لتعلم مفهوم ما غالبًا ما يكون أقل بكثير من العدد المطلوب في التعلم الخاضع للإشراف التقليدي. مع ذلك، ثمة خطر يتمثل في أن تُثقل الخوارزمية بأمثلة غير مفيدة. وقد كرست التطورات الحديثة للتعلم النشط متعدد التصنيفات، [ 5 ] والتعلم النشط الهجين ، [ 6 ] والتعلم النشط في سياق أحادي المرور (عبر الإنترنت)، [ 7 ] الذي يجمع بين مفاهيم من مجال تعلم الآلة (مثل التضارب والجهل) وسياسات التعلم التكيفية والتزايدية في مجال تعلم الآلة عبر الإنترنت . يتيح استخدام التعلم النشط تطويرًا أسرع لخوارزمية تعلم الآلة، في حين أن التحديثات المقارنة تتطلب حاسوبًا كميًا أو حاسوبًا فائقًا. [ 8 ]

قد تستفيد مشاريع التعلم النشط واسعة النطاق من أطر التعهيد الجماعي مثل Amazon Mechanical Turk التي تشمل العديد من البشر في حلقة التعلم النشط .

التعريفات

لنفترض أن T هي المجموعة الكاملة لجميع البيانات قيد الدراسة. على سبيل المثال، في مسألة هندسة البروتينات، ستشمل T جميع البروتينات المعروفة بنشاطها المثير للاهتمام، بالإضافة إلى جميع البروتينات الإضافية التي قد يرغب المرء في اختبارها لهذا النشاط.

خلال كل تكرار، يتم تقسيم i ، T إلى ثلاث مجموعات فرعية

  1. تيك،أنا{\displaystyle \mathbf {T} _{K,i}}: نقاط البيانات التي يكون فيها التصنيف معروفًا .
  2. تييو،أنا{\displaystyle \mathbf {T} _{U,i}}: نقاط البيانات التي يكون تصنيفها غير معروف .
  3. تيج،أنا{\displaystyle \mathbf {T} _{C,i}}: مجموعة فرعية من T U,i يتم اختيارها لوضع علامة عليها.

تتضمن معظم الأبحاث الحالية في مجال التعلم النشط أفضل طريقة لاختيار نقاط البيانات لـ T C,i .

سيناريوهات

  • أخذ العينات من مجموعة البيانات : في هذا النهج، وهو السيناريو الأكثر شيوعًا [ 9 ] ، تحاول خوارزمية التعلم تقييم مجموعة البيانات بأكملها قبل اختيار نقاط البيانات (الحالات) لتصنيفها. غالبًا ما يتم تدريبها مبدئيًا على مجموعة فرعية مصنفة بالكامل من البيانات باستخدام إحدى طرق التعلم الآلي، مثل الانحدار اللوجستي أو آلة المتجهات الداعمة (SVM)، والتي تُنتج احتمالات انتماء كل حالة بيانات إلى فئة معينة. الحالات المرشحة هي تلك التي يكون التنبؤ بها الأكثر غموضًا. تُسحب الحالات من مجموعة البيانات بأكملها ويُخصص لها درجة ثقة، وهي مقياس لمدى فهم المتعلم للبيانات. ثم يختار النظام الحالات التي يكون أقل ثقة بها ويستعلم من المُعلِّم عن التصنيفات. يتمثل العيب النظري لأخذ العينات القائم على التجميع في أنه يستهلك الكثير من الذاكرة وبالتالي فهو محدود في قدرته على التعامل مع مجموعات البيانات الضخمة، ولكن في الممارسة العملية، فإن العامل المحدد للسرعة هو أن المعلم عادة ما يكون خبيرًا بشريًا (قابلًا للتعب) يجب أن يتقاضى أجرًا مقابل جهوده، بدلاً من ذاكرة الكمبيوتر.
  • أخذ العينات الانتقائي القائم على التدفق : في هذا الأسلوب، تُفحص كل عينة غير مصنفة على حدة، حيث يُقيّم الجهاز مدى إفادة كل عنصر بناءً على معايير الاستعلام الخاصة به. ويقرر المتعلم بنفسه ما إذا كان سيُسند تصنيفًا لكل نقطة بيانات أو يستعلم من المعلم. وعلى عكس أخذ العينات القائم على التجميع، فإن العيب الواضح في أساليب التدفق هو أن خوارزمية التعلم لا تملك معلومات كافية، في المراحل الأولى من العملية، لاتخاذ قرار سليم بشأن إسناد التصنيف أو الاستفسار من المعلم، كما أنها لا تستفيد بكفاءة من وجود بيانات مصنفة مسبقًا. لذلك، من المرجح أن يبذل المعلم جهدًا أكبر في توفير التصنيفات مقارنةً بالأسلوب القائم على التجميع.
  • توليد استعلامات العضوية : في هذه المرحلة، يقوم المتعلم بتوليد بيانات اصطناعية انطلاقًا من توزيع طبيعي كامن. على سبيل المثال، إذا كانت مجموعة البيانات عبارة عن صور لبشر وحيوانات، فيمكن للمتعلم إرسال صورة مُقتطعة لساق إلى المعلم والاستعلام عما إذا كان هذا العضو ينتمي إلى حيوان أم إنسان. يُعد هذا مفيدًا بشكل خاص إذا كانت مجموعة البيانات صغيرة. [ 10 ] يكمن التحدي هنا، كما هو الحال مع جميع جهود توليد البيانات الاصطناعية، في ضمان اتساق البيانات الاصطناعية من حيث استيفاء قيود البيانات الحقيقية. مع ازدياد عدد المتغيرات/الخصائص في بيانات الإدخال، ووجود تبعيات قوية بين المتغيرات، يصبح من الصعب بشكل متزايد توليد بيانات اصطناعية بدقة كافية. على سبيل المثال، لإنشاء مجموعة بيانات اصطناعية لقيم اختبارات معملية بشرية، يجب أن يساوي مجموع مكونات خلايا الدم البيضاء المختلفة في تعداد خلايا الدم البيضاء التفريقي 100، لأن أعداد المكونات هي في الواقع نسب مئوية. وبالمثل، فإن إنزيمات ناقلة أمين الألانين (ALT) وناقلة أمين الأسبارتات (AST) تقيس وظائف الكبد (على الرغم من أن AST يتم إنتاجه أيضًا بواسطة أنسجة أخرى، مثل الرئة والبنكرياس). إن نقطة بيانات اصطناعية مع AST عند الحد الأدنى للنطاق الطبيعي (8-33 وحدة/لتر) مع ALT أعلى من النطاق الطبيعي بعدة مرات (4-35 وحدة/لتر) في مريض محاكى يعاني من مرض مزمن ستكون مستحيلة من الناحية الفسيولوجية.

استراتيجيات الاستعلام

يمكن تنظيم الخوارزميات المستخدمة لتحديد نقاط البيانات التي يجب تصنيفها في عدد من الفئات المختلفة، بناءً على الغرض منها: [ 1 ]

  • الموازنة بين الاستكشاف والاستغلال : يُنظر إلى اختيار الأمثلة المراد تصنيفها على أنه معضلة بين الاستكشاف والاستغلال في تمثيل فضاء البيانات. تُدير هذه الاستراتيجية هذا التوازن من خلال نمذجة مشكلة التعلم النشط كمشكلة قطاع طرق سياقية. على سبيل المثال، يقترح بونيفوف وآخرون [ 11 ] خوارزمية تسلسلية تُسمى أخذ عينات طومسون النشط (ATS)، والتي تُعيّن في كل جولة توزيعًا لأخذ العينات على المجموعة، وتختار نقطة واحدة من هذا التوزيع، وتستعلم من المصدر عن تصنيف نقطة العينة هذه.
  • التغيير المتوقع في النموذج : قم بتحديد النقاط التي من شأنها أن تُغير النموذج الحالي بشكل كبير.
  • تقليل الخطأ المتوقع : قم بتسمية تلك النقاط التي من شأنها أن تقلل بشكل كبير من خطأ التعميم للنموذج .
  • استكشاف التدرج الأسي للتعلم النشط : [ 12 ] في هذه الورقة، يقترح المؤلف خوارزمية متسلسلة تسمى التدرج الأسي النشط (EG) والتي يمكنها تحسين أي خوارزمية تعلم نشط من خلال استكشاف عشوائي مثالي.
  • أخذ عينات عدم اليقين : قم بتسمية تلك النقاط التي يكون النموذج الحالي أقل يقينًا بشأنها فيما يتعلق بالناتج الصحيح.
  • الاستعلام من قبل لجنة : يتم تدريب نماذج متنوعة على البيانات المصنفة الحالية، والتصويت على مخرجات البيانات غير المصنفة؛ وتصنيف النقاط التي تختلف عليها "اللجنة" بشدة.
  • الاستعلام من فضاءات فرعية أو أقسام متنوعة : [ 13 ] عندما يكون النموذج الأساسي عبارة عن غابة من الأشجار، قد تمثل العقد الطرفية أقسامًا (متداخلة) من فضاء الميزات الأصلي . وهذا يتيح إمكانية اختيار الحالات من أقسام غير متداخلة أو متداخلة بشكل طفيف لأغراض التصنيف.
  • تقليل التباين : قم بتسمية تلك النقاط التي من شأنها تقليل تباين الإخراج، وهو أحد مكونات الخطأ.
  • التنبؤ المطابق : يتنبأ بأن نقطة بيانات جديدة ستحمل تصنيفًا مشابهًا لنقاط البيانات القديمة بطريقة محددة، وتُستخدم درجة التشابه ضمن الأمثلة القديمة لتقدير الثقة في التنبؤ. [ 14 ]
  • خوارزمية عدم التطابق أولاً - اجتياز الأبعد : المعيار الأساسي للاختيار هو عدم تطابق التنبؤ بين النموذج الحالي وتنبؤ أقرب جار. تستهدف هذه الخوارزمية نقاط البيانات التي تم التنبؤ بها بشكل خاطئ. أما المعيار الثاني للاختيار فهو المسافة إلى البيانات المختارة سابقًا، مع إعطاء الأولوية للأبعد. وتهدف هذه الخوارزمية إلى تحسين تنوع البيانات المختارة. [ 15 ]
  • استراتيجيات تصنيف البيانات التي تركز على المستخدم: يتم التعلم من خلال تطبيق تقنية تقليل الأبعاد على الرسوم البيانية والأشكال مثل مخططات التشتت. ثم يُطلب من المستخدم تصنيف البيانات المُجمّعة (فئوية، رقمية، درجات الصلة، العلاقة بين حالتين). [ 16 ]

تمت دراسة مجموعة واسعة من الخوارزميات التي تندرج ضمن هذه الفئات. [ 1 ] [ 4 ] في حين أن استراتيجيات التعلم النشط التقليدية قادرة على تحقيق أداء متميز، إلا أنه غالبًا ما يكون من الصعب التنبؤ مسبقًا بالاستراتيجية الأنسب في موقف معين. في السنوات الأخيرة، اكتسبت خوارزميات التعلم الفائق شعبية متزايدة. وقد طُرح بعضها لمعالجة مشكلة تعلم استراتيجيات التعلم النشط بدلًا من الاعتماد على استراتيجيات مصممة يدويًا. قد يوفر معيار يقارن بين "مناهج التعلم الفائق للتعلم النشط" و"التعلم النشط التقليدي القائم على الاستدلال" مؤشرات حول ما إذا كان "تعلم التعلم النشط" يقع على مفترق طرق [ 17 ].

المستوى الفائق الهامشي الأدنى

تعتمد بعض خوارزميات التعلم النشط على آلات المتجهات الداعمة (SVMs) وتستغل بنية هذه الآلات لتحديد نقاط البيانات التي يجب تصنيفها. عادةً ما تحسب هذه الطرق الهامش W لكل نقطة بيانات غير مصنفة في T U,i، وتعتبر W مسافة ذات n بُعد من تلك النقطة إلى المستوى الفاصل.

تفترض طرق الحد الأدنى للمستوى الهامشي أن البيانات ذات أصغر قيمة لـ W هي تلك التي يكون خوارزمية SVM أكثر غموضًا بشأنها، وبالتالي يجب وضعها في T C,i لتصنيفها. أما الطرق الأخرى المشابهة، مثل الحد الأقصى للمستوى الهامشي، فتختار البيانات ذات أكبر قيمة لـ W. بينما تختار طرق المفاضلة مزيجًا من أصغر وأكبر قيم W.

انظر أيضاً

الأدب

مراجع

  1. 1 2 3 سيتلز، بور (2009). "مسح أدبيات التعلم النشط" (ملف PDF) . التقرير الفني رقم 1648 لعلوم الحاسوب. جامعة ويسكونسن-ماديسون . تاريخ الاسترجاع: 18 نوفمبر 2014 .
  2. روبنز، نيل؛ إلاهي، مهدي؛ سوجياما، ماساشي؛ كابلان، داين (2016). "التعلم النشط في أنظمة التوصية". في ريتشي، فرانشيسكو؛ روكاش، ليور؛ شابيرا، براخا (محررون). دليل أنظمة التوصية (PDF) ( الطبعة الثانية). سبرينغر الولايات المتحدة. doi : 10.1007/978-1-4899-7637-6 . hdl : 11311/1006123 . ISBN  978-1-4899-7637-6. S2CID 11569603 . 
  3. داس، شوبهوموي؛ وونغ، وينغ-كين؛ ديتريش، توماس؛ فيرن، آلان؛ إيموت، أندرو (2016). "دمج ملاحظات الخبراء في اكتشاف الشذوذ النشط". في: بونشي، فرانشيسكو؛ دومينغو-فيرير، جوزيب؛ بايزا-ياتس، ريكاردو؛ تشو، تشي-هوا؛ وو، شيندونغ (محررون). المؤتمر الدولي السادس عشر لمعهد مهندسي الكهرباء والإلكترونيات حول استخراج البيانات . معهد مهندسي الكهرباء والإلكترونيات. الصفحات 853-858 . doi : 10.1109/ICDM.2016.0102 . ISBN  978-1-5090-5473-2. S2CID 15285595 . 
  4. 1 2 أولسون، فريدريك (أبريل 2009). "دراسة استقصائية للأدبيات حول التعلم الآلي النشط في سياق معالجة اللغة الطبيعية" . تقرير SICS الفني T2009:06.
  5. يانغ، بيشان؛ صن، جيان تاو؛ وانغ، تينغجياو؛ تشين، تشنغ (2009). "التعلم النشط متعدد التصنيفات الفعال لتصنيف النصوص" (ملف PDF) . وقائع المؤتمر الدولي الخامس عشر لجمعية ACM SIGKDD حول اكتشاف المعرفة واستخراج البيانات - KDD '09 . ص 917. CiteSeerX 10.1.1.546.9358 . doi : 10.1145/1557019.1557119 . ISBN   978-1-60558-495-9. S2CID 1979173 . 
  6. لوغوفر، إدوين (فبراير 2012). "التعلم النشط الهجين لتقليل جهد التعليق الذي يبذله المشغلون في أنظمة التصنيف". التعرف على الأنماط . 45 (2): 884-896 . Bibcode : 2012PatRe..45..884L . doi : 10.1016/j.patcog.2011.08.009 .
  7. لوغوفر، إدوين (2012). "التعلم النشط أحادي المرور في ظل الصراع والجهل". الأنظمة المتطورة . 3 (4): 251-271 . doi : 10.1007/s12530-012-9060-7 . S2CID 43844282 . 
  8. نوفيكوف، إيفان (2021). "حزمة MLIP: كمونات موتر العزم مع MPI والتعلم النشط" . تعلم الآلة: العلوم والتكنولوجيا . 2 (2): 3، 4. arXiv : 2007.08555 . doi : 10.1088/2632-2153/abc9fe .
  9. داتا روبوت. "التعلم الآلي النشط: ما هو وكيف يعمل" . مدونة داتا روبوت . شركة داتا روبوت . تم الاطلاع عليه بتاريخ 30 يناير 2024 .
  10. وانغ، ليانتاو؛ هو، شولي؛ يوان، بو؛ لو، جيانفنغ (5 يناير 2015). "التعلم النشط عبر توليف الاستعلامات والبحث عن أقرب جار" (ملف PDF) . الحوسبة العصبية . 147 : 426-434 . doi : 10.1016/j.neucom.2014.06.042 . S2CID 3027214 . 
  11. بونفوف، جليل؛ لاروش، رومان؛ أورفوي، تانجوي؛ فيرود، رافائيل. أليسياردو، روبن (2014). "قطاع الطرق السياقي للتعلم النشط: طومسون النشط" . في لو، سي كيه؛ ياب، كانساس؛ وونغ، كيلوواط. تيوه، أ. هوانغ، ك. (محرران). معالجة المعلومات العصبية (PDF) . ملاحظات محاضرة في علوم الكمبيوتر. المجلد. 8834. الصفحات من 405 إلى 412. دوى : 10.1007/978-3-319-12637-1_51 . رقم ISBN   978-3-319-12636-4. S2CID 1701357 . معرف هال: hal-01069802. 
  12. بونفوف، جليل (8 يناير 2016). "استكشاف التدرج الأسي للتعلم النشط" . مجلة الحوسبة . 5 (1): 1. arXiv : 1408.2196 . doi : 10.3390/computers5010001 . S2CID 14313852 . 
  13. "shubhomoydas/ad_examples" . GitHub . تم الاسترجاع في 2018-12-04 .
  14. ^ ماكيلي، لازارو إميليو. سانشيز، خيسوس أ. فيغا؛ دورميدو كانتو ، سيباستيان (2012/10/01). “التعلم النشط باستخدام المتنبئين المطابقة: التطبيق على تصنيف الصور”. علوم الانصهار والتكنولوجيا . 62 (2): 347– 355. بيب كود : 2012FuST...62..347M . دوى : 10.13182/FST12-A14626 . ISSN 1536-1055 . S2CID 115384000 .  
  15. تشاو، شويانغ؛ هيتولا، توني؛ فيرتانين، توماس (2020). "التعلم النشط للكشف عن الأحداث الصوتية". معاملات IEEE/ACM في معالجة الصوت والكلام واللغة . arXiv : 2002.05033 . doi : 10.1109/TASLP.2020.3029652 .
  16. ^ برنارد، يورغن. زيبيلزاور، ماتياس؛ ليمان، ماركوس. مولر، مارتن. سيدلمير ، مايكل (يونيو 2018). “نحو خوارزميات التعلم النشط التي تركز على المستخدم”. منتدى رسومات الحاسوب . 37 (3): 121-132 . دوى : 10.1111/cgf.13406 . ردمك 0167-7055 . S2CID 51875861 .  
  17. ديسرومو، لويس؛ لومير، فنسنت (2020). التعلم النشط: هل هو على مفترق طرق؟ التقييم والمناقشة . وقائع ورشة العمل حول التعلم التفاعلي التكيفي، التي عُقدت بالتزامن مع المؤتمر الأوروبي للتعلم الآلي ومبادئ وممارسات اكتشاف المعرفة في قواعد البيانات (ECML PKDD 2020)، غنت، بلجيكا، 2020. S2CID 221794570 .