التعلم المنهجي
التعلم المنهجي هو أسلوب في مجال تعلم الآلة ، حيث يتم تدريب النموذج على أمثلة ذات صعوبة متزايدة، وقد يُحدد مستوى الصعوبة مسبقًا أو يُكتشف أثناء عملية التدريب. يهدف هذا الأسلوب إلى تحقيق أداء جيد بسرعة أكبر، أو التقارب نحو حل أمثل محلي أفضل في حال عدم التوصل إلى الحل الأمثل العالمي . [ 1 ] [ 2 ]
يقترب
بشكل عام، يُعدّ التعلّم المنهجي أسلوبًا يتم فيه زيادة صعوبة الأمثلة في مجموعة التدريب المُقدّمة للنموذج تدريجيًا عبر دورات تدريبية متعددة. قد يُحقق هذا الأسلوب نتائج أفضل من تعريض النموذج لمجموعة التدريب الكاملة مباشرةً في بعض الحالات؛ لا سيما عندما يستطيع النموذج تعلّم المبادئ العامة من أمثلة أسهل، ثم دمج معلومات أكثر تعقيدًا ودقة تدريجيًا مع إدخال أمثلة أصعب، مثل الحالات الحدية أو النفي الصعب . وقد ثبتت فعالية هذا الأسلوب في العديد من المجالات، على الأرجح كشكل من أشكال التنظيم . [ 3 ]
توجد عدة اختلافات رئيسية في كيفية تطبيق هذه التقنية:
- يجب تعريف مفهوم "الصعوبة". قد يُستمد هذا المفهوم من التعليقات البشرية [ 4 ] [ 5 ] أو من قاعدة استدلالية خارجية ؛ فعلى سبيل المثال، في نمذجة اللغة ، قد تُصنف الجمل الأقصر على أنها أسهل من الجمل الأطول. [ 6 ] وثمة نهج آخر يتمثل في استخدام أداء نموذج آخر، حيث تُصنف الأمثلة التي تنبأ بها ذلك النموذج بدقة على أنها أسهل (مما يُوفر صلةً بتقنية التعزيز ).
- يمكن زيادة مستوى الصعوبة تدريجيًا [ 7 ] أو على مراحل محددة [ 8 ] ، وفق جدول زمني محدد أو وفقًا لتوزيع احتمالي . وقد يُخفف من ذلك أيضًا اشتراط التنوع في كل مرحلة، في الحالات التي يُحتمل فيها أن تكون الأمثلة الأسهل متشابهة بشكل غير متناسب [ 9 ] .
- يجب على التطبيقات أيضًا تحديد جدول زمني لزيادة مستوى الصعوبة. قد تستخدم الأساليب البسيطة جدولًا زمنيًا ثابتًا، مثل التدريب على أمثلة سهلة لنصف عدد التكرارات المتاحة، ثم التدريب على جميع الأمثلة في النصف الثاني. [ 3 ] بينما تستخدم أساليب أخرى التعلم الذاتي لزيادة مستوى الصعوبة بما يتناسب مع أداء النموذج على المجموعة الحالية. [ 10 ]
بما أن التعلم المنهجي يقتصر على اختيار بيانات التدريب وترتيبها، فإنه يُمكن دمجه مع العديد من تقنيات التعلم الآلي الأخرى. ويفترض نجاح هذه الطريقة أن النموذج المُدرَّب على نسخة أسهل من المشكلة قادر على التعميم على نسخ أكثر صعوبة، لذا يُمكن اعتباره شكلاً من أشكال التعلم النقل . كما يرى بعض الباحثين أن التعلم المنهجي يشمل أشكالاً أخرى من التعقيد المتزايد تدريجياً، مثل زيادة عدد معلمات النموذج. [ 11 ] وكثيراً ما يُدمج مع التعلم المعزز ، مثل تعلم نسخة مبسطة من لعبة ما أولاً. [ 12 ]
لقد حققت بعض المجالات نجاحًا باستخدام أسلوب التعلم المضاد للمنهج : التدريب على أصعب الأمثلة أولاً. ومن الأمثلة على ذلك طريقة ACCAN للتعرف على الكلام ، والتي تتدرب على الأمثلة ذات أدنى نسبة إشارة إلى ضوضاء أولاً. [ 13 ]
تاريخ
صاغ يوشوا بنجيو وزملاؤه مصطلح "التعلم المنهجي" عام ٢٠٠٩، [ ١٤ ] مشيرين إلى أسلوب التشكيل النفسي في الحيوانات والتعليم المنظم للبشر: البدء بأبسط المفاهيم ثم البناء عليها. ويشير الباحثون أيضًا إلى أن تطبيق هذا الأسلوب في التعلم الآلي يعود بجذوره إلى الدراسات المبكرة للشبكات العصبية، مثل ورقة جيفري إلمان البحثية عام ١٩٩٣ بعنوان "التعلم والتطور في الشبكات العصبية: أهمية البدء بخطوات صغيرة" . [ ١٥ ] وقد أظهر بنجيو وزملاؤه نتائج جيدة في مسائل تصنيف الصور ، مثل تحديد الأشكال الهندسية ذات الأشكال الأكثر تعقيدًا تدريجيًا، ونمذجة اللغة ، مثل التدريب باستخدام مفردات تتوسع تدريجيًا . وخلصوا إلى أن "الأثر الإيجابي لاستراتيجيات المناهج الدراسية يكون أكثر وضوحًا على مجموعة الاختبار"، مما يشير إلى إمكانية تعميمها بشكل جيد.
وقد تم تطبيق هذه التقنية منذ ذلك الحين على العديد من المجالات الأخرى:
مراجع
- ^ قوه ، شنغ. هوانغ، ويلين؛ تشانغ، هاوزي. تشوانغ، تشينفان؛ دونغ، دنغكي؛ سكوت، ماثيو ر. هوانغ ، دينجلونج (2018). “CurriculumNet: التعلم الخاضع للإشراف الضعيف من صور الويب واسعة النطاق”. أرخايف : 1808.01097 [ cs.CV ].
- ↑ "التعلم المنهجي القائم على الكفاءة للترجمة الآلية العصبية" . تم الاطلاع عليه في 29 مارس 2024 .
- 1 2 بينجيو، يوشوا؛ لورادور، جيروم؛ كولوبيرت، رونان؛ ويستون، جيسون (2009). "التعلم المنهجي" . وقائع المؤتمر الدولي السنوي السادس والعشرين حول التعلم الآلي . ص 41-48 . doi : 10.1145/1553374.1553380 . ISBN 978-1-60558-516-1تم الاطلاع عليه بتاريخ 24 مارس 2024 .
- ↑ "التعلم المنهجي لمهام متعددة" . تم الاطلاع عليه بتاريخ 29 مارس 2024 .
- ↑ إيونسكو، رادو تيودور؛ أليكسي، بوغدان؛ ليوردينو، ماريوس؛ بوبيسكو، ماريوس؛ بابادوبولوس، ديم ب.؛ فيراري، فيتوريو (2016). "ما مدى صعوبة الأمر؟ تقدير صعوبة البحث البصري في صورة" . مؤتمر IEEE لعام 2016 حول رؤية الحاسوب والتعرف على الأنماط (CVPR) (ملف PDF) . الصفحات 2157-2166 . doi : 10.1109/CVPR.2016.237 . ISBN 978-1-4673-8851-1تم الاطلاع عليه بتاريخ 29 مارس 2024 .
- ↑ "خطوات صغيرة: كيف أن "الأقل هو الأكثر" في تحليل التبعية غير الخاضع للإشراف" (ملف PDF) . تم الاطلاع عليه في 29 مارس 2024 .
- ↑ "التعلم الذاتي لنماذج المتغيرات الكامنة" . 6 ديسمبر 2010. الصفحات 1189-1197 . تم الاطلاع عليه في 29 مارس 2024 .
- ↑ تانغ، يي؛ يانغ، يو-بين؛ غاو، يانغ (2012). "التعلم الذاتي للقاموس لتصنيف الصور" . وقائع المؤتمر الدولي العشرين لجمعية الحوسبة الآلية (ACM) حول الوسائط المتعددة . الصفحات 833-836 . doi : 10.1145/2393347.2396324 . ISBN 978-1-4503-1089-5تم الاطلاع عليه بتاريخ 29 مارس 2024 .
- ↑ "التعلم المنهجي مع التنوع لمهام رؤية الحاسوب الخاضعة للإشراف" . تم الاطلاع عليه بتاريخ 29 مارس 2024 .
- ↑ "التعلم المنهجي ذاتي السرعة" . تم الاطلاع عليه بتاريخ 29 مارس 2024 .
- ^ سوفياني، بيترو؛ رادو تيودور إيونيسكو؛ روتا، باولو؛ سيبي، نيكو (2021). “تعلم المناهج الدراسية: مسح”. أرخايف : 2101.10382 [ cs.LG ].
- ↑ نارفي كار، سانميت؛ بينغ، بي؛ ليونيتي، ماتيو؛ سينابوف، جيفكو؛ تايلور، ماثيو إي؛ ستون، بيتر (يناير 2020). "التعلم المنهجي لمجالات التعلم المعزز: إطار عمل ودراسة استقصائية" . مجلة أبحاث التعلم الآلي . 21 (1): 181:7382–181:7431. arXiv : 2003.04960 . تاريخ الاسترجاع: 29 مارس 2024 .
- ↑ "طريقة تعلم المنهج لتحسين مقاومة الضوضاء في التعرف التلقائي على الكلام" . تم الاطلاع عليه بتاريخ 29 مارس 2024 .
- ↑ بينجيو، يوشوا؛ لورادور، جيروم؛ كولوبيرت، رونان؛ ويستون، جيسون (2009). "التعلم المنهجي" . وقائع المؤتمر الدولي السنوي السادس والعشرين حول التعلم الآلي . ص 41-48 . doi : 10.1145/1553374.1553380 . ISBN 978-1-60558-516-1تم الاطلاع عليه بتاريخ 24 مارس 2024 .
- ↑ إلمان، جيه إل (1993). "التعلم والتطور في الشبكات العصبية: أهمية البدء بخطوات صغيرة". الإدراك . 48 (1): 71-99 . doi : 10.1016/0010-0277(93)90058-4 . PMID 8403835 .
- ↑ "تعلم المنهج باستخدام التحسين البايزي لتعلم تمثيل الكلمات الخاص بالمهام" . تم الاطلاع عليه في 29 مارس 2024 .
- ^ قونغ، يانتاو؛ ليو، تساو. يوان، جياتشن؛ يانغ، فان؛ كاي، شونليانغ؛ وان، جوانجلو؛ تشن، جيانسونج؛ نيو، رويياو؛ وانغ هوفينغ (2021). "التعلم الديناميكي القائم على الكثافة للكشف عن النوايا" . وقائع المؤتمر الدولي الثلاثين ACM لإدارة المعلومات والمعرفة . ص 3034 – 3037. أرخايف : 2108.10674 . دوى : 10.1145/3459637.3482082 . رقم ISBN 978-1-4503-8446-9تم الاطلاع عليه بتاريخ 29 مارس 2024 .
- ↑ "تصور وفهم تعلم المناهج الدراسية لشبكات الذاكرة طويلة المدى قصيرة المدى" . تم الاطلاع عليه في 29 مارس 2024 .
- ↑ "استكشاف تجريبي لتعلم المناهج الدراسية من أجل الترجمة الآلية العصبية" . تم الاطلاع عليه بتاريخ 29 مارس 2024 .
- ↑ "تحسين المناهج الدراسية القائم على التعلم المعزز للترجمة الآلية العصبية" . تم الاطلاع عليه بتاريخ 29 مارس 2024 .
- ↑ "طريقة تعلم منهجية لتحسين مقاومة الضوضاء في التعرف التلقائي على الكلام" . تم الاطلاع عليه بتاريخ 29 مارس 2024 .
- ^ تشانغ، يانغ؛ محمد، عمرو؛ عابدين، هادي؛ شانغ، جووكان؛ فازرجيانيس، ميكاليس (2025). “ما وراء أخذ العينات العشوائية: التدريب المسبق لنموذج اللغة الفعال عبر تعلم المناهج الدراسية”. أرخايف : 2506.11300 [ cs.CL ].
- ^ هوانغ ، يوج. وانغ، يوهان؛ تاي، ينغ؛ ليو، شياو مينغ؛ شين، بنغتشنغ؛ لي، شاوكسين؛ لي، جيلين؛ هوانغ ، فييو (2020). “الوجه الدراسي: فقدان التعلم في المنهج التكيفي للتعرف العميق على الوجه”. مؤتمر IEEE/CVF لعام 2020 حول الرؤية الحاسوبية والتعرف على الأنماط (CVPR) . ص 5900 – 5909. أرخايف : 2004.00288 . دوى : 10.1109/CVPR42600.2020.00594 . رقم ISBN 978-1-7281-7168-5.
- ↑ "المنهج الدراسي للتعلم الذاتي لاكتشاف الكائنات عبر المجالات" . تم الاطلاع عليه بتاريخ 29 مارس 2024 .
- ↑ "التوليد التلقائي لرسوم بيانية للمناهج الدراسية لوكلاء التعلم المعزز" . 4 فبراير 2017. الصفحات 2590-2596 . تم الاطلاع عليه في 29 مارس 2024 .
- ↑ غونغ، تشين؛ يانغ، جيان؛ تاو، داشنغ (2019). "التعلم المنهجي متعدد الوسائط عبر الرسوم البيانية" . معاملات ACM في الأنظمة الذكية والتكنولوجيا . 10 (4): 1-25 . doi : 10.1145/3322122 . تم الاسترجاع في 29 مارس 2024 .
- ↑ كو، مينغ؛ تانغ، جيان؛ هان، جياوي (2018). تعلم المناهج لتضمين شبكة النجوم غير المتجانسة عبر التعلم العميق المعزز . الصفحات 468-476 . doi : 10.1145/3159652.3159711 . hdl : 2142/101634 . ISBN 978-1-4503-5581-0تم الاطلاع عليه بتاريخ 29 مارس 2024 .
- ↑ التعلم الذاتي لتحليل المصفوفات . مطبعة معهد ماساتشوستس للتكنولوجيا. 25 يناير 2015. الصفحات 3196-3202 . ISBN 978-0-262-51129-2تم الاطلاع عليه بتاريخ 29 مارس 2024 .
للمزيد من القراءة
- خوارزميات التعلم الآلي
