منحنى التعلم (التعلم الآلي)

📅 آخر تحديث: ٢٥ يوليو ٢٠٢٦
✍️ نُشر في: ٢٥ يوليو ٢٠٢٦
📷 يحتوي على 13 صور
الموسوعة الحرة
رسم بياني لمنحنى التعلم يوضح العلاقة بين حجم مجموعة التدريب ودرجة التدريب (الخسارة) ودرجة التحقق المتبادل

في مجال التعلم الآلي ، يُعد منحنى التعلم (أو منحنى التدريب ) تمثيلاً بيانيًا يوضح كيفية تغير أداء النموذج على مجموعة التدريب (وعادةً مجموعة التحقق) مع عدد دورات التدريب ( الحقب ) أو حجم بيانات التدريب. [ 1 ] عادةً، يُرسم عدد دورات التدريب أو حجم مجموعة التدريب على المحور السيني ، وقيمة دالة الخسارة (وربما مقياس آخر مثل درجة التحقق المتقاطع ) على المحور الصادي .

تشمل المرادفات منحنى الخطأ ، ومنحنى الخبرة ، ومنحنى التحسين ، ومنحنى التعميم . [ 2 ]

بصورة أكثر تجريدًا، تُظهر منحنيات التعلم الفرق بين جهد التعلم والأداء التنبؤي، حيث يعني "جهد التعلم" عادةً عدد عينات التدريب، ويعني "الأداء التنبؤي" الدقة على عينات الاختبار. [ 3 ]

تُستخدم منحنيات التعلم لأغراض مفيدة عديدة في مجال التعلم الآلي، بما في ذلك: [ 4 ] [ 5 ] [ 6 ]

  • اختيار معلمات النموذج أثناء التصميم،
  • تعديل عملية التحسين لتحسين التقارب،
  • وتشخيص المشاكل مثل الإفراط في التخصيص (أو نقص التخصيص).

يمكن أن تكون منحنيات التعلم أدوات لتحديد مدى استفادة النموذج من إضافة المزيد من بيانات التدريب، وما إذا كان النموذج يعاني أكثر من خطأ التباين أو خطأ التحيز . إذا تقاربت كل من درجة التحقق ودرجة التدريب إلى قيمة معينة، فلن يستفيد النموذج بشكل ملحوظ من المزيد من بيانات التدريب. [ 7 ]

التعريف الرسمي

عند إنشاء دالة لتقريب توزيع بعض البيانات، من الضروري تحديد دالة الخسارة.ل(وθ(X)،Y){\displaystyle L(f_{\theta }(X),Y)}لقياس مدى جودة مخرجات النموذج (مثل دقة مهام التصنيف أو متوسط ​​مربع الخطأ للانحدار). ثم نحدد عملية تحسين لإيجاد معلمات النموذج.θ{\displaystyle \theta }بحيثل(وθ(X)،Y){\displaystyle L(f_{\theta }(X),Y)}يتم تقليله إلى الحد الأدنى، ويشار إليه باسمθ*{\displaystyle \theta ^{*}}.

منحنى التدريب لكمية البيانات

إذا كانت بيانات التدريب

{x1،x2،...،xن}،{y1،y2،...yن}{\displaystyle \{x_{1},x_{2},\dots ,x_{n}\},\{y_{1},y_{2},\dots y_{n}\}}

وبيانات التحقق هي

{x1′،x2′،...xم′}،{y1′،y2′،...yم′}{\displaystyle \{x_{1}',x_{2}',\dots x_{m}'\},\{y_{1}',y_{2}',\dots y_{m}'\}}،

منحنى التعلم هو رسم بياني للمنحنيين

  1. أنا↦ل(وθ*(Xأنا،Yأنا)(Xأنا)،Yأنا){\displaystyle i\mapsto L(f_{\theta ^{*}(X_{i},Y_{i})}(X_{i}),Y_{i})}
  2. أنا↦ل(وθ*(Xأنا،Yأنا)(Xأنا′)،Yأنا′){\displaystyle i\mapsto L(f_{\theta ^{*}(X_{i},Y_{i})}(X_{i}'),Y_{i}')}

أينXأنا={x1،x2،...xأنا}{\displaystyle X_{i}=\{x_{1},x_{2},\dots x_{i}\}}

منحنى التدريب لعدد التكرارات

تعتمد العديد من خوارزميات التحسين على التكرار، حيث تُكرر نفس الخطوة (مثل الانتشار العكسي ) حتى تتقارب العملية إلى قيمة مثلى. يُعدّ انحدار التدرج أحد هذه الخوارزميات.θأنا*{\displaystyle \theta _{i}^{*}}هو تقريب للحل الأمثلθ{\displaystyle \theta }بعدأنا{\displaystyle i}الخطوات، منحنى التعلم هو رسم بياني لـ

  1. أنا↦ل(وθأنا*(X،Y)(X)،Y){\displaystyle i\mapsto L(f_{\theta _{i}^{*}(X,Y)}(X),Y)}
  2. أنا↦ل(وθأنا*(X،Y)(X′)،Y′){\displaystyle i\mapsto L(f_{\theta _{i}^{*}(X,Y)}(X'),Y')}

انظر أيضاً

مراجع

  1. ↑ "مور، فيليكس وفان راين، يان ن. "منحنيات التعلم لاتخاذ القرارات في التعلم الآلي الخاضع للإشراف - دراسة استقصائية." arXiv preprint arXiv:2201.12150 (2022)". arXiv : 2201.12150 .
  2. ↑ فيرينغ، توم؛ لوغ، ماركو (2023-06-01). "شكل منحنيات التعلم: مراجعة". معاملات IEEE في تحليل الأنماط والذكاء الآلي . 45 (6): 7799-7819 . arXiv : 2103.10948 . Bibcode : 2023ITPAM..45.7799V . doi : 10.1109/TPAMI.2022.3220744 . ISSN 0162-8828 . PMID 36350870 .  
  3. ↑ بيرليش، كلوديا (2010)، "منحنيات التعلم في التعلم الآلي" ، في ساموت، كلود؛ ويب، جيفري آي. (محرران)، موسوعة التعلم الآلي ، بوسطن، ماساتشوستس: سبرينغر الولايات المتحدة، ص 577-580 ، doi : 10.1007/978-0-387-30164-8_452 ، ISBN  978-0-387-30164-8تم الاطلاع عليه بتاريخ 2023-07-06
  4. ↑ مادهافان، بي جي (1997). "خوارزمية تعلم جديدة للشبكات العصبية المتكررة للتنبؤ بالسلاسل الزمنية" (ملف PDF) . مجلة الأنظمة الذكية . ص 113، الشكل 3. 
  5. ↑ "التعلم الآلي 102: نصائح عملية" . درس تعليمي: التعلم الآلي لعلم الفلك باستخدام مكتبة Scikit-learn . مؤرشف من الأصل بتاريخ 30 يوليو 2012. تم الاطلاع عليه بتاريخ 15 فبراير 2019 .
  6. ↑ ميك، كريستوفر؛ ثيسون، بو؛ هيكرمان، ديفيد (صيف 2002). "طريقة أخذ العينات باستخدام منحنى التعلم المطبقة على التجميع القائم على النموذج" . مجلة أبحاث تعلم الآلة . 2 (3): 397. مؤرشف من الأصل في 15 يوليو 2013.
  7. ↑ مطورو مكتبة scikit-learn. "منحنيات التحقق: رسم النتائج لتقييم النماذج - وثائق scikit-learn 0.20.2" . تم الاطلاع عليه بتاريخ 15 فبراير 2019 .