التعلم الانتقالي

يُعدّ التعلّم بالنقل ( TL ) أسلوبًا في مجال التعلّم الآلي (ML) يتم فيه إعادة استخدام المعرفة المكتسبة من مهمة ما لتحسين الأداء في مهمة ذات صلة. [ 1 ] على سبيل المثال، في تصنيف الصور ، يمكن تطبيق المعرفة المكتسبة أثناء تعلّم التعرّف على السيارات عند محاولة التعرّف على الشاحنات. يرتبط هذا الموضوع بالأدبيات النفسية حول نقل التعلّم ، على الرغم من أن الروابط العملية بين المجالين محدودة. إن إعادة استخدام أو نقل المعلومات من مهام تم تعلّمها سابقًا إلى مهام جديدة لديه القدرة على تحسين كفاءة التعلّم بشكل كبير. [ 2 ]
بما أن التعلم بالنقل يستخدم التدريب باستخدام وظائف هدف متعددة، فإنه يرتبط بالتعلم الآلي الحساس للتكلفة والتحسين متعدد الأهداف . [ 3 ]
تاريخ
في عام 1976، نشر بوزينوفسكي وفولغوسي بحثًا يتناول التعلم بالنقل في تدريب الشبكات العصبية . [ 4 ] [ 5 ] يقدم البحث نموذجًا رياضيًا وهندسيًا للموضوع. وفي عام 1981، تناول تقرير تطبيق التعلم بالنقل على مجموعة بيانات من الصور التي تمثل أحرفًا على شاشات الحاسوب، مُظهرًا تجريبيًا التعلم بالنقل الإيجابي والسلبي. [ 6 ]
في عام 1992، صاغ لورين برات خوارزمية النقل القائمة على التمييز (DBT). [ 7 ]
بحلول عام ١٩٩٨، تطور هذا المجال ليشمل التعلم متعدد المهام ، [ ٨ ] إلى جانب أسس نظرية أكثر رسمية. [ ٩ ] ومن بين المنشورات المؤثرة في مجال التعلم الانتقالي كتاب " التعلم من أجل التعلم" الصادر عام ١٩٩٨، [ ١٠ ] ودراسة استقصائية أجريت عام ٢٠٠٩ ، [ ١١ ] ودراسة استقصائية أخرى أجريت عام ٢٠١٩. [ ١٢ ]
قال نغ في برنامجه التعليمي NIPS 2016 [ 13 ] [ 14 ] أن التعلم الآلي سيصبح المحرك التالي للنجاح التجاري للتعلم الآلي بعد التعلم الخاضع للإشراف .
في ورقة بحثية لعام 2020 بعنوان "إعادة التفكير في التدريب المسبق والتدريب الذاتي"، [ 15 ] أفاد زوف وآخرون أن التدريب المسبق يمكن أن يضر بالدقة، ويدعون إلى التدريب الذاتي بدلاً من ذلك.
تعريف
يُعرَّف التعلم النقل من حيث المجالات والمهام. المجاليتكون من: مساحة مميزةوتوزيع احتمالي هامشي، أينبالنظر إلى مجال محدد،تتكون المهمة من عنصرين: فضاء التصنيفاتووظيفة تنبؤية موضوعيةالوظيفةيُستخدم للتنبؤ بالتصنيف المقابلمن مثيل جديدهذه المهمة، المشار إليها بـيتم تعلمها من بيانات التدريب التي تتكون من أزواج، أينو[ 16 ]
بالنظر إلى مجال المصدرومهمة التعلم، مجال مستهدفومهمة التعلم، أين، أويهدف التعلم بالنقل إلى المساعدة في تحسين تعلم الوظيفة التنبؤية المستهدفةفيباستخدام المعرفة فيو[ 16 ]
التطبيقات
تتوفر خوارزميات التعلم بالنقل في شبكات منطق ماركوف [ 17 ] وشبكات بايز [ 18 ] . وقد طُبِّق التعلم بالنقل في اكتشاف الأنواع الفرعية للسرطان [ 19 ] ، واستخدام المباني [ 20 ] [ 21 ] ، ولعب الألعاب بشكل عام [ 22 ] ، وتصنيف النصوص [ 23 ] [ 24 ] ، والتعرف على الأرقام [ 25 ] ، والتصوير الطبي، وتصفية البريد العشوائي [ 26 ] .
في عام 2020، اكتُشف أنه نظرًا لتشابه طبيعتهما الفيزيائية، يُمكن تطبيق التعلم النقل بين إشارات تخطيط كهربية العضل (EMG) من العضلات وتصنيف سلوكيات موجات الدماغ المُسجلة بتخطيط كهربية الدماغ (EEG)، بدءًا من مجال التعرف على الإيماءات وصولًا إلى مجال التعرف على الحالة الذهنية. ولوحظ أن هذه العلاقة تعمل في كلا الاتجاهين، مما يُشير إلى إمكانية استخدام موجات الدماغ المُسجلة بتخطيط كهربية الدماغ (EEG) لتصنيف إشارات تخطيط كهربية العضل (EMG). [ 27 ] وأظهرت التجارب تحسنًا في دقة الشبكات العصبية والشبكات العصبية الالتفافية [ 28 ] من خلال التعلم النقل، سواءً قبل بدء عملية التعلم (مقارنةً بتوزيع الأوزان العشوائي القياسي) أو في نهاية عملية التعلم (عند الوصول إلى حالة التقارب). أي أن النتائج تتحسن عند تطبيقها على مجال آخر. علاوة على ذلك، يُمكن للمستخدم النهائي لنموذج مُدرَّب مسبقًا تغيير بنية الطبقات المتصلة بالكامل لتحسين الأداء. [ 29 ]
انظر أيضاً
مراجع
- ↑ ويست، جيريمي؛ فينتورا، دان؛ وارنيك، شون (2007). "عرض بحثي ربيعي: أساس نظري للنقل الاستقرائي" . جامعة بريغام يونغ، كلية العلوم الفيزيائية والرياضية. مؤرشف من الأصل في 1 أغسطس 2007. تم الاطلاع عليه في 5 أغسطس 2007 .
- ↑ جورج كاريمبانال، ثومين؛ بوفانيس، رولاند (2019). "خرائط التنظيم الذاتي لتخزين ونقل المعرفة في التعلم المعزز". السلوك التكيفي . 27 (2): 111-126 . arXiv : 1811.08318 . doi : 10.1177/1059712318818568 . ISSN 1059-7123 . S2CID 53774629 .
- ↑ التعلم الآلي الحساس للتكلفة. (2011). الولايات المتحدة الأمريكية: دار نشر CRC، صفحة 63، https://books.google.com/books?id=8TrNBQAAQBAJ&pg=PA63
- ↑ ستيفو بوزينوفسكي وأنتي فولغوسي (1976). "تأثير تشابه الأنماط والتعلم الانتقالي على تدريب البيرسيبترون الأساسي." (الأصل باللغة الكرواتية) وقائع ندوة المعلوماتية 3-121-5، بليد.
- ↑ ستيفو بوزينوفسكي (2020) "تذكير بالورقة البحثية الأولى حول التعلم الانتقالي في الشبكات العصبية، 1976" . إنفورماتيكا 44: 291-302.
- ↑ س. بوزينوفسكي (1981). "مساحة التدريس: مفهوم تمثيلي لتصنيف الأنماط التكيفي." تقرير فني من COINS، جامعة ماساتشوستس في أمهيرست، رقم 81-28 [متاح عبر الإنترنت ]
- ↑ برات، إل واي (1992). "نقل البيانات بين الشبكات العصبية بناءً على قابلية التمييز" (ملف PDF) . مؤتمر NIPS: التطورات في أنظمة معالجة المعلومات العصبية 5. دار نشر مورغان كوفمان. الصفحات 204-211 .
- ↑ كاروانا، ر.، "التعلم متعدد المهام"، الصفحات 95-134 في ثرون وبرات 2012
- ↑ باكستر، ج.، "النماذج النظرية لتعلم التعلم"، الصفحات 71-95، ثرون وبرات 2012
- ↑ ثرون وبرات 2012 .
- ↑ بان، سينو جيالين؛ يانغ، تشيانغ (2010). "دراسة استقصائية حول التعلم النقل" (ملف PDF) . معاملات IEEE في هندسة المعرفة والبيانات . 22 (10): 1345-1359 . Bibcode : 2010ITKDE..22.1345P . doi : 10.1109/TKDE.2009.191 .
- ^ تشوانغ، فوزن؛ تشي، تشييوان؛ دوان، كيو؛ شي، دونغبو؛ تشو، يونغتشون؛ تشو، هنغشو؛ شيونغ، هوي؛ هو، تشينغ (2019). “مسح شامل حول نقل التعلم”. أرخايف : 1911.02685 [ cs.LG ].
- ↑ درس NIPS 2016: "أساسيات بناء تطبيقات الذكاء الاصطناعي باستخدام التعلم العميق" بقلم أندرو نج ، 6 مايو 2018، مؤرشف من الأصل في 19 ديسمبر 2021 ، تم الاطلاع عليه في 28 ديسمبر 2019
- ↑ "أساسيات بناء تطبيقات الذكاء الاصطناعي باستخدام التعلم العميق، شرائح العرض" (PDF) .
- ↑ زوف، باريت (2020). "إعادة النظر في التدريب المسبق والتدريب الذاتي" (ملف PDF) . التطورات في أنظمة معالجة المعلومات العصبية . 33 : 3833-3845 . arXiv : 2006.06882 . تاريخ الاسترجاع : 2022-12-20 .
- لين ، يوان-بين؛ جونغ ، تزي-بينغ (27 يونيو 2017). "تحسين تصنيف المشاعر باستخدام تخطيط كهربية الدماغ من خلال التعلم الانتقالي المشروط" . مجلة فرونتيرز في علم الأعصاب البشري . 11334. doi : 10.3389/fnhum.2017.00334 . PMC 5486154. PMID 28701938 .
تم نسخ المادة من هذا المصدر، وهو متاح بموجب ترخيص Creative Commons Attribution 4.0 International License . - ↑ ميهالكوفا، ليليانا؛ هوينه، توين؛ موني، ريموند ج. (يوليو 2007)، "رسم خرائط شبكات منطق ماركوف ومراجعتها للنقل" (ملف PDF) ، وقائع المؤتمر الثاني والعشرين لجمعية النهوض بالذكاء الاصطناعي (AAAI-2007) ، فانكوفر، كولومبيا البريطانية، الصفحات 608-614 ، تاريخ الاسترجاع 2007-08-05
{{citation}}: CS1 maint: موقع الناشر مفقود ( رابط ) - ↑ نيكوليسكو-ميزيل، ألكساندرو؛ كاروانا، ريتش (21-24 مارس 2007)، "النقل الاستقرائي لتعلم بنية الشبكة البايزية" (ملف PDF) ، وقائع المؤتمر الدولي الحادي عشر حول الذكاء الاصطناعي والإحصاء (AISTATS 2007) ، تاريخ الاسترجاع : 5 أغسطس 2007
- ↑ حاجيراميزانالي، إي.، ودادانه، إس. زد.، وكربالايغاره، أ.، وتشو، زد.، وكيان، إكس. التعلم متعدد المجالات باستخدام نظرية بايز لاكتشاف الأنواع الفرعية للسرطان من بيانات تعداد التسلسل من الجيل التالي. المؤتمر الثاني والثلاثون لأنظمة معالجة المعلومات العصبية (NeurIPS 2018)، مونتريال، كندا. arXiv : 1810.09433
- ↑ عارف-أنج، آي بي؛ سليم، إف دي؛ هاميلتون، إم. (2017-11-08). DA-HOC: تكييف المجال شبه الخاضع للإشراف للتنبؤ بإشغال الغرف باستخدام بيانات مستشعر ثاني أكسيد الكربون . المؤتمر الدولي الرابع لجمعية ACM حول أنظمة البيئات المبنية الموفرة للطاقة (BuildSys). دلفت، هولندا. الصفحات 1-10 . doi : 10.1145/3137133.3137146 . ISBN 978-1-4503-5544-5.
- ↑ عارف-أنج، آي بي؛ هاميلتون، إم؛ سليم، إف دي (1 ديسمبر 2018). "توقع قابل للتطوير لإشغال الغرفة باستخدام تحليل السلاسل الزمنية القابل للنقل لبيانات مستشعر ثاني أكسيد الكربون". معاملات ACM لشبكات الاستشعار . 14 ( 3-4 ): 21:1-21:28. doi : 10.1145/3217214 . S2CID 54066723 .
- ↑ بانيرجي، بيكرامجيت، وبيتر ستون. " التعلم العام للألعاب باستخدام نقل المعرفة ". المؤتمر الدولي المشترك للذكاء الاصطناعي. 2007.
- ↑ دو، تشونغ ب.؛ نغ، أندرو ي. (2005). "التعلم بالنقل لتصنيف النصوص". مؤسسة أنظمة معالجة المعلومات العصبية، NIPS*2005 (ملف PDF) . تم الاطلاع عليه بتاريخ 5 أغسطس 2007 .
- ↑ راجات، راينا؛ نغ، أندرو ي.؛ كولر، دافني (2006). "بناء معلومات مسبقة باستخدام التعلم النقل". المؤتمر الدولي الثالث والعشرون للتعلم الآلي (ملف PDF) . تم الاطلاع عليه بتاريخ 5 أغسطس 2007 .
- ↑ مايترا، دي إس؛ بهاتاشاريا، يو؛ باروي، إس كيه (أغسطس 2015). "نهج مشترك قائم على الشبكات العصبية التلافيفية للتعرف على الأحرف المكتوبة بخط اليد في نصوص متعددة". المؤتمر الدولي الثالث عشر لتحليل المستندات والتعرف عليها (ICDAR) لعام 2015. الصفحات 1021-1025 . doi : 10.1109/ICDAR.2015.7333916 . ISBN 978-1-4799-1805-8. S2CID 25739012 .
- ↑ بيكل، ستيفن (2006). "نظرة عامة على تحدي اكتشاف ECML-PKDD لعام 2006". ورشة عمل تحدي اكتشاف ECML-PKDD (ملف PDF) . تم الاطلاع عليه بتاريخ 5 أغسطس 2007 .
- ↑ بيرد، جوردان جيه؛ كوبيلارز، جوناثان؛ فاريا، دييغو آر؛ إيكارت، أنيكو؛ ريبيرو، إدواردو بي. (2020). "التعلم بالنقل متعدد المجالات باستخدام الشبكات العصبية متعددة الطبقات والشبكات العصبية التلافيفية لمعالجة الإشارات البيولوجية: تخطيط كهربية الدماغ وتخطيط كهربية العضل" . مجلة IEEE Access . 8. معهد مهندسي الكهرباء والإلكترونيات (IEEE): 54789-54801 . رمز Bibcode : 2020IEEEA...854789B . doi : 10.1109/access.2020.2979074 . ISSN 2169-3536 .
- ↑ مايترا، دورجوي سين؛ بهاتاشاريا، أوجوال؛ باروي، سوابان ك. (أغسطس 2015). "نهج مشترك قائم على الشبكات العصبية التلافيفية للتعرف على الأحرف المكتوبة بخط اليد في نصوص متعددة". المؤتمر الدولي الثالث عشر لتحليل المستندات والتعرف عليها (ICDAR) لعام 2015. الصفحات 1021-1025 . doi : 10.1109/ICDAR.2015.7333916 . ISBN 978-1-4799-1805-8. S2CID 25739012 .
- ^ كبير ، جلالة ديبو. عبدر، مولود؛ جلالي، سيد محمد جعفر؛ خسروي، عباس؛ عطية، أمير ف.؛ نهاوندي، سعيد؛ سرينيفاسان ، ديبتي (7 يناير 2022). “SpinalNet: شبكة عصبية عميقة ذات مدخلات تدريجية”. معاملات IEEE على الذكاء الاصطناعي . 4 (5): 1165–1177 . أرخايف : 2007.03347 . دوى : 10.1109/TAI.2022.3185179 . S2CID 220381239 .
مصادر
- ثرون، سيباستيان؛ برات، لوريان (6 ديسمبر 2012). تعلم كيف تتعلم . سبرينغر ساينس آند بيزنس ميديا. ISBN 978-1-4615-5529-2.
- التعلم الآلي
