تكييف المجال

يُعدّ تكييف المجال مجالًا مرتبطًا بالتعلم الآلي والتعلم النقل . وهو يتناول تحدي تدريب نموذج على توزيع بيانات واحد ( المجال المصدر ) وتطبيقه على توزيع بيانات ذي صلة ولكنه مختلف ( المجال الهدف ).

ومن الأمثلة الشائعة تصفية البريد العشوائي ، حيث يتم تكييف نموذج تم تدريبه على رسائل البريد الإلكتروني من مستخدم واحد (نطاق المصدر) للتعامل مع رسائل البريد الإلكتروني لمستخدم آخر بأنماط مختلفة بشكل كبير (نطاق الهدف).

يمكن لتقنيات تكييف المجال أيضًا الاستفادة من مصادر البيانات غير ذات الصلة لتحسين التعلم. وعندما يتعلق الأمر بتوزيعات مصادر متعددة، تمتد المشكلة لتشمل تكييف المجال متعدد المصادر . ^{[ 1 ]}

يُعدّ تكييف المجال نوعًا خاصًا من أنواع التعلّم بالنقل. ووفقًا للتصنيف الذي وضعه بان ويانغ (2010)، يندرج ضمن فئة التعلّم بالنقل الاستقرائي . في هذا السياق، تكون مهمتا المصدر والهدف متطابقتين (على سبيل المثال، كلاهما يتعلق بالتعرّف على الأشياء)، لكن المجالين مختلفان (توزيعات هامشية مختلفة). وهذا ما يميّزه عن التعلّم بالنقل الاستقرائي (حيث تتوفر بيانات مُصنّفة للمهمة الهدف) والتعلّم بالنقل غير المُشرف (حيث لا تتوفر بيانات مُصنّفة في كلا المجالين). ^{[ 2 ]}

تصنيف مشاكل تكييف المجال

يتم تصنيف إعدادات تكييف المجال بطريقتين مختلفتين: وفقًا لتحول التوزيع بين المجالات، ووفقًا للبيانات المتاحة من المجال المستهدف.

تحولات التوزيع

يتم تصنيف تحولات التوزيع الشائعة على النحو التالي: ^{[ 3 ]}^{[ 4 ]}

يحدث تحول المتغيرات المصاحبة عندما تتغير توزيعات المدخلات للمصدر والوجهة، لكن العلاقة بين المدخلات والتصنيفات تبقى ثابتة. يندرج مثال تصفية البريد العشوائي المذكور أعلاه ضمن هذه الفئة. بمعنى آخر، قد تختلف توزيعات (أنماط) رسائل البريد الإلكتروني بين النطاقات، ولكن يجب تصنيف رسائل البريد الإلكتروني المصنفة كبريد عشوائي في نطاق ما بنفس الطريقة في نطاق آخر.
يحدث انزياح التصنيف المسبق عندما يختلف توزيع التصنيفات بين مجموعتي البيانات المصدر والهدف، بينما يظل التوزيع الشرطي للميزات بناءً على التصنيفات ثابتًا. مثال على ذلك هو مصنف لون الشعر في صور من إيطاليا (المجال المصدر) والنرويج (المجال الهدف). تختلف نسب ألوان الشعر (التصنيفات)، لكن الصور ضمن فئات مثل ذوي الشعر الأشقر والأسود تظل متسقة عبر المجالين. يمكن لمصنف بيانات النرويج استغلال هذه المعرفة المسبقة بنسب الفئات لتحسين تقديراته.
يشير التحول المفاهيمي (التحول الشرطي) إلى التغيرات في العلاقة بين السمات والتصنيفات، حتى لو ظل توزيع المدخلات كما هو. على سبيل المثال، في التشخيص الطبي، قد تشير الأعراض نفسها (المدخلات) إلى أمراض مختلفة تمامًا (تصنيفات) في مجموعات سكانية مختلفة (مجالات).

البيانات المتاحة أثناء التدريب

تفترض مشاكل تكييف المجال عادةً توفر بعض البيانات من المجال المستهدف أثناء التدريب. ويمكن تصنيف هذه المشاكل وفقًا لنوع هذه البيانات المتاحة: ^{[ 5 ]}^{[ 6 ]}

غير مُشرف عليه : تتوفر بيانات غير مُصنفة من النطاق المستهدف، ولكن لا تتوفر بيانات مُصنفة. في المثال المذكور أعلاه لتصفية البريد العشوائي، يتوافق هذا مع الحالة التي تتوفر فيها رسائل بريد إلكتروني من النطاق المستهدف (المستخدم)، ولكنها غير مُصنفة كبريد عشوائي. يمكن لأساليب تكييف النطاق الاستفادة من هذه البيانات غير المُصنفة، من خلال مقارنة توزيعها (أنماطها) مع بيانات النطاق المصدر المُصنفة.
شبه مُشرف : معظم البيانات المتاحة من النطاق المستهدف غير مُصنفة، ولكن تتوفر أيضًا بعض البيانات المُصنفة. في حالة تصميم مُرشِّح البريد العشوائي المذكورة أعلاه ، يتوافق هذا مع حالة قيام المستخدم المستهدف بتصنيف بعض رسائل البريد الإلكتروني على أنها بريد عشوائي أو غير عشوائي.
في التعلم الخاضع للإشراف ، تُصنّف جميع البيانات المتاحة من المجال المستهدف. في هذه الحالة، يقتصر تكييف المجال على تحسين مُتنبئ المجال المصدر. في مثال تصنيف لون الشعر من الصور المذكور أعلاه، قد يتوافق هذا مع تحسين شبكة مُدرّبة مسبقًا على مجموعة بيانات كبيرة من الصور المصنفة من إيطاليا، باستخدام صور مصنفة حديثة من النرويج.

الإضفاء الطابع الرسمي

يترك $X$ ليكن فضاء الإدخال (أو فضاء الوصف) وليكن $Y$ ليكن فضاء المخرجات (أو فضاء التصنيفات). يهدف خوارزمية التعلم الآلي إلى تعلم نموذج رياضي (فرضية). $h:X\to Y$ القدرة على إرفاق ملصق من $Y$ مثال من $X$ يتم تعلم هذا النموذج من عينة تعليمية $S=\{(x_{i},y_{i})\in (X\times Y)\}_{i=1}^{m}$ .

عادةً في التعلم الخاضع للإشراف (بدون تكييف المجال)، نفترض أن الأمثلة $(x_{i},y_{i})\in S$ يتم سحبها بشكل مستقل ومتطابق التوزيع من توزيع $D_{S}$ الدعم $X\times Y$ (غير معروف وثابت). والهدف هو التعلم. $h$ (من $S$ ) بحيث يرتكب أقل خطأ ممكن في تصنيف الأمثلة الجديدة القادمة من التوزيع $D_{S}$ .

يتمثل الاختلاف الرئيسي بين التعلم الخاضع للإشراف وتكييف المجال في أننا في الحالة الأخيرة ندرس توزيعين مختلفين (لكنهما مرتبطان) $D_{S}$ و $D_{T}$ على $X\times Y$ وتتألف مهمة تكييف المجال بعد ذلك من نقل المعرفة من المجال المصدر. $D_{S}$ إلى الهدف $D_{T}$ والهدف إذن هو التعلم $h$ (من عينات مصنفة أو غير مصنفة قادمة من المجالين) بحيث يرتكب أقل قدر ممكن من الخطأ في المجال المستهدف $D_{T}$ .

المشكلة الرئيسية هي التالية: إذا تم تعلم نموذج من مجال مصدر، فما هي قدرته على تصنيف البيانات القادمة من المجال الهدف بشكل صحيح؟

أربعة مبادئ خوارزمية

خوارزميات إعادة الترجيح

الهدف هو إعادة ترجيح العينة المصدرية المصنفة بحيث "تبدو" مشابهة للعينة المستهدفة (من حيث مقياس الخطأ المعتمد). ^{[ 7 ]}^{[ 8 ]}

الخوارزميات التكرارية

تتمثل إحدى طرق التكييف في "التصنيف التلقائي" المتكرر للأمثلة المستهدفة. ^{[ 9 ]} المبدأ بسيط:

نموذج $h$ يتم تعلمها من الأمثلة المصنفة؛
$h$ يقوم تلقائياً بتصنيف بعض الأمثلة المستهدفة؛
يتم تعلم نموذج جديد من الأمثلة المصنفة الجديدة.

تجدر الإشارة إلى وجود مناهج تكرارية أخرى، لكنها عادةً ما تحتاج إلى أمثلة مصنفة ومستهدفة. ^{[ 10 ]}^{[ 11 ]}

البحث عن فضاء تمثيل مشترك

الهدف هو إيجاد أو بناء فضاء تمثيلي مشترك للمجالين. والغاية هي الحصول على فضاء يكون فيه المجالان متقاربين مع الحفاظ على أداء جيد في مهمة تصنيف المصادر. ويمكن تحقيق ذلك باستخدام تقنيات التعلم الآلي التنافسي، حيث يُشجع على أن تكون تمثيلات الميزات من العينات في المجالات المختلفة غير قابلة للتمييز. ^{[ 12 ]}^{[ 13 ]}

نموذج بايزي هرمي

الهدف هو بناء نموذج هرمي بايزي $p(n)$ وهو في الأساس نموذج تحليل للعوامل للعد $n$ ، لاستخلاص تمثيلات كامنة تعتمد على المجال، مما يسمح بوجود عوامل كامنة خاصة بالمجال وعوامل كامنة مشتركة عالميًا. ^{[ 14 ]}

حزم البرامج

تم تطبيق العديد من مجموعات خوارزميات التكيف مع المجال ونقل التعلم على مدى العقود الماضية:

SKADA ^{[ 15 ]} (Python)
ADAPT ^{[ 16 ]} (Python)
TLlib ^{[ 17 ]} (Python)
مجموعة أدوات تكييف المجال ^{[ 18 ]} ( MATLAB )

مراجع

↑ كرامر، كوبي؛ كيرنز، مايكل؛ وورتمان، جينيفر (2008). "التعلم من مصادر متعددة" (ملف PDF) . مجلة أبحاث تعلم الآلة . 9 : 1757-1774 .
↑ بان، سينو جيالين؛ يانغ، تشيانغ (2010). "دراسة استقصائية حول التعلم الانتقالي". معاملات IEEE في هندسة المعرفة والبيانات . 22 (10): 1345-1359 . doi : 10.1109/TKDE.2009.191 .
↑ كوو، ووتر م.؛ لوغ، ماركو (14 يناير 2019)، مقدمة في تكييف المجال ونقل التعلم ، arXiv : 1812.11806
↑ فرحاني، أبو الفضل؛ فوجوي، سحر؛ رشيد، خالد؛ عربنيا، حميد ر. (2020-10-07)، مراجعة موجزة لتكييف المجال ، أرخايف : 2010.03978
↑ ستانفورد أونلاين (11 أبريل 2023). ستانفورد CS330 التعلم العميق متعدد المهام والتعلم الفائق - التكيف مع المجال | 2022 | المحاضرة 13. تم الاطلاع عليه بتاريخ 23 ديسمبر 2024 – عبر يوتيوب.
↑ فرحاني، أبو الفضل؛ فوجوي، سحر؛ رشيد، خالد؛ عربنيا، حميد ر. (2020-10-07)، مراجعة موجزة لتكييف المجال ، أرخايف : 2010.03978
↑ هوانغ، جيايوان؛ سمولا، ألكسندر جيه؛ جريتون، آرثر؛ بورغواردت، كارستر إم؛ شولكوف، برنارد (2006). "تصحيح تحيز اختيار العينة باستخدام بيانات غير مصنفة" (ملف PDF) . مؤتمر أنظمة معالجة المعلومات العصبية (NIPS) . الصفحات 601-608 .
↑ شيمودايرا، هيديتوشي (2000). "تحسين الاستدلال التنبؤي في ظل تغير المتغيرات المصاحبة عن طريق ترجيح دالة الاحتمال اللوغاريتمي" . مجلة التخطيط والاستدلال الإحصائي . 90 (2): 227-244 . doi : 10.1016/S0378-3758(00)00115-4 . S2CID 9238949 .
↑ جاليجو، أ. ج.؛ كالفوساراجوزا، ج.؛ فيشر، ر. ب. (2020). "التدريب التزايدي غير الخاضع للإشراف للشبكات العصبية في بيئة معادية للمجال" ( ملف PDF) . معاملات IEEE في الشبكات العصبية وأنظمة التعلم . الصفحات (11): 4864-4878 . arXiv : 2001.04129 . doi : 10.1109/TNNLS.2020.3025954 . hdl : 20.500.11820/ 72ba0443-8a7d -4cdd-8212-38682d4f0730 . PMID 33027004. S2CID 210164756 .
↑ عارف-أنج، آي بي؛ سليم، إف دي؛ هاميلتون، إم. (2017-11-08). DA-HOC: تكييف المجال شبه الخاضع للإشراف للتنبؤ بإشغال الغرف باستخدام بيانات مستشعر ثاني أكسيد الكربون . المؤتمر الدولي الرابع لجمعية ACM حول أنظمة البيئات المبنية الموفرة للطاقة (BuildSys). دلفت، هولندا. الصفحات 1-10 . doi : 10.1145/3137133.3137146 . ISBN 978-1-4503-5544-5.
↑ عارف-أنج، آي بي؛ هاميلتون، إم؛ سليم، إف دي (1 ديسمبر 2018). "توقع قابل للتطوير لإشغال الغرفة باستخدام تحليل السلاسل الزمنية القابل للنقل لبيانات مستشعر ثاني أكسيد الكربون". معاملات ACM لشبكات الاستشعار . 14 ( 3-4 ): 21:1-21:28. doi : 10.1145/3217214 . S2CID 54066723 .
↑ غانين، ياروسلاف؛ أوستينوفا، إيفجينيا؛ أجاكان، هانا؛ جيرمان، باسكال؛ لاروشيل، هوغو؛ لافيوليت، فرانسوا؛ مارشان، ماريو؛ ليمبيتسكي، فيكتور (2016). "التدريب التنافسي للمجال للشبكات العصبية" (ملف PDF) . مجلة أبحاث تعلم الآلة . 17 : 1-35 .
↑ حاجيراميزانالي، إحسان؛ سياماك زماني دادانه؛ كربالايغاره، علي رضا؛ تشو، مينغ يوان؛ تشيان، شياونينغ (2017). "معالجة تغيير المظهر في الروبوتات الخارجية من خلال التكيف مع المجال المعادي". arXiv : 1703.01461 [ cs.RO ].
↑ حاجيراميزانالي، إحسان؛ سياماك زماني دادانه؛ كربالايغاره، علي رضا؛ تشو، مينغ يوان؛ تشيان، شياونينغ (2018). "التعلم متعدد المجالات باستخدام نظرية بايز لاكتشاف الأنواع الفرعية للسرطان من بيانات تعداد التسلسل من الجيل التالي". arXiv : 1810.09433 [ stat.ML ].
↑ غناسونو، ثيو وكاتشاييف، أوليكسي وفلماري، ريمي وكولاس، أنطوان ولالو، يانيس ودي ماثيلين، أنطوان وجرامفورت، ألكسندر وبوينو، روبن وميشيل، فلورنت وميلو، أبولين ولويزون، فيرجيني وأودونات، أمبرواز ومورو، توماس (2024) "SKADA : Scikit التكيف"
↑ دي ماثيلين، أنطوان وديهيجر، فرانسوا وريتشارد، غيوم وموجو، ماتيلد وفاياتيس، نيكولا (2020) "ADAPT: Awesome Domain Adaptation Python Toolbox"
^ مينغشنغ لونغ جونغوانغ جيانغ، بو فو. (2020) "مكتبة نقل التعلم"
↑ كي يان. (2016) "مجموعة أدوات تكييف المجال"

[1] كرامر، كوبي؛ كيرنز، مايكل؛ وورتمان، جينيفر (2008). "التعلم من مصادر متعددة" (ملف PDF) . مجلة أبحاث تعلم الآلة . 9 : 1757-1774 .

[PanYang2010-2] بان، سينو جيالين؛ يانغ، تشيانغ (2010). "دراسة استقصائية حول التعلم الانتقالي". معاملات IEEE في هندسة المعرفة والبيانات . 22 (10): 1345-1359 . doi : 10.1109/TKDE.2009.191 .

[3] كوو، ووتر م.؛ لوغ، ماركو (14 يناير 2019)، مقدمة في تكييف المجال ونقل التعلم ، arXiv : 1812.11806

[4] فرحاني، أبو الفضل؛ فوجوي، سحر؛ رشيد، خالد؛ عربنيا، حميد ر. (2020-10-07)، مراجعة موجزة لتكييف المجال ، أرخايف : 2010.03978

[5] ستانفورد أونلاين (11 أبريل 2023). ستانفورد CS330 التعلم العميق متعدد المهام والتعلم الفائق - التكيف مع المجال | 2022 | المحاضرة 13. تم الاطلاع عليه بتاريخ 23 ديسمبر 2024 – عبر يوتيوب.

[6] فرحاني، أبو الفضل؛ فوجوي، سحر؛ رشيد، خالد؛ عربنيا، حميد ر. (2020-10-07)، مراجعة موجزة لتكييف المجال ، أرخايف : 2010.03978

[7] هوانغ، جيايوان؛ سمولا، ألكسندر جيه؛ جريتون، آرثر؛ بورغواردت، كارستر إم؛ شولكوف، برنارد (2006). "تصحيح تحيز اختيار العينة باستخدام بيانات غير مصنفة" (ملف PDF) . مؤتمر أنظمة معالجة المعلومات العصبية (NIPS) . الصفحات 601-608 .

[8] شيمودايرا، هيديتوشي (2000). "تحسين الاستدلال التنبؤي في ظل تغير المتغيرات المصاحبة عن طريق ترجيح دالة الاحتمال اللوغاريتمي" . مجلة التخطيط والاستدلال الإحصائي . 90 (2): 227-244 . doi : 10.1016/S0378-3758(00)00115-4 . S2CID 9238949 .

[9] جاليجو، أ. ج.؛ كالفوساراجوزا، ج.؛ فيشر، ر. ب. (2020). "التدريب التزايدي غير الخاضع للإشراف للشبكات العصبية في بيئة معادية للمجال" ( ملف PDF) . معاملات IEEE في الشبكات العصبية وأنظمة التعلم . الصفحات (11): 4864-4878 . arXiv : 2001.04129 . doi : 10.1109/TNNLS.2020.3025954 . hdl : 20.500.11820/ 72ba0443-8a7d -4cdd-8212-38682d4f0730 . PMID 33027004. S2CID 210164756 .

[10] عارف-أنج، آي بي؛ سليم، إف دي؛ هاميلتون، إم. (2017-11-08). DA-HOC: تكييف المجال شبه الخاضع للإشراف للتنبؤ بإشغال الغرف باستخدام بيانات مستشعر ثاني أكسيد الكربون . المؤتمر الدولي الرابع لجمعية ACM حول أنظمة البيئات المبنية الموفرة للطاقة (BuildSys). دلفت، هولندا. الصفحات 1-10 . doi : 10.1145/3137133.3137146 . ISBN 978-1-4503-5544-5.

[11] عارف-أنج، آي بي؛ هاميلتون، إم؛ سليم، إف دي (1 ديسمبر 2018). "توقع قابل للتطوير لإشغال الغرفة باستخدام تحليل السلاسل الزمنية القابل للنقل لبيانات مستشعر ثاني أكسيد الكربون". معاملات ACM لشبكات الاستشعار . 14 ( 3-4 ): 21:1-21:28. doi : 10.1145/3217214 . S2CID 54066723 .

[Domain-Adversarial_Training-12] غانين، ياروسلاف؛ أوستينوفا، إيفجينيا؛ أجاكان، هانا؛ جيرمان، باسكال؛ لاروشيل، هوغو؛ لافيوليت، فرانسوا؛ مارشان، ماريو؛ ليمبيتسكي، فيكتور (2016). "التدريب التنافسي للمجال للشبكات العصبية" (ملف PDF) . مجلة أبحاث تعلم الآلة . 17 : 1-35 .

[ADA-13] حاجيراميزانالي، إحسان؛ سياماك زماني دادانه؛ كربالايغاره، علي رضا؛ تشو، مينغ يوان؛ تشيان، شياونينغ (2017). "معالجة تغيير المظهر في الروبوتات الخارجية من خلال التكيف مع المجال المعادي". arXiv : 1703.01461 [ cs.RO ].

[:bmdl-14] حاجيراميزانالي، إحسان؛ سياماك زماني دادانه؛ كربالايغاره، علي رضا؛ تشو، مينغ يوان؛ تشيان، شياونينغ (2018). "التعلم متعدد المجالات باستخدام نظرية بايز لاكتشاف الأنواع الفرعية للسرطان من بيانات تعداد التسلسل من الجيل التالي". arXiv : 1810.09433 [ stat.ML ].

[15] غناسونو، ثيو وكاتشاييف، أوليكسي وفلماري، ريمي وكولاس، أنطوان ولالو، يانيس ودي ماثيلين، أنطوان وجرامفورت، ألكسندر وبوينو، روبن وميشيل، فلورنت وميلو، أبولين ولويزون، فيرجيني وأودونات، أمبرواز ومورو، توماس (2024) "SKADA : Scikit التكيف"

[16] دي ماثيلين، أنطوان وديهيجر، فرانسوا وريتشارد، غيوم وموجو، ماتيلد وفاياتيس، نيكولا (2020) "ADAPT: Awesome Domain Adaptation Python Toolbox"

[17] مينغشنغ لونغ جونغوانغ جيانغ، بو فو. (2020) "مكتبة نقل التعلم"

[18] كي يان. (2016) "مجموعة أدوات تكييف المجال"

[ 1 ]

[ 2 ]

[ 3 ]

[ 4 ]

[ 5 ]

[ 6 ]

[ 7 ]

[ 8 ]

[ 9 ]

[ 10 ]

[ 11 ]

[ 12 ]

[ 13 ]

[ 15 ]

[ 16 ]

[ 17 ]

[ 18 ]

اللغة	العربية (RTL)
روابط موسوعية	16 رابطاً
المصدر الأصلي	ويكيبيديا ↗