دالة المجموعة الفرعية
في الرياضيات، تُعرف دالة المجموعة شبه المعيارية (أو الدالة شبه المعيارية ) بأنها دالة تصف ، بشكل غير رسمي، العلاقة بين مجموعة من المدخلات ومخرج واحد، حيث يؤدي إضافة المزيد من أحد المدخلات إلى فائدة إضافية متناقصة ( تناقص العائد ). هذه الخاصية الطبيعية لتناقص العائد تجعلها مناسبة للعديد من التطبيقات، بما في ذلك خوارزميات التقريب ، ونظرية الألعاب (كدوال تُنمذج تفضيلات المستخدم)، والشبكات الكهربائية . وقد وُجدت الدوال شبه المعيارية مؤخرًا مفيدةً في العديد من المشكلات الواقعية في مجال التعلم الآلي والذكاء الاصطناعي ، بما في ذلك التلخيص التلقائي ، وتلخيص المستندات المتعددة ، واختيار الميزات ، والتعلم النشط ، وتحديد مواقع أجهزة الاستشعار، وتلخيص مجموعات الصور، والعديد من المجالات الأخرى. [ 1 ] [ 2 ] [ 3 ] [ 4 ]
تعريف
لوإذا كانت مجموعة منتهية ، فإن الدالة شبه المعيارية هي دالة مجموعة، أينيشير إلى مجموعة القوى لـ، والتي تحقق أحد الشروط المكافئة التالية. [ 5 ]
- لكلمعوكللدينا ذلك.
- لكللدينا ذلك.
- لكلوبحيثلدينا ذلكأو ما يعادل ذلك،.
الدالة شبه المعيارية غير السالبة هي أيضاً دالة شبه جمعية ، ولكن الدالة شبه الجمعية ليست بالضرورة شبه معيارية.إذا لم يُفترض أن الدالة محدودة، فإن الشروط المذكورة أعلاه غير متكافئة. على وجه الخصوص، دالة محدد بواسطةلومحدود ولوتحقق خاصية اللانهاية الشرط الأول المذكور أعلاه، لكن الشرط الثاني لا يتحقق عندماوهي مجموعات غير منتهية ذات تقاطع محدود.
أنواع وأمثلة على الدوال شبه المعيارية
روتيني
دالة المجموعةتكون رتيبة إذا كان لكللدينا ذلكتتضمن أمثلة الدوال شبه المعيارية الرتيبة ما يلي:
- الدوال الخطية (النمطية)
- أي دالة من الشكلتُسمى هذه الدالة دالة خطية. بالإضافة إلى ذلك، إذاإذن، الدالة f رتيبة.
- وظائف إضافية للميزانية
- أي دالة من الشكللكلويُطلق عليه اسم "الإضافة إلى الميزانية". [ 6 ]
- وظائف التغطية
- يتركلتكن مجموعة من المجموعات الجزئية لمجموعة أساسية ماالوظيفةلتُسمى هذه الدالة دالة التغطية. ويمكن تعميمها بإضافة أوزان غير سالبة إلى العناصر.
- إنتروبيا
- يتركلتكن مجموعة من المتغيرات العشوائية . إذن لأيلدينا ذلكهي دالة شبه معيارية، حيثهي إنتروبيا مجموعة المتغيرات العشوائية، وهي حقيقة تُعرف باسم متباينة شانون . [ 7 ] ومن المعروف أن هناك متباينات أخرى لدالة الإنتروبيا، انظر متجه الإنتروبيا .
- دوال رتبة الماترويد
- يتركلتكن المجموعة الأساسية التي يُعرَّف عليها الماترويد. عندئذٍ تكون دالة رتبة الماترويد دالة شبه معيارية. [ 8 ]
غير رتيب
تُسمى الدالة شبه المعيارية غير الرتيبة دالة غير رتيبة . وبشكل أدق، تُسمى الدالة غير رتيبة إذا كانت تتمتع بخاصية أن إضافة المزيد من العناصر إلى مجموعة ما يمكن أن يقلل من قيمتها. بتعبير أدق، الدالةتكون غير رتيبة إذا كانت هناك مجموعاتفي نطاقهاو.
متماثل
دالة فرعية غير رتيبةيُطلق عليه اسم متناظر إذا كان لكللدينا ذلكتتضمن أمثلة الدوال شبه المعيارية غير الرتيبة المتناظرة ما يلي:
- قطع الرسم البياني
- يتركلتكن رؤوس الرسم البياني . لأي مجموعة من الرؤوسيتركيشير إلى عدد الحوافبحيثوويمكن تعميم ذلك عن طريق إضافة أوزان غير سالبة إلى الحواف.
- المعلومات المتبادلة
- يتركلتكن مجموعة من المتغيرات العشوائية . إذن لأيلدينا ذلكهي دالة شبه معيارية، حيثهي المعلومات المتبادلة.
غير متماثل
تُسمى الدالة شبه المعيارية غير الرتيبة وغير المتناظرة بالدالة غير المتناظرة.
- القطع الموجهة
- يتركلتكن رؤوس رسم بياني موجه . لأي مجموعة من الرؤوسيتركيشير إلى عدد الحوافبحيثوويمكن تعميم ذلك عن طريق إضافة أوزان غير سالبة إلى الحواف الموجهة.
الامتدادات المستمرة لدوال المجموعة شبه المعيارية
في كثير من الأحيان، عند وجود دالة مجموعة فرعية معيارية تصف قيم مجموعات مختلفة، نحتاج إلى حساب قيم المجموعات الكسرية . على سبيل المثال: نعلم أن قيمة الحصول على المنزل أ والمنزل ب هي √، ونريد معرفة قيمة الحصول على 40% من المنزل أ و60% من المنزل ب. ولتحقيق ذلك، نحتاج إلى امتداد متصل لدالة المجموعة الفرعية المعيارية.
بصورة رسمية، دالة مجموعةمعيمكن تمثيلها كدالة على، من خلال ربط كلمع متجه ثنائيبحيثمتى، ووإلا. امتداد مستمر لـهي دالة متصلة، الذي يتطابق مع قيمةعلى، أي.
تُستخدم أنواع عديدة من الامتدادات المستمرة للوظائف شبه المعيارية بشكل شائع، والتي تم وصفها أدناه.
امتداد لوفاس
تم تسمية هذا الامتداد على اسم عالم الرياضيات László Lovász . [ 9 ] النظر في أي ناقلبحيث يكون كلثم يُعرَّف امتداد لوفاس على النحو التالي:
حيث ينتهي التوقعمختارة من التوزيع المنتظم على الفترةتكون دالة لوفاس الممتدة محدبة إذا وفقط إذاهي دالة فرعية معيارية.
امتداد متعدد الخطوط
لنفترض أي متجهبحيث يكون كلثم يتم تعريف الامتداد متعدد الخطوط على النحو التالي [ 10 ] [ 11 ].
بشكل بديهي، يُمثل xᵢ احتمال اختيار العنصر i للمجموعة. لكل مجموعة S ، يُمثل حاصل الضرب الداخلي احتمال أن تكون المجموعة المختارة هي S تحديدًا . بالتالي، يُمثل المجموع القيمة المتوقعة للدالة f للمجموعة المُشكّلة باختيار كل عنصر i عشوائيًا باحتمال xi، بشكل مستقل عن العناصر الأخرى .
إغلاق محدب
لنفترض أي متجهبحيث يكون كلثم يُعرَّف الإغلاق المحدب على النحو التالي:.
يكون الإغلاق المحدب لأي دالة مجموعة محدبًا على.
إغلاق مقعر
لنفترض أي متجهبحيث يكون كلثم يُعرَّف الإغلاق المقعر على النحو التالي:.
العلاقات بين الامتدادات المتصلة
بالنسبة للتوسعات المذكورة أعلاه، يمكن إثبات أنمتىهي شبه معيارية. [ 12 ]
ملكيات
- تُعتبر فئة الدوال شبه المعيارية مغلقة تحت التراكيب الخطية غير السالبة . لنفترض أي دالة شبه معياريةوالأعداد غير السالبةثم الدالةمحدد بواسطةهو فرعي معياري.
- لأي دالة فرعية معيارية، الدالة المحددة بواسطةهو فرعي معياري.
- الوظيفة، أينهو عدد حقيقي ، ويكون شبه معياري كلماهي دالة فرعية رتيبة. وبشكل أعم،تكون شبه معيارية، لأي دالة مقعرة غير متناقصة.
- لنفترض عملية عشوائية حيث مجموعةيتم اختيارها مع كل عنصر فيإدراجه فيبشكل مستقل باحتماليةإذن، المتباينة التالية صحيحةأينهي المجموعة الفارغة . وبشكل أعم، لننظر في العملية العشوائية التالية حيث مجموعةيتم بناؤها على النحو التالي. لكل منبناءمن خلال تضمين كل عنصر فيبشكل مستقلباحتمالعلاوة على ذلك، دعإذن، المتباينة التالية صحيحة.
مشاكل التحسين
تتمتع الدوال شبه المعيارية بخصائص مشابهة جدًا للدوال المحدبة والمقعرة . ولهذا السبب، يمكن وصف مسألة التحسين التي تتعلق بتحسين دالة محدبة أو مقعرة بأنها مسألة تعظيم أو تصغير دالة شبه معيارية تخضع لبعض القيود.
تقليل دالة المجموعة الفرعية
تعتمد صعوبة تقليل دالة المجموعة شبه المعيارية على القيود المفروضة على المسألة.
- يمكن حساب مسألة تصغير دالة شبه معيارية غير المقيدة في وقت متعدد الحدود ، [ 13 ] [ 14 ] وحتى في وقت متعدد الحدود القوي . [ 15 ] [ 16 ] ويُعد حساب القطع الأدنى في الرسم البياني حالة خاصة من مسألة التصغير هذه.
- تُعدّ مسألة تقليل دالة شبه معيارية ذات حد أدنى لعدد عناصرها مسألة صعبة من نوع NP ، مع حدود دنيا لعامل التقريب من نوع عامل كثير الحدود. [ 17 ] [ 18 ]
تعظيم دالة المجموعة شبه المعيارية
على عكس حالة التصغير، فإن تعظيم دالة شبه معيارية عامة يُعدّ مسألة صعبة حسابيًا (NP-hard) حتى في حالة عدم وجود قيود. ولذلك، فإن معظم الأعمال في هذا المجال تُعنى بخوارزميات التقريب ذات الزمن متعدد الحدود، بما في ذلك الخوارزميات الجشعة أو خوارزميات البحث المحلي .
- تُقبل خوارزمية تقريبية بنسبة 1/2 في مسألة تعظيم دالة شبه معيارية غير سالبة. [ 19 ] [ 20 ] ويُعد حساب القطع الأقصى للرسم البياني حالة خاصة من هذه المسألة.
- تقبل مسألة تعظيم دالة شبه معيارية رتيبة تخضع لقيد العدديةخوارزمية التقريب. [ 21 ] [ 22 ] مشكلة التغطية القصوى هي حالة خاصة من هذه المشكلة.
- إن مسألة تعظيم دالة شبه معيارية رتيبة تخضع لقيد الماترويد (والتي تشمل الحالة المذكورة أعلاه) تقبل أيضًاخوارزمية تقريبية. [ 23 ] [ 24 ] [ 25 ]
يمكن توحيد العديد من هذه الخوارزميات ضمن إطار عمل للخوارزميات قائم على التفاضل الجزئي. [ 18 ]
مشاكل التحسين ذات الصلة
وبصرف النظر عن تصغير وتعظيم الدوال شبه المعيارية، هناك العديد من مشاكل التحسين الطبيعية الأخرى المتعلقة بالدوال شبه المعيارية.
- إن تقليل الفرق بين دالتين شبه معياريتين [ 26 ] ليس فقط مسألة صعبة من نوع NP، بل هو أيضاً غير قابل للتقريب. [ 27 ]
- إن تصغير/تعظيم دالة شبه معيارية تخضع لقيد مجموعة مستوى شبه معيارية (المعروف أيضًا باسم التحسين شبه المعياري الخاضع لقيد الغطاء شبه المعياري أو قيد حقيبة الظهر شبه المعياري) يسمح بضمانات تقريب محدودة. [ 28 ]
- إن تقسيم البيانات بناءً على دالة شبه معيارية لزيادة متوسط الرفاهية يُعرف باسم مشكلة الرفاهية شبه المعيارية، والتي تقبل أيضًا ضمانات التقريب المحدودة (انظر تعظيم الرفاهية ).
التطبيقات
تظهر الدوال شبه المعيارية بشكل طبيعي في العديد من التطبيقات العملية، في مجالات الاقتصاد ، ونظرية الألعاب ، والتعلم الآلي ، ورؤية الحاسوب [ 4 ] [ 29 ] ، بالإضافة إلى الذكاء الاصطناعي بشكل عام [ 30 ] . ونظرًا لخاصية تناقص العوائد، تُنمذج الدوال شبه المعيارية تكاليف السلع بشكل طبيعي، حيث يكون الخصم أكبر غالبًا مع زيادة عدد السلع المشتراة. تُنمذج الدوال شبه المعيارية مفاهيم التعقيد والتشابه والتعاون عند ظهورها في مسائل التصغير. أما في مسائل التعظيم، فتُنمذج مفاهيم التنوع والمعلومات والتغطية.
انظر أيضاً
الاقتباسات
- ↑ H. Lin and J. Bilmes, A Class of Submodular Functions for Document Summarization, ACL-2011.
- ↑ S. Tschiatschek, R. Iyer, H. Wei and J. Bilmes, Learning Mixtures of Submodular Functions for Image Collection Summarization, NIPS-2014.
- ↑ أ. كراوس و سي. غيسترين، القيمة غير المثلى للمعلومات في النماذج الرسومية، UAI-2005.
- 1 2 أ. كراوس و سي. غيسترين، ما وراء التحدب: شبه المعيارية في التعلم الآلي، ورشة عمل في مؤتمر ICML-2008
- ^ (شريفر 2003 ، §44، ص 766)
- ↑ بوخبيندر، نيف؛ فيلدمان، موران (2018). "مسائل تعظيم الدوال شبه المعيارية" . في غونزاليس، تيوفيلو ف. (محرر). دليل خوارزميات التقريب والأساليب الاستدلالية، الطبعة الثانية: المنهجيات والتطبيقات التقليدية . تشابمان آند هول/سي آر سي. doi : 10.1201/9781351236423 . ISBN 9781351236423.
- ↑ "معالجة المعلومات والتعلم" (ملف PDF) . cmu.
- ^ فوجيشيجي (2005) ص.22
- ↑ لوفاس، ل. (1983). "الدوال شبه المعيارية والتحدب". البرمجة الرياضية: أحدث ما توصل إليه العلم . ص 235-257 . doi : 10.1007/978-3-642-68874-4_10 . ISBN 978-3-642-68876-8. S2CID 117358746 .
- ↑ فوندراك، جان (17 مايو 2008). "التقريب الأمثل لمسألة الرفاهية شبه المعيارية في نموذج أوراكل القيمة" . وقائع الندوة السنوية الأربعين لجمعية آلات الحوسبة حول نظرية الحوسبة . STOC '08. نيويورك، نيويورك، الولايات المتحدة الأمريكية: جمعية آلات الحوسبة. الصفحات 67-74 . doi : 10.1145/1374376.1374389 . ISBN 978-1-60558-047-0. S2CID 170510 .
- ^ كالينسكو، جرويا؛ تشيكوري، شاندرا؛ بال، مارتن؛ فوندراك ، يناير (يناير 2011). "تعظيم وظيفة رتيبة فرعية تخضع لقيود Matroid" . مجلة SIAM للحوسبة . 40 (6): 1740–1766 . دوى : 10.1137 / 080733991 . ISSN 0097-5397 .
- ↑ فوندراك، جان. "التقنيات متعددة الأوجه في التحسين التوافقي: المحاضرة 17" (PDF) .
- ↑ غروتشل، م .؛ لوفاس، ل .؛ شريجفر، أ. (1981). "طريقة القطع الناقص ونتائجها في التحسين التوافقي". كومبيناتوريكا . 1 (2): 169-197 . doi : 10.1007/BF02579273 . hdl : 10068/182482 . S2CID 43787103 .
- ↑ كانينغهام، دبليو إتش (1985). "حول تصغير الدوال شبه المعيارية". كومبيناتوريكا . 5 (3): 185-192 . doi : 10.1007/BF02579361 . S2CID 33192360 .
- ↑ إيواتا، س.؛ فليشر، ل.؛ فوجيشيغي، س. (2001). "خوارزمية توافقية متعددة الحدود قوية لتقليل الدوال شبه المعيارية". مجلة ACM . 48 (4): 761-777 . doi : 10.1145/502090.502096 . S2CID 888513 .
- ↑ شريجفر، أ. (2000). "خوارزمية توافقية لتقليل الدوال شبه المعيارية في وقت متعدد الحدود بقوة" . مجلة نظرية التوافق، السلسلة ب . 80 (2): 346-355 . doi : 10.1006/jctb.2000.1989 .
- ↑ Z. Svitkina و L. Fleischer، التقريب شبه المعياري: الخوارزميات القائمة على أخذ العينات والحدود الدنيا، مجلة SIAM للحوسبة (2011).
- 1 2 R. Iyer, S. Jegelka and J. Bilmes, Fast Semidifferential based submodular function optimization, Proc. ICML (2013).
- ↑ U. Feige , V. Mirrokni and J. Vondrák, Maximizing non-monotone submodular functions, Proc. of 48th FOCS (2007), pp. 461–471.
- ↑ N. Buchbinder, M. Feldman, J. Naor and R. Schwartz, A tight linear time (1/2)-approximation for unconstrained submodular maximization, Proc. of 53rd FOCS (2012), pp. 649-658.
- ↑ نيمهاوزر، جورج ؛ وولسي، إل إيه؛ فيشر، إم إل (1978). "تحليل التقريبات لتعظيم دوال المجموعات شبه المعيارية I". البرمجة الرياضية . 14 (14): 265-294 . doi : 10.1007/BF01588971 . S2CID 206800425 .
- ↑ ويليامسون، ديفيد ب. "الربط بين التحسين المستمر والتحسين المتقطع: المحاضرة 23" (PDF) .
- ↑ G. Calinescu, C. Chekuri, M. Pál and J. Vondrák, Maximizing a submodular set function subject to a matroid constraint, SIAM J. Comp. 40:6 (2011), 1740-1766.
- ↑ M. Feldman, J. Naor and R. Schwartz, A unified continuous greedy algorithm for submodular maximization, Proc. of 52nd FOCS (2011).
- ↑ Y. Filmus, J. Ward, A tight combinatorial algorithm for submodular maximization subject to a matroid constraint, Proc. of 53rd FOCS (2012), pp. 659-668.
- ↑ M. Narasimhan و J. Bilmes، إجراء فرعي-فوق معياري مع تطبيقات لتعلم البنية التمييزية، في وقائع UAI (2005).
- ↑ R. Iyer و J. Bilmes، خوارزميات للتقليل التقريبي للفرق بين الدوال شبه المعيارية، في وقائع UAI (2012).
- ↑ R. Iyer و J. Bilmes، تحسين الوحدات الفرعية الخاضعة لغطاء الوحدات الفرعية وقيود حقيبة الظهر للوحدات الفرعية، في التقدم في NIPS (2013).
- ↑ ج. بيلمز، الوحدات الفرعية في تطبيقات التعلم الآلي، برنامج تعليمي في AAAI-2015.
- ↑ بيلمز، جيف (31 يناير 2022). "النمطية الفرعية في التعلم الآلي والذكاء الاصطناعي". arXiv : 2202.00132 [ cs.LG ].
مراجع
- شريفر، ألكسندر (2003)، التحسين التوافقي ، سبرينغر ، ISBN 3-540-44389-4
- لي، جون (2004)، دورة تمهيدية في التحسين التوافقي ، مطبعة جامعة كامبريدج ، رقم ISBN 0-521-01012-8
- فوجيشيغي، ساتورو (2005)، الدوال شبه المعيارية والتحسين ، إلسيفير ، ISBN 0-444-52086-4
- نارايانان، هـ. (1997)، الدوال شبه المعيارية والشبكات الكهربائية ، إلسيفير، رقم ISBN 0-444-82523-1
- أوكسلي، جيمس ج. (1992)، نظرية الماترويد ، منشورات أكسفورد للعلوم، أكسفورد: مطبعة جامعة أكسفورد ، رقم ISBN 0-19-853563-5، Zbl 0784.05002
روابط خارجية
- يحتوي الرابط http://www.cs.berkeley.edu/~stefje/references.html على قائمة مراجع أطول
- يحتوي الموقع http://submodularity.org/ على مواد إضافية حول هذا الموضوع
- التحسين التوافقي
- خوارزميات التقريب
- نظرية الماترويد
