تحليل مُنعّم


في علم الحاسوب النظري ، يُعدّ التحليل المُبسّط طريقةً لقياس تعقيد الخوارزمية . منذ ظهوره عام ٢٠٠١، استُخدم التحليل المُبسّط كأساسٍ للعديد من الأبحاث، في مسائل تتراوح بين البرمجة الرياضية والتحليل العددي والتعلم الآلي واستخراج البيانات . [ ١ ] فهو يُتيح تحليلًا أكثر واقعيةً للأداء العملي للخوارزمية (مثل زمن التشغيل، ومعدل النجاح، وجودة التقريب) مقارنةً بالتحليل الذي يستخدم أسوأ الحالات أو متوسطها.
يُعدّ التحليل المُنعّم مزيجًا بين تحليل أسوأ الحالات وتحليل الحالة المتوسطة، إذ يجمع مزايا كليهما. يقيس هذا التحليل الأداء المتوقع للخوارزميات في ظل اضطرابات عشوائية طفيفة في مدخلات أسوأ الحالات. إذا كان التعقيد المُنعّم للخوارزمية منخفضًا، فمن غير المرجح أن تستغرق الخوارزمية وقتًا طويلًا لحل الحالات العملية التي تخضع بياناتها لضوضاء وعدم دقة طفيفة. تُعتبر نتائج التعقيد المُنعّم نتائج احتمالية قوية، تُشير تقريبًا إلى أنه في كل نطاق واسع بما فيه الكفاية من فضاء المدخلات، يُمكن حل معظم المدخلات بسهولة. وبالتالي، فإن انخفاض التعقيد المُنعّم يعني أن صعوبة المدخلات خاصية "هشة".
على الرغم من نجاح مفهوم تعقيد الحالة الأسوأ في تفسير الأداء العملي للعديد من الخوارزميات، إلا أن هذا الأسلوب التحليلي يُعطي نتائج مُضللة لعدد من المسائل. يقيس تعقيد الحالة الأسوأ الوقت اللازم لحل أي مُدخل، مع العلم أن المُدخلات صعبة الحل قد لا تظهر أبدًا في الواقع. في مثل هذه الحالات، قد يكون وقت التشغيل في أسوأ الحالات أسوأ بكثير من وقت التشغيل الفعلي. على سبيل المثال، يُعد تعقيد الحالة الأسوأ لحل برنامج خطي باستخدام خوارزمية السمبلكس أُسّيًا، [ 2 ] على الرغم من أن عدد الخطوات الفعلي خطي تقريبًا. [ 3 ] [ 4 ] في الواقع، تُعد خوارزمية السمبلكس أسرع بكثير من طريقة القطع الناقص في الواقع، على الرغم من أن تعقيد الحالة الأسوأ للأخيرة هو وقت متعدد الحدود .
استُخدم تحليل الحالة المتوسطة لأول مرة للتغلب على قيود تحليل الحالة الأسوأ. مع ذلك، يعتمد تعقيد الحالة المتوسطة الناتج بشكل كبير على توزيع الاحتمالات المُختار للمدخلات. قد تختلف المدخلات الفعلية وتوزيعها في الواقع العملي عن الافتراضات التي بُنيت عليها عملية التحليل: فقد تكون المدخلات العشوائية مختلفة تمامًا عن المدخلات النموذجية. وبسبب هذا الاختيار لنموذج البيانات، قد لا تُقدم نتيجة الحالة المتوسطة النظرية معلومات كافية عن الأداء العملي للخوارزمية.
يُعمم التحليل المُبسّط كلاً من تحليل أسوأ الحالات وتحليل متوسط الحالات، ويستفيد من مزايا كليهما. وهو مصمم ليكون أكثر عمومية من تعقيد متوسط الحالات، مع إمكانية إثبات حدود التعقيد المنخفضة.
تاريخ
منحت جمعية آلات الحوسبة (ACM) والرابطة الأوروبية لعلوم الحاسوب النظرية جائزة غودل لعام 2008 إلى دانيال سبيلمان وشانغوا تينغ لتطويرهما التحليل المُنعّم. وقد صاغ آلان إيدلمان مصطلح "التحليل المُنعّم" . [ 1 ] وفي عام 2010، حصل سبيلمان على جائزة نيفانلينا لتطويره التحليل المُنعّم. كما كانت ورقة سبيلمان وتينغ المنشورة في مجلة JACM بعنوان "التحليل المُنعّم للخوارزميات: لماذا تستغرق خوارزمية سيمبلكس عادةً وقتًا متعدد الحدود" واحدة من ثلاث أوراق فائزة بجائزة فولكرسون لعام 2009 ، التي رعتها جمعية البرمجة الرياضية (MPS) والجمعية الأمريكية للرياضيات (AMS) بشكل مشترك.
أمثلة
خوارزمية سيمبلكس للبرمجة الخطية
تُعدّ خوارزمية السمبلكس خوارزمية فعّالة للغاية عمليًا، وهي من الخوارزميات السائدة في البرمجة الخطية . في المسائل العملية، يتناسب عدد خطوات الخوارزمية طرديًا مع عدد المتغيرات والقيود. [ 3 ] [ 4 ] مع ذلك، في أسوأ الحالات النظرية، تتطلب الخوارزمية عددًا هائلاً من الخطوات لتحليل معظم قواعد المحور بنجاح. وكان هذا أحد الدوافع الرئيسية لتطوير التحليل المُبسّط. [ 5 ]
بالنسبة لنموذج الاضطراب، نفترض أن بيانات الإدخال مشوّهة بضوضاء من توزيع غاوسي . ولأغراض التطبيع، نفترض أن البيانات غير مشوّهة.يرضيلجميع الصفوفمن المصفوفةالضوضاءتحتوي على مدخلات مستقلة مأخوذة من توزيع غاوسي بمتوسطوالانحراف المعياريلقد حددناتتكون بيانات الإدخال المُنعّمة من البرنامج الخطي
- أقصى
- رهناً بـ
- .
إذا كان وقت تشغيل خوارزميتنا على البياناتيُعطى بواسطةثم يكون التعقيد المُعدَّل لطريقة سيمبلكس هو [ 6 ]
ينطبق هذا الحد على قاعدة محورية محددة تُسمى قاعدة رأس الظل. تُعدّ قاعدة رأس الظل أبطأ من القواعد المحورية الأكثر شيوعًا، مثل قاعدة دانتزيغ أو قاعدة الحافة الأكثر انحدارًا [ 7 ]، ولكنها تتمتع بخصائص تجعلها مناسبة جدًا للتحليل الاحتمالي. [ 8 ]
البحث المحلي لتحسين التوافقي
تتميز العديد من خوارزميات البحث المحلي بأوقات تشغيل سيئة في أسوأ الحالات، لكنها تؤدي أداءً جيدًا في الممارسة العملية. [ 9 ]
من الأمثلة على ذلك خوارزمية 2-opt لحل مسألة البائع المتجول . قد تستغرق هذه الخوارزمية عددًا هائلاً من التكرارات حتى تجد حلاً أمثل محليًا، مع أن وقت التشغيل عمليًا أقل من تربيعي بالنسبة لعدد الرؤوس. [ 10 ] نسبة التقريب ، وهي النسبة بين طول مخرجات الخوارزمية وطول الحل الأمثل، تميل إلى أن تكون جيدة عمليًا، ولكنها قد تكون سيئة في أسوأ الحالات النظرية.
يمكن تمثيل أحد أنواع مسائل البحث من خلالالنقاط في المربعحيث تُستمد المسافات بين أزواجها من معيار . حتى في بُعدين، قد تتطلب طريقة 2-opt عددًا هائلاً من التكرارات حتى إيجاد الحل الأمثل المحلي . في هذا السياق، يمكن تحليل نموذج الاضطراب حيث تكون الرؤوسيتم أخذ عينات مستقلة وفقًا لتوزيعات احتمالية ذات دالة كثافة احتمالية. لتكون النقاط موزعة بشكل منتظم. عندماكلما كان حجم المشكلة كبيرًا، زادت قدرة الخصم على زيادة احتمالية ظهور حالات المشكلة الصعبة. في نموذج الاضطراب هذا، يكون العدد المتوقع لتكرارات الخوارزمية الاستدلالية 2-opt، بالإضافة إلى نسب تقريب المخرجات الناتجة، محدودًا بدوال متعددة الحدود لـو[ 10 ]
ومن خوارزميات البحث المحلي الأخرى التي نجح فيها التحليل المُنعّم طريقة k-means .النقاط فييُعدّ إيجاد تقسيم جيد إلى مجموعات بمسافات زوجية صغيرة بين النقاط في المجموعة نفسها مسألة صعبة من نوع NP-hard . تُستخدم خوارزمية لويد على نطاق واسع وهي سريعة جدًا في التطبيق العملي، على الرغم من أنها قد تستغرق وقتًا أطول.تُستخدم التكرارات في أسوأ الحالات لإيجاد حل أمثل محليًا. ومع ذلك، بافتراض أن النقاط لها توزيعات غاوسية مستقلة ، لكل منها قيمة متوقعة فيوالانحراف المعياري، يكون العدد المتوقع لتكرارات الخوارزمية محدودًا بواسطة متعددة حدود في،و[ 11 ]
أمثلة مضادة
توجد مسائل من المؤكد أنه لا يمكن حلها في وقت متعدد الحدود مُمهّد. ومن الأمثلة البارزة على ذلك حساب توازن ناش (NE) :
- أثبت تشين ودينغ وتينغ [ 12 ] أنه لا توجد خوارزمية متعددة الحدود في n و 1/ε قادرة على حساب توازن ناش تقريبي من ε في لعبة ثنائية اللاعبين مع n إجراء لكل لاعب، إلا إذا كان PPAD ≤ P. ويعني هذا تحديدًا أنه من المحتمل عدم وجود خوارزمية تربيعية متعددة الحدود (FPTAS) لتوازن ناش . كما أثبتوا أيضًا أنه لا توجد خوارزمية لحساب توازن ناش في لعبة ثنائية اللاعبين ذات تعقيد مُعدَّل متعدد الحدود في n و 1/ s ، حيث s هو حجم اضطراب الإدخال، إلا إذا كان PPAD ≤ RP . وعلى وجه الخصوص، من المحتمل ألا يكون التعقيد المُعدَّل لخوارزمية ليمكي-هاوسون متعدد الحدود.
- أثبت كل من Boodagians و Brakensiek و Hopkins و Rubinstein [ 13 ] أن حساب NE في لعبة من لاعبين هو PPAD-hard (في ظل التخفيضات العشوائية) حتى عند التنعيم بضوضاء ذات حجم ثابت.
انظر أيضاً
مراجع
- 1 2 سبيلمان، دانيال ؛ تينغ، شانغ هوا (2009)، "التحليل المُنعّم: محاولة لشرح سلوك الخوارزميات في الممارسة العملية" (ملف PDF) ، اتصالات ACM ، 52 (10)، ACM: 76-84 ، doi : 10.1145/1562764.1562785 ، S2CID 7904807
- ↑ أمينتا، نينا ؛ زيغلر، غونتر (1999)، "المنتجات المشوهة والظلال القصوى للمضلعات"، الرياضيات المعاصرة ، المجلد 223، الجمعية الرياضية الأمريكية، الصفحات 10-19 ، CiteSeerX 10.1.1.80.3241 ، doi : 10.1090/conm/223 ، ISBN 9780821806746MR 1661377
- 1 2 شامير، رون (1987)، "كفاءة طريقة سيمبلكس: دراسة استقصائية"، علوم الإدارة ، 33 (3): 301-334 ، doi : 10.1287/mnsc.33.3.301
- 1 2 أندري، نيكولاي (2004)، “أندري، نيكولاي. “حول تعقيد حزمة MINOS للبرمجة الخطية”، دراسات في المعلوماتية والتحكم ، 13 ( 1): 35-46
- ↑ سبيلمان، دانيال ؛ تينغ، شانغ هوا (2001)، "التحليل المُبسّط للخوارزميات"، وقائع الندوة السنوية الثالثة والثلاثين لجمعية آلات الحوسبة حول نظرية الحوسبة ، جمعية آلات الحوسبة، الصفحات 296-305 ، arXiv : cs/0111050 ، Bibcode : 2001cs.......11050S ، doi : 10.1145/380752.380813 ، ISBN 978-1-58113-349-3، S2CID 1471
- ↑ دادوش، دانيال؛ هويبرتس، صوفي (2018)، "تحليل مبسط لطريقة سيمبلكس"، وقائع الندوة السنوية الخمسين لجمعية ACM SIGACT حول نظرية الحوسبة ، الصفحات 390-403 ، arXiv : 1711.05667 ، doi : 10.1145/3188745.3188826 ، ISBN 9781450355599، S2CID 11868079
- ↑ بورغواردت، كارل-هاينز؛ دام، ريناته؛ دونيغ، رودولف؛ جواس، غابرييل (1993)، "دراسات تجريبية حول متوسط كفاءة متغيرات سيمبلكس في ظل تناظر الدوران"، مجلة ORSA للحوسبة ، 5 (3)، جمعية بحوث العمليات الأمريكية: 249-260 ، doi : 10.1287/ijoc.5.3.249
- ↑ بورغواردت، كارل-هاينز (1987)، طريقة سيمبلكس: تحليل احتمالي ، الخوارزميات والتوافقية، المجلد 1، سبرينغر-فيرلاغ، doi : 10.1007/978-3-642-61578-8 ، ISBN 978-3-540-17096-9
- ↑ مانثي، بودو (2021). "تحليل مُبسّط للبحث المحلي" . في: رافغاردن، تيم (محرر). ما وراء تحليل أسوأ الحالات للخوارزميات . كامبريدج: مطبعة جامعة كامبريدج. ص 285-308 . doi : 10.1017/9781108637435.018 . ISBN 978-1-108-49431-1S2CID 221680879. تم الاسترجاع بتاريخ 15-06-2022 .
- 1 2 إنجليرت، ماتياس؛ روجلين، هايكو؛ فوكينج، بيرتهولد (2007)، "أسوأ حالة وتحليل احتمالي لخوارزمية 2-Opt لمسألة البائع المتجول"، وقائع الندوة السنوية الثامنة عشرة لجمعية ACM-SIAM حول الخوارزميات المنفصلة ، 68 : 190-264 ، arXiv : 2302.06889 ، doi : 10.1007/s00453-013-9801-4
- ↑ آرثر، ديفيد؛ مانثي، بودو؛ روغلين، هيكو (2011)، "تحليل مُنَعَّم لطريقة k-Means" (ملف PDF) ، مجلة ACM ، 58 (5): 1-31 ، doi : 10.1145/2027216.2027217 ، S2CID 5253105
- ↑ تشين، شي ؛ دينغ، شياوتي ؛ تينغ، شانغ هوا (أكتوبر 2006). "حساب توازنات ناش: التقريب والتعقيد المُعدَّل". المؤتمر السنوي السابع والأربعون لمؤسسة مهندسي الكهرباء والإلكترونيات حول أسس علوم الحاسوب (FOCS'06) . الصفحات 603-612 . arXiv : cs/0602043 . doi : 10.1109/FOCS.2006.20 . ISBN 0-7695-2720-5.
- ^ بوداغيانز، شانت؛ براكنسيك، جوشوا؛ هوبكنز، صموئيل ب. روبنشتاين، أفياد (21/07/2020)، التعقيد السلس لتوازن ناش للاعبين ، أرخايف : 2007.10857
- نظرية التعقيد الحسابي
- التحسين الرياضي
- تحليل الخوارزميات
