Global optimization
Global optimization is a branch of operations research, applied mathematics, and numerical analysis that attempts to find the global minimum or maximum of a function or a set of functions on a given set. It is usually described as a minimization problem because the maximization of the real-valued function is equivalent to the minimization of the function .
Given a possibly nonlinear and non-convex continuous function with the global minimum and the set of all global minimizers in , the standard minimization problem can be given as
that is, finding and a global minimizer in ; where is a (not necessarily convex) compact set defined by inequalities .
Global optimization is distinguished from local optimization by its focus on finding the minimum or maximum over the given set, as opposed to finding local minima or maxima. Finding an arbitrary local minimum is relatively straightforward by using classical local optimization methods. Finding the global minimum of a function is far more difficult: analytical methods are frequently not applicable, and the use of numerical solution strategies often leads to very hard challenges.
Applications
Typical examples of global optimization applications include:
- Protein structure prediction (minimize the energy/free energy function)
- Computational phylogenetics (e.g., minimize the number of character transformations in the tree)
- Traveling salesman problem and electrical circuit design (minimize the path length)
- Chemical engineering (e.g., analyzing the Gibbs energy)
- Safety verification, safety engineering (e.g., of mechanical structures, buildings)
- Worst-case analysis
- Mathematical problems (e.g., the Kepler conjecture)
- Object packing (configuration design) problems
- The starting point of several molecular dynamics simulations consists of an initial optimization of the energy of the system to be simulated.
- Spin glasses
- Calibration of radio propagation models and of many other models in the sciences and engineering
- Curve fitting like non-linear least squares analysis and other generalizations, used in fitting model parameters to experimental data in chemistry, physics, biology, economics, finance, medicine, astronomy, engineering.
- IMRT radiation therapy planning
Deterministic methods
The most successful general exact strategies are:
Inner and outer approximation
في كلتا الاستراتيجيتين، يتم تقريب المجموعة التي يُراد تحسين الدالة عليها باستخدام متعددات السطوح. في التقريب الداخلي، تقع متعددات السطوح ضمن المجموعة، بينما في التقريب الخارجي، تحتوي متعددات السطوح على المجموعة.
أساليب القطع بالمسحاة
تُعدّ طريقة القطع المستوي مصطلحًا جامعًا لأساليب التحسين التي تُحسّن بشكل تكراري مجموعة الحلول الممكنة أو دالة الهدف باستخدام متباينات خطية تُسمى القطوع . تُستخدم هذه الإجراءات على نطاق واسع لإيجاد حلول صحيحة لمسائل البرمجة الخطية المختلطة (MILP)، وكذلك لحل مسائل التحسين المحدبة العامة، حتى وإن لم تكن قابلة للتفاضل. وقد قدّم رالف إي. جوموري وفاتسلاف تشفاتال استخدام القطع المستوي لحل مسائل البرمجة الخطية المختلطة .
أساليب التفرع والتقييد
خوارزمية التفرع والتقييد ( BB أو B&B ) هي نموذج تصميم خوارزمي لمسائل التحسين المنفصلة والتوافقية . تتألف هذه الخوارزمية من تعداد منهجي للحلول المرشحة باستخدام البحث في فضاء الحالة : حيث تُعتبر مجموعة الحلول المرشحة بمثابة شجرة جذرية تحتوي على المجموعة الكاملة عند جذرها. تستكشف الخوارزمية فروع هذه الشجرة، والتي تمثل مجموعات فرعية من مجموعة الحلول. قبل تعداد الحلول المرشحة لأي فرع، يتم التحقق من هذا الفرع مقابل الحدود العليا والسفلى المقدرة للحل الأمثل، ويتم استبعاده إذا لم يتمكن من إنتاج حل أفضل من أفضل حل تم التوصل إليه حتى الآن بواسطة الخوارزمية.
طرق الفترات
الحساب الفتري ، أو الرياضيات الفتري ، أو التحليل الفتري ، أو الحساب الفتري ، هو أسلوبٌ طوّره علماء الرياضيات منذ خمسينيات وستينيات القرن العشرين، بهدف وضع حدود لأخطاء التقريب والقياس في العمليات الحسابية ، وبالتالي تطوير أساليب عددية تُنتج نتائج موثوقة. يُساعد الحساب الفتري في إيجاد حلول موثوقة ومضمونة للمعادلات ومسائل التحسين.
طرق تعتمد على الهندسة الجبرية الحقيقية
الجبر الحقيقي هو فرع من فروع الجبر ذو صلة بالهندسة الجبرية الحقيقية (وشبه الجبرية). يهتم هذا الفرع بشكل أساسي بدراسة الحقول المرتبة والحلقات المرتبة (وخاصة الحقول المغلقة الحقيقية ) وتطبيقاتها في دراسة كثيرات الحدود الموجبة ومجموع مربعات كثيرات الحدود . ويمكن استخدامه في التحسين المحدب .
الأساليب العشوائية
توجد العديد من الخوارزميات الدقيقة أو غير الدقيقة القائمة على طريقة مونت كارلو:
أخذ العينات المباشر باستخدام طريقة مونت كارلو
في هذه الطريقة، تُستخدم عمليات المحاكاة العشوائية لإيجاد حل تقريبي.
مثال: تُصنف مسألة البائع المتجول ضمن مسائل التحسين التقليدية. أي أن جميع المعطيات (المسافات بين كل وجهة) اللازمة لتحديد المسار الأمثل معروفةٌ يقينًا، والهدف هو استعراض خيارات السفر الممكنة للوصول إلى المسار ذي أقصر مسافة إجمالية. مع ذلك، لنفترض أننا بدلًا من الرغبة في تقليل المسافة الإجمالية المقطوعة لزيارة كل وجهة، نرغب في تقليل الوقت الإجمالي اللازم للوصول إلى كل وجهة. يتجاوز هذا مفهوم التحسين التقليدي نظرًا لأن وقت السفر غير مؤكد بطبيعته (ازدحام مروري، وقت اليوم، إلخ). ونتيجةً لذلك، لتحديد مسارنا الأمثل، سنستخدم المحاكاة والتحسين لفهم نطاق الأوقات المحتملة التي قد يستغرقها الانتقال من نقطة إلى أخرى (مُمثلة بتوزيع احتمالي في هذه الحالة بدلًا من مسافة محددة)، ثم نُحسّن قرارات سفرنا لتحديد أفضل مسار نتبعه مع مراعاة هذا الغموض.
النفق العشوائي
النفق العشوائي (STUN) هو أسلوب لتحسين الأداء العالمي يعتمد على طريقة مونت كارلو ، حيث يتم أخذ عينات من الدالة المراد تقليلها موضوعيًا، ثم تُحوّل الدالة تحويلًا غير خطي لتسهيل عملية النفق بين المناطق التي تحتوي على قيم دنيا للدالة. يتيح هذا النفق الأسهل استكشافًا أسرع لفضاء العينة وتقاربًا أسرع نحو حل جيد.
التصليد المتوازي
التبريد المتوازي ، المعروف أيضًا باسم أخذ عينات مونت كارلو ماركوف المتسلسلة (MCMC) باستخدام تبادل النسخ ، هو أسلوب محاكاة يهدف إلى تحسين الخصائص الديناميكية لمحاكاة مونت كارلو للأنظمة الفيزيائية، وطرق أخذ عينات مونت كارلو ماركوف المتسلسلة (MCMC) بشكل عام. ابتكر سويندسن طريقة تبادل النسخ في الأصل، [ 1 ] ثم وسّعها غيير [ 2 ] وطوّرها لاحقًا، من بين آخرين، جورجيو باريسي [ 3 ] [ 4 ] . صاغ سوجيتا وأوكاموتو نسخة ديناميكية جزيئية من التبريد المتوازي: [ 5 ] وتُعرف عادةً باسم ديناميكيات الجزيئات بتبادل النسخ أو REMD.
باختصار، يتم تشغيل N نسخة من النظام، مُهيأة عشوائيًا، عند درجات حرارة مختلفة. ثم، استنادًا إلى معيار متروبوليس، يتم تبادل التكوينات عند درجات الحرارة المختلفة. تكمن فكرة هذه الطريقة في إتاحة التكوينات عند درجات الحرارة العالية لعمليات المحاكاة عند درجات الحرارة المنخفضة، والعكس صحيح. ينتج عن ذلك مجموعة قوية للغاية قادرة على محاكاة التكوينات ذات الطاقة المنخفضة والعالية على حد سواء. وبهذه الطريقة، يمكن حساب الخصائص الديناميكية الحرارية، مثل الحرارة النوعية، التي لا تُحسب بدقة في المجموعة التقليدية، بدقة عالية.
الأساليب الاستدلالية والأساليب الاستدلالية المتقدمة
وتشمل الأساليب الأخرى استراتيجيات استدلالية للبحث في مساحة البحث بطريقة ذكية إلى حد ما، بما في ذلك:
- تحسين مستعمرة النمل (ACO)
- التلدين المحاكي ، وهو أسلوب استدلالي احتمالي عام
- البحث المحظور ، وهو امتداد للبحث المحلي قادر على الهروب من الحد الأدنى المحلي
- الخوارزميات التطورية (مثل الخوارزميات الجينية واستراتيجيات التطور )
- التطور التفاضلي ، هو أسلوب يعمل على تحسين مشكلة ما من خلال محاولة تحسين حل مرشح بشكل متكرر فيما يتعلق بمقياس جودة معين.
- خوارزميات التحسين القائمة على الأسراب (مثل تحسين سرب الجسيمات ، والتحسين المعرفي الاجتماعي ، وتحسين الأسراب المتعددة ، وتحسين مستعمرة النمل )
- الخوارزميات الميمية ، التي تجمع بين استراتيجيات البحث العالمية والمحلية
- تحسين البحث التفاعلي (أي دمج تقنيات التعلم الآلي شبه الرمزية في أساليب البحث الاستدلالية)
- التحسين التدريجي ، هو أسلوب يسعى إلى حل مشكلة تحسين معقدة من خلال حل مشكلة مبسطة للغاية في البداية، ثم تحويل تلك المشكلة تدريجياً (أثناء التحسين) حتى تصبح مكافئة لمشكلة التحسين المعقدة. [ 6 ] [ 7 ] [ 8 ]
الأساليب القائمة على منهجية سطح الاستجابة
- IOSO: التحسين غير المباشر القائم على التنظيم الذاتي
- التحسين البايزي ، استراتيجية تصميم متسلسلة للتحسين العالمي لوظائف الصندوق الأسود باستخدام الإحصاءات البايزية [ 9 ]
انظر أيضاً
الحواشي
- ↑ Swendsen RH and Wang JS (1986) Replica Monte Carlo simulation of spin glass Physical Review Letters 57 : 2607–2609
- ↑ CJ Geyer, (1991) في علوم الحاسوب والإحصاء ، وقائع الندوة الثالثة والعشرين حول الواجهة، الجمعية الإحصائية الأمريكية، نيويورك، ص 156.
- ↑ ماركو فالسيوني ومايكل دبليو ديم (1999). "مخطط مونت كارلو متحيز لحل بنية الزيوليت". مجلة الفيزياء الكيميائية 110 (3): 1754-1766 . arXiv : cond-mat/9809085 . Bibcode : 1999JChPh.110.1754F . doi : 10.1063/1.477812 . S2CID 13963102 .
- ↑ ديفيد ج. إيرل ومايكل و. ديم (2005) "التسخين المتوازي: النظرية والتطبيقات والآفاق الجديدة" ، مجلة الفيزياء الكيميائية ، 7، 3910
- ↑ واي. سوجيتا وواي. أوكاموتو (1999). "طريقة ديناميكيات الجزيئات لتبادل النسخ لطي البروتين". رسائل الفيزياء الكيميائية . 314 ( 1-2 ): 141-151 . Bibcode : 1999CPL...314..141S . doi : 10.1016/S0009-2614(99)01123-9 .
- ↑ ثاكر، نيل؛ كوتس، تيم (1996). "طرق التحسين المتدرجة غير المحدبة ومتعددة الدقة" . الرؤية من خلال التحسين .
- ↑ بليك، أندرو؛ زيسرمان، أندرو (1987). إعادة البناء البصري . مطبعة معهد ماساتشوستس للتكنولوجيا. ISBN 0-262-02271-0.
- ↑ حسين موباهي، جون دبليو فيشر الثالث. حول العلاقة بين استمرار التماثل الغاوسي والأغلفة المحدبة ، في سلسلة محاضرات في علوم الحاسوب (EMMCVPR 2015)، سبرينغر، 2015.
- ↑ جوناس موكوس (2013). النهج البايزي للتحسين العالمي: النظرية والتطبيقات . كلوير أكاديميك.
مراجع
التحسين العالمي الحتمي:
- R. Horst, H. Tuy, Global Optimization: Deterministic Approaches , Springer, 1996.
- آر. هورست، بي إم باردالوس ، وإن في ثواي، مقدمة في التحسين العالمي ، الطبعة الثانية. دار نشر كلوير الأكاديمية، 2000.
- A.Neumaier, Complete Search in Continuous Global Optimization and Constraint Satisfaction, pp. 271–369 in: Acta Numerica 2004 (A. Iserles, ed.), Cambridge University Press 2004.
- م. مونجو، هـ. كارسنتي، ف. روزيه، و ج.-ب. هيريارت-أوروتي، مقارنة برامج المجال العام لتحسين الصندوق الأسود العالمي . أساليب وبرامج التحسين 13(3)، ص 203-226، 2000.
- جيه دي بينتر، التحسين العالمي عمليًا - التحسين المستمر وتحسين ليبشيتز: الخوارزميات والتطبيقات . دار نشر كلوير الأكاديمية، دوردريخت، 1996. يُوزع الآن بواسطة سبرينغر ساينس آند بيزنس ميديا، نيويورك. يتناول هذا الكتاب أيضًا أساليب التحسين العالمي العشوائي.
- L. Jaulin، M. Kieffer، O. Didrit، E. Walter (2001). تحليل الفاصل الزمني التطبيقي. برلين: سبرينغر.
- إيه آر هانسن (1992)، التحسين العالمي باستخدام تحليل الفاصل الزمني، مارسيل ديكر، نيويورك.
للمحاكاة الحرارية:
- كيركباتريك، س.؛ جيلات، س.د.؛ فيكي، م.ب. (13 مايو 1983). "التحسين باستخدام التلدين المحاكي". مجلة ساينس . 220 (4598) . الجمعية الأمريكية لتقدم العلوم (AAAS): 671-680 . رمز Bibcode : 1983Sci...220..671K . doi : 10.1126/science.220.4598.671 . ISSN 0036-8075 . PMID 17813860. S2CID 205939 .
لتحسين البحث التفاعلي:
- روبرتو باتيتي ، إم. بروناتو، وإف. ماسكيا، البحث التفاعلي والتحسين الذكي، سلسلة واجهات بحوث العمليات/علوم الحاسوب، المجلد 45، سبرينغر، نوفمبر 2008. ISBN 978-0-387-09623-0
بالنسبة للطرق العشوائية:
- أ. زيغليافسكي . نظرية البحث العشوائي العالمي. الرياضيات وتطبيقاتها. دار نشر كلوير الأكاديمية. 1991.
- هاماشر، ك. (2006). "التكيف في التحسين الأمثل العالمي للنفق العشوائي لمناظر طاقة الوضع المعقدة". رسائل الفيزياء الأوروبية . 74 (6). دار نشر IOP: 944-950 . رمز Bibcode : 2006EL.....74..944H . doi : 10.1209/epl/i2006-10058-0 . ISSN 0295-5075 . S2CID 250761754 .
- هاماشر، ك.؛ وينزل، و. (1999-01-01). "سلوك التوسع لخوارزميات التصغير العشوائي في بيئة قمعية مثالية". مجلة Physical Review E. 59 ( 1): 938-941 . arXiv : physics/9810035 . Bibcode : 1999PhRvE..59..938H . doi : 10.1103/physreve.59.938 . ISSN 1063-651X . S2CID 119096368 .
- وينزل، دبليو؛ هاماتشر، ك. (12 أبريل 1999). "نهج النفق العشوائي للتقليل العالمي لمناظر طاقة الوضع المعقدة". رسائل المراجعة الفيزيائية . 82 (15). الجمعية الفيزيائية الأمريكية (APS): 3003-3007 . arXiv : physics/9903008 . Bibcode : 1999PhRvL..82.3003W . doi : 10.1103/physrevlett.82.3003 . ISSN 0031-9007 . S2CID 5113626 .
للتطبيع المتوازي:
- هانسمان، أولريش هـ. إي. (1997). "خوارزمية التبريد المتوازي لدراسات التشكيل الجزيئي للجزيئات البيولوجية". رسائل الفيزياء الكيميائية . 281 ( 1-3 ). دار النشر إلسيفير: 140-150 . arXiv : physics/9710041 . Bibcode : 1997CPL...281..140H . doi : 10.1016/s0009-2614(97)01198-6 . ISSN 0009-2614 . S2CID 14137470 .
لطرق المتابعة:
- تشيجون وو. مخطط تحويل الطاقة الفعال كنهج استمراري خاص للتحسين العالمي مع تطبيق على التكوين الجزيئي . تقرير فني، مختبر أرغون الوطني، إلينوي (الولايات المتحدة الأمريكية)، نوفمبر 1996.
للاطلاع على الاعتبارات العامة المتعلقة بأبعاد مجال تعريف دالة الهدف:
- هاماشر، كاي (2005). "حول التحسين الأمثل العالمي العشوائي للدوال أحادية البعد". فيزيكا أ: الميكانيكا الإحصائية وتطبيقاتها . 354. إلسيفير بي في: 547-557 . رمز Bibcode : 2005PhyA..354..547H . doi : 10.1016/j.physa.2005.02.028 . ISSN 0378-4371 .
للاستراتيجيات التي تسمح بمقارنة أساليب التحسين العالمي الحتمية والعشوائية
روابط خارجية
- التحسين العالمي الحتمي
