خوارزمية القيم الذاتية بتقنية فرق تسد

تُعدّ خوارزميات القيم الذاتية القائمة على أسلوب فرق تسد فئةً من خوارزميات القيم الذاتية للمصفوفات المتناظرة الحقيقية أو الهرميتية ، والتي أصبحت مؤخرًا (حوالي تسعينيات القرن الماضي) منافسةً من حيث الاستقرار والكفاءة للخوارزميات التقليدية، مثل خوارزمية QR . ويستند المفهوم الأساسي لهذه الخوارزميات إلى أسلوب فرق تسد المُستخدم في علوم الحاسوب . حيث تُقسّم مسألة القيم الذاتية إلى مسألتين متساويتين تقريبًا في الحجم، تُحلّ كلٌّ منهما بشكلٍ تكراري ، وتُحسب القيم الذاتية للمسألة الأصلية من نتائج هاتين المسألتين الأصغر.

تتناول هذه المقالة الفكرة الأساسية للخوارزمية كما اقترحها كوبن في الأصل عام 1981، والتي لا تكون مستقرة عدديًا بدون تحسينات إضافية.

خلفية

كما هو الحال مع معظم خوارزميات القيم الذاتية للمصفوفات الهرميتية، تبدأ خوارزمية فرق تسد بالاختزال إلى الشكل ثلاثي الأقطار .م×م{\displaystyle m\times m}المصفوفة، وهي الطريقة القياسية لذلك، عبر انعكاسات هاوسهولدر ، تأخذ43م3{\displaystyle {\frac {4}{3}}م^{3}}عمليات الفاصلة العائمة، أو83م3{\displaystyle {\frac {8}{3}}م^{3}}إذا كانت المتجهات الذاتية مطلوبة أيضًا. توجد خوارزميات أخرى، مثل تكرار أرنولدي ، قد تكون أفضل لبعض فئات المصفوفات؛ ولن نتناول هذا الموضوع بمزيد من التفصيل هنا.

في بعض الحالات، من الممكن تبسيط مسألة القيم الذاتية إلى مسائل أصغر. لنفترض مصفوفة قطرية كتلية

تي=[تي100تي2].{\displaystyle T={\begin{bmatrix}T_{1}&0\\0&T_{2}\end{bmatrix}}.}

القيم الذاتية والمتجهات الذاتية لـتي{\displaystyle T}هي ببساطة تلك الخاصة بـتي1{\displaystyle T_{1}}وتي2{\displaystyle T_{2}}وسيكون حل هاتين المشكلتين الأصغر حجمًا أسرع في أغلب الأحيان من حل المشكلة الأصلية دفعة واحدة. يمكن استخدام هذه التقنية لتحسين كفاءة العديد من خوارزميات القيم الذاتية، ولكنها ذات أهمية خاصة في أسلوب فرق تسد.

سنفترض في بقية هذا المقال أن مدخلات خوارزمية فرق تسد هيم×م{\displaystyle m\times m}مصفوفة ثلاثية الأقطار متناظرة حقيقيةتي{\displaystyle T}يمكن تعديل الخوارزمية للمصفوفات الهرميتية.

قسّم

يأتي جزء التقسيم في خوارزمية فرق تسد من إدراك أن المصفوفة ثلاثية الأقطار هي "تقريبًا" مصفوفة قطرية كتلية.

حجم المصفوفة الفرعيةتي1{\displaystyle T_{1}}سنتصلن×ن{\displaystyle n\times n}، وثمتي2{\displaystyle T_{2}}يكون(م-ن)×(م-ن){\displaystyle (mn)\times (mn)}. تي{\displaystyle T}يكاد يكون قطريًا بغض النظر عن كيفيةن{\displaystyle n}يتم اختيارها. من أجل الكفاءة، نختار عادةًنم/2{\displaystyle n\approx m/2}.

نكتبتي{\displaystyle T}كمصفوفة قطرية كتلية، بالإضافة إلى تصحيح من الرتبة 1 :

الفرق الوحيد بينتي1{\displaystyle T_{1}}وتي^1{\displaystyle {\hat {T}}_{1}}هل هذا هو المدخل السفلي الأيمن؟تنن{\displaystyle t_{nn}}فيتي^1{\displaystyle {\hat {T}}_{1}}تم استبدالها بـتنن-β{\displaystyle t_{nn}-\beta }وبالمثل، فيتي^2{\displaystyle {\hat {T}}_{2}}المدخل العلوي الأيسرتن+1،ن+1{\displaystyle t_{n+1,n+1}}تم استبدالها بـتن+1،ن+1-β{\displaystyle t_{n+1,n+1}-\beta }.

تتمثل الخطوة المتبقية من عملية القسمة في إيجاد القيم الذاتية (وإذا لزم الأمر، المتجهات الذاتية) لـتي^1{\displaystyle {\hat {T}}_{1}}وتي^2{\displaystyle {\hat {T}}_{2}}أي إيجاد عمليات القطرنةتي^1=سؤال1د1سؤال1تي{\displaystyle {\hat {T}}_{1}=Q_{1}D_{1}Q_{1}^{T}}وتي^2=سؤال2د2سؤال2تي{\displaystyle {\hat {T}}_{2}=Q_{2}D_{2}Q_{2}^{T}}يمكن تحقيق ذلك من خلال استدعاءات متكررة لخوارزمية فرق تسد، على الرغم من أن التطبيقات العملية غالباً ما تتحول إلى خوارزمية QR المزاحة ضمنياً للمصفوفات الفرعية الصغيرة بما فيه الكفاية. [ 1 ]

يغزو

الجزء غير البديهي من الخوارزمية هو الجزء الذي يُحدث الاختراق . بالنظر إلى عمليات التقطير للمصفوفات الفرعية، المحسوبة أعلاه، كيف نجد عملية التقطير للمصفوفة الأصلية؟

أولاً، حددzتي=(q1تي،q2تي){\displaystyle z^{T}=(q_{1}^{T},q_{2}^{T})}، أينq1تي{\displaystyle q_{1}^{T}}هو الصف الأخير منسؤال1{\displaystyle Q_{1}}وq2تي{\displaystyle q_{2}^{T}}هو الصف الأول منسؤال2{\displaystyle Q_{2}}من البديهي الآن إثبات ذلك

تي=[سؤال1سؤال2]([د1د2]+βzzتي)[سؤال1تيسؤال2تي]{\displaystyle T={\begin{bmatrix}Q_{1}&\\&Q_{2}\end{bmatrix}}\left({\begin{bmatrix}D_{1}&\\&D_{2}\end{bmatrix}}+\beta zz^{T}\right){\begin{bmatrix}Q_{1}^{T}&\\&Q_{2}^{T}\end{bmatrix}}}

تم اختزال المهمة المتبقية إلى إيجاد القيم الذاتية لمصفوفة قطرية بالإضافة إلى تصحيح الرتبة الأولى. قبل توضيح كيفية القيام بذلك، دعونا نبسط الترميز. نحن نبحث عن القيم الذاتية للمصفوفةد+wwتي{\displaystyle D+ww^{T}}، أيند{\displaystyle D}مصفوفة قطرية ذات مداخل مميزة وw{\displaystyle w}هو أي متجه يحتوي على عناصر غير صفرية. في هذه الحالةw=|β|z{\displaystyle w={\sqrt {|\beta |}}\cdot z}.

حالة المدخل الصفري بسيطة، لأنه إذا كان w i يساوي صفرًا، (هـأنا{\displaystyle e_{i}}،d i ) هو زوج ذاتي (هـأنا{\displaystyle e_{i}}(في الأساس القياسي) مند+wwتي{\displaystyle D+ww^{T}}منذ (د+wwتي)هـأنا=دهـأنا=دأناهـأنا{\displaystyle (D+ww^{T})e_{i}=De_{i}=d_{i}e_{i}}.

لوλ{\displaystyle \lambda }إذا كانت قيمة ذاتية، فلدينا:

(د+wwتي)q=λq{\displaystyle (D+ww^{T})q=\lambda q}

أينq{\displaystyle q}هو المتجه الذاتي المقابل. الآن

(د-λأنا)q+w(wتيq)=0{\displaystyle (D-\lambda I)q+w(w^{T}q)=0}
q+(د-λأنا)-1w(wتيq)=0{\displaystyle q+(D-\lambda I)^{-1}w(w^{T}q)=0}
wتيq+wتي(د-λأنا)-1w(wتيq)=0{\displaystyle w^{T}q+w^{T}(D-\lambda I)^{-1}w(w^{T}q)=0}

ضع في اعتبارك أنwتيq{\displaystyle w^{T}q}هو عدد قياسي غير صفري. ولاw{\displaystyle w}ولاq{\displaystyle q}تساوي صفرًا. إذاwتيq{\displaystyle w^{T}q}كان من المفترض أن تكون القيمة صفرًا،q{\displaystyle q}سيكون متجهًا ذاتيًا لـد{\displaystyle D}بواسطة(د+wwتي)q=λq{\displaystyle (D+ww^{T})q=\lambda q}إذا كان الأمر كذلك،q{\displaystyle q}سيحتوي على موضع واحد غير صفري فقط لأند{\displaystyle D}هو قطري مميز وبالتالي حاصل الضرب الداخليwتيq{\displaystyle w^{T}q}لا يمكن أن تكون القيمة صفرًا في النهاية. لذلك لدينا:

1+wتي(د-λأنا)-1w=0{\displaystyle 1+w^{T}(D-\lambda I)^{-1}w=0}

أو مكتوبة كمعادلة قياسية،

1+ج=1مwج2دج-λ=0.{\displaystyle 1+\sum _{j=1}^{m}{\frac {w_{j}^{2}}{d_{j}-\lambda }}=0.}

تُعرف هذه المعادلة بالمعادلة العلمانية . ولذلك، اختُزلت المسألة إلى إيجاد جذور الدالة الكسرية المُعرَّفة بالطرف الأيسر من هذه المعادلة.

يمكن حل المعادلة العلمانية غير الخطية باستخدام تقنية تكرارية، مثل طريقة نيوتن-رافسون . ومع ذلك، يمكن إيجاد كل جذر في O (1) من التكرارات، ويتطلب كل منها O(1) من التكرارات.Θ(م){\displaystyle \Theta (m)}إخفاقات (لـم{\displaystyle m}دالة كسرية من الدرجة n)، مما يجعل تكلفة الجزء التكراري من هذه الخوارزميةΘ(م2){\displaystyle \Theta (m^{2})}تم استخدام طريقة الأقطاب المتعددة السريعة أيضًا لحل المعادلة العلمانية فيΘ(مسجل(م)){\displaystyle \Theta (m\log(m))}العمليات. [ 2 ] [ 1 ]

تحليل

سنستخدم نظرية ماستر للتكرارات القائمة على أسلوب فرق تسد لتحليل وقت التشغيل. تذكر أننا ذكرنا أعلاه أننا اخترنانم/2{\displaystyle n\approx m/2}يمكننا كتابة العلاقة التكرارية التالية :

تي(م)=2×تي(م2)+Θ(م2){\displaystyle T(m)=2\times T\left({\frac {m}{2}}\right)+\Theta (m^{2})}

في تدوين نظرية ماستر،أ=ب=2{\displaystyle a=b=2}وبالتاليسجلبأ=1{\displaystyle \log _{b}a=1}من الواضح،Θ(م2)=Ω(م1){\displaystyle \Theta (m^{2})=\Omega (m^{1})}لذلك لدينا

تي(م)=Θ(م2){\displaystyle T(m)=\Theta (m^{2})}

أشرنا أعلاه إلى أن اختزال المصفوفة الهرميتية إلى شكل ثلاثي الأقطار يأخذ43م3{\displaystyle {\frac {4}{3}}م^{3}}يفشل. هذا يُقلل بشكل كبير من وقت تشغيل جزء فرق تسد، وفي هذه المرحلة ليس من الواضح ما هي الميزة التي تقدمها خوارزمية فرق تسد على خوارزمية QR (التي تستغرق أيضًاΘ(م2){\displaystyle \Theta (m^{2})}(العمليات الحسابية للمصفوفات ثلاثية الأقطار).

تكمن ميزة أسلوب فرق تسد عندما تكون هناك حاجة إلى المتجهات الذاتية أيضًا. في هذه الحالة، يتم اختزال المصفوفة إلى شكل ثلاثي الأقطار.83م3{\displaystyle {\frac {8}{3}}م^{3}}لكن الجزء الثاني من الخوارزمية يأخذΘ(م3){\displaystyle \Theta (m^{3})}كذلك. بالنسبة لخوارزمية QR ذات دقة هدف معقولة، هذا هو6م3{\displaystyle \approx 6m^{3}}أما بالنسبة لاستراتيجية فرق تسد، فهي43م3{\displaystyle \approx {\frac {4}{3}}m^{3}}ويعود سبب هذا التحسن إلى أنه في استراتيجية فرق تسد،Θ(م3){\displaystyle \Theta (m^{3})}جزء من الخوارزمية (الضرب)سؤال{\displaystyle Q}تُجرى عملية المصفوفات بشكل منفصل عن التكرار، بينما في منهجية QR، يجب أن تتم هذه العملية في كل خطوة تكرارية. إضافة83م3{\displaystyle {\frac {8}{3}}م^{3}}أما بالنسبة للتخفيضات، فإن التحسن الكلي يأتي من9م3{\displaystyle \approx 9m^{3}}ل4م3{\displaystyle \approx 4m^{3}}فشل.

أظهر الاستخدام العملي لخوارزمية فرق تسد أن الخوارزمية في معظم مسائل القيم الذاتية الواقعية، تحقق نتائج أفضل من ذلك. والسبب هو أن المصفوفات غالبًا ما...سؤال{\displaystyle Q}والمتجهاتz{\displaystyle z}تميل إلى أن تكون متفرقة عدديًا ، مما يعني أنها تحتوي على العديد من المدخلات ذات القيم الأصغر من دقة الفاصلة العائمة ، مما يسمح بالانكماش العددي ، أي تقسيم المشكلة إلى مشاكل فرعية غير مترابطة.

المتغيرات والتنفيذ

الخوارزمية المعروضة هنا هي أبسط نسخة. في العديد من التطبيقات العملية، تُستخدم تصحيحات من الرتبة الأولى أكثر تعقيدًا لضمان الاستقرار؛ بل إن بعض المتغيرات تستخدم تصحيحات من الرتبة الثانية.

توجد تقنيات متخصصة لإيجاد جذور الدوال الكسرية، قد تتفوق على طريقة نيوتن-رافسون من حيث الأداء والاستقرار. ويمكن استخدام هذه التقنيات لتحسين الجزء التكراري من خوارزمية فرق تسد.

يمكن بسهولة موازاة خوارزمية فرق تسد ، وتحتوي حزم الحوسبة الجبرية الخطية مثل LAPACK على تطبيقات متوازية عالية الجودة.

مراجع

  1. 1 2 ديميل، جيمس و. (1997). الجبر الخطي العددي التطبيقي (ملف PDF) . جمعية الرياضيات الصناعية والتطبيقية. الصفحات 216-228 . ISBN  9780898713893.
  2. ليفني، أورين إي؛ براندت، أتشي. "جذور N للمعادلة العلمانية في O(N) عملية" . مجلة SIAM لتحليل المصفوفات وتطبيقاتها . 24 (2): 439-453 . doi : 10.1137/S0895479801383695 . ISSN 0895-4798 .