التجميع بالارتباط

التجميع هو مشكلة تقسيم نقاط البيانات إلى مجموعات بناءً على التشابه أو الاختلاف. التجميع الارتباطي هو إطار عمل للتجميع يتم فيه تقسيم مجموعة من الكائنات إلى مجموعات بناءً على معلومات التشابه والاختلاف بين كل زوج، دون الحاجة إلى تحديد عدد المجموعات مسبقًا. [ 1 ]

وصف المشكلة

في مجال تعلم الآلة ، يعتمد التجميع الارتباطي (المعروف أيضًا باسم تحرير المجموعات ) على دراسة الحالات التي تكون فيها علاقات التشابه أو الاختلاف بين الكائنات معروفة. ويُصاغ النموذج القياسي المدخلات على شكل رسم بياني كامل غير مُرجّح.جي=(V،هـ){\displaystyle G=(V,E)}حيث يتم تسمية كل حافة إما+{\displaystyle +}أو-{\displaystyle -}(أي أن الرسم البياني هو رسم بياني موقّع )، مما يشير إلى ما إذا كانت نقاط النهاية المقابلة متشابهة أم مختلفة.

الهدف هو إيجاد تجميع (أي تقسيم لـV{\displaystyle V}يهدف هذا الأسلوب إما إلى زيادة عدد الاتفاقات إلى أقصى حد - وهو مجموع الحواف الموجبة التي تقع نقاط نهايتها في نفس المجموعة والحواف السالبة التي تقع نقاط نهايتها في مجموعات مختلفة - أو إلى تقليل عدد حالات عدم الاتفاق - وهو مجموع الحواف الموجبة التي تتباعد نقاط نهايتها والحواف السالبة التي تقع نقاط نهايتها في نفس المجموعة. وعلى عكس أساليب التجميع الأخرى مثل k-means ، لا يتطلب التجميع بالارتباط تحديد عدد المجموعات.ك{\displaystyle k}مقدماً.

ليس من الممكن دائمًا إيجاد تجميع خالٍ من أي اختلافات. على سبيل المثال، لنفترض وجود رسم بياني مثلثي يحتوي على ضلعين موجبين وضلع سالب واحد. في هذه الحالة، يُظهر كل تجميع اختلافًا واحدًا على الأقل. تُعرف هذه التكوينات في الأدبيات باسم المثلثات السيئة . [ 2 ]

من منظور حسابي، يُعدّ تحسين هدف تجميع الارتباطات تحديًا كبيرًا. تُصنّف هذه المسألة (بصيغتها القرارية) ضمن مسائل NP-complete . [ 3 ] وقد طوّرت العديد من الدراسات اللاحقة خوارزميات تقريبية لتجميع الارتباطات في ظل افتراضات مختلفة، بما في ذلك الرسوم البيانية الكاملة أو العامة، والرسوم البيانية غير الموزونة أو الموزونة، وذلك لتحقيق أهداف التصغير والتعظيم على حد سواء. تُعتبر هذه المسألة من مسائل التحسين التوافقي الأساسية ، وقد طُوّرت العديد من التقنيات الخوارزمية لمعالجتها.

وقد دُرست هذه المشكلة على نطاق واسع في مختلف التخصصات. وقدّم وحيد وحسيني مراجعة شاملة للأدبيات المتعلقة بالبحوث المبكرة حول تجميع الارتباطات. [ 4 ]

التعريفات الرسمية

يتركجي=(V،هـ){\displaystyle G=(V,E)}ليكن رسمًا بيانيًا يحتوي على عقدV{\displaystyle V}والحوافهـ{\displaystyle E}. تكتل منجي{\displaystyle G}هو تقسيم لمجموعة العقد الخاصة بهΠ={π1،...،πك}{\displaystyle \Pi =\{\pi _{1},\dots ,\pi _{k}\}}معV=π1πك{\displaystyle V=\pi _{1}\cup \dots \cup \pi _{k}}وπأناπج={\displaystyle \pi _{i}\cap \pi _{j}=\emptyset }لأناج{\displaystyle i\neq j}بالنسبة لتجميع معينΠ{\displaystyle \Pi }، يتركدلتا(Π)={{u،v}هـ|{u،v}ππΠ}{\displaystyle \delta (\Pi )=\{\{u,v\}\in E\mid \{u,v\}\not \subseteq \pi \;\forall \pi \in \Pi \}}تشير إلى مجموعة جزئية من حوافجي{\displaystyle G}والتي تقع نقاط نهايتها في مجموعات فرعية مختلفة من التجميعΠ{\displaystyle \Pi }والآن، لنبدأw:هـR0{\displaystyle w\colon E\to \mathbb {R} _{\geq 0}}لتكن دالة تُسند وزنًا غير سالب لكل حافة من حواف الرسم البياني، ولتكنهـ=هـ+هـ-{\displaystyle E=E^{+}\cup E^{-}}أن يكون تقسيم الحواف إلى أجزاء جذابة (هـ+{\displaystyle E^{+}}) ومثير للاشمئزاز (هـ-{\displaystyle E^{-}}) الحواف؛ أي أن الحواف موقعة .

تُعدّ مشكلة التجميع ذات الارتباط الأدنى من عدم الاتفاق هي مشكلة التحسين التالية : تقليلΠهـهـ+دلتا(Π)wهـ+هـهـ-دلتا(Π)wهـ.{\displaystyle {\begin{aligned}&{\underset {\Pi} {\operatorname {minimize} }}&&\sum _{e\in E^{+}\cap \delta (\Pi )}w_{e}+\sum _{e\in E^{-}\setminus \delta (\Pi )}w_{e}\;.\end{محاذاة}}} هنا، المجموعةهـ+دلتا(Π){\displaystyle E^{+}\cap \delta (\Pi )}يحتوي على الحواف الجذابة التي تقع نقاط نهايتها في مكونات مختلفة فيما يتعلق بالتجميعΠ{\displaystyle \Pi }والمجموعةهـ-دلتا(Π){\displaystyle E^{-}\setminus \delta (\Pi )}يحتوي على الحواف التنافرية التي تقع نقاط نهايتها في نفس المكون بالنسبة للتجميعΠ{\displaystyle \Pi }تحتوي هاتان المجموعتان معًا على جميع الحواف التي لا تتوافق مع التجميع.Π{\displaystyle \Pi }.

على غرار مشكلة التجميع بالارتباط ذي الحد الأدنى من عدم الاتفاق، تُعرَّف مشكلة التجميع بالارتباط ذي الحد الأقصى من الاتفاق على النحو التالي: أقصىΠهـهـ+دلتا(Π)wهـ+هـهـ-دلتا(Π)wهـ.{\displaystyle {\begin{aligned}&{\underset {\Pi} {\operatorname {maximize} }}&&\sum _{e\in E^{+}\setminus \delta (\Pi )}w_{e}+\sum _{e\in E^{-}\cap \delta (\Pi )}w_{e}\;.\end{محاذاة}}} هنا، المجموعةهـ+دلتا(Π){\displaystyle E^{+}\setminus \delta (\Pi )}يحتوي على الحواف الجذابة التي تقع نقاط نهايتها في نفس المكون بالنسبة للتجميعΠ{\displaystyle \Pi }والمجموعةهـ-دلتا(Π){\displaystyle E^{-}\cap \delta (\Pi )}يحتوي على الحواف التنافرية التي تقع نقاط نهايتها في مكونات مختلفة بالنسبة للتجميعΠ{\displaystyle \Pi }تحتوي هاتان المجموعتان معًا على جميع الحواف التي تتفق مع التجميع.Π{\displaystyle \Pi }.

بدلاً من صياغة مشكلة تجميع الارتباطات بدلالة أوزان الحواف غير السالبة وتقسيم الحواف إلى حواف جاذبة وحواف دافعة، تتم صياغة المشكلة أيضاً بدلالة تكاليف الحواف الموجبة والسالبة دون تقسيم مجموعة الحواف بشكل صريح. بالنسبة للأوزان المعطاةw:هـR0{\displaystyle w\colon E\to \mathbb {R} _{\geq 0}}وتقسيم معينهـ=هـ+هـ-{\displaystyle E=E^{+}\cup E^{-}}بتقسيم الحواف إلى حواف جاذبة وحواف دافعة، يمكن تحديد تكاليف الحواف بواسطة جهـ={wهـلو هـهـ+-wهـلو هـهـ-{\displaystyle {\begin{aligned}c_{e}={\begin{cases}\;\;w_{e}&{\text{if }}e\in E^{+}\\-w_{e}&{\text{if }}e\in E^{-}\end{cases}}\end{aligned}}} للجميعهـهـ{\displaystyle e\in E}.

يُقال إن الحافة التي تقع نقاط نهايتها في مجموعات مختلفة مقطوعة.دلتا(Π){\displaystyle \delta (\Pi )}يُطلق على عملية قطع جميع الحواف اسم القطع المتعدد [ 5 ]جي{\displaystyle G}.

مشكلة القطع المتعدد بأقل تكلفة هي مشكلة إيجاد تجميعΠ{\displaystyle \Pi }لجي{\displaystyle G}بحيث يكون مجموع تكاليف الحواف التي تقع نقاط نهايتها في مجموعات مختلفة في حده الأدنى: تقليلΠهـدلتا(Π)جهـ.{\displaystyle {\begin{aligned}&{\underset {\Pi }{\operatorname {minimize} }}&&\sum _{e\in \delta (\Pi )}c_{e}\;.\end{aligned}}}

على غرار مشكلة القطع المتعدد بأقل تكلفة، فإن توليد هيكل التحالف في ألعاب الرسم البياني الموزون [ 6 ] هو مشكلة إيجاد تجميع بحيث يكون مجموع تكاليف الحواف التي لم يتم قطعها هو الحد الأقصى: أقصىΠهـهـدلتا(Π)جهـ.{\displaystyle {\begin{aligned}&{\underset {\Pi }{\operatorname {maximize} }}&&\sum _{e\in E\setminus \delta (\Pi )}c_{e}\;.\end{aligned}}} تُعرف هذه الصيغة أيضًا باسم مشكلة تقسيم الزمرة. [ 7 ]

يمكن إثبات أن جميع المسائل الأربع المذكورة أعلاه متكافئة. وهذا يعني أن التجميع الأمثل لأي من الأهداف الأربعة هو الأمثل لجميع الأهداف الأربعة.

الخوارزميات

إذا كان الرسم البياني يسمح بتجميع البيانات دون أي اختلافات، فإن حذف جميع الحواف السالبة وحساب المكونات المتصلة للرسم البياني المتبقي يُنتج تجميعًا مثاليًا. وقد وضع ديفيس شرطًا ضروريًا وكافيًا لوجود مثل هذا التجميع: لا يمكن لأي دورة في الرسم البياني أن تحتوي على حافة سالبة واحدة فقط. [ 8 ]

ناقش بانسال وآخرون [ 9 ] برهان اكتمال NP، وقدموا أيضًا خوارزمية تقريب بمعامل ثابت وخوارزمية تقريب بزمن متعدد الحدود لإيجاد المجموعات في هذا السياق. واقترح أيلون وآخرون [ 10 ] خوارزمية تقريب عشوائية من الدرجة الثالثة لنفس المشكلة.

CC-Pivot (G=(V,E + ,E  )) اختر محورًا عشوائيًا i  V تعيينج={أنا}{\displaystyle C=\{i\}}، V'=Ø لكل j  V، j إذا كان (i,j)  E + فإن أضف j إلى C وإلا (إذا كان (i,j)  E  ) أضف j إلى V' ليكن G' هو الرسم البياني الجزئي المستحث بواسطة V' إرجاع التجميع C،CC-Pivot(G')

يُبين المؤلفون أن الخوارزمية المذكورة أعلاه هي خوارزمية تقريبية من الدرجة الثالثة لتجميع الارتباطات. أفضل خوارزمية تقريبية معروفة حاليًا لهذه المسألة، والتي تعمل في زمن متعدد الحدود، تحقق تقريبًا من الدرجة الثانية (2.06) عن طريق تقريب برنامج خطي، كما أوضح تشاولا ، وماكاريشيف، وشرام، وياروسلافتسيف . [ 11 ]

أثبت كاربينسكي وشودي [ 12 ] وجود مخطط تقريبي متعدد الحدود (PTAS) لتلك المشكلة على الرسوم البيانية الكاملة وعدد ثابت من المجموعات.

العدد الأمثل للمجموعات

في عام ٢٠١١، أظهر باجون وغالون [ ١٣ ] أن تحسين دالة التجميع الارتباطي يرتبط ارتباطًا وثيقًا بأساليب التحسين المنفصلة المعروفة . في بحثهما، اقترحا تحليلًا احتماليًا للنموذج الضمني الأساسي الذي يسمح لدالة التجميع الارتباطي بتقدير العدد الأساسي للمجموعات. يشير هذا التحليل إلى أن الدالة تفترض توزيعًا احتماليًا أوليًا منتظمًا على جميع التقسيمات الممكنة بغض النظر عن عدد مجموعاتها. وبالتالي، يظهر توزيع احتمالي أولي غير منتظم على عدد المجموعات.

تقترح هذه الدراسة عدة خوارزميات تحسين منفصلة تتناسب بكفاءة مع عدد العناصر (أظهرت التجارب نتائج مع أكثر من 100,000 متغير). كما قيّمت دراسة باجون وغالون فعالية استعادة العدد الأساسي للمجموعات في تطبيقات متعددة.

التجميع بالارتباط (استخراج البيانات)

يرتبط التجميع القائم على الارتباط بمهمة مختلفة، حيث يُفترض وجود ارتباطات بين سمات متجهات الميزات في فضاء عالي الأبعاد، مما يوجه عملية التجميع . قد تختلف هذه الارتباطات بين المجموعات المختلفة، وبالتالي لا يمكن لفك الارتباط الشامل اختزالها إلى التجميع التقليدي (غير المرتبط).

تؤدي الارتباطات بين مجموعات فرعية من السمات إلى أشكال مكانية مختلفة للتجمعات. لذا، يُحدد التشابه بين عناصر التجمعات من خلال مراعاة أنماط الارتباط المحلية. وبناءً على هذا المفهوم، تم تقديم المصطلح في المرجع [ 14 ] بالتزامن مع المفهوم المذكور أعلاه. وتُناقش طرق مختلفة لتجميع الارتباطات من هذا النوع في المرجع [ 15 ] ، بينما تُناقش العلاقة بأنواع التجميع المختلفة في المرجع [ 16 ] . انظر أيضًا: تجميع البيانات عالية الأبعاد .

يمكن إثبات أن التجميع الترابطي (وفقًا لهذا التعريف) يرتبط ارتباطًا وثيقًا بالتجميع الثنائي . وكما هو الحال في التجميع الثنائي، فإن الهدف هو تحديد مجموعات من العناصر التي تشترك في ارتباط في بعض سماتها؛ حيث يكون هذا الارتباط عادةً سمة مميزة للمجموعات الفردية.

مراجع

  1. بيكر، هيلا، "دراسة استقصائية عن تجميع الارتباط" ، 5 مايو 2005.
  2. أيلون، نير؛ شاريكار، موسى؛ نيومان، ألانثا (2008). "تجميع المعلومات غير المتسقة: الترتيب والتجميع". مجلة ACM . 55 (5). ACM: 1-27 .
  3. بانسال، نيخيل؛ بلوم، أفريم؛ تشاولا، سوتشي (2004). "التجميع بالارتباط". تعلم الآلة . 56 ( 1-3 ). سبرينغر: 89-113 . doi : 10.1023/B:MACH.0000033116.57574.95 .
  4. وحيد، ديوان ف.؛ حسيني، الكافي (2022). "مراجعة أدبية حول التجميع الارتباطي: تصنيف متعدد التخصصات مع تحليل ببليومتري". منتدى بحوث العمليات . 3 (3) 47. سبرينغر.
  5. ديزا، مغروتشل، ملوران، م. (1992). "أوجه شبكة الزمر للمضلعات متعددة القطع". رياضيات بحوث العمليات . 17 (4): 981-1000 . doi : 10.1287/moor.17.4.981 .
  6. باخراخ، يورام؛ كوهلي، بوشميت؛ كولموغوروف، فلاديمير؛ زاديموغادام، مرتضى (2013). "التوليد الأمثل لهيكل التحالف في ألعاب الرسم البياني التعاونية". وقائع مؤتمر AAAI حول الذكاء الاصطناعي . المجلد 27. الصفحات 81-87 .  {{cite conference}}: صيانة CS1: أسماء متعددة: قائمة المؤلفين ( رابط )
  7. غروتشل، ج.؛ واكاباياشي، ي. (1989). "خوارزمية القطع المستوي لمسألة التجميع". البرمجة الرياضية . 45 ( 1-3 ): 59-96 . doi : 10.1007/BF01589097 .
  8. جيمس أ. ديفيس (1963). "التوازن الهيكلي، والتضامن الميكانيكي، والعلاقات بين الأشخاص"، المجلة الأمريكية لعلم الاجتماع 68، 444-463.
  9. بانسال، ن.؛ بلوم، أ.؛ تشاولا، س. (2004). "التجميع بالارتباط" . تعلم الآلة . 56 ( 1-3 ): 89-113 . doi : 10.1023/B:MACH.0000033116.57574.95 .
  10. أيلون، ن.؛ شاريكار، م.؛ نيومان، أ. (2005). "تجميع المعلومات غير المتسقة". وقائع الندوة السنوية السابعة والثلاثين لجمعية آلات الحوسبة حول نظرية الحوسبة - STOC '05 . ص 684. doi : 10.1145/1060590.1060692 . ISBN  1581139608.
  11. تشاولا، شوتشي ؛ ماكاريشيف، كونستانتين؛ شرام، تسيليل؛ ياروسلافتسيف، غريغوري . "خوارزمية تقريب البرمجة الخطية شبه المثلى لتجميع الارتباطات على الرسوم البيانية الكاملة والكاملة ذات الأجزاء k". وقائع الندوة السنوية السادسة والأربعين لجمعية آلات الحوسبة حول نظرية الحوسبة .
  12. كاربينسكي، م.؛ شودي، و. (2009). "مخططات تقريبية خطية للعبة غيل-بيرلكامب ومسائل التصغير ذات الصلة". وقائع الندوة السنوية الحادية والأربعين لجمعية آلات الحوسبة حول نظرية الحوسبة - STOC '09 . ص 313. arXiv : 0811.3244 . doi : 10.1145/1536414.1536458 . ISBN  9781605585062.
  13. باجون، س.؛ جالون، م. (2011) "تحسين التجميع العنقودي للارتباط على نطاق واسع" arXiv : 1112.2903v1
  14. بوم، سي.؛ كايلينغ، ك.؛ كروغر، ب.؛ زيمك، أ. (2004). "حساب مجموعات الكائنات المترابطة". وقائع مؤتمر ACM SIGMOD الدولي لإدارة البيانات لعام 2004 - SIGMOD '04 . ص 455. CiteSeerX 10.1.1.5.1279 . doi : 10.1145/1007568.1007620 . ISBN   978-1581138597. S2CID 6411037 . 
  15. ^ زيميك، أ. (2008). تجميع الارتباط (نص. رسالة دكتوراه). جامعة لودفيغ ماكسيميليان في ميونيخ.
  16. كريجل، إتش بي ؛ كروجر، بي؛ زيمك، إيه (2009). "تجميع البيانات عالية الأبعاد". معاملات ACM لاكتشاف المعرفة من البيانات . 3 : 1-58 . doi : 10.1145/1497577.1497578 . S2CID 17363900 .