توزيع الخليط

في الاحتمالات والإحصاء ، التوزيع المختلط هو التوزيع الاحتمالي لمتغير عشوائي مشتق من مجموعة من المتغيرات العشوائية الأخرى على النحو التالي: أولاً، يتم اختيار متغير عشوائي بالصدفة من المجموعة وفقًا لاحتمالات الاختيار المعطاة، ثم يتم تحقيق قيمة المتغير العشوائي المحدد. قد تكون المتغيرات العشوائية الأساسية أرقامًا حقيقية عشوائية، أو قد تكون متجهات عشوائية (لكل منها نفس البعد)، وفي هذه الحالة يكون التوزيع المختلط توزيعًا متعدد المتغيرات .

في الحالات التي يكون فيها كل متغير عشوائي أساسي متصلًا ، سيكون متغير النتيجة متصلًا أيضًا ويشار أحيانًا إلى دالة كثافة الاحتمال الخاصة به باسم كثافة الخليط . يمكن التعبير عن دالة التوزيع التراكمية ( ودالة كثافة الاحتمال إذا كانت موجودة) على أنها تركيبة محدبة (أي مجموع مرجح، مع أوزان غير سالبة مجموعها إلى 1) من وظائف التوزيع الأخرى ووظائف الكثافة. تسمى التوزيعات الفردية التي يتم دمجها لتشكيل توزيع الخليط مكونات الخليط ، وتسمى الاحتمالات (أو الأوزان) المرتبطة بكل مكون أوزان الخليط . غالبًا ما يقتصر عدد المكونات في توزيع الخليط على كونه محدودًا، على الرغم من أنه في بعض الحالات قد يكون عدد المكونات لا نهائيًا قابلًا للعد . يتم التعامل مع الحالات الأكثر عمومية (أي مجموعة غير قابلة للعد من توزيعات المكونات)، بالإضافة إلى الحالة القابلة للعد، تحت عنوان التوزيعات المركبة .

يجب التمييز بين متغير عشوائي تكون دالة توزيعه أو كثافته هي مجموع مجموعة من المكونات (أي توزيع خليط) ومتغير عشوائي تكون قيمته هي مجموع قيم متغيرين عشوائيين أساسيين أو أكثر، وفي هذه الحالة يتم تحديد التوزيع بواسطة عامل الالتفاف . على سبيل المثال، مجموع متغيرين عشوائيين يتم توزيعهما بشكل طبيعي بشكل مشترك ، ولكل منهما متوسط ​​مختلف، سيظل له توزيع طبيعي. من ناحية أخرى، فإن كثافة الخليط التي تم إنشاؤها كمزيج من توزيعين طبيعيين بمتوسطين مختلفين سيكون لها ذروتين بشرط أن يكون المتوسطان بعيدين بما يكفي عن بعضهما البعض، مما يدل على أن هذا التوزيع مختلف جذريًا عن التوزيع الطبيعي.

تنشأ التوزيعات المختلطة في العديد من السياقات في الأدبيات وتنشأ بشكل طبيعي حيث يحتوي السكان الإحصائيون على مجموعتين فرعيتين أو أكثر . كما تُستخدم أحيانًا كوسيلة لتمثيل التوزيعات غير الطبيعية. تتم مناقشة تحليل البيانات المتعلقة بالنماذج الإحصائية التي تنطوي على توزيعات مختلطة تحت عنوان نماذج مختلطة ، بينما تركز المقالة الحالية على الخصائص الاحتمالية والإحصائية البسيطة لتوزيعات المختلطة وكيفية ارتباطها بخصائص التوزيعات الأساسية.

بالنظر إلى مجموعة محدودة من دوال كثافة الاحتمال p ₁ ( x )، ...، p _n ( x )، أو دوال التوزيع التراكمية المقابلة P ₁ ( x )، ...، P _n ( x ) والأوزان w ₁ ، ...، w _n بحيث w _i ≥ 0 و Σ w _i = 1، يمكن تمثيل توزيع الخليط عن طريق كتابة الكثافة f أو دالة التوزيع F كمجموع (وهو في كلتا الحالتين عبارة عن تركيبة محدبة):

${\displaystyle F(x)=\sum _{i=1}^{n}\,w_{i}\,P_{i}(x),}$

${\displaystyle f(x)=\sum _{i=1}^{n}\,w_{i}\,p_{i}(x).}$

يُطلق على هذا النوع من الخليط، كونه مجموعًا منتهيًا، خليطًا منتهيًا، وفي التطبيقات، عادةً ما تعني الإشارة غير المؤهلة إلى "كثافة الخليط" خليطًا منتهيًا. يتم تغطية حالة المجموعة اللانهائية القابلة للعد من المكونات رسميًا من خلال السماح بـ . ${\displaystyle n=\infty \!}$

عندما تكون مجموعة توزيعات المكونات غير قابلة للعد ، غالبًا ما تسمى النتيجة توزيع احتمالي مركب . يشبه إنشاء مثل هذه التوزيعات شكليًا توزيعات الخليط، حيث تحل إما المجاميع اللانهائية أو التكاملات محل المجاميع المحدودة المستخدمة للمخاليط المحدودة.

لنفترض أن دالة كثافة الاحتمال p ( x ؛ a ) لمتغير x ، معلمة بواسطة a . أي أنه لكل قيمة لـ a في مجموعة ما A ، تكون p ( x ؛ a ) دالة كثافة احتمال بالنسبة إلى x . إذا كانت دالة كثافة الاحتمال w (بمعنى أن w غير سالبة ومتكاملة إلى 1)، فإن الدالة

${\displaystyle f(x)=\int _{A}\,w(a)\,p(x;a)\,da}$

مرة أخرى، تكون دالة كثافة الاحتمال لـ x . ويمكن كتابة تكامل مماثل لدالة التوزيع التراكمية. لاحظ أن الصيغ هنا تُختزل إلى حالة خليط محدود أو غير محدود إذا سُمح للكثافة w بأن تكون دالة معممة تمثل "المشتق" لدالة التوزيع التراكمية لتوزيع منفصل .

غالبًا ما لا تكون مكونات الخليط عبارة عن توزيعات احتمالية عشوائية، بل هي بدلاً من ذلك أعضاء في عائلة معلمات (مثل التوزيعات الطبيعية)، مع قيم مختلفة لمعامل أو معاملات. في مثل هذه الحالات، بافتراض وجودها، يمكن كتابة الكثافة في شكل مجموع على النحو التالي:

${\displaystyle f(x;a_{1},\ldots ,a_{n})=\sum _{i=1}^{n}\,w_{i}\,p(x;a_{i})}$

لمعلمة واحدة، أو

${\displaystyle f(x;a_{1},\ldots ,a_{n},b_{1},\ldots ,b_{n})=\sum _{i=1}^{n}\,w_{i}\,p(x;a_{i},b_{i})}$

لمعلمتين، وما إلى ذلك.

إن التركيبة الخطية العامة لوظائف كثافة الاحتمال ليست بالضرورة كثافة احتمالية، لأنها قد تكون سلبية أو قد تتكامل مع شيء آخر غير 1. ومع ذلك، فإن التركيبة المحدبة لوظائف كثافة الاحتمال تحافظ على كلتا الخاصيتين (عدم السلبية والتكامل مع 1)، وبالتالي فإن كثافات الخليط هي نفسها دوال كثافة احتمالية.

دع X ₁ ، ...، X _n تشير إلى متغيرات عشوائية من توزيعات مكونة من n ، ودع X تشير إلى متغير عشوائي من توزيع الخليط. إذن، لأي دالة H (·) موجودة ، وبافتراض وجود كثافات المكونات p _i ( x )، ${\displaystyle \operatorname {E} [H(X_{i})]}$

${\displaystyle {\begin{aligned}\operatorname {E} [H(X)]&=\int _{-\infty }^{\infty }H(x)\sum _{i=1}^{n}w_{i}p_{i}(x)\,dx\\&=\sum _{i=1}^{n}w_{i}\int _{-\infty }^{\infty }p_{i}(x)H(x)\,dx=\sum _{i=1}^{n}w_{i}\operatorname {E} [H(X_{i})].\end{aligned}}}$

إن اللحظة j حول الصفر (أي اختيار H ( x ) = x ^j ) هي ببساطة متوسط ​​مرجح لللحظات j للمكونات. تتضمن اللحظات حول المتوسط ​​H ( x ) = ( x − μ ) ^j توسعًا ثنائيًا: ^[1]

${\displaystyle {\begin{aligned}\operatorname {E} [(X-\mu )^{j}]&=\sum _{i=1}^{n}w_{i}\operatorname {E} [(X_{i}-\mu _{i}+\mu _{i}-\mu )^{j}]\&=\sum _{i=1}^{n}w_{i}\sum _{k=0}^{j}\left({\begin{array}{c}j\\k\end{array}}\right)(\mu _{i}-\mu )^{jk}\operatorname {E} [(X_{i}-\mu _{i})^{k}],\end{aligned}}}$

حيث يشير μi _إلى متوسط ​​المكون i .

في حالة وجود خليط من التوزيعات أحادية البعد ذات الأوزان w _i والمتوسط ​​μ _i والتباين σ _i ² ، سيكون المتوسط ​​الإجمالي والتباين:

${\displaystyle \operatorname {E} [X]=\mu =\sum _{i=1}^{n}w_{i}\mu _{i},}$

${\displaystyle {\begin{aligned}\operatorname {E} [(X-\mu )^{2}]&=\operatorname {E} [X^{2}]-\mu ^{2}&(\mathrm {standard} \ \mathrm {variance} \ \mathrm {reformulation} )\\&=\left(\sum _{i=1}^{n}w_{i}(\operatorname {E} [X_{i}^{2}])\right)-\mu ^{2}\\&=\sum _{i=1}^{n}w_{i}(\sigma _{i}^{2}+\mu _{i}^{2})-\mu ^{2}&(\mathrm {from} \ \sigma _{i}^{2}=\operatorname {E} [X_{i}^{2}]-\mu _{i}^{2},\mathrm {لذلك} \,\operatorname {E} [X_{i}^{2}]=\sigma _{i}^{2}+\mu _{i}^{2}.)\end{aligned}}}$

تسلط هذه العلاقات الضوء على إمكانات توزيعات الخليط لإظهار لحظات غير تافهة من الدرجة الأعلى مثل الانحراف والتجانف ( الذيل السمين ) والتعدد في الأنماط، حتى في غياب مثل هذه الميزات داخل المكونات نفسها. يقدم مارون وواند (1992) شرحًا توضيحيًا لمرونة هذا الإطار. ^[2]

إن مسألة تعدد الأنماط بسيطة في بعض الحالات، مثل مخاليط التوزيعات الأسية : كل هذه المخاليط أحادية النمط . ^[3] ومع ذلك، في حالة مخاليط التوزيعات الطبيعية ، فهي مسألة معقدة. تم استكشاف شروط عدد الأنماط في خليط طبيعي متعدد المتغيرات بواسطة Ray & Lindsay ^[4] وتوسيع العمل السابق على التوزيعات أحادية المتغير ^{[5] [6]} والمتعددة المتغيرات ^[7] .

هنا يتم تقليص مشكلة تقييم أوضاع خليط مكون من n مكون في فضاء الأبعاد D إلى تحديد النقاط الحرجة (الحدود الدنيا المحلية والحدود القصوى ونقاط السرج ) على متعدد الشعب يشار إليه باسم سطح خط التلال ، وهو صورة دالة خط التلال

${\displaystyle x^{*}(\alpha )=\left[\sum _{i=1}^{n}\alpha _{i}\Sigma _{i}^{-1}\right]^{-1}\times \left[\sum _{i=1}^{n}\alpha _{i}\Sigma _{i}^{-1}\mu _{i}\right],}$

حيث ينتمي إلى البسيط القياسي ذي الأبعاد - : و يتوافق مع التباين ومتوسط ​​المكون ⁱ . راي و ليندسي ^[4] يعتبران الحالة التي تظهر فيها المراسلات الفردية لأنماط الخليط وتلك الموجودة على دالة ارتفاع التلال وبالتالي يمكن للمرء تحديد الأنماط عن طريق الحل فيما يتعلق بتحديد القيمة . ${\displaystyle \alpha }$${\displaystyle (n-1)}$${\displaystyle {\mathcal {S}}_{n}=\{\alpha \in \mathbb {R} ^{n}:\alpha _{i}\in [0,1],\sum _{i=1}^{n}\alpha _{i}=1\}}$${\displaystyle \Sigma _{i}\in R^{D\times D},\,\mu _{i}\in R^{D}}$${\displaystyle n-1<D}$ ${\displaystyle h(\alpha )=q(x^{*}(\alpha ))}$${\displaystyle {\frac {dh(\alpha )}{d\alpha }}=0}$${\displaystyle \alpha }$${\displaystyle x^{*}(\alpha )}$

باستخدام الأدوات الرسومية، يتم توضيح تعدد الأنماط المحتملة للمخاليط ذات عدد المكونات ؛ وبشكل خاص، يُظهر أن عدد الأنماط قد يتجاوز وأن الأنماط قد لا تتطابق مع متوسطات المكونات. بالنسبة لمكونين، يطورون أداة رسومية للتحليل عن طريق حل التفاضل المذكور أعلاه فيما يتعلق بوزن الخلط الأول (الذي يحدد أيضًا وزن الخلط الثاني من خلال ) والتعبير عن الحلول كدالة بحيث يتوافق عدد وموقع الأنماط لقيمة معينة من مع عدد تقاطعات الرسم البياني على الخط . يمكن ربط هذا بدوره بعدد تذبذبات الرسم البياني وبالتالي حلول مما يؤدي إلى حل صريح لحالة خليط مكون من مكونين مع (يُطلق عليه أحيانًا خليط متجانس ) المعطى بواسطة ${\displaystyle n\in \{2,3\}}$${\displaystyle n}$${\displaystyle w_{1}}$${\displaystyle w_{2}=1-w_{1}}$${\displaystyle \Pi (\alpha ),\,\alpha \in [0,1]}$${\displaystyle w_{1}}$${\displaystyle \Pi (\alpha )=w_{1}}$${\displaystyle {\frac {d\Pi (\alpha )}{d\alpha }}=0}$${\displaystyle \Sigma _{1}=\Sigma _{2}=\Sigma }$

${\displaystyle 1-\alpha (1-\alpha )d_{M}(\mu _{1},\mu _{2},\Sigma )^{2}}$

أين مسافة الماهالانوبيس بين و . ${\displaystyle d_{M}(\mu _{1},\mu _{2},\Sigma )={\sqrt {(\mu _{2}-\mu _{1})^{T}\Sigma ^{-1}(\mu _{2}-\mu _{1})}}}$${\displaystyle \mu _{1}}$${\displaystyle \mu _{2}}$

نظرًا لأن ما ورد أعلاه تربيعي، فمن الطبيعي أنه في هذه الحالة يوجد وضعان على الأكثر بغض النظر عن البعد أو الأوزان.

بالنسبة للمخاليط العادية ذات العام و ، يكون الحد الأدنى لأقصى عدد من الأوضاع الممكنة، و- بشرط أن يكون العدد الأقصى محدودًا- معروفًا الحد الأعلى. بالنسبة لتلك التركيبات من و التي يكون العدد الأقصى لها معروفًا، فإنه يتطابق مع الحد الأدنى. ^[8]${\displaystyle n>2}$${\displaystyle D>1}$${\displaystyle n}$${\displaystyle D}$

يمكن تقديم أمثلة بسيطة من خلال خليط من توزيعين طبيعيين. (انظر التوزيع المتعدد الوسائط#خليط من توزيعين طبيعيين لمزيد من التفاصيل.)

بالنظر إلى خليط متساوٍ (50/50) من توزيعين طبيعيين بنفس الانحراف المعياري ومتوسطات مختلفة ( متجانسة التباين )، سيُظهر التوزيع الإجمالي تجانفًا منخفضًا بالنسبة لتوزيع طبيعي واحد - تقع متوسطات الفئات الفرعية على أكتاف التوزيع الإجمالي. إذا تم الفصل بينهما بشكل كافٍ، أي بمقدار ضعف الانحراف المعياري (الشائع)، بحيث تشكل هذه توزيعًا ثنائي النمط ، وإلا فسيكون لها ببساطة ذروة واسعة. ^[9] سيكون تباين السكان الإجمالي أيضًا أكبر من تباين الفئتين الفرعيتين (بسبب الانتشار من متوسطات مختلفة)، وبالتالي يُظهر تشتتًا زائدًا بالنسبة للتوزيع الطبيعي مع تباين ثابت على الرغم من أنه لن يكون مفرط التشتت بالنسبة للتوزيع الطبيعي مع تباين يساوي تباين السكان الإجمالي. ${\displaystyle \left|\mu _{1}-\mu _{2}\right|>2\sigma ,}$${\displaystyle \sigma ,}$

وبدلاً من ذلك، بالنظر إلى مجموعتين فرعيتين من السكان بنفس المتوسط ​​وانحرافات معيارية مختلفة، فإن السكان الإجماليين سوف يظهرون درجة عالية من التجانف، مع ذروة أكثر حدة وذيول أثقل (وبالتالي أكتاف أضحل) مقارنة بالتوزيع الفردي.

• 
  توزيع خليط أحادي المتغير، يظهر توزيعًا ثنائي النمط
• 
  توزيع خليط متعدد المتغيرات، يظهر أربعة أوضاع

المثال التالي مقتبس من Hampel، ^[10] الذي ينسب الفضل إلى John Tukey .

ضع في اعتبارك توزيع الخليط المحدد بواسطة

F ( x ) = (1 − 10 ⁻¹⁰ ) ( الطبيعي القياسي ) + 10 ⁻¹⁰ ( كوشي القياسي ) .

يتصرف متوسط ​​ملاحظات iid من F ( x ) بشكل "طبيعي" باستثناء العينات الكبيرة بشكل مبالغ فيه، على الرغم من أن متوسط ​​F ( x ) غير موجود حتى.

كثافات الخليط هي كثافات معقدة يمكن التعبير عنها من حيث الكثافات الأكثر بساطة (مكونات الخليط)، وتستخدم لأنها توفر نموذجًا جيدًا لمجموعات بيانات معينة (حيث تظهر مجموعات فرعية مختلفة من البيانات خصائص مختلفة ويمكن نمذجتها بشكل أفضل بشكل منفصل)، ولأنها يمكن أن تكون أكثر قابلية للحل رياضيًا، لأن مكونات الخليط الفردية يمكن دراستها بسهولة أكبر من كثافة الخليط الإجمالية.

يمكن استخدام كثافات الخليط لنمذجة سكان إحصائيين مع مجموعات سكانية فرعية ، حيث تكون مكونات الخليط هي الكثافات في المجموعات السكانية الفرعية، وتكون الأوزان هي نسب كل مجموعة سكانية فرعية في إجمالي السكان.

يمكن أيضًا استخدام كثافات الخليط لنمذجة الخطأ التجريبي أو التلوث - يفترض المرء أن معظم العينات تقيس الظاهرة المرغوبة، مع بعض العينات من توزيع مختلف وخاطئ.

غالبًا ما تفشل الإحصاءات المعلمية التي تفترض عدم وجود خطأ في مثل هذه الكثافات المختلطة - على سبيل المثال، غالبًا ما تفشل الإحصاءات التي تفترض الحالة الطبيعية بشكل كارثي في ​​وجود حتى عدد قليل من القيم المتطرفة - وبدلاً من ذلك يتم استخدام الإحصاءات القوية .

في التحليل التلوي للدراسات المنفصلة، ​​يتسبب عدم تجانس الدراسة في أن يكون توزيع النتائج عبارة عن توزيع مختلط، ويؤدي إلى التشتت المفرط للنتائج نسبة إلى الخطأ المتوقع. على سبيل المثال، في المسح الإحصائي ، يتنبأ هامش الخطأ (الذي يتم تحديده من خلال حجم العينة) بخطأ العينة وبالتالي تشتت النتائج في المسوحات المتكررة. يؤدي وجود عدم تجانس الدراسة (الدراسات لها تحيزات مختلفة في أخذ العينات ) إلى زيادة التشتت نسبة إلى هامش الخطأ.

• التوزيع المركب
• التوزيع الطبيعي الملوث
• تركيبة محدبة
• جيري موناد
• خوارزمية التوقع والتعظيم (EM)
• لا ينبغي الخلط بينه وبين: قائمة التفافات توزيعات الاحتمالات
• توزيع المنتج

• خليط (احتمالية)
• نموذج الخليط

• نموذج رسومي
• نموذج بايز الهرمي

• فروورث-شناتر، سيلفيا (2006)، نماذج الخلطة المحدودة والتبديل الماركوفي ، سبرينغر، رقم ISBN 978-1-4419-2194-9
• ليندسي، بروس جي. (1995)، نماذج الخليط: النظرية والهندسة والتطبيقات ، سلسلة مؤتمرات NSF-CBMS الإقليمية في الاحتمالات والإحصاء، المجلد 5، هايوورد، كاليفورنيا، الولايات المتحدة الأمريكية: معهد الإحصاء الرياضي، رقم ISBN 0-940600-32-3، جيستور  4153184
• سيدل، ويلفريد (2010)، "نماذج المزيج"، في لوفريك، م. (محرر)، الموسوعة الدولية للعلوم الإحصائية ، هايدلبرغ: سبرينغر، ص. 827-829، arXiv : 0909.0389 ، doi :10.1007/978-3-642-04898-2، ISBN 978-3-642-04898-2
• ياو، ويكسين؛ شيانغ، سيجيا (2024)، نماذج الخليط: المعلمات، وشبه المعلمات، والاتجاهات الجديدة، بوكا راتون، فلوريدا: تشابمان آند هول/سي آر سي برس، رقم ISBN 978-0367481827.