دالة توليد العزوم

في نظرية الاحتمالات والإحصاء ، تُعدّ دالة توليد العزوم لمتغير عشوائي حقيقي دالة توليد تُقدّم وصفًا بديلًا لتوزيع احتمالية هذا المتغير . وبالتالي، فهي تُوفّر أساسًا لمسار بديل للوصول إلى نتائج تحليلية مقارنةً بالتعامل المباشر مع دوال كثافة الاحتمال أو دوال التوزيع التراكمي . توجد نتائج بسيطة للغاية لدوال توليد العزوم للتوزيعات المُعرّفة بالمجاميع المرجّحة للمتغيرات العشوائية. مع ذلك، لا تمتلك جميع المتغيرات العشوائية دوال توليد عزوم.

كما يوحي اسمها، يمكن استخدام دالة توليد العزوم لحساب عزوم التوزيع : العزم النوني حول الصفر هو المشتق النوني لدالة توليد العزوم، ويتم تقييمه عند الصفر.

بالإضافة إلى التوزيعات أحادية المتغير ذات القيم الحقيقية، يمكن أيضًا تعريف دوال توليد العزوم للمتغيرات العشوائية ذات القيم المتجهة أو المصفوفية، ويمكن حتى توسيعها لتشمل حالات أكثر عمومية.

لا توجد دائمًا دالة توليد العزوم لتوزيع ذي قيم حقيقية، على عكس الدالة المميزة . توجد علاقات بين سلوك دالة توليد العزوم لتوزيع ما وخصائص هذا التوزيع، مثل وجود العزوم.

يترك${\displaystyle X}$ليكن متغيرًا عشوائيًا له دالة توزيع تراكمي${\displaystyle F_{X}}$دالة توليد العزوم (mgf) لـ${\displaystyle X}$(أو${\displaystyle F_{X}}$)، ويرمز إليه بـ${\displaystyle M_{X}(t)}$، يكون

$${\displaystyle M_{X}(t)=\operatorname {E} \left[e^{tX}\right]}$$

شريطة وجود هذا التوقع لـ${\displaystyle t}$في جوار مفتوح ما يساوي صفرًا. أي أن هناك${\displaystyle h>0}$بحيث يكون ذلك لجميع${\displaystyle t}$مُرضٍ ${\displaystyle -h<t<h}$، ${\displaystyle \operatorname {E} \left[e^{tX}\right]}$موجود. إذا لم يكن التوقع موجودًا في جوار مفتوح للصفر، نقول إن دالة توليد العزوم غير موجودة. ^{[ 1 ]}

بمعنى آخر، دالة توليد العزوم للمتغير العشوائي X هي القيمة المتوقعة للمتغير العشوائي${\displaystyle e^{tX}}$وبشكل أعم، عندما${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{n})^{\mathrm {T} }}$، أن${\displaystyle n}$متجه عشوائي ذو أبعاد n ، و${\displaystyle \mathbf {t} }$إذا كان متجهًا ثابتًا، فسيتم استخدامه${\displaystyle \mathbf {t} \cdot \mathbf {X} =\mathbf {t} ^{\mathrm {T} }\mathbf {X} }$بدلاً من ${\displaystyle tX}$:$${\displaystyle M_{\mathbf {X} }(\mathbf {t} ):=\operatorname {E} \left[e^{\mathbf {t} ^{\mathrm {T} }\mathbf {X} }\right].}$$

${\displaystyle M_{X}(0)}$توجد دائمًا وتساوي  1. مع ذلك، تكمن إحدى المشكلات الرئيسية في دوال توليد العزوم في أن العزوم ودالة توليد العزوم قد لا تكون موجودة، إذ لا يشترط أن تتقارب التكاملات تقاربًا مطلقًا. في المقابل، توجد الدالة المميزة أو تحويل فورييه دائمًا (لأنها تكامل دالة محدودة على فضاء ذي قياس محدود )، ويمكن استخدامها في بعض الأغراض بدلًا من ذلك.

تُسمى دالة توليد العزوم بهذا الاسم لأنها تُستخدم لإيجاد عزوم التوزيع. ^{[ 2 ]} متسلسلة تايلور لـ${\displaystyle e^{tX}}$يكون

$${\displaystyle e^{tX}=1+tX+{\frac {t^{2}X^{2}}{2!}}+{\frac {t^{3}X^{3}}{3!}}+\cdots +{\frac {t^{n}X^{n}}{n!}}+\cdots .}$$

لذلك، $${\displaystyle {\begin{aligned}M_{X}(t)&=\operatorname {E} [e^{tX}]\\[1ex]&=1+t\operatorname {E} [X]+{\frac {t^{2}\operatorname {E} [X^{2}]}{2!}}+{\frac {t^{3}\operatorname {E} [X^{3}]}{3!}}+\cdots +{\frac {t^{n}\operatorname {E} [X^{n}]}{n!}}+\cdots \\[1ex]&=1+tm_{1}+{\frac {t^{2}m_{2}}{2!}}+{\frac {t^{3}m_{3}}{3!}}+\cdots +{\frac {t^{n}m_{n}}{n!}}+\cdots ,\end{aligned}}}$$

أين${\displaystyle m_{n}}$هو${\displaystyle n}$اللحظة رقم -th . التفاضل${\displaystyle M_{X}(t)}$${\displaystyle i}$الأوقات فيما يتعلق بـ${\displaystyle t}$والضبط${\displaystyle t=0}$، فنحصل على${\displaystyle i}$اللحظة رقم - حول الأصل،${\displaystyle m_{i}}$.

لو${\displaystyle X}$إذا كان متغيرًا عشوائيًا مستمرًا، فإن العلاقة التالية تربط بين دالة توليد العزوم الخاصة به${\displaystyle M_{X}(t)}$وتحويل لابلاس ثنائي الجانب لدالة كثافة الاحتمال الخاصة بها${\displaystyle f_{X}(x)}$يحمل:

$${\displaystyle M_{X}(t)={\mathcal {L}}\{f_{X}\}(-t),}$$

بما أن تحويل لابلاس ثنائي الجانب لدالة كثافة الاحتمال يُعطى على النحو التالي

$${\displaystyle {\mathcal {L}}\{f_{X}\}(s)=\int _{-\infty }^{\infty }e^{-sx}f_{X}(x)\,dx,}$$

ويتوسع تعريف دالة توليد اللحظة (بموجب قانون الإحصائي اللاواعي ) إلى $${\displaystyle M_{X}(t)=\operatorname {E} \left[e^{tX}\right]=\int _{-\infty }^{\infty }e^{tx}f_{X}(x)\,dx.}$$

يتوافق هذا مع الوظيفة المميزة لـ${\displaystyle X}$كونها دورة ويك${\displaystyle M_{X}(t)}$عندما توجد دالة توليد العزوم، كدالة مميزة لمتغير عشوائي مستمر${\displaystyle X}$هو تحويل فورييه لدالة كثافة الاحتمال الخاصة به${\displaystyle f_{X}(x)}$وبشكل عام عندما تكون الدالة${\displaystyle f(x)}$وهي من الرتبة الأسية ، تحويل فورييه لـ${\displaystyle f}$هي دوران ويك لتحويل لابلاس ثنائي الجانب في منطقة التقارب. انظر العلاقة بين تحويلي فورييه ولابلاس لمزيد من المعلومات.

فيما يلي بعض الأمثلة على دالة توليد العزوم والدالة المميزة للمقارنة. يتضح أن الدالة المميزة هي دوران ويك لدالة توليد العزوم.${\displaystyle M_{X}(t)}$عندما يكون الأخير موجوداً.

توزيع	دالة توليد العزوم${\displaystyle M_{X}(t)}$	الدالة المميزة${\displaystyle \varphi (t)}$
منحط${\displaystyle \delta _{a}}$	${\displaystyle e^{ta}}$	${\displaystyle e^{ita}}$
برنولي${\displaystyle P(X=1)=p}$	${\displaystyle 1-p+pe^{t}}$	${\displaystyle 1-p+pe^{it}}$
ذات الحدين${\displaystyle B(n,p)}$	${\displaystyle \left(1-p+pe^{t}\right)^{n}}$	${\displaystyle \left(1-p+pe^{it}\right)^{n}}$
هندسي${\displaystyle (1-p)^{k}\,p}$	${\displaystyle {\frac {p}{1-(1-p)e^{t}}},~t<-\ln(1-p)}$	${\displaystyle {\frac {p}{1-(1-p)\,e^{it}}}}$
التوزيع ذو الحدين السالب${\displaystyle \operatorname {NB} (r,p)}$	${\displaystyle \left({\frac {p}{1-e^{t}+pe^{t}}}\right)^{r},~t<-\ln(1-p)}$	${\displaystyle \left({\frac {p}{1-e^{it}+pe^{it}}}\right)^{r}}$
بواسون${\displaystyle \operatorname {Pois} (\lambda )}$	${\displaystyle e^{\lambda (e^{t}-1)}}$	${\displaystyle e^{\lambda (e^{it}-1)}}$
منتظم (مستمر)${\displaystyle \operatorname {U} (a,b)}$	${\displaystyle {\frac {e^{tb}-e^{ta}}{t(b-a)}}}$	${\displaystyle {\frac {e^{itb}-e^{ita}}{it(b-a)}}}$
موحد (منفصل)${\displaystyle \operatorname {DU} (a,b)}$	${\displaystyle {\frac {e^{at}-e^{(b+1)t}}{(b-a+1)(1-e^{t})}}}$	${\displaystyle {\frac {e^{ait}-e^{(b+1)it}}{(b-a+1)(1-e^{it})}}}$
لابلاس${\displaystyle L(\mu ,b)}$	${\displaystyle {\frac {e^{t\mu }}{1-b^{2}t^{2}}},~|t|<1/b}$	${\displaystyle {\frac {e^{it\mu }}{1+b^{2}t^{2}}}}$
طبيعي${\displaystyle N(\mu ,\sigma ^{2})}$	${\displaystyle e^{t\mu +\sigma ^{2}t^{2}/2}}$	${\displaystyle e^{it\mu -\sigma ^{2}t^{2}/2}}$
مربع كاي${\displaystyle \chi _{k}^{2}}$	${\displaystyle {\left(1-2t\right)}^{-k/2},~t<1/2}$	${\displaystyle {\left(1-2it\right)}^{-{k}/{2}}}$
اختبار مربع كاي غير المركزي${\displaystyle \chi _{k}^{2}(\lambda )}$	${\displaystyle e^{\lambda t/(1-2t)}{\left(1-2t\right)}^{-k/2}}$	${\displaystyle e^{i\lambda t/(1-2it)}{\left(1-2it\right)}^{-k/2}}$
جاما${\displaystyle \Gamma (k,{\tfrac {1}{\theta }})}$	${\displaystyle {\left(1-t\theta \right)}^{-k},~t<{\tfrac {1}{\theta }}}$	${\displaystyle {\left(1-it\theta \right)}^{-k}}$
النمو الأسي${\displaystyle \operatorname {Exp} (\lambda )}$	${\displaystyle \left(1-t\lambda ^{-1}\right)^{-1},~t<\lambda }$	${\displaystyle \left(1-it\lambda ^{-1}\right)^{-1}}$
بيتا	${\displaystyle 1+\sum _{k=1}^{\infty }\left(\prod _{r=0}^{k-1}{\frac {\alpha +r}{\alpha +\beta +r}}\right){\frac {t^{k}}{k!}}}$	${\displaystyle {}_{1}F_{1}(\alpha$ ;\alpha +\beta ;i\,t)\!} (انظر دالة فرط هندسية متقاربة )
التوزيع الطبيعي متعدد المتغيرات${\displaystyle N(\mathbf {\mu } ,\mathbf {\Sigma } )}$	${\displaystyle \exp \left[\mathbf {t} ^{\mathrm {T} }\left({\boldsymbol {\mu }}+{\tfrac {1}{2}}{\boldsymbol {\Sigma }}\mathbf {t} \right)\right]}$	${\displaystyle \exp \left[\mathbf {t} ^{\mathrm {T} }\left(i{\boldsymbol {\mu }}-{\tfrac {1}{2}}{\boldsymbol {\Sigma }}\mathbf {t} \right)\right]}$
كوشي${\displaystyle \operatorname {Cauchy} (\mu ,\theta )}$	غير موجود	${\displaystyle e^{it\mu -\theta |t|}}$
كوشي متعدد المتغيرات ${\displaystyle \operatorname {MultiCauchy} (\mu ,\Sigma )}$[ 3 ]	غير موجود	${\displaystyle \exp \left(i\mathbf {t} ^{\mathrm {T} }{\boldsymbol {\mu }}-{\sqrt {\mathbf {t} ^{\mathrm {T} }{\boldsymbol {\Sigma }}\mathbf {t} }}\right)}$

دالة توليد العزوم هي القيمة المتوقعة لدالة المتغير العشوائي، ويمكن كتابتها على النحو التالي:

• بالنسبة لدالة كتلة احتمالية منفصلة ،${\displaystyle M_{X}(t)=\sum _{i=0}^{\infty }e^{tx_{i}}\,p_{i}}$
• بالنسبة لدالة كثافة احتمالية متصلة ،${\displaystyle M_{X}(t)=\int _{-\infty }^{\infty }e^{tx}f(x)\,dx}$
• في الحالة العامة:${\displaystyle M_{X}(t)=\int _{-\infty }^{\infty }e^{tx}\,dF(x)}$باستخدام تكامل ريمان-ستيلتيس ، وحيث${\displaystyle F}$هي دالة التوزيع التراكمي . وهي ببساطة تحويل لابلاس-ستيلتيس لـ${\displaystyle F}$، ولكن مع عكس إشارة الحجة.

لاحظ أنه في الحالة التي${\displaystyle X}$لها دالة كثافة احتمالية متصلة${\displaystyle f(x)}$، ${\displaystyle M_{X}(-t)}$هو تحويل لابلاس ذو الجانبين لـ${\displaystyle f(x)}$.

$${\displaystyle {\begin{aligned}M_{X}(t)&=\int _{-\infty }^{\infty }e^{tx}f(x)\,dx\\[1ex]&=\int _{-\infty }^{\infty }\left(1+tx+{\frac {t^{2}x^{2}}{2!}}+\cdots +{\frac {t^{n}x^{n}}{n!}}+\cdots \right)f(x)\,dx\\[1ex]&=1+tm_{1}+{\frac {t^{2}m_{2}}{2!}}+\cdots +{\frac {t^{n}m_{n}}{n!}}+\cdots ,\end{aligned}}}$$

أين${\displaystyle m_{n}}$هو${\displaystyle n}$اللحظة th .

تكون دوال توليد العزوم موجبة ومحدبة لوغاريتميًا ، مع M (0) = 1.

من الخصائص المهمة لدالة توليد العزوم أنها تحدد التوزيع بشكل فريد. بعبارة أخرى، إذا${\displaystyle X}$و${\displaystyle Y}$هما متغيران عشوائيان، ولجميع قيم t ، 

$${\displaystyle M_{X}(t)=M_{Y}(t),}$$ ثم $${\displaystyle F_{X}(x)=F_{Y}(x)}$$

لجميع قيم x (أو بصورة مكافئة، X و Y لهما نفس التوزيع). هذه العبارة لا تُكافئ العبارة "إذا كان لتوزيعين نفس العزوم، فإنهما متطابقان عند جميع النقاط". وذلك لأنه في بعض الحالات، توجد العزوم ومع ذلك لا توجد دالة توليد العزوم، لأن النهاية

$${\displaystyle \lim _{n\to \infty }\sum _{i=0}^{n}{\frac {t^{i}m_{i}}{i!}}}$$

قد لا يكون موجودًا. يُعد التوزيع اللوغاريتمي الطبيعي مثالًا على حدوث ذلك: فلحظاته هي${\displaystyle \operatorname {E} [X^{n}]=e^{n\mu +n^{2}\sigma ^{2}/2}}$وجميعها محدودة باستثناء دالة توليد العزوم الخاصة بها${\displaystyle \operatorname {E} \left[e^{tX}\right]}$لا يتم تعريفها لأي قيمة موجبة لـ t لأن التكامل يتباعد، وبالتالي لا يتم تعريفها في جوار الصفر؛ وهناك توزيعات أخرى لها نفس العزوم. ^{[ 4 ]}

تُقدّم متباينة جنسن حدًا أدنى بسيطًا لدالة توليد العزوم: $${\displaystyle M_{X}(t)\geq e^{\mu t},}$$ أين${\displaystyle \mu }$هو متوسط ​​X.

يمكن استخدام دالة توليد العزوم بالتزامن مع متباينة ماركوف لتقييد الطرف العلوي لمتغير عشوائي حقيقي X. تُعرف هذه العبارة أيضًا باسم حد تشيرنوف .${\displaystyle x\mapsto e^{xt}}$تتزايد بشكل رتيب لـ${\displaystyle t>0}$لدينا $${\displaystyle \Pr(X\geq a)=\Pr(e^{tX}\geq e^{ta})\leq e^{-at}\operatorname {E} \left[e^{tX}\right]=e^{-at}M_{X}(t)}$$ لأي${\displaystyle t>0}$وأي أ ، شريطة${\displaystyle M_{X}(t)}$موجود. على سبيل المثال، عندما يكون X توزيعًا طبيعيًا معياريًا و${\displaystyle a>0}$يمكننا الاختيار${\displaystyle t=a}$وتذكر أن${\displaystyle M_{X}(t)=e^{t^{2}/2}}$وهذا يعطي${\displaystyle \Pr(X\geq a)\leq e^{-a^{2}/2}}$، وهو ما يقع ضمن عامل 1+ أ من القيمة الدقيقة.

توفر العديد من الليمات، مثل ليما هوفدينغ أو متباينة بينيت، حدودًا على دالة توليد العزوم في حالة متغير عشوائي محدود ذو متوسط ​​صفري.

متى${\displaystyle X}$إذا كانت الدالة غير سالبة، فإن دالة توليد العزوم تعطي حدًا بسيطًا ومفيدًا للعزوم: $${\displaystyle \operatorname {E} [X^{m}]\leq \left({\frac {m}{te}}\right)^{m}M_{X}(t),}$$ لأي${\displaystyle X,m\geq 0}$و${\displaystyle t>0}$.

وينتج هذا عن عدم المساواة${\displaystyle 1+x\leq e^{x}}$والتي يمكننا استبدالها${\displaystyle x'=tx/m-1}$يشير إلى${\displaystyle tx/m\leq e^{tx/m-1}}$لأي${\displaystyle x,t,m\in \mathbb {R} }$الآن ، إذا${\displaystyle t>0}$و${\displaystyle x,m\geq 0}$، ويمكن إعادة ترتيب ذلك إلى${\displaystyle x^{m}\leq (m/(te))^{m}e^{tx}}$بأخذ القيمة المتوقعة لكلا الطرفين، نحصل على الحد الأقصى لـ${\displaystyle \operatorname {E} [X^{m}]}$من ناحية${\displaystyle \operatorname {E} [e^{tX}]}$.

على سبيل المثال، انظر${\displaystyle X\sim {\text{Chi-Squared}}}$مع${\displaystyle k}$درجات الحرية. ثم من الأمثلة${\displaystyle M_{X}(t)=(1-2t)^{-k/2}}$. الانتقاء${\displaystyle t=m/(2m+k)}$والاستبدال في الحد: $${\displaystyle \operatorname {E} [X^{m}]\leq {\left(1+2m/k\right)}^{k/2}e^{-m}{\left(k+2m\right)}^{m}.}$$ نعلم أن الحد الصحيح في هذه الحالة هو${\displaystyle \operatorname {E} [X^{m}]\leq 2^{m}\Gamma (m+k/2)/\Gamma (k/2)}$للمقارنة بين الحدود، يمكننا النظر في السلوك التقاربي للأعداد الكبيرة.${\displaystyle k}$هنا، يكون حد دالة توليد العزوم هو${\displaystyle k^{m}(1+m^{2}/k+O(1/k^{2}))}$، حيث يكون الحد الحقيقي${\displaystyle k^{m}(1+(m^{2}-m)/k+O(1/k^{2}))}$وبالتالي فإن حد دالة توليد العزوم قوي للغاية في هذه الحالة.

ترتبط بالدالة المولدة للعزوم عدد من التحويلات الأخرى الشائعة في نظرية الاحتمالات:

الدالة المميزة

الدالة المميزة${\displaystyle \varphi _{X}(t)}$يرتبط ذلك بدالة توليد العزوم عبر${\displaystyle \varphi _{X}(t)=M_{iX}(t)=M_{X}(it):}$الدالة المميزة هي دالة توليد العزوم لـ iX أو دالة توليد العزوم لـ X عند تقييمها على المحور التخيلي. ويمكن اعتبار هذه الدالة أيضًا تحويل فورييه لدالة كثافة الاحتمال ، والتي يمكن استنتاجها منها عن طريق تحويل فورييه العكسي.

دالة توليد العزوم

يتم تعريف دالة توليد العزوم على أنها لوغاريتم دالة توليد العزوم؛ بينما يقوم البعض بتعريف دالة توليد العزوم على أنها لوغاريتم الدالة المميزة ، في حين يسميها آخرون دالة توليد العزوم الثانية .

دالة توليد الاحتمالات

تُعرَّف دالة توليد الاحتمالات على النحو التالي :${\displaystyle G(z)=\operatorname {E} \left[z^{X}\right].}$وهذا يعني مباشرة أن${\displaystyle G(e^{t})=\operatorname {E} \left[e^{tX}\right]=M_{X}(t).}$

• الدالة المميزة (نظرية الاحتمالات)
• دالة توليد العزوم العاملية
• دالة المعدل
• مشكلة لحظة الهامبرغر