توزيع برنولي المستمر

في نظرية الاحتمالات والإحصاء والتعلم الآلي ، يُعد توزيع برنولي المستمر ^{[ 1 ] [ 2 ] [ 3 ]} عائلة من التوزيعات الاحتمالية المستمرة التي يتم تحديدها بواسطة مُعامل شكل واحد .${\displaystyle \lambda \in (0,1)}$، معرفة على الفترة 1${\displaystyle x\in [0,1]}$، بواسطة:

${\displaystyle p(x|\lambda )\propto \lambda ^{x}(1-\lambda )^{1-x}.}$

يظهر توزيع برنولي المستمر في التعلم العميق ورؤية الحاسوب ، وتحديدًا في سياق المشفرات التلقائية التباينية ، ^{[ 4 ] [ 5 ]} لنمذجة شدة البكسل في الصور الطبيعية. وبذلك، يُعرّف هذا التوزيع نظيرًا احتماليًا مناسبًا لخسارة الإنتروبيا التقاطعية الثنائية الشائعة الاستخدام ، والتي غالبًا ما تُطبق على التوزيعات المستمرة.${\displaystyle [0,1]}$البيانات ذات القيم. ^{[ 6 ] [ 7 ] [ 8 ] [ 9 ]} هذه الممارسة تعني تجاهل ثابت التطبيع لتوزيع برنولي المستمر، لأن خسارة الإنتروبيا التقاطعية الثنائية لا تحدد سوى احتمالية لوغاريتمية حقيقية للبيانات المنفصلة.${\displaystyle \{0,1\}}$بيانات ذات قيم.

يُعرّف توزيع برنولي المستمر أيضًا عائلةً أسيةً من التوزيعات. كتابة${\displaystyle \theta =\log \left(\lambda /(1-\lambda )\right)}$بالنسبة للمعامل الطبيعي ، يمكن إعادة كتابة الكثافة في شكلها المتعارف عليه: ${\displaystyle p(x|\theta )\propto \exp(\theta x)}$[ ^{10 ]​}

بالنظر إلى عينة مستقلة من${\displaystyle n}$نقاط${\displaystyle x_{1},\dots ,x_{n}}$مع${\displaystyle x_{i}\in [0,1]\,\forall i}$من برنولي المستمر، لوغاريتم الاحتمالية للمعامل الطبيعي${\displaystyle \theta }$يكون

${\displaystyle {\mathcal {L}}(\theta )=\theta \sum _{i=1}^{n}x_{i}-n\log\{(e^{\theta }-1)/\theta \}}$

ومُقدِّر الاحتمال الأقصى للمعامل الطبيعي${\displaystyle \theta }$هو حل${\displaystyle {\mathcal {L}}'(\theta )=0}$، إنه،${\displaystyle {\hat {\theta }}}$يرضي

${\displaystyle {\frac {e^{\hat {\theta }}}{e^{\hat {\theta }}-1}}-{\frac {1}{\hat {\theta }}}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}}$

حيث الجانب الأيسر${\displaystyle e^{\hat {\theta }}/(e^{\hat {\theta }}-1)-{\hat {\theta }}^{-1}}$القيمة المتوقعة لتوزيع برنولي المستمر ذي المعامل${\displaystyle {\hat {\theta }}}$. بالرغم من${\displaystyle {\hat {\theta }}}$لا تقبل صيغة مغلقة، ولكن يمكن حسابها بسهولة باستخدام الانعكاس العددي.

إنتروبيا توزيع برنولي المستمر هي

${\displaystyle \operatorname {H} [X]={\begin{cases}0&{\text{ إذا كان }}\lambda ={\frac {1}{2}}\\{\frac {\lambda \log \left(\lambda \right)-\left(1-\lambda \right)\log \left(1-\lambda \right)}{1-2\lambda }}-\log \left({\frac {2\tanh ^{-1}\left(1-2\lambda \right)}{e\left(1-2\lambda \right)}}\right)&{\text{ خلاف ذلك}}\end{cases}}\!}$