احتمالية اللوغاريتم

في نظرية الاحتمالات وعلوم الحاسوب ، يُعرف الاحتمال اللوغاريتمي ببساطة بأنه لوغاريتم الاحتمال . [ 1 ^{] ويعني استخدام} الاحتمالات اللوغاريتمية تمثيل الاحتمالات على مقياس لوغاريتمي.${\displaystyle (-\infty ,0]}$، بدلاً من المعيار${\displaystyle [0,1]}$فاصل الوحدة .

بما أن احتمالات الأحداث المستقلة تتضاعف، واللوغاريتمات تحول الضرب إلى جمع، فإن لوغاريتمات احتمالات الأحداث المستقلة تتجمع. لذا، تُعد لوغاريتمات الاحتمالات عمليةً في الحسابات، ولها تفسير بديهي في نظرية المعلومات : فالقيمة المتوقعة السالبة للوغاريتمات الاحتمالات هي إنتروبيا المعلومات للحدث. وبالمثل، غالبًا ما تُحوّل احتمالات وقوع الأحداث إلى المقياس اللوغاريتمي، ويمكن تفسير لوغاريتم الاحتمال المقابل على أنه مدى دعم الحدث لنموذج إحصائي . يُستخدم لوغاريتم الاحتمال على نطاق واسع في تطبيقات الحسابات الاحتمالية، ويُدرس كمفهوم مستقل في بعض تطبيقات نظرية المعلومات، مثل معالجة اللغات الطبيعية .

إن تمثيل الاحتمالات بهذه الطريقة له العديد من المزايا العملية:

1. السرعة. بما أن الضرب أكثر تكلفة من الجمع، فإن حساب حاصل ضرب عدد كبير من الاحتمالات يكون أسرع غالبًا إذا تم تمثيلها بالصيغة اللوغاريتمية. (التحويل إلى الصيغة اللوغاريتمية مكلف، ولكنه يتم مرة واحدة فقط). ينشأ الضرب من حساب احتمال وقوع أحداث مستقلة متعددة: احتمال وقوع جميع الأحداث المستقلة محل الاهتمام هو حاصل ضرب احتمالات جميع هذه الأحداث.
2. الدقة. إن استخدام الاحتمالات اللوغاريتمية يحسن الاستقرار العددي ، عندما تكون الاحتمالات صغيرة جدًا، وذلك بسبب الطريقة التي تقرب بها أجهزة الكمبيوتر الأعداد الحقيقية . ^{[ 1 ]}
3. البساطة. تتخذ العديد من التوزيعات الاحتمالية شكلاً أُسّيًا. يؤدي أخذ لوغاريتم هذه التوزيعات إلى حذف الدالة الأُسّية، أي فكّ الأس. على سبيل المثال، لوغاريتم احتمال دالة كثافة الاحتمال للتوزيع الطبيعي هو${\displaystyle -((x-m_{x})/\sigma _{m})^{2}+C}$بدلاً من${\displaystyle C_{2}\exp \left(-((x-m_{x})/\sigma _{m})^{2}\right)}$. تجعل الاحتمالات اللوغاريتمية بعض العمليات الرياضية أسهل في التنفيذ.
4. التحسين. بما أن معظم التوزيعات الاحتمالية الشائعة - ولا سيما عائلة التوزيعات الأسية - مقعرة لوغاريتميًا فقط ، ^{[ 2 ] [ 3 ]} ويلعب تقعر دالة الهدف دورًا رئيسيًا في تعظيم دالة مثل الاحتمال، فإن المحسنات تعمل بشكل أفضل مع الاحتمالات اللوغاريتمية.

دالة اللوغاريتم غير مُعرَّفة للصفر، لذا فإن احتمالات اللوغاريتم لا تُمثِّل إلا الاحتمالات غير الصفرية. بما أن لوغاريتم عدد ما في${\displaystyle (0,1)}$إذا كانت الفترة سالبة، فغالباً ما تُستخدم احتمالات اللوغاريتم السالبة. في هذه الحالة، يتم عكس احتمالات اللوغاريتم في الصيغ التالية .

يمكن اختيار أي أساس للوغاريتم.

في هذا القسم، سنحدد الاحتمالات في الفضاء اللوغاريتمي${\displaystyle x'}$و${\displaystyle y'}$باختصار: $${\displaystyle {\begin{aligned}x'&=\log(x)\in \mathbb {R} \\y'&=\log(y)\in \mathbb {R} \end{aligned}}}$$

حاصل ضرب الاحتمالات${\displaystyle x\cdot y}$يتوافق مع الجمع في الفضاء اللوغاريتمي.

$${\displaystyle \log(x\cdot y)=\log(x)+\log(y)=x'+y'.}$$

مجموع الاحتمالات${\displaystyle x+y}$يُعد حسابها في الفضاء اللوغاريتمي أكثر تعقيدًا بعض الشيء، ويتطلب حساب أس واحد ولوغاريتم واحد.

مع ذلك، في العديد من التطبيقات، يُستخدم ضرب الاحتمالات (الذي يُعطي احتمال وقوع جميع الأحداث المستقلة) أكثر من جمعها (الذي يُعطي احتمال وقوع حدث واحد على الأقل من الأحداث المتنافية). إضافةً إلى ذلك، يمكن تجنب تكلفة حساب الجمع في بعض الحالات باستخدام أعلى احتمال كتقريب. وبما أن الاحتمالات غير سالبة، فإن هذا يُعطي حدًا أدنى. يُستخدم هذا التقريب عكسيًا للحصول على تقريب متصل لدالة القيمة القصوى .

• محتوى المعلومات
• احتمالية اللوغاريتم