لوجيت بوست

في مجال التعلم الآلي ونظرية التعلم الحسابي ، يعتبر LogitBoost خوارزمية تعزيز صاغها جيروم فريدمان وتريفور هاستي وروبرت تيبشيراني .

تُقدّم الورقة البحثية الأصلية خوارزمية AdaBoost ضمن إطار إحصائي. [ 1 ] تحديدًا، إذا اعتبرنا AdaBoost نموذجًا جمعيًا معمّمًا ، ثم طبقنا دالة التكلفة للانحدار اللوجستي ، يُمكننا اشتقاق خوارزمية LogitBoost. [ 2 ]

تقليل دالة تكلفة LogitBoost

يمكن اعتبار LogitBoost عملية تحسين محدبة . على وجه التحديد، بالنظر إلى أننا نسعى إلى نموذج إضافي من الشكل

و=تαتحت{\displaystyle f=\sum _{t}\alpha _{t}h_{t}}

تعمل خوارزمية LogitBoost على تقليل الخسارة اللوجستية :

أناسجل(1+هـ-yأناو(xأنا)){\displaystyle \sum _{i}\log \left(1+e^{-y_{i}f(x_{i})}\right)}

انظر أيضاً

مراجع

  1. فريدمان، جيروم؛ هاستي، تريفور؛ تيبشيراني، روبرت (2000). "الانحدار اللوجستي الإضافي: نظرة إحصائية على التعزيز". حوليات الإحصاء . 28 (2): 337-407 . CiteSeerX 10.1.1.51.9525 . doi : 10.1214/aos/1016218223 . 
  2. "خوارزميات التعلم الآلي للمبتدئين" . 22 سبتمبر 2023. تم الاطلاع عليه بتاريخ 1 أكتوبر 2023 .