فرضيات متعددة

تفترض فرضية التشعب أن العديد من مجموعات البيانات عالية الأبعاد الموجودة في العالم الحقيقي تقع في الواقع على طول تشعبات كامنة منخفضة الأبعاد داخل ذلك الفضاء عالي الأبعاد. ^{[ 1 ] [ 2 ] [ 3 ] [ 4 ]} ونتيجةً لهذه الفرضية، يمكن وصف العديد من مجموعات البيانات التي تبدو في البداية وكأنها تتطلب العديد من المتغيرات لوصفها، بعدد قليل نسبيًا من المتغيرات المرتبطة بنظام الإحداثيات المحلي للتشعب الأساسي. ويُقترح أن هذا المبدأ يدعم فعالية خوارزميات التعلم الآلي في وصف مجموعات البيانات عالية الأبعاد من خلال مراعاة بعض السمات المشتركة.

ترتبط فرضية التشعب بفعالية تقنيات تقليل الأبعاد غير الخطية في التعلم الآلي. تفترض العديد من تقنيات تقليل الأبعاد أن البيانات تقع على طول تشعب فرعي منخفض الأبعاد، مثل تشكيل التشعب ، ومحاذاة التشعب ، وتنظيم التشعب .

تتمثل أهم نتائج هذه الفرضية في أن

• لا يتعين على نماذج التعلم الآلي سوى ملاءمة المساحات الفرعية البسيطة نسبيًا، ذات الأبعاد المنخفضة، والمنظمة للغاية ضمن مساحة الإدخال المحتملة الخاصة بها (المشعبات الكامنة).
• ضمن إحدى هذه المتشعبات، من الممكن دائمًا إجراء استيفاء بين مدخلين، أي تحويل أحدهما إلى الآخر عبر مسار مستمر تقع جميع النقاط على طوله على المتشعب.

تُعد القدرة على الاستيفاء بين العينات مفتاح التعميم في التعلم العميق . ^{[ 5 ]}

يركز النهج التجريبي لفرضية التنوع على مدى توافقها مع نظرية فعّالة لتعلم التنوع، انطلاقًا من افتراض أن التعلم الآلي القوي يتطلب ترميز مجموعة البيانات محل الاهتمام باستخدام أساليب ضغط البيانات. وقد برز هذا المنظور تدريجيًا باستخدام أدوات هندسة المعلومات بفضل الجهود المنسقة للعلماء العاملين على فرضية الترميز الفعال ، والترميز التنبؤي ، وأساليب بايز المتغيرة .

تستند الحجة المؤيدة للاستدلال حول هندسة المعلومات على الفضاء الكامن للتوزيعات إلى وجود وتفرد مقياس معلومات فيشر . ^{[ 6 ]} في هذا السياق العام، نسعى لإيجاد تضمين عشوائي لمتشعب إحصائي. من منظور الأنظمة الديناميكية، وفي مجال البيانات الضخمة ، يُظهر هذا المتشعب عمومًا خصائص معينة مثل التوازن الداخلي.

1. يمكننا أخذ عينات من كميات كبيرة من البيانات من عملية التوليد الأساسية.
2. تجارب التعلم الآلي قابلة للتكرار، لذا فإن إحصائيات عملية التوليد تُظهر ثباتًا.

بمعنى أوضحه علماء الأعصاب النظريون الذين يعملون على مبدأ الطاقة الحرة ، فإن الفضاء الإحصائي المعني يمتلك غطاء ماركوف . ^{[ 7 ]}

• تعقيد كولموغوروف
• الحد الأدنى لطول الوصف
• نظرية سولومونوف للاستدلال الاستقرائي