التحويل (التعلم الآلي)

في المنطق والاستدلال الإحصائي والتعلم الخاضع للإشراف ، يُعرف الاستدلال الاستقرائي بأنه الاستدلال من حالات محددة مُلاحظة (التدريب) إلى حالات محددة (الاختبار). في المقابل، يُعرف الاستقراء بأنه الاستدلال من حالات التدريب المُلاحظة إلى قواعد عامة، تُطبق بعد ذلك على حالات الاختبار. يبرز هذا التمييز بشكلٍ خاص في الحالات التي لا يُمكن فيها لأي نموذج استقرائي تحقيق تنبؤات النموذج الاستقرائي. تجدر الإشارة إلى أن هذا ناتج عن الاستدلال الاستقرائي على مجموعات اختبار مختلفة، مما يُنتج تنبؤات غير متسقة فيما بينها.

طُرح مفهوم الاستدلال التحويلي في سياق علوم الحاسوب على يد فلاديمير فابنيك في تسعينيات القرن الماضي، انطلاقًا من رأيه بأن الاستدلال التحويلي أفضل من الاستقراء، إذ يرى أن الاستقراء يتطلب حل مشكلة أكثر عمومية (استنتاج دالة) قبل حل مشكلة أكثر تحديدًا (حساب المخرجات لحالات جديدة): "عند حل مشكلة معينة، لا تحل مشكلة أكثر عمومية كخطوة وسيطة. حاول الحصول على الإجابة التي تحتاجها فعلاً، وليس إجابة أكثر عمومية." ^{[ 1 ]}

من الأمثلة على التعلم غير الاستقرائي التصنيف الثنائي، حيث تميل المدخلات إلى التجمع في مجموعتين. قد تساعد مجموعة كبيرة من مدخلات الاختبار في تحديد هذه المجموعات، مما يوفر معلومات مفيدة حول تصنيفات البيانات. لا يمكن الحصول على نفس التنبؤات من نموذج يستنتج دالة بناءً على حالات التدريب فقط. قد يُطلق البعض على هذا مثالًا على التعلم شبه الموجه ، نظرًا لاختلاف دوافع فابنيك. يُعد خوارزمية أقرب جار k المثال الأكثر شهرة لخوارزمية التعلم القائمة على الحالات ، وهي مرتبطة بخوارزميات التعلم الاستقرائي. ^{[ 2 ]} ومن الأمثلة الأخرى على خوارزمية في هذه الفئة آلة المتجهات الداعمة الاستقرائية (TSVM).

ثمة دافع ثالث محتمل للتحويل ينشأ من الحاجة إلى التقريب. فإذا كان الاستدلال الدقيق مكلفًا حسابيًا، يمكن على الأقل محاولة ضمان جودة التقريبات عند مدخلات الاختبار. في هذه الحالة، يمكن أن تأتي مدخلات الاختبار من توزيع عشوائي (لا يرتبط بالضرورة بتوزيع مدخلات التدريب)، وهو أمر غير مسموح به في التعلم شبه الموجه. ومن الأمثلة على الخوارزميات التي تندرج ضمن هذه الفئة آلة اللجنة البايزية (BCM).

كان أسلوب الاستدلال من الجزئيات إلى الجزئيات، الذي أطلق عليه فابنيك اسم "التحويل"، قد تم تمييزه مسبقًا عن أسلوب الاستدلال من الجزئيات إلى التعميمات في الجزء الثالث من كتاب " المنطق " للفيلسوف والمنطقي الكامبريدجي دبليو إي جونسون ، الصادر عام 1924. في كتاب جونسون، سُمي الأسلوب الأول "الاستنتاج" والثاني "الاستقراء". طور برونو دي فينيتي شكلًا ذاتيًا بحتًا من نظرية بايز، حيث يمكن ترجمة الادعاءات المتعلقة بالاحتمالات الموضوعية إلى ادعاءات مقبولة تجريبيًا حول المعتقدات الذاتية فيما يتعلق بالمتغيرات القابلة للملاحظة من خلال خصائص التبادل. يمكن إيجاد بيان مبكر لهذا الرأي في كتابه " التنبؤ: قوانينه المنطقية، مصادره الذاتية" الصادر عام 1937 ، وبيان أكثر نضجًا في كتابه " نظرية الاحتمالات" الصادر عام 1970. ضمن إطار دي فينيتي البايزي الذاتي، يُعد كل استدلال استقرائي في نهاية المطاف استدلالًا من الجزئيات إلى الجزئيات.

يوضح المثال التالي بعض الخصائص الفريدة للتحويل مقابل الاستقراء.

لدينا مجموعة من النقاط، بعضها مُصنّف (أ، ب، أو ج)، بينما معظمها غير مُصنّف. الهدف هو تحديد التصنيفات المناسبة لجميع النقاط غير المُصنّفة.

يتمثل النهج الاستقرائي لحل هذه المشكلة في استخدام النقاط المصنفة لتدريب خوارزمية تعلم مُشرف ، ثم جعلها تتنبأ بتصنيفات جميع النقاط غير المصنفة. مع ذلك، في هذه الحالة، ستعتمد خوارزمية التعلم المُشرف على خمس نقاط مصنفة فقط كأساس لبناء نموذج تنبؤي. ومن المؤكد أنها ستواجه صعوبة في بناء نموذج يجسد بنية هذه البيانات. على سبيل المثال، إذا استُخدمت خوارزمية أقرب جار، فسيتم تصنيف النقاط القريبة من المنتصف بـ "أ" أو "ج"، على الرغم من أنه من الواضح أنها تنتمي إلى نفس المجموعة التي تنتمي إليها النقطة المصنفة بـ "ب"، وذلك على عكس التعلم شبه المُشرف .

تتميز عملية الاستدلال الاستقرائي بقدرتها على مراعاة جميع النقاط، وليس فقط النقاط المصنفة، أثناء عملية التصنيف. في هذه الحالة، تقوم خوارزميات الاستدلال الاستقرائي بتصنيف النقاط غير المصنفة وفقًا للمجموعات التي تنتمي إليها بشكل طبيعي. وبالتالي، من المرجح أن تُصنف النقاط في المنتصف بالفئة "ب"، لأنها متقاربة جدًا من تلك المجموعة.

تتمثل إحدى مزايا الاستدلال في قدرته على تقديم تنبؤات أفضل باستخدام عدد أقل من النقاط المصنفة، وذلك بفضل استغلاله للفواصل الطبيعية الموجودة في النقاط غير المصنفة. أما عيبه، فهو عدم قدرته على بناء نموذج تنبؤي. فإذا أُضيفت نقطة غير معروفة سابقًا إلى المجموعة، فسيتعين تكرار خوارزمية الاستدلال بأكملها مع جميع النقاط للتنبؤ بتصنيفها. وقد يكون هذا مكلفًا حسابيًا إذا ما توفرت البيانات تدريجيًا في تدفق مستمر. علاوة على ذلك، قد يؤدي ذلك إلى تغيير تنبؤات بعض النقاط القديمة (وهو أمر قد يكون إيجابيًا أو سلبيًا، بحسب التطبيق). في المقابل، تستطيع خوارزمية التعلم الخاضع للإشراف تصنيف النقاط الجديدة فورًا، بتكلفة حسابية ضئيلة للغاية.

يمكن تقسيم خوارزميات التحويل بشكل عام إلى فئتين: تلك التي تسعى إلى إسناد تصنيفات منفصلة لنقاط غير مصنفة، وتلك التي تسعى إلى استنتاج تصنيفات متصلة لنقاط غير مصنفة. تُشتق الخوارزميات التي تسعى إلى التنبؤ بالتصنيفات المنفصلة عادةً بإضافة إشراف جزئي إلى خوارزمية التجميع . ويمكن استخدام فئتين من الخوارزميات: التجميع المسطح والتجميع الهرمي . ويمكن تقسيم الأخير بدوره إلى فئتين: تلك التي تُجمّع بالتقسيم، وتلك التي تُجمّع بالتجميع. أما الخوارزميات التي تسعى إلى التنبؤ بالتصنيفات المتصلة، فتُشتق عادةً بإضافة إشراف جزئي إلى خوارزمية تعلم التنوع .

اعتبر مجموعة جميع النقاط بمثابة قسم واحد كبير. بينما يحتوي أي قسم P على نقطتين تحملان تسميات متضاربة: قسّم المجموعة P إلى أقسام أصغر. لكل قسم P: قم بتعيين نفس التسمية لجميع النقاط في P.

احسب المسافات الزوجية، D، بين جميع النقاط. رتب المجموعة D ترتيباً تصاعدياً. اعتبر كل نقطة بمثابة مجموعة من 1. لكل زوج من النقاط {أ، ب} في D: إذا (أ غير مصنف) أو (ب غير مصنف) أو (أ و ب لهما نفس التصنيف) ادمج المجموعتين اللتين تحتويان على a و b. قم بتسمية جميع النقاط في المجموعة المدمجة بنفس التسمية.

عملية نقل الإشارة ترتبط ارتباطًا وثيقًا بما يلي:

• التعلم شبه الخاضع للإشراف - يستخدم البيانات المصنفة وغير المصنفة ولكنه عادة ما يستنتج نموذجًا.
• الاستدلال القائم على الحالات - مثل خوارزمية أقرب جار k (k-NN) ، والتي تعتبر في كثير من الأحيان طريقة استقرائية.
• آلات المتجهات الداعمة الاستقرائية (TSVM) - توسع آلات المتجهات الداعمة القياسية لتضمين بيانات الاختبار غير المصنفة أثناء التدريب.
• آلة اللجنة البايزية (BCM) - طريقة تقريبية تقوم بتنبؤات استقرائية عندما يكون الاستدلال الدقيق مكلفًا للغاية.

• التعلم شبه الموجه
• الاستدلال القائم على الحالات
• خوارزمية أقرب جار k
• آلة المتجهات الداعمة

• دي فينيتي، برونو. "La prévision: ses lois logiques، ses مصادر ذاتية." حوليات معهد هنري بوانكاريه. المجلد. 7. رقم 1. 1937.
• دي فينيتي، برونو (1970). نظرية الاحتمالات: معالجة تمهيدية نقدية. نيويورك: جون وايلي.
• WE Johnson Logic part III , CUP Archive, 1924.
• ب. راسل. مشاكل الفلسفة ، مكتبة الجامعة الرئيسية، 1912..
• VN Vapnik. نظرية التعلم الإحصائي . نيويورك: وايلي، 1998. (انظر الصفحات 339-371)
• V. Tresp. A Bayesian committee machine , Neural Computation, 12, 2000, pdf .

• أ. غامرمان، ف. فوفك، ف. فابنيك (1998). " التعلم عن طريق الاستقراء ". شرح مبكر للتعلم الاستقراء.
• " مناقشة التعلم شبه الموجه والتحويل "، الفصل 25 من كتاب التعلم شبه الموجه، تحرير أوليفييه شابيل، وبرنهارد شولكوف، وألكسندر زين (2006). مطبعة معهد ماساتشوستس للتكنولوجيا. مناقشة الفرق بين التعلم شبه الموجه والتحويل.
• Waffles هي مكتبة مفتوحة المصدر مكتوبة بلغة C++ لخوارزميات التعلم الآلي، بما في ذلك خوارزميات التحويل، والتي تُعرف أيضًا باسم Waffles .
• SVMlight عبارة عن حزمة SVM للأغراض العامة تتضمن خيار SVM الاستقرائي.