نظام تصنيف التعلم

تمثيل ثنائي الأبعاد لقواعد خوارزمية LCS وهي تتعلم تقريب دالة ثلاثية الأبعاد. يمثل كل شكل بيضاوي أزرق قاعدة فردية تغطي جزءًا من فضاء الحل. (مقتبس من صور مأخوذة من XCSF [ 1 ] بإذن من مارتن بوتز)

تُعدّ أنظمة تصنيف التعلّم ، أو LCS ، نموذجًا لأساليب التعلّم الآلي القائمة على القواعد ، حيث تجمع بين عنصر الاكتشاف (مثل الخوارزمية الجينية في الحوسبة التطورية ) وعنصر التعلّم (الذي يُنفّذ إما التعلّم الخاضع للإشراف ، أو التعلّم المعزز ، أو التعلّم غير الخاضع للإشراف ). [ 2 ] تسعى أنظمة تصنيف التعلّم إلى تحديد مجموعة من القواعد المعتمدة على السياق، والتي تُخزّن المعرفة وتُطبّقها بشكل تدريجيّ بهدف التنبؤ (مثل نمذجة السلوك ، [ 3 ] والتصنيف ، [ 4 ] [ 5 ] واستخراج البيانات ، [ 5 ] [ 6 ] [ 7 ] والانحدار ، [ 8 ] وتقريب الدوال ، [ 9 ] أو استراتيجية الألعاب ). يُمكّن هذا النهج من تقسيم مساحات الحلول المعقدة إلى أجزاء أصغر وأبسط للتعلّم المعزز الذي يُمثّل جوهر أبحاث الذكاء الاصطناعي.

لقد جاءت المفاهيم التأسيسية وراء أنظمة تصنيف التعلم من محاولات نمذجة الأنظمة التكيفية المعقدة ، باستخدام عوامل قائمة على القواعد لتشكيل نظام معرفي اصطناعي (أي الذكاء الاصطناعي ).

المنهجية

قد تتفاوت بنية ومكونات نظام تصنيف التعلم بشكل كبير. من المفيد اعتبار نظام تصنيف التعلم بمثابة آلة تتكون من عدة مكونات متفاعلة. يمكن إضافة مكونات أو إزالتها، أو تعديل/استبدال المكونات الموجودة لتناسب متطلبات مجال مشكلة معين (مثل اللبنات الأساسية للخوارزمية) أو لجعل الخوارزمية مرنة بما يكفي للعمل في العديد من مجالات المشاكل المختلفة. ونتيجة لذلك، يمكن تطبيق نموذج نظام تصنيف التعلم بمرونة على العديد من مجالات المشاكل التي تتطلب التعلم الآلي . وتتلخص التقسيمات الرئيسية بين تطبيقات نظام تصنيف التعلم فيما يلي: (1) بنية ميشيغان مقابل بنية بيتسبرغ، [ 10 ] (2) التعلم المعزز مقابل التعلم الخاضع للإشراف ، (3) التعلم التزايدي مقابل التعلم الدفعي، (4) التعلم عبر الإنترنت مقابل التعلم دون اتصال بالإنترنت ، (5) اللياقة القائمة على القوة مقابل اللياقة القائمة على الدقة، و(6) رسم خرائط الإجراءات الكاملة مقابل رسم خرائط أفضل الإجراءات. هذه التقسيمات ليست بالضرورة حصرية. على سبيل المثال، XCS، [ 11 ] وهي خوارزمية LCS الأكثر شهرة والأكثر دراسة، هي على نمط ميشيغان، وقد صُممت للتعلم المعزز ولكن يمكنها أيضًا إجراء التعلم الخاضع للإشراف، وتطبق التعلم التزايدي الذي يمكن أن يكون متصلاً بالإنترنت أو غير متصل، وتطبق اللياقة القائمة على الدقة، وتسعى إلى إنشاء خريطة عمل كاملة.

عناصر خوارزمية LCS العامة

مخطط توضيحي خطوة بخطوة لدورة تعلم نظام تصنيف التعلم العام على نمط ميشيغان الذي يقوم بالتعلم الخاضع للإشراف

مع الأخذ في الاعتبار أن خوارزمية LCS هي نموذج للتعلم الآلي القائم على الجينات وليست طريقة محددة، يوضح ما يلي العناصر الأساسية لخوارزمية LCS عامة وحديثة (أي ما بعد XCS). ولتبسيط الأمر، دعونا نركز على بنية ميشيغان مع التعلم الخاضع للإشراف. انظر إلى الرسوم التوضيحية على اليمين التي توضح الخطوات المتسلسلة المتبعة في هذا النوع من خوارزميات LCS العامة.

بيئة

البيئة هي مصدر البيانات التي يتعلم منها نظام التعلم القائم على التعلم (LCS). قد تكون مجموعة بيانات تدريبية محدودة غير متصلة بالإنترنت (وهي سمة مميزة لمشاكل استخراج البيانات أو التصنيف أو الانحدار)، أو تدفقًا متسلسلًا مباشرًا لحالات التدريب. يُفترض أن كل حالة تدريب تتضمن عددًا من الميزات (تُعرف أيضًا بالسمات أو المتغيرات المستقلة )، ونقطة نهاية واحدة ذات أهمية (تُعرف أيضًا بالفئة أو الفعل أو النمط الظاهري أو التنبؤ أو المتغير التابع ). قد يتضمن جزء من تعلم نظام التعلم القائم على التعلم اختيار الميزات ، لذا ليس من الضروري أن تكون جميع الميزات في بيانات التدريب مفيدة. تُعرف مجموعة قيم الميزات لحالة ما عادةً بالحالة . ولتبسيط الأمر، لنفترض مجال مشكلة كمثال بميزات منطقية / ثنائية وفئة منطقية / ثنائية . بالنسبة للأنظمة من نمط ميشيغان، يتم تدريب حالة واحدة من البيئة في كل دورة تعلم (أي التعلم التزايدي). تقوم الأنظمة على غرار بيتسبرغ بتنفيذ التعلم الدفعي، حيث يتم تقييم مجموعات القواعد في كل تكرار على جزء كبير أو كل بيانات التدريب.

القاعدة/المصنف/المجموعة السكانية

القاعدة هي علاقة تعتمد على السياق بين قيم الحالة وتنبؤ معين. عادةً ما تأخذ القواعد شكل تعبير {إذا:ثم} (مثل { إذا كان 'شرط'، فـ'فعل'}، أو كمثال أكثر تحديدًا، {إذا كان 'أحمر' و'مثمن'، فـ'إشارة توقف'} ). من المفاهيم الأساسية في كل من خوارزمية البحث عن العُقد الكامنة (LCS) والتعلم الآلي القائم على القواعد، أن القاعدة الفردية ليست نموذجًا بحد ذاتها، لأنها لا تُطبَّق إلا عند تحقق شرطها. تخيَّل القاعدة كنموذج محلي لمساحة الحل.

يمكن تمثيل القواعد بطرقٍ عديدة للتعامل مع أنواع البيانات المختلفة (مثل البيانات الثنائية، والبيانات ذات القيم المنفصلة، ​​والبيانات الترتيبية، والبيانات ذات القيم المتصلة). عند التعامل مع البيانات الثنائية، يطبق نظام LCS عادةً تمثيلًا ثلاثيًا للقواعد (أي أن القواعد يمكن أن تتضمن إما 0 أو 1 أو '#' لكل خاصية في البيانات). يعمل رمز "عدم الاكتراث" (أي '#') كرمز بدل ضمن شرط القاعدة، مما يسمح للقواعد، وللنظام ككل، بتعميم العلاقات بين الخصائص ونقطة النهاية المستهدفة المراد التنبؤ بها. لنأخذ القاعدة التالية (#1###0 ~ 1) (أي الشرط ~ الإجراء). يمكن تفسير هذه القاعدة على النحو التالي: إذا كانت الخاصية الثانية = 1 والخاصية السادسة = 0، فإن التنبؤ بالفئة = 1. نقول إن الخاصيتين الثانية والسادسة تم تحديدهما في هذه القاعدة، بينما تم تعميم الخصائص الأخرى. تنطبق هذه القاعدة، والتنبؤ المقابل لها، فقط على حالة معينة عندما يتحقق شرط القاعدة فيها. يُشار إلى هذا عادةً باسم المطابقة. في نظام البحث التنافسي ذي النمط الميشيغاني، لكل قاعدة قيمة لياقة خاصة بها، بالإضافة إلى عدد من معايير القاعدة الأخرى المرتبطة بها، والتي تصف عدد نسخ تلك القاعدة الموجودة (أي العددية ) ، وعمر القاعدة، ودقتها، أو دقة توقعاتها للمكافأة، وإحصاءات وصفية أو تجريبية أخرى. يُشار إلى القاعدة مع معاييرها عادةً باسم " المصنف" . في أنظمة النمط الميشيغاني، تُضمّن المصنفات ضمن مجموعة [P]، والتي يحدد المستخدم الحد الأقصى لعدد المصنفات فيها. على عكس معظم خوارزميات البحث العشوائي (مثل الخوارزميات التطورية )، تبدأ مجموعات البحث التنافسي فارغة (أي لا حاجة لتهيئة مجموعة القواعد عشوائيًا). بدلًا من ذلك، تُضاف المصنفات إلى المجموعة مبدئيًا باستخدام آلية تغطية.

في أي نظام تصنيف قائم على القواعد، يكون النموذج المُدرَّب عبارة عن مجموعة من القواعد/المصنفات، وليس قاعدة/مصنفًا واحدًا. في نظام التصنيف القائم على القواعد على طريقة ميشيغان، تُشكِّل مجموعة المصنفات المُدرَّبة بالكامل (والتي يمكن ضغطها اختياريًا) نموذج التنبؤ.

المطابقة

تُعدّ عملية المطابقة من أهمّ عناصر نظام التعلّم القائم على السياق (LCS)، وغالبًا ما تستغرق وقتًا طويلًا. تبدأ دورة التعلّم في نظام LCS بأخذ نموذج تدريب واحد من البيئة وتمريره إلى [P] حيث تتمّ المطابقة. في الخطوة الثانية، تُقارن كلّ قاعدة في [P] بنموذج التدريب لتحديد القواعد المطابقة (أي ذات الصلة السياقية بالنموذج الحالي). في الخطوة الثالثة، تُنقل القواعد المطابقة إلى مجموعة مطابقة [M]. تُطابق القاعدة نموذج التدريب إذا كانت جميع قيم الميزات المحددة في شرط القاعدة مُكافئة لقيمة الميزة المقابلة في نموذج التدريب. على سبيل المثال، بافتراض أن نموذج التدريب هو (001001 ~ 0)، فإنّ القواعد التالية ستُطابق: (###0## ~ 0)، (00###1 ~ 0)، (#01001 ~ 1)، بينما لن تُطابق القواعد التالية: (1##### ~ 0)، (000##1 ~ 0)، (#0#1#0 ~ 1). تجدر الإشارة إلى أنّه في عملية المطابقة، لا يُؤخذ في الاعتبار نقطة النهاية/الإجراء المحدد في القاعدة. نتيجةً لذلك، قد تحتوي مجموعة التطابقات على مصنفات تقترح إجراءات متضاربة. في الخطوة الرابعة، وبما أننا نطبق التعلم الخاضع للإشراف، تُقسّم [M] إلى مجموعة صحيحة [C] ومجموعة خاطئة [I]. تُضاف قاعدة المطابقة إلى المجموعة الصحيحة إذا اقترحت الإجراء الصحيح (استنادًا إلى الإجراء المعروف لحالة التدريب)، وإلا تُضاف إلى [I]. في التعلم المعزز LCS، تُشكّل مجموعة إجراءات [A] هنا بدلًا من ذلك، نظرًا لعدم معرفة الإجراء الصحيح.

تغطية

في هذه المرحلة من دورة التعلم، إذا لم يتم إدراج أي مصنف في [M] أو [C] (كما هو الحال عندما تبدأ المجموعة فارغة)، يتم تطبيق آلية التغطية (الخطوة الخامسة). التغطية هي شكل من أشكال التهيئة الذكية للمجموعة عبر الإنترنت . تقوم التغطية بتوليد قاعدة عشوائية تُطابق حالة التدريب الحالية (وفي حالة التعلم الخاضع للإشراف، يتم توليد هذه القاعدة أيضًا بالإجراء الصحيح). بافتراض أن حالة التدريب هي (001001 ~ 0)، قد تُولد التغطية أيًا من القواعد التالية: (#0#0## ~ 0)، (001001 ~ 0)، (#010## ~ 0). لا تضمن التغطية فقط وجود قاعدة واحدة صحيحة على الأقل في [C] في كل دورة تعلم، بل تضمن أيضًا أن أي قاعدة يتم تهيئتها في المجموعة ستُطابق حالة تدريب واحدة على الأقل. هذا يمنع خوارزمية LCS من استكشاف فضاء البحث عن القواعد التي لا تُطابق أي حالة تدريب.

تحديثات المعلمات/تخصيص الرصيد/التعلم

في الخطوة السادسة، تُحدَّث معلمات أي قاعدة في [M] لتعكس الخبرة الجديدة المكتسبة من حالة التدريب الحالية. وبحسب خوارزمية LCS، قد تُجرى عدة تحديثات في هذه الخطوة. في التعلم الخاضع للإشراف، يُمكننا ببساطة تحديث دقة/خطأ القاعدة. تختلف دقة/خطأ القاعدة عن دقة/خطأ النموذج، إذ لا تُحسب على كامل بيانات التدريب، بل على جميع الحالات التي تطابقت معها فقط. تُحسب دقة القاعدة بقسمة عدد مرات وجود القاعدة في مجموعة صحيحة [C] على عدد مرات وجودها في مجموعة مطابقة [M]. يُمكن اعتبار دقة القاعدة "دقة محلية". كما تُحدَّث لياقة القاعدة هنا، وتُحسب عادةً كدالة لدقة القاعدة. مفهوم اللياقة مُستمد مباشرةً من الخوارزميات الجينية الكلاسيكية . تجدر الإشارة إلى وجود اختلافات عديدة في كيفية تحديث خوارزمية LCS للمعلمات من أجل تحديد نقاط القوة والتعلم.

الاستيعاب

في الخطوة السابعة، تُطبَّق عادةً آلية التضمين . التضمين هو آلية تعميم صريحة تدمج المصنفات التي تغطي أجزاءً زائدة من فضاء المشكلة. يستوعب المصنف المُضمِّن فعليًا المصنف المُضمَّن (ويزداد عدده). لا يمكن أن يحدث هذا إلا عندما يكون المصنف المُضمِّن أكثر عمومية، وبنفس دقة المصنف المُضمَّن، ويغطي كامل فضاء المشكلة للمصنف الذي يضمه.

اكتشاف القواعد/الخوارزمية الجينية

في الخطوة الثامنة، تعتمد خوارزمية LCS على خوارزمية جينية نخبوية للغاية ، حيث تختار مصنفين أبويين بناءً على معيار اللياقة (بقاء الأصلح). يتم اختيار الآباء من [C] عادةً باستخدام اختيار البطولة . وقد طبقت بعض الأنظمة اختيار عجلة الروليت أو الاختيار الحتمي، واختارت قواعد أبوية مختلفة إما من [P] (الاختيار العشوائي) أو من [M]. يتم الآن تطبيق عمليات التزاوج والطفرة لتوليد قاعدتين جديدتين من النسل. عند هذه النقطة، تُعاد كلتا القاعدتين، الأبوية والنسلية، إلى [P]. تتميز خوارزمية LCS الجينية بنخبوية عالية، حيث يتم الحفاظ على الغالبية العظمى من السكان في كل تكرار للتعلم. يمكن بدلاً من ذلك اكتشاف القواعد بطريقة أخرى، مثل خوارزمية تقدير التوزيع ، لكن الخوارزمية الجينية هي النهج الأكثر شيوعًا. تستخدم الخوارزميات التطورية، مثل الخوارزمية الجينية، بحثًا عشوائيًا، مما يجعل LCS خوارزمية عشوائية. يسعى LCS إلى استكشاف مساحة البحث بذكاء، ولكنه لا يقوم ببحث شامل عن مجموعات القواعد، وليس من المضمون أن يتقارب على الحل الأمثل.

الحذف

تتمثل الخطوة الأخيرة في دورة تعلم LCS العامة في الحفاظ على الحد الأقصى لحجم المجموعة. تقوم آلية الحذف باختيار المصنفات المراد حذفها (عادةً باستخدام اختيار عجلة الروليت). يتناسب احتمال اختيار مصنف للحذف عكسيًا مع كفاءته. عند اختيار مصنف للحذف، يتم تقليل معامل عدده بمقدار واحد. وعندما ينخفض ​​عدد المصنف إلى الصفر، يُزال نهائيًا من المجموعة.

تمرين

ستكرر خوارزمية LCS هذه الخطوات لعدد محدد من دورات التدريب، أو حتى استيفاء معايير إنهاء محددة. في حالة التعلم عبر الإنترنت، ستحصل LCS على نموذج تدريب جديد تمامًا من البيئة في كل دورة. أما في حالة التعلم دون اتصال بالإنترنت، فستكرر LCS عملية التدريب على مجموعة بيانات محدودة. بمجرد وصولها إلى النموذج الأخير في مجموعة البيانات، ستعود إلى النموذج الأول وتكرر العملية على مجموعة البيانات مرة أخرى.

ضغط القواعد

بعد اكتمال التدريب، ستحتوي مجموعة القواعد حتمًا على بعض القواعد الضعيفة والمتكررة وغير المُجربة. من الشائع تطبيق أسلوب ضغط القواعد أو تكثيفها كخطوة لاحقة للمعالجة. تصبح مجموعة القواعد المضغوطة الناتجة جاهزة للاستخدام كنموذج تنبؤ (مثل إجراء تنبؤات على حالات الاختبار)، و/أو لتفسيرها في استكشاف المعرفة .

تنبؤ

سواء طُبِّقَ ضغط القواعد أم لا، فإنّ مُخرَج خوارزمية LCS هو مجموعة من المُصنِّفات التي يُمكن استخدامها للتنبؤ بحالات لم يسبق رؤيتها. لا تُعدّ آلية التنبؤ جزءًا من دورة تعلّم LCS الخاضعة للإشراف نفسها، ولكنّها تلعب دورًا هامًا في دورة تعلّم LCS المُعزَّزة. سنُناقش الآن كيفية تطبيق آلية التنبؤ للتنبؤ ببيانات الاختبار. عند إجراء التنبؤات، يتم تعطيل مُكوِّنات تعلّم LCS بحيث لا تستمر المجموعة في التعلّم من بيانات الاختبار الواردة. تُمرَّر حالة الاختبار إلى [P] حيث يتم تكوين مجموعة مُطابقة [M] كالمعتاد. عند هذه النقطة، تُمرَّر مجموعة المُطابقة بطريقة مُختلفة إلى مصفوفة التنبؤ. يُمكن للقواعد في مجموعة المُطابقة التنبؤ بإجراءات مُختلفة، لذلك يتم تطبيق نظام تصويت. في نظام تصويت بسيط، يفوز الإجراء الحاصل على أقوى "أصوات" داعمة من القواعد المُطابقة، ويُصبح هو التنبؤ المُختار. لا تحصل جميع القواعد على صوت مُتساوي، بل إنّ قوة التصويت لقاعدة واحدة تتناسب عادةً مع عددها وملاءمتها. يشير نظام التصويت هذا وطبيعة كيفية تخزين خوارزميات LCS للمعرفة إلى أن خوارزميات LCS هي متعلمون جماعيون ضمنيًا .

تفسير

عادةً ما تكون قواعد نظام التصنيف الأساسي (LCS) عبارة عن تعبيرات شرطية سهلة القراءة. ويمكن ترتيب القواعد التي تُشكّل نموذج التنبؤ بنظام التصنيف الأساسي وفقًا لمعايير مختلفة، كما يمكن فحصها يدويًا. وقد طُرحت أيضًا استراتيجيات شاملة لتوجيه عملية اكتشاف المعرفة باستخدام الأساليب الإحصائية والبيانية. [ 12 ] [ 13 ] وبالمقارنة مع أساليب التعلّم الآلي المتقدمة الأخرى، مثل الشبكات العصبية الاصطناعية ، والغابات العشوائية ، والبرمجة الجينية ، تُعدّ أنظمة التصنيف التعلّمية مناسبة بشكل خاص للمشكلات التي تتطلب حلولًا قابلة للتفسير.

تاريخ

السنوات الأولى

اشتهر جون هنري هولاند بعمله الرائد في نشر الخوارزميات الجينية ، من خلال كتابه المبتكر "التكيف في الأنظمة الطبيعية والاصطناعية" [ 14 ] عام 1975، وصياغته الرسمية لنظرية مخطط هولاند . في عام 1976، وضع هولاند تصورًا لتوسيع مفهوم الخوارزميات الجينية ليشمل ما أسماه "النظام المعرفي" [ 15 ] ، وقدم أول وصف تفصيلي لما سيُعرف لاحقًا بنظام التصنيف التعليمي الأول في بحثه "الأنظمة المعرفية القائمة على الخوارزميات التكيفية" [ 16 ] . صُمم هذا النظام الأول، المسمى النظام المعرفي الأول (CS-1) ، كأداة نمذجة لمحاكاة نظام حقيقي (أي بيئة ) ذي ديناميكيات كامنة غير معروفة، باستخدام مجموعة من القواعد سهلة الفهم. كان الهدف هو أن تقوم مجموعة من القواعد بتنفيذ عملية تعلم آلي فورية للتكيف مع البيئة بناءً على مكافآت غير متكررة (أي التعلم المعزز)، وتطبيق هذه القواعد لتوليد سلوك يُحاكي النظام الحقيقي. اعتُبر هذا التطبيق المبكر والطموح لاحقاً معقداً للغاية، مما أدى إلى نتائج غير متسقة. [ 2 ] [ 17 ]

ابتداءً من عام 1980، اتبع كينيث دي يونغ وطالبه ستيفن سميث نهجًا مختلفًا في التعلم الآلي القائم على القواعد مع (LS-1) ، حيث نُظر إلى التعلم على أنه عملية تحسين غير متصلة بالإنترنت بدلًا من عملية تكيف متصلة بالإنترنت. [ 18 ] [ 19 ] [ 20 ] كان هذا النهج الجديد أقرب إلى الخوارزمية الجينية القياسية، ولكنه طور مجموعات مستقلة من القواعد. منذ ذلك الحين، يُشار إلى طرق LCS المستوحاة من إطار التعلم المتصل بالإنترنت الذي قدمه هولاند في جامعة ميشيغان باسم LCS على نمط ميشيغان ، بينما يُشار إلى تلك المستوحاة من سميث ودي يونغ في جامعة بيتسبرغ باسم LCS على نمط بيتسبرغ . [ 2 ] [ 17 ] في عام 1986، طور هولاند ما سيُعتبر معيار LCS على نمط ميشيغان للعقد التالي. [ 21 ]

تضمنت المفاهيم المهمة الأخرى التي ظهرت في بدايات أبحاث أنظمة التحكم المعرفي ما يلي: (1) صياغة خوارزمية لواء الدلو (BBA) لتخصيص/تعلم الاعتمادات، [ 22 ] (2) اختيار القواعد الأصلية من "بيئة مشتركة" (أي مجموعة المطابقة [M]) بدلاً من اختيارها من جميع القواعد [P]، [ 23 ] (3) التغطية ، التي قُدِّمت لأول مرة كعامل إنشاء ، [ 24 ] (4) صياغة مجموعة الإجراءات [A]، [ 24 ] (5) بنية خوارزمية مبسطة، [ 24 ] (6) اللياقة القائمة على القوة ، [ 21 ] (7) مراعاة مشاكل التعلم أحادي الخطوة أو الخاضع للإشراف، [ 25 ] وتقديم المجموعة الصحيحة [C]، [ 26 ] (8) اللياقة القائمة على الدقة ، [ 27 ] (9) دمج المنطق الضبابي مع أنظمة التحكم المعرفي [ 28 ] (والذي أدى لاحقًا إلى ظهور سلسلة من أنظمة التحكم المعرفي الضبابية). (10) تشجيع سلاسل الإجراءات الطويلة والتسلسلات الهرمية الافتراضية لتحسين الأداء في المسائل متعددة الخطوات، [ 29 ] [ 30 ] [ 31 ] (11) دراسة التعلم الكامن (الذي ألهم لاحقًا فرعًا جديدًا من أنظمة التصنيف الاستباقية (ACS) [ 32 ] )، و(12) تقديم أول تقنية لتخصيص الاعتمادات شبيهة بتعلم Q. [ 33 ] على الرغم من عدم تطبيق جميع هذه المفاهيم في خوارزميات LCS الحديثة، إلا أن كلًا منها كان علامة فارقة في تطوير نموذج LCS.

الثورة

تجدد الاهتمام بأنظمة تصنيف التعلم في منتصف التسعينيات، ويعود ذلك بشكل كبير إلى حدثين رئيسيين: تطوير خوارزمية Q -Learning [ 34 ] للتعلم المعزز ، وتقديم ستيوارت ويلسون لبنى LCS المبسطة بشكل ملحوظ على غرار خوارزمية ميشيغان. [ 11 ] [ 35 ] ركز نظام ويلسون للمصنفات من المستوى الصفري (ZCS) [ 35 ] على زيادة قابلية فهم الخوارزمية استنادًا إلى تطبيق هولاندز القياسي لـ LCS. [ 21 ] وقد تحقق ذلك جزئيًا عن طريق إزالة نظام المزايدة على القواعد وقائمة الرسائل الداخلية، وهما عنصران أساسيان في تخصيص نقاط BBA الأصلي، واستبدالهما باستراتيجية هجينة تجمع بين BBA و Q-Learning . أثبت ZCS أن بنية LCS أبسط بكثير يمكن أن تؤدي بنفس كفاءة التطبيقات الأصلية الأكثر تعقيدًا. ومع ذلك، لا يزال ZCS يعاني من عيوب في الأداء، بما في ذلك انتشار المصنفات العامة بشكل مفرط.

في عام ١٩٩٥، نشر ويلسون بحثه الرائد بعنوان "لياقة المصنف بناءً على الدقة"، والذي قدم فيه نظام التصنيف XCS . [ ١١ ] اعتمد XCS على البنية المبسطة لنظام ZCS، وأضاف إليها لياقة قائمة على الدقة، وخوارزمية جينية متخصصة (تعمل ضمن مجموعة الإجراءات [A])، وآلية تعميم صريحة تُسمى التضمين ، وتكييفًا لتوزيع نقاط Q-Learning . اشتهر XCS بقدرته على تحقيق الأداء الأمثل مع تطوير مصنفات دقيقة وعامة إلى أقصى حد، بالإضافة إلى مرونته المذهلة في حل المشكلات (قدرته على تنفيذ كل من التعلم المعزز والتعلم الخاضع للإشراف ). أصبح XCS لاحقًا أشهر خوارزميات LCS وأكثرها دراسة، وأسس لفئة جديدة من أنظمة LCS القائمة على الدقة . في المقابل، أصبح ZCS مرادفًا لأنظمة LCS القائمة على القوة . يُعد XCS مهمًا أيضًا لأنه نجح في سد الفجوة بين أنظمة LCS ومجال التعلم المعزز . بعد نجاح XCS، وُصفت أنظمة LCS لاحقًا بأنها أنظمة تعلم معزز مزودة بقدرة على التعميم. [ 36 ] يسعى التعلم المعزز عادةً إلى تعلم دالة قيمة ترسم تمثيلاً كاملاً لمساحة الحالة/الفعل. وبالمثل، يوجه تصميم نظام التحكم المتقاطع (XCS) نحو تكوين تمثيل شامل ودقيق لمساحة المشكلة (أي خريطة كاملة ) بدلاً من التركيز على المجالات ذات العائد المرتفع في البيئة (كما كان الحال مع نظام التحكم المتقاطع القائم على القوة). من الناحية المفاهيمية، لا تقتصر الخرائط الكاملة على تحديد ما يجب فعله أو ما هو صحيح، بل تشمل أيضاً ما لا يجب فعله أو ما هو خاطئ. على عكس ذلك، تسعى معظم أنظمة التحكم المتقاطع القائمة على القوة، أو أنظمة التحكم المتقاطع الخاضعة للإشراف حصرياً، إلى إيجاد مجموعة قواعد من التعميمات الفعالة في شكل خريطة أفضل فعل (أو خريطة جزئية ). وقد تم منذ ذلك الحين دراسة المقارنات بين اللياقة القائمة على القوة مقابل اللياقة القائمة على الدقة، وبين الخرائط الكاملة وخرائط أفضل فعل، بمزيد من التفصيل. [ 37 ] [ 38 ]

في أعقاب XCS

ألهم نظام XCS ​​تطوير جيل جديد كليًا من خوارزميات وتطبيقات LCS. في عام 1995، كان كونغدون أول من طبق نظام LCS على التحقيقات الوبائية الواقعية للأمراض [ 39 وتبعه هولمز الذي طور BOOLE++ [ 40 ] و EpiCS [ 41 ] ، ثم EpiXCS [ 42 ] للتصنيف الوبائي . وقد ألهمت هذه الأعمال المبكرة الاهتمام اللاحق بتطبيق خوارزميات LCS على مهام استخراج البيانات المعقدة وواسعة النطاق، والتي تجسدها تطبيقات المعلوماتية الحيوية . في عام 1998، قدم ستولزمان أنظمة التصنيف الاستباقية (ACS) التي تضمنت قواعد على شكل "شرط-فعل-نتيجة"، بدلاً من التمثيل الكلاسيكي "شرط-فعل" [ 32 ] . صُممت أنظمة ACS للتنبؤ بالنتائج الإدراكية لفعل ما في جميع المواقف الممكنة في بيئة معينة. بمعنى آخر، يُطوّر النظام نموذجًا لا يُحدد فقط ما يجب فعله في موقف مُعين، بل يُقدم أيضًا معلومات حول ما سيحدث بعد تنفيذ إجراء مُحدد. تُعدّ هذه المجموعة من خوارزميات LCS الأنسب للمسائل متعددة الخطوات، والتخطيط، وتسريع التعلّم، أو إزالة الغموض عن التداخل الإدراكي (أي عندما يتم الحصول على نفس الملاحظة في حالات مُختلفة ولكنها تتطلب إجراءات مُختلفة). لاحقًا، واصل بوتز تطوير هذه المجموعة الاستباقية من خوارزميات LCS، مُدخلًا عددًا من التحسينات على الطريقة الأصلية. [ 43 ] في عام 2002، قدّم ويلسون خوارزمية XCSF ، مُضيفًا إجراءً مُحسوبًا لإجراء تقريب للدالة. [ 44 ] في عام 2003، قدّم برناردو-مانسيلا نظام تصنيف مُشرف (UCS) ، والذي خصّص خوارزمية XCS لمهمة التعلّم المُشرف ، والمسائل أحادية الخطوة، وتكوين أفضل مجموعة إجراءات. أزالت UCS استراتيجية التعلم المعزز لصالح قاعدة لياقة بسيطة قائمة على الدقة، بالإضافة إلى مراحل التعلم الاستكشافي/الاستغلالي، وهي سمة مميزة للعديد من متعلمي التعزيز. قدم بول نظام تصنيف LCS بسيطًا قائمًا على الدقة (YCS) [ 45 ] ونظام تصنيف LCS بسيطًا قائمًا على القوة (MCS) [ 46 ] بهدف تطوير فهم نظري أفضل لإطار عمل LCS. قدم باكارديت GAssist [ 47 ] و BioHEL [ 48] .صُممت أنظمة تصنيف التعلم (LCS ) على غرار بيتسبرغ لاستخراجالبياناتوقابليةالتوسعلتشمل مجموعات البيانات الضخمة فيالمعلوماتية الحيوية. في عام 2008، نشر دروغوفيتش كتابًا بعنوان "تصميم وتحليل أنظمة تصنيف التعلم" يتضمن دراسة نظرية لخوارزميات LCS. [ 49 ] قدم بوتز أول تصور مرئي لتعلم القواعد عبر الإنترنت ضمنواجهة مستخدم رسوميةلـ XCSF [ 1 ] (انظر الصورة أعلى هذه الصفحة). قام أوربانوفيتش بتوسيع إطار عمل UCS وقدمExSTraCS،المصمم خصيصًاللتعلم الخاضع للإشراففي مجالات المشكلات المعقدة (مثل علم الأوبئة والمعلوماتية الحيوية). [ 50 ] دمجت ExSTraCS (1) خبرة الخبراء لتوجيه التغطية والخوارزمية الجينية نحو السمات المهمة في البيانات، [ 51 ] (2) شكلاً من أشكال الذاكرة طويلة المدى يُشار إليه بتتبع السمات، [ 52 ] مما يسمح بتعلم أكثر كفاءة وتوصيف أنماط البيانات غير المتجانسة، و(3) تمثيلًا مرنًا للقواعد مشابهًا لتمثيل قائمة السمات المنفصلة والمتصلة المختلطة لباكاردت. [ 53 ] استكشف كل من باكاردت وأوربانوفيتش استراتيجيات إحصائية وتصورية لتفسير قواعد LCS وإجراء اكتشاف المعرفة لاستخراج البيانات. [ 12 ] [ 13 ] استكشف براون وإقبال مفهوم إعادة استخدام لبنات البناء في شكل أجزاء من التعليمات البرمجية، وكانا أول من حل مشكلة معيارية لمضاعف الإرسال 135 بت من خلال تعلم لبنات بناء مفيدة من مشاكل مضاعف إرسال أبسط. [ 54 ] تم لاحقًا تقديم ExSTraCS 2.0لتحسين قابلية التوسع لخوارزمية LCS على نمط ميشيغان، حيث نجح في حل مشكلة معيارية لمضاعف الإرسال ذي 135 بت لأول مرة بشكل مباشر. [ 5 ] تتسم مشكلة مضاعف الإرسال ذي n بتبدرجة عاليةمنالتفاعليةوالتباين، مما يجعلها مهمة بالغة الصعوبةتعلم الآلة.

المتغيرات

نظام تصنيف التعلم على طريقة ميشيغان

تتميز أنظمة التحكم المنطقية من نمط ميشيغان بوجود مجموعة من القواعد حيث تعمل الخوارزمية الجينية على مستوى كل قاعدة على حدة، بينما يُمثل الحل بمجموعة القواعد الكاملة. كما تتميز هذه الأنظمة بالتعلم التراكمي، مما يسمح لها بتنفيذ كلٍ من التعلم المعزز والتعلم الخاضع للإشراف، بالإضافة إلى التعلم الفوري والتعلم غير الفوري. وتتمتع أنظمة نمط ميشيغان بميزة إمكانية تطبيقها على نطاق أوسع من مجالات المشكلات، فضلاً عن المزايا الفريدة للتعلم التراكمي.

نظام تصنيف التعلم على نمط بيتسبرغ

تتميز أنظمة التحكم المنطقية من نمط بيتسبرغ بوجود مجموعة من قواعد البيانات ذات أطوال متفاوتة، حيث تمثل كل قاعدة منها حلاً محتملاً. تعمل الخوارزمية الجينية عادةً على مستوى مجموعة القواعد الكاملة. كما تتميز أنظمة نمط بيتسبرغ بقدرتها الفريدة على تطوير قوائم قواعد مرتبة، بالإضافة إلى استخدام قاعدة افتراضية. تتمتع هذه الأنظمة بميزة طبيعية تتمثل في تحديد مجموعات قواعد أصغر، مما يجعلها أكثر قابلية للتفسير عند فحص القواعد يدويًا.

الأنظمة الهجينة

كما تم اقتراح أنظمة تسعى إلى الجمع بين نقاط القوة الرئيسية لكلا النظامين.

المزايا

  • قابل للتكيف: يمكنهم التأقلم مع البيئة المتغيرة في حالة التعلم عبر الإنترنت.
  • بدون نموذج: فهي تضع افتراضات محدودة حول البيئة، أو أنماط الارتباط داخل البيانات.
    • بإمكانهم نمذجة الأنماط الأساسية المعقدة، أو التفاعلية، أو غير المتجانسة، أو الموزعة دون الاعتماد على المعرفة المسبقة.
    • إنهم لا يفترضون أي شيء بخصوص عدد السمات التنبؤية مقابل السمات غير التنبؤية في البيانات.
  • المتعلم الجماعي: لا يتم تطبيق نموذج واحد على حالة معينة ليقدم تنبؤًا شاملاً. بدلاً من ذلك، تساهم مجموعة من القواعد ذات الصلة، والتي غالبًا ما تكون متضاربة، في "تصويت" يمكن تفسيره على أنه تنبؤ غير دقيق.
  • المتعلم العشوائي: التعلم غير الحتمي مفيد في المشكلات واسعة النطاق أو ذات التعقيد العالي حيث يصبح التعلم الحتمي أو الشامل غير قابل للتطبيق.
  • متعددة الأهداف ضمنيًا: تتطور القواعد نحو الدقة مع ضغوط ضمنية وصريحة تشجع على أقصى قدر من العمومية/البساطة. هذا الضغط الضمني للتعميم فريد من نوعه في LCS. عمليًا، ستظهر القواعد الأكثر عمومية بشكل متكرر في مجموعات المباريات. وبالتالي، تتاح لها فرصة أكبر للاختيار كقواعد أساسية، ونقل قواعدها الأكثر عمومية (الجينومات) إلى القواعد اللاحقة.
  • قابلة للتفسير: في سبيل استخراج البيانات واكتشاف المعرفة، تكون قواعد LCS الفردية منطقية، ويمكن صياغتها كعبارات شرطية قابلة للتفسير البشري. كما تم استحداث استراتيجيات فعالة تسمح باكتشاف المعرفة الشاملة، وتحديد السمات المهمة، وأنماط الارتباط من مجموعة القواعد ككل. [ 12 ]
  • تطبيق مرن
    • مشاكل ذات خطوة واحدة أو متعددة الخطوات
    • التعلم الخاضع للإشراف، أو التعلم المعزز، أو التعلم غير الخاضع للإشراف
    • التصنيف الثنائي والتصنيف متعدد الفئات
    • الانحدار
    • ميزات منفصلة أو متصلة (أو مزيج من كلا النوعين)
    • مجالات المشاكل النظيفة أو الصاخبة
    • مجموعات البيانات المتوازنة أو غير المتوازنة.
    • يستوعب البيانات المفقودة (أي قيم الميزات المفقودة في حالات التدريب)

العيوب

  • محدودية توفر البرامج: هناك عدد محدود من تطبيقات LCS مفتوحة المصدر والتي يمكن الوصول إليها، وعدد أقل منها مصمم ليكون سهل الاستخدام أو يمكن الوصول إليه من قبل ممارسي التعلم الآلي.
  • التفسير: على الرغم من أن خوارزميات LCS أكثر قابلية للتفسير من بعض خوارزميات التعلم الآلي المتقدمة، إلا أنه يتعين على المستخدمين تفسير مجموعة من القواعد (وأحيانًا مجموعات كبيرة من القواعد) لفهم نموذج LCS. ولا تزال طرق ضغط القواعد واستراتيجيات التفسير مجالًا بحثيًا نشطًا.
  • النظرية/إثباتات التقارب: يوجد قدر ضئيل نسبيًا من العمل النظري وراء خوارزميات LCS. ويرجع ذلك على الأرجح إلى تعقيدها الخوارزمي النسبي (تطبيق عدد من المكونات المتفاعلة) بالإضافة إلى طبيعتها العشوائية.
  • الإفراط في التخصيص: مثل أي متعلم آلي، يمكن أن يعاني LCS من الإفراط في التخصيص على الرغم من ضغوط التعميم الضمنية والصريحة.
  • معايير التشغيل: غالبًا ما تتضمن أنظمة التعلم الآلي العديد من معايير التشغيل التي يجب مراعاتها وتحسينها. عادةً، يمكن ترك معظم المعايير على القيم الافتراضية التي يحددها المجتمع، باستثناء معيارين حاسمين: الحد الأقصى لحجم مجموعة القواعد، والحد الأقصى لعدد دورات التعلم. من المرجح أن يكون تحسين هذين المعيارين مرتبطًا بشكل كبير بطبيعة المشكلة.
  • الشهرة: على الرغم من قدمها، لا تزال خوارزميات LCS غير معروفة على نطاق واسع حتى في أوساط تعلم الآلة. ونتيجة لذلك، نادرًا ما تُؤخذ خوارزميات LCS في الاعتبار مقارنةً بأساليب تعلم الآلة الأخرى الراسخة. ويرجع ذلك على الأرجح إلى العوامل التالية: (1) تُعدّ LCS منهجًا خوارزميًا معقدًا نسبيًا، (2) يُمثل نموذج LCS القائم على القواعد نموذجًا مختلفًا عن جميع أساليب تعلم الآلة الأخرى تقريبًا، (3) تطبيقات برمجيات LCS ليست شائعة.
  • مكلفة حسابيًا: على الرغم من أن خوارزميات LCS أكثر جدوى من بعض الأساليب الشاملة، إلا أنها قد تكون مكلفة حسابيًا. بالنسبة لمسائل التعلم الخطي البسيطة، لا حاجة لتطبيق خوارزميات LCS. تُعد خوارزميات LCS الأنسب للمسائل المعقدة، أو المسائل التي تفتقر إلى معرفة مسبقة كافية.

مجالات المشكلة

  • التحكم التكيفي
  • استخراج البيانات
  • التصميم الهندسي
  • اختيار الميزات
  • تقريب الدالة
  • أسلوب اللعب
  • تصنيف الصور
  • إدارة المعرفة
  • التشخيص الطبي
  • النمذجة
  • ملاحة
  • تحسين
  • تنبؤ
  • الاستعلام
  • الروبوتات
  • التوجيه
  • الاستقراء القاعدي
  • الجدولة
  • استراتيجية

مصطلحات

يُعدّ مصطلح "نظام التصنيف التعلّمي (LCS)" مُضلّلاً بعض الشيء، إذ توجد العديد من خوارزميات التعلّم الآلي التي "تتعلّم التصنيف" (مثل أشجار القرار والشبكات العصبية الاصطناعية )، ولكنها ليست أنظمة تصنيف تعلّمي. يُعدّ مصطلح "التعلّم الآلي القائم على القواعد ( RBML )" مفيدًا، لأنه يُجسّد بوضوح أكبر عنصر "القائم على القواعد" الأساسي في هذه الأنظمة، ولكنه يُعمّم أيضًا على طرق لا تُعتبر أنظمة تصنيف تعلّمي (مثل تعلّم قواعد الارتباط أو أنظمة المناعة الاصطناعية ). كما استُخدمت مصطلحات أكثر عمومية، مثل "التعلّم الآلي القائم على علم الوراثة"، وحتى "الخوارزمية الجينية" [ 39 ] ، للإشارة إلى ما يُمكن تعريفه بشكلٍ أدقّ على أنه نظام تصنيف تعلّمي. ونظرًا لتشابهها مع الخوارزميات الجينية ، يُشار أحيانًا إلى أنظمة التصنيف التعلّمي من نمط بيتسبرغ بشكلٍ عام باسم "الخوارزميات الجينية". إضافةً إلى ذلك، يُشار إلى بعض خوارزميات LCS، أو الطرق ذات الصلة الوثيقة بها، باسم "الأنظمة الإدراكية" [ 16 ] ، أو "الوكلاء التكيفيين"، أو " أنظمة الإنتاج "، أو بشكل عام باسم "نظام التصنيف" [ 55 ] [ 56 ] . يُسهم هذا التباين في المصطلحات في بعض الالتباس في هذا المجال.

حتى مطلع الألفية الثانية، طُوِّرت جميع أساليب أنظمة التصنيف القائمة على التعلم تقريبًا مع مراعاة مشاكل التعلم المعزز. ونتيجةً لذلك، كان يُعرَّف مصطلح "نظام التصنيف القائم على التعلم" عادةً بأنه مزيج من التعلم المعزز القائم على التجربة والخطأ مع البحث الشامل للخوارزمية الجينية. ومنذ ذلك الحين، أدى الاهتمام بتطبيقات التعلم الخاضع للإشراف، وحتى التعلم غير الخاضع للإشراف، إلى توسيع نطاق استخدام هذا المصطلح وتعريفه.

انظر أيضاً

مراجع

  1. 1 2 ستالف، باتريك أو.؛ ​​بوتز، مارتن ف. (2010-02-01). "JavaXCSF: نظام تصنيف التعلم XCSF في جافا". ACM SIGEVOlution . 4 (3): 16–19 . doi : 10.1145/1731888.1731890 . ISSN 1931-8499 . S2CID 16861908 .  
  2. 1 2 3 أوربانوفيتش، رايان جيه؛ مور، جيسون إتش. (22-09-2009). "أنظمة تصنيف التعلم: مقدمة شاملة، ومراجعة، وخارطة طريق" . مجلة التطور الاصطناعي وتطبيقاته . 2009 : 1-25 . doi : 10.1155/2009/736398 . ISSN 1687-6229 . 
  3. دوريغو، ماركو (1995). "أليكسيس والفأرة الآلية: تعلم التحكم في روبوت حقيقي بواسطة أنظمة التصنيف الموزعة" . تعلم الآلة . 19 (3): 209-240 . doi : 10.1007/BF00996270 . ISSN 0885-6125 . 
  4. برنادو-مانسيلا، إستر؛ غاريل-غيو، جوزيب م. (1 سبتمبر 2003). "أنظمة تصنيف التعلم القائمة على الدقة: النماذج والتحليل والتطبيقات في مهام التصنيف". الحوسبة التطورية . 11 (3): 209-238 . doi : 10.1162/106365603322365289 . ISSN 1063-6560 . PMID 14558911. S2CID 9086149 .   
  5. 1 2 3 أوربانوفيتش، رايان جيه؛ مور، جيسون إتش. (2015-04-03). "ExSTraCS 2.0: وصف وتقييم نظام تصنيف تعلم قابل للتوسع" . الذكاء التطوري . 8 ( 2-3 ): 89-116 . doi : 10.1007/s12065-015-0128-8 . ISSN 1864-5909 . PMC 4583133. PMID 26417393 .   
  6. برنادو، إستر؛ لورا، خافيير؛ غاريل، جوزيب م. (2001-07-07). "XCS وGALE: دراسة مقارنة لنظامي تصنيف التعلم في استخراج البيانات". في: لانزي، بيير لوكا؛ ستولزمان، وولفغانغ؛ ويلسون، ستيوارت و. (محررون). التطورات في أنظمة تصنيف التعلم . سلسلة محاضرات في علوم الحاسوب. المجلد 2321. سبرينغر برلين هايدلبرغ. الصفحات 115-132 . doi : 10.1007/3-540-48104-4_8 . ISBN   9783540437932.
  7. باكارديت، خاومي؛ بوتز، مارتن ف. (2007-01-01). "استخراج البيانات في أنظمة تصنيف التعلم: مقارنة XCS مع GAssist". في: كوفاكس، تيم؛ لورا، خافيير؛ تاكاداما، كيكي؛ لانزي، بيير لوكا؛ ستولزمان، وولفغانغ؛ ويلسون، ستيوارت و. (محررون). أنظمة تصنيف التعلم . سلسلة محاضرات في علوم الحاسوب. المجلد 4399. سبرينغر برلين هايدلبرغ. الصفحات 282-290 . CiteSeerX 10.1.1.553.4679 . doi : 10.1007/978-3-540-71231-2_19 . ISBN    9783540712305.
  8. أوربانوفيتش، رايان؛ راماناند، نيرانجان؛ مور، جيسون (1 يناير 2015). "استخراج البيانات المستمر من نقاط النهاية باستخدام ExSTraCS". وقائع المنشور المصاحب للمؤتمر السنوي لعام 2015 حول الحوسبة الجينية والتطورية . GECCO Companion '15. نيويورك، نيويورك، الولايات المتحدة الأمريكية: ACM. الصفحات 1029-1036 . doi : 10.1145/2739482.2768453 . ISBN  9781450334884. S2CID 11908241 . 
  9. بوتز، إم في؛ لانزي، بي إل؛ ويلسون، إس دبليو (1 يونيو 2008). "تقريب الدوال باستخدام XCS: شروط القطع الناقص الفائق، المربعات الصغرى المتكررة، والضغط". معاملات IEEE في الحوسبة التطورية . 12 (3): 355-376 . Bibcode : 2008ITEC...12..355B . doi : 10.1109/TEVC.2007.903551 . ISSN 1089-778X . S2CID 8861046 .  
  10. مقدمة في التعلم الآلي القائم على القواعد: دليل عملي ، ريان ج. أوربانوفيتش وويل براون، انظر الصفحات 72-73 للمقارنة بين بنية ميشيغان وبنية بيتسبرغ.
  11. ويلسون ، ستيوارت و . ( 1995-06-01 ). "مدى ملاءمة المصنف بناءً على الدقة". الحوسبة التطورية . 3 (2): 149-175 . CiteSeerX 10.1.1.363.2210 . doi : 10.1162/evco.1995.3.2.149 . ISSN 1063-6560 . S2CID 18341635 .   
  12. 1 2 3 أوربانوفيتش، آر جيه؛ غرانزو-ماكنزي، أ؛ مور، جيه إتش (2012-11-01). "خط أنابيب تحليل مع اكتشاف المعرفة الموجه إحصائيًا وتصوريًا لأنظمة تصنيف التعلم على نمط ميشيغان" . مجلة IEEE للذكاء الحسابي . 7 (4): 35-45 . Bibcode : 2012ICIM....7d..35U . doi : 10.1109/MCI.2012.2215124 . ISSN 1556-603X . PMC 4244006. PMID 25431544 .   
  13. 1 2 باكارديت، خاومي؛ لورا، خافيير (2013). "استخراج البيانات على نطاق واسع باستخدام التعلم الآلي القائم على علم الوراثة". مراجعات وايلي متعددة التخصصات: استخراج البيانات واكتشاف المعرفة . 3 (1): 37-61 . doi : 10.1002/widm.1078 . S2CID 43062613 . 
  14. هولاند، جون (1975). التكيف في الأنظمة الطبيعية والاصطناعية: تحليل تمهيدي مع تطبيقات في علم الأحياء والتحكم والذكاء الاصطناعي . مطبعة جامعة ميشيغان. ISBN 9780262581110.
  15. هولاند جيه إتش (1976) التكيف. في: روزن آر، سنيل إف (محرران) التقدم في البيولوجيا النظرية، المجلد 4. دار النشر الأكاديمية، نيويورك، الصفحات 263-293
  16. 1 2 هولاند، جيه إتش، وريتمان، جيه إس (1978). الأنظمة المعرفية القائمة على الخوارزميات التكيفية. أعيد طبعه في: الحوسبة التطورية. السجل الأحفوري. في: ديفيد، بي إف (محرر). مطبعة IEEE، نيويورك 1998. ISBN 0-7803-3481-7
  17. 1 2 لانزي، بيير لوكا (2008-02-08). "أنظمة تصنيف التعلم: الماضي والحاضر". الذكاء التطوري . 1 (1): 63-82 . doi : 10.1007/s12065-007-0003-3 . ISSN 1864-5909 . S2CID 27153843 .  
  18. سميث س (1980) نظام تعلم قائم على الخوارزميات التكيفية الجينية. أطروحة دكتوراه، قسم علوم الحاسوب، جامعة بيتسبرغ
  19. سميث، س. (1983). التعلم المرن لأساليب حل المشكلات من خلال البحث التكيفي . في: المؤتمر الدولي المشترك الثامن حول الذكاء الاصطناعي. مورغان كوفمان، لوس ألتوس، ص 421-425
  20. دي جونغ كيه إيه (1988) التعلم باستخدام الخوارزميات الجينية: نظرة عامة. تعلم الآلة 3: 121-138
  21. 1 2 3 هولاند، جون هـ. "التخلص من الهشاشة: إمكانيات خوارزميات التعلم للأغراض العامة المطبقة على نظام قائم على القواعد المتوازية." تعلم الآلة (1986): 593-623.
  22. هولاند، جون هـ. (1985-01-01). خصائص فرقة الدلو . هيلزديل، نيوجيرسي، الولايات المتحدة الأمريكية: إل. إيرلبوم أسوشيتس إنك. الصفحات 1-7 . ISBN  978-0805804263.{{cite book}}تم |journal=تجاهله ( مساعدة )
  23. بوكر، ل. (1982-01-01). السلوك الذكي كتكيف مع بيئة المهمة (أطروحة). جامعة ميشيغان. مؤرشف من الأصل في 14 فبراير 2015.
  24. 1 2 3 ويلسون، إس دبليو " نمو المعرفة في حيوان اصطناعي . وقائع المؤتمر الدولي الأول حول الخوارزميات الجينية وتطبيقاتها." (1985).
  25. ويلسون، ستيوارت و. (1987). "أنظمة التصنيف ومشكلة الروبوتات" . تعلم الآلة . 2 (3): 199-228 . doi : 10.1007/BF00058679 . ISSN 0885-6125 . 
  26. بونيلي، بيير؛ بارودي، ألكسندر؛ سين، سانديب؛ ويلسون، ستيوارت (1990-01-01). نيوبول: نظام GBML سريع . سان فرانسيسكو، كاليفورنيا، الولايات المتحدة الأمريكية: دار مورغان كوفمان للنشر. الصفحات 153-159 . ISBN  978-1558601413.{{cite book}}تم |journal=تجاهله ( مساعدة )
  27. فراي، بيتر دبليو؛ سلات، ديفيد جيه (1991). "التعرف على الحروف باستخدام المصنفات التكيفية على نمط هولاند" . تعلم الآلة . 6 (2): 161-182 . doi : 10.1007/BF00114162 . ISSN 0885-6125 . 
  28. فالينزويلا-ريندون، مانويل. " نظام التصنيف الضبابي: نظام تصنيف للمتغيرات المتغيرة باستمرار ". في ICGA ، الصفحات 346-353. 1991.
  29. ريولو، ريك ل. (1988-01-01). دراسات تجريبية للتسلسلات الهرمية الافتراضية وتسلسلات القواعد في أنظمة تصنيف التعلم (أطروحة). آن أربور، ميشيغان، الولايات المتحدة الأمريكية: جامعة ميشيغان.
  30. RL, Riolo (1987-01-01). "أداء خوارزمية دلو الدبابات. الجزء الأول: سلاسل طويلة من المصنفات" . الخوارزميات الجينية وتطبيقاتها: وقائع المؤتمر الدولي الثاني حول الخوارزميات الجينية: 28-31 يوليو 1987 في معهد ماساتشوستس للتكنولوجيا، كامبريدج، ماساتشوستس .
  31. RL, Riolo (1987-01-01). "أداء خوارزمية لواء الدلو. الجزء الثاني: التسلسلات الهرمية الافتراضية" . الخوارزميات الجينية وتطبيقاتها: وقائع المؤتمر الدولي الثاني حول الخوارزميات الجينية: 28-31 يوليو 1987 في معهد ماساتشوستس للتكنولوجيا، كامبريدج، ماساتشوستس .
  32. 1 2 W. Stolzmann, "أنظمة التصنيف الاستباقية"، في وقائع المؤتمر السنوي الثالث للبرمجة الجينية، ص 658-664، 1998.
  33. ريولو، ريك ل. (1990-01-01). التخطيط الاستباقي والتعلم الكامن في نظام تصنيف . كامبريدج، ماساتشوستس، الولايات المتحدة الأمريكية: مطبعة معهد ماساتشوستس للتكنولوجيا. ص 316-326 . ISBN  978-0262631389.{{cite book}}تم |journal=تجاهله ( مساعدة )
  34. واتكينز، كريستوفر جون كورنيش هيلابي. "التعلم من المكافآت المؤجلة". أطروحة دكتوراه، جامعة كامبريدج، 1989.
  35. ويلسون ، ستيوارت و. (1994-03-01). " ZCS : نظام تصنيف من المستوى الصفري". الحوسبة التطورية . 2 (1): 1-18 . CiteSeerX 10.1.1.363.798 . doi : 10.1162/evco.1994.2.1.1 . ISSN 1063-6560 . S2CID 17680778 .   
  36. لانزي، ب. ل. (2002). "تعلم أنظمة التصنيف من منظور التعلم المعزز". الحوسبة المرنة . 6 ( 3-4 ): 162-170 . doi : 10.1007/s005000100113 . ISSN 1432-7643 . S2CID 39103390 .  
  37. كوفاكس، تيموثي مايكل دوغلاس. مقارنة بين اللياقة القائمة على القوة والدقة في أنظمة التعلم والتصنيف . 2002.
  38. كوفاكس، تيم (2002). "وجهتا نظر لأنظمة التصنيف" . التطورات في أنظمة تصنيف التعلم . سلسلة محاضرات في علوم الحاسوب. المجلد 2321. الصفحات 74-87 . doi : 10.1007/3-540-48104-4_6 . ISBN   978-3-540-43793-2.
  39. 1 2 كونغدون، كلير بيتس. "مقارنة بين الخوارزميات الجينية وأنظمة التعلم الآلي الأخرى في مهمة تصنيف معقدة من أبحاث الأمراض الشائعة." أطروحة دكتوراه، جامعة ميشيغان، 1995.
  40. هولمز، جون هـ. (1996-01-01). "نهج التعلم الآلي القائم على علم الوراثة لاكتشاف المعرفة في البيانات السريرية" . وقائع ندوة AMIA السنوية للخريف : 883. ISSN 1091-8280 . PMC 2233061 .  
  41. هولمز، جون هـ. " اكتشاف خطر الإصابة بالأمراض باستخدام نظام تصنيف التعلم ". في ICGA ، الصفحات 426-433. 1997.
  42. هولمز، جون هـ.، وجينيفر أ. ساجر. " اكتشاف القواعد في بيانات المراقبة الوبائية باستخدام EpiXCS: نهج الحوسبة التطورية ". في مؤتمر الذكاء الاصطناعي في الطب في أوروبا ، الصفحات 444-452. سبرينغر برلين هايدلبرغ، 2005.
  43. بوتز، مارتن ف. " الاستكشاف المتحيز في نظام تصنيف التعلم الاستباقي ". في ورشة العمل الدولية حول أنظمة تصنيف التعلم ، ص 3-22. سبرينغر برلين هايدلبرغ، 2001.
  44. ويلسون، ستيوارت و. (2002). "مصنفات تقريبية للدوال". الحوسبة الطبيعية . 1 ( 2-3 ): 211-234 . doi : 10.1023/A:1016535925043 . ISSN 1567-7818 . S2CID 23032802 .  
  45. بول، لاري. " نظام تصنيف تعلم بسيط قائم على الدقة ." تقرير فني لمجموعة أنظمة تصنيف التعلم UWELCSG03-005، جامعة غرب إنجلترا، بريستول، المملكة المتحدة (2003).
  46. بول، لاري. " نظام تصنيف تعلم بسيط قائم على العائد ". في المؤتمر الدولي حول حل المشكلات المتوازية من الطبيعة ، الصفحات 1032-1041. سبرينغر برلين هايدلبرغ، 2004.
  47. بينيارويا، جاومي باكارديت. “التعلم الآلي القائم على الجينات في بيتسبرغ في عصر استخراج البيانات: التمثيلات والتعميم ووقت التشغيل.” دكتوراه، جامعة رامون لول، 2004.
  48. باكارديت، جاومي؛ بيرك، إدموند ك.؛ كراسنوغور، ناتاليو (12-12-2008). "تحسين قابلية التوسع في التعلم التطوري القائم على القواعد". الحوسبة الميمية . 1 (1): 55-67 . doi : 10.1007/s12293-008-0005-4 . ISSN 1865-9284 . S2CID 775199 .  
  49. دروغويتش، يان (2008). تصميم وتحليل أنظمة تصنيف التعلم - سبرينغر . دراسات في الذكاء الحسابي. المجلد 139. doi : 10.1007/978-3-540-79866-8 . ISBN  978-3-540-79865-1.
  50. أوربانوفيتش، رايان جيه، جيديميناس بيرتاسيوس، وجيسون إتش مور. " نظام تصنيف تعلم موسع على نمط ميشيغان للتعلم الخاضع للإشراف المرن، والتصنيف، واستخراج البيانات. مؤرشف في 29 أغسطس 2017 على موقع Wayback Machine ." في المؤتمر الدولي حول حل المشكلات المتوازية من الطبيعة ، الصفحات 211-221. دار نشر سبرينغر الدولية، 2014.
  51. أوربانوفيتش، رايان جيه، وديلاني غرانزو-ماكنزي، وجيسون إتش مور. " استخدام خبرة الخبراء لتوجيه التغطية والطفرة في نظام تصنيف التعلم على نمط ميشيغان للكشف عن التفاعل الجيني وعدم التجانس ." في المؤتمر الدولي حول حل المشكلات المتوازية من الطبيعة ، الصفحات 266-275. سبرينغر برلين هايدلبرغ، 2012.
  52. أوربانوفيتش، رايان؛ غرانزو-ماكنزي، أمبروز؛ مور، جيسون (1 يناير 2012). "تتبع السمات المرتبطة بالحالات والتغذية الراجعة لأنظمة تصنيف التعلم الخاضع للإشراف على نمط ميشيغان". وقائع المؤتمر السنوي الرابع عشر حول الحوسبة الجينية والتطورية . GECCO '12. نيويورك، نيويورك، الولايات المتحدة الأمريكية: ACM. الصفحات 927-934 . doi : 10.1145/2330163.2330291 . ISBN  9781450311779. S2CID 142534 . 
  53. باكارديت، خاومي؛ كراسنوغور، ناتاليو (1 يناير 2009). "تمثيل مختلط لقوائم السمات المنفصلة والمتصلة لمجالات التصنيف واسعة النطاق". وقائع المؤتمر السنوي الحادي عشر حول الحوسبة الجينية والتطورية . GECCO '09. نيويورك، نيويورك، الولايات المتحدة الأمريكية: ACM. الصفحات 1155-1162 . CiteSeerX 10.1.1.158.7314 . doi : 10.1145/1569901.1570057 . ISBN   9781605583259. S2CID 10906515 . 
  54. إقبال، محمد؛ براون، ويل ن.؛ تشانغ، مينغجي (2014-08-01). "إعادة استخدام لبنات بناء المعرفة المستخرجة لحل المشكلات المنطقية المعقدة واسعة النطاق". معاملات IEEE في الحوسبة التطورية . 18 (4): 465-480 . Bibcode : 2014ITEC...18..465I . doi : 10.1109/tevc.2013.2281537 . S2CID 525358 . 
  55. بوكر، إل بي؛ غولدبيرغ، دي إي؛ هولاند، جيه إتش (1989-09-01). "أنظمة التصنيف والخوارزميات الجينية" (ملف PDF) . الذكاء الاصطناعي . 40 (1): 235-282 . doi : 10.1016/0004-3702(89)90050-7 . hdl : 2027.42/27777 .
  56. ويلسون، ستيوارت دبليو، وديفيد إي. غولدبيرغ. "مراجعة نقدية لأنظمة التصنيف". في وقائع المؤتمر الدولي الثالث حول الخوارزميات الجينية ، الصفحات 244-255. دار مورغان كوفمان للنشر، 1989.

فيديو تعليمي

صفحات الويب