التعلم الفائق (علوم الحاسوب)

📅 آخر تحديث: ٣٠ يوليو ٢٠٢٦
✍️ نُشر في: ٣٠ يوليو ٢٠٢٦
الموسوعة الحرة

التعلم الفائق [ 1 ] [ 2 ] هو فرع من فروع التعلم الآلي، حيث تُطبَّق خوارزميات التعلم الآلي على البيانات الوصفية المتعلقة بتجارب التعلم الآلي. وحتى عام 2017، لم يكن للمصطلح تعريف موحد، إلا أن الهدف الرئيسي هو استخدام هذه البيانات الوصفية لفهم كيفية جعل التعلم الآلي أكثر مرونة في حل مشكلات التعلم، وبالتالي تحسين أداء خوارزميات التعلم الحالية أو تعلم (استنباط) خوارزمية التعلم نفسها، ومن هنا جاء المصطلح البديل " التعلم من أجل التعلم" . [ 1 ]

تُعدّ المرونة مهمة لأن كل خوارزمية تعلّم تعتمد على مجموعة من الافتراضات حول البيانات، وهو ما يُعرف بانحيازها الاستقرائي . [ 3 ] وهذا يعني أنها لن تتعلّم جيدًا إلا إذا تطابق هذا الانحياز مع مشكلة التعلّم. قد تُحقق خوارزمية التعلّم أداءً ممتازًا في مجالٍ ما، ولكنها لا تُحقق أداءً جيدًا في مجالٍ آخر. وهذا يفرض قيودًا كبيرة على استخدام تقنيات التعلّم الآلي أو استخراج البيانات ، نظرًا لأن العلاقة بين مشكلة التعلّم (والتي غالبًا ما تكون نوعًا من قواعد البيانات ) وفعالية خوارزميات التعلّم المختلفة لا تزال غير مفهومة.

باستخدام أنواع مختلفة من البيانات الوصفية، مثل خصائص مشكلة التعلم، وخصائص الخوارزمية (مثل مقاييس الأداء)، أو الأنماط المستمدة مسبقًا من البيانات، يُمكن تعلم خوارزميات تعلم مختلفة، أو اختيارها، أو تعديلها، أو دمجها لحل مشكلة تعلم معينة بفعالية. وتتشابه الانتقادات الموجهة إلى مناهج التعلم الفائق تشابهًا كبيرًا مع الانتقادات الموجهة إلى الخوارزميات الاستدلالية ، وهي مشكلة قد تكون ذات صلة. ويُعدّ التشبيه الجيد للتعلم الفائق، والذي ألهم أعمال يورغن شميدهوبر المبكرة (1987) [ 1 ] وأعمال يوشوا بنجيو وآخرون (1991) [ 4 ]، هو أن التطور الجيني يتعلم إجراء التعلم المُشفّر في الجينات والمُنفّذ في دماغ كل فرد. وفي نظام تعلم فائق هرمي مفتوح النهاية [ 1 ] باستخدام البرمجة الجينية ، يُمكن تعلم أساليب تطورية أفضل من خلال التطور الفائق، والذي بدوره يُمكن تحسينه من خلال تطور فائق فائق، وهكذا [ 1 ].

تعريف

يجمع التعريف المقترح [ 5 ] لنظام التعلم الفائق بين ثلاثة متطلبات:

  • يجب أن يتضمن النظام نظامًا فرعيًا للتعلم.
  • تُكتسب الخبرة من خلال استغلال المعرفة الوصفية المستخرجة.
    • في حلقة تعليمية سابقة على مجموعة بيانات واحدة، أو
    • من مجالات مختلفة.
  • يجب اختيار التحيز التعليمي بشكل ديناميكي.

يشير مصطلح التحيز إلى الافتراضات التي تؤثر على اختيار الفرضيات التفسيرية [ 6 ] ، وليس إلى مفهوم التحيز المُمثل في معضلة التحيز والتباين . يهتم التعلم الفائق بجانبين من جوانب التحيز في التعلم.

  • يحدد التحيز التصريحي تمثيل فضاء الفرضيات، ويؤثر على حجم فضاء البحث (على سبيل المثال، تمثيل الفرضيات باستخدام الدوال الخطية فقط).
  • يفرض التحيز الإجرائي قيودًا على ترتيب الفرضيات الاستقرائية (على سبيل المثال، تفضيل الفرضيات الأصغر). [ 7 ]

الأساليب الشائعة

هناك ثلاثة مناهج شائعة: [ 8 ]

  1. باستخدام الشبكات (الدورية) ذات الذاكرة الخارجية أو الداخلية (القائمة على النموذج)
  2. تعلم مقاييس المسافة الفعالة (القائمة على المقاييس)
  3. تحسين معلمات النموذج بشكل صريح من أجل التعلم السريع (التحسين القائم على التحسين).

قائم على النموذج

تقوم نماذج التعلم الفائق القائمة على النماذج بتحديث معاييرها بسرعة من خلال بضع خطوات تدريبية، وهو ما يمكن تحقيقه من خلال بنيتها الداخلية أو التحكم فيه بواسطة نموذج تعلم فائق آخر. [ 8 ]

الشبكات العصبية المعززة بالذاكرة

يُزعم أن الشبكة العصبية المعززة بالذاكرة ، أو اختصاراً MANN، قادرة على ترميز المعلومات الجديدة بسرعة، وبالتالي التكيف مع المهام الجديدة بعد بضعة أمثلة فقط. [ 9 ]

الشبكات الميتا

تتعلم الشبكات الفوقية (MetaNet) معرفة على مستوى فوقي عبر المهام وتغير تحيزاتها الاستقرائية من خلال تحديد المعلمات بسرعة من أجل التعميم السريع. [ 10 ]

قائم على المقاييس

تتشابه الفكرة الأساسية في التعلم الفائق القائم على المقاييس مع خوارزميات أقرب الجيران ، حيث يتم توليد الوزن بواسطة دالة النواة. ويهدف هذا النوع من التعلم إلى تعلم مقياس أو دالة مسافة بين الكائنات. ويختلف مفهوم المقياس الجيد باختلاف المشكلة، إذ ينبغي أن يُمثل العلاقة بين المدخلات في فضاء المهمة وأن يُسهّل حل المشكلة. [ 8 ]

شبكة عصبية سيامية التفافية

تتكون الشبكة العصبية السيامية من شبكتين متطابقتين يتم تدريب مخرجاتهما بشكل مشترك. توجد دالة أعلاه لتعلم العلاقة بين أزواج عينات بيانات الإدخال. الشبكتان متطابقتان، وتتشاركان نفس الأوزان ومعاملات الشبكة. [ 11 ]

شبكات المطابقة

تتعلم شبكات المطابقة شبكة تربط مجموعة دعم صغيرة مصنفة ومثال غير مصنف بتصنيفه، مما يلغي الحاجة إلى الضبط الدقيق للتكيف مع أنواع الفئات الجديدة. [ 12 ]

شبكة العلاقات

يتم تدريب شبكة العلاقات (RN) من البداية إلى النهاية. خلال عملية التعلم الفائق، تتعلم الشبكة مقياس مسافة عميق لمقارنة عدد قليل من الصور ضمن الحلقات، حيث صُممت كل حلقة لمحاكاة بيئة اللقطات القليلة. [ 13 ]

الشبكات النموذجية

تتعلم الشبكات النموذجية فضاءً متريًا يُمكن فيه إجراء التصنيف عن طريق حساب المسافات إلى التمثيلات النموذجية لكل فئة. وبالمقارنة مع الأساليب الحديثة للتعلم باستخدام عدد قليل من الأمثلة، فإنها تعكس تحيزًا استقرائيًا أبسط يُعد مفيدًا في هذا النطاق من البيانات المحدودة، وتحقق نتائج مرضية. [ 14 ]

التحسين القائم على

تهدف خوارزميات التعلم الفائق القائمة على التحسين إلى تعديل خوارزمية التحسين بحيث يكون النموذج جيدًا في التعلم باستخدام عدد قليل من الأمثلة. [ 8 ]

متعلم LSTM الفائق

يهدف نموذج التعلم الفائق القائم على LSTM إلى تعلم خوارزمية التحسين الدقيقة المستخدمة لتدريب مصنف شبكة عصبية آخر في نظام التدريب بعدد قليل من الأمثلة. تسمح المعلمات بتعلم تحديثات المعلمات المناسبة تحديدًا للسيناريو الذي يتم فيه إجراء عدد محدد من التحديثات، مع تعلم تهيئة عامة لشبكة التعلم (المصنف) تسمح بالتقارب السريع للتدريب. [ 15 ]

التمايز الزمني

التعلم الفائق المستقل عن النموذج (MAML) هو خوارزمية تحسين عامة إلى حد ما ، ومتوافقة مع أي نموذج يتعلم من خلال انحدار التدرج. [ 16 ]

الزواحف

يُعدّ Reptile خوارزمية تحسين بسيطة للغاية للتعلم الفائق، نظرًا لأن كلا مكونيها يعتمدان على التحسين الفائق من خلال انحدار التدرج وكلاهما مستقل عن النموذج. [ 17 ]

أمثلة

بعض الأساليب التي تم اعتبارها أمثلة على التعلم الفائق:

  • تُعدّ الشبكات العصبية المتكررة (RNNs) حواسيب شاملة. في عام 1993، أوضح يورغن شميدهوبر كيف يمكن لشبكات RNNs "ذاتية المرجعية" أن تتعلم، من حيث المبدأ، عبر الانتشار العكسي لتشغيل خوارزمية تغيير الأوزان الخاصة بها، والتي قد تختلف تمامًا عن الانتشار العكسي. [ 18 ] في عام 2001، بنى سيب هوكريتر وإيه إس يونغر وبي آر كونيل متعلمًا فائقًا خاضعًا للإشراف ناجحًا قائمًا على شبكات RNNs ذات الذاكرة طويلة المدى . وقد تعلم هذا المتعلم، من خلال الانتشار العكسي، خوارزمية تعلم للدوال التربيعية أسرع بكثير من الانتشار العكسي. [ 19 ] [ 2 ] قام باحثون في ديب مايند (مارسين أندريتشوفيتش وآخرون) بتوسيع هذا النهج ليشمل التحسين في عام 2017. [ 20 ]
  • في تسعينيات القرن الماضي، تم تحقيق التعلم المعزز الفائق (Meta RL) في مجموعة أبحاث شميدهوبر من خلال سياسات ذاتية التعديل مكتوبة بلغة برمجة عالمية تتضمن تعليمات خاصة لتغيير السياسة نفسها. وتخضع هذه السياسات لاختبار واحد مدى الحياة. ويهدف وكيل التعلم المعزز إلى تعظيم المكافأة، ويتعلم تسريع الحصول عليها من خلال التحسين المستمر لخوارزمية التعلم الخاصة به، والتي تُعد جزءًا من السياسة "ذاتية المرجعية". [ 21 ] [ 22 ]
  • يُجسّد نموذج غودل أحدَ أنواع التعلّم المعزّز الفائق ، وهو عبارة عن بنية نظرية قادرة على فحص وتعديل أي جزء من برمجياتها الخاصة التي تحتوي أيضًا على مُثبت نظريات عام . ويمكنها تحقيق تحسين ذاتي متكرر بطريقة مثلى قابلة للإثبات. [ 23 ] [ 2 ]
  • طُوِّرَتْ تقنية التعلّم الفائق غير المعتمد على النموذج (MAML) في عام 2017 من قِبَل تشيلسي فين وآخرين [ 16 ] . وبالنظر إلى سلسلة من المهام، تُدرَّب معلمات نموذج مُحدَّد بحيث يؤدي عدد قليل من تكرارات خوارزمية التدرج الهبوطي مع بيانات تدريب قليلة من مهمة جديدة إلى أداء تعميم جيد لتلك المهمة. تُدرِّب MAML النموذج بحيث يسهل ضبطه بدقة [ 16 ] . وقد طُبِّقت MAML بنجاح على معايير تصنيف الصور ذات الأمثلة القليلة وعلى التعلّم المعزز القائم على تدرج السياسة [ 16 ] .
  • تم تقديم Variational Bayes-Adaptive Deep RL (VariBAD) في عام 2019. [ 24 ] في حين أن MAML يعتمد على التحسين، فإن VariBAD هو طريقة قائمة على النموذج للتعلم المعزز الفائق، ويستفيد من المشفر التلقائي المتغير لالتقاط معلومات المهمة في ذاكرة داخلية، وبالتالي تكييف عملية اتخاذ القرار مع المهمة.
  • عند معالجة مجموعة من المهام، تُركز معظم مناهج التعلم الفائق على تحسين متوسط ​​الدرجات لجميع المهام. وبالتالي، قد تُضحى ببعض المهام لصالح متوسط ​​الدرجات، وهو أمر غير مقبول في التطبيقات العملية. في المقابل، يركز التعلم الفائق المعزز القوي (RoML) على تحسين أداء المهام ذات الدرجات المنخفضة، مما يزيد من متانة اختيار المهام. [ 25 ] يعمل RoML كخوارزمية فوقية، حيث يمكن تطبيقه فوق خوارزميات التعلم الفائق الأخرى (مثل MAML وVariBAD) لتعزيز متانتها. وهو قابل للتطبيق على كلٍ من التعلم الفائق الخاضع للإشراف والتعلم الفائق المعزز .
  • يعمل اكتشاف المعرفة الفوقية من خلال استنباط المعرفة (كالقواعد مثلاً) التي تُعبّر عن كيفية أداء كل طريقة تعلّم على مختلف مسائل التعلّم. تتكوّن البيانات الفوقية من خصائص البيانات (العامة، والإحصائية، ونظرية المعلومات، إلخ) في مسألة التعلّم، وخصائص خوارزمية التعلّم (النوع، وإعدادات المعلمات، ومقاييس الأداء، إلخ). ثمّ تتعلّم خوارزمية تعلّم أخرى كيفية ارتباط خصائص البيانات بخصائص الخوارزمية. عند طرح مسألة تعلّم جديدة، تُقاس خصائص البيانات، ويُتنبأ بأداء خوارزميات التعلّم المختلفة. ومن ثمّ، يُمكن التنبؤ بالخوارزميات الأنسب للمسألة الجديدة.
  • تعتمد خوارزمية التعميم المتراكم على دمج خوارزميات تعلم متعددة (ومختلفة). تُشكّل البيانات الوصفية من تنبؤات هذه الخوارزميات المختلفة. ثم تستفيد خوارزمية تعلم أخرى من هذه البيانات الوصفية للتنبؤ بأي توليفات من الخوارزميات تُعطي نتائج جيدة بشكل عام. عند طرح مشكلة تعلم جديدة، تُدمج تنبؤات مجموعة الخوارزميات المختارة (على سبيل المثال، عن طريق التصويت (المرجّح)) لتقديم التنبؤ النهائي. وبما أن كل خوارزمية مصممة للعمل على مجموعة فرعية من المشكلات، يُؤمل أن تكون التوليفة أكثر مرونة وقدرة على تقديم تنبؤات جيدة.
  • يرتبط التعزيز بالتعميم المتراكم، ولكنه يستخدم نفس الخوارزمية عدة مرات، حيث تحصل الأمثلة في بيانات التدريب على أوزان مختلفة في كل مرة. ينتج عن ذلك تنبؤات مختلفة، يركز كل منها على التنبؤ الصحيح بمجموعة فرعية من البيانات، ويؤدي دمج هذه التنبؤات إلى نتائج أفضل (ولكنها أكثر تكلفة).
  • تعتمد آلية اختيار الانحياز الديناميكي على تعديل الانحياز الاستقرائي لخوارزمية التعلم بما يتناسب مع المشكلة المطروحة. ويتم ذلك من خلال تغيير جوانب رئيسية في خوارزمية التعلم، مثل تمثيل الفرضيات، والصيغ الاستدلالية، أو المعاملات. وتوجد العديد من المناهج المختلفة في هذا المجال.
  • يدرس النقل الاستقرائي كيفية تحسين عملية التعلم بمرور الوقت. تتكون البيانات الوصفية من معلومات حول تجارب التعلم السابقة، وتُستخدم لتطوير فرضية فعّالة لمهمة جديدة. وهناك نهج ذو صلة يُسمى " التعلم من أجل التعلم" ، حيث يهدف إلى استخدام المعرفة المكتسبة من مجال ما للمساعدة في التعلم في مجالات أخرى.
  • وتشمل الأساليب الأخرى التي تستخدم البيانات الوصفية لتحسين التعلم التلقائي أنظمة تصنيف التعلم ، والاستدلال القائم على الحالات ، وإرضاء القيود .
  • تم البدء ببعض الأعمال النظرية الأولية لاستخدام تحليل السلوك التطبيقي كأساس للتعلم الفائق بوساطة الوكيل حول أداء المتعلمين البشريين، وتعديل المسار التعليمي للوكيل الاصطناعي. [ 26 ]
  • التعلم الآلي التلقائي مثل مشروع "الذكاء الاصطناعي الذي يبني الذكاء الاصطناعي" التابع لـ Google Brain، والذي تجاوز لفترة وجيزة، وفقًا لـ Google، معايير ImageNet الحالية في عام 2017. [ 27 ] [ 28 ]

مراجع

  1. 1 2 3 4 5 شميدهوبر، يورغن (1987). "المبادئ التطورية في التعلم المرجعي الذاتي، أو في تعلم كيفية التعلم: خطاف الميتا-ميتا-..." (ملف PDF) . رسالة دبلوم، جامعة ميونخ التقنية .
  2. 1 2 3 شول، توم؛ شميدهوبر، يورغن (2010). "تعلم المعادن" . سكولاربيديا . 5 (6): 4650. بيب كود : 2010SchpJ...5.4650S . دوى : 10.4249/scholarpedia.4650 .
  3. ↑ بي إي أوتجوف (1986). "تحول التحيز في تعلم المفاهيم الاستقرائي" . في ر. ميشالسكي؛ ج. كاربونيل؛ ت. ميتشل (محررون). تعلم الآلة: مدخل الذكاء الاصطناعي . مورغان كوفمان. ص 163-190 . ISBN  978-0-934613-00-2.
  4. ↑ بينجيو، يوشوا؛ بينجيو، سامي؛ كلوتير، جوسلين (1991). تعلم كيفية تعلم قاعدة متشابكة (ملف PDF) . المؤتمر الدولي المشترك لشبكات الأعصاب العصبية 1991.
  5. ↑ ليمكي، كريستيان؛ بودكا، مارسين؛ غابريس، بوغدان (20 يوليو 2013). "التعلم الفائق: دراسة استقصائية للاتجاهات والتقنيات" . مجلة مراجعة الذكاء الاصطناعي . 44 (1): 117-130 . doi : 10.1007/s10462-013-9406-y . ISSN 0269-2821 . PMC 4459543. PMID 26069389 .   
  6. ^ برازديل، بافيل. الناقل، كريستوف جيرو؛ سواريس، كارلوس؛ فيلالتا، ريكاردو (2009). تعلم المعادن - سبرينغر . التقنيات المعرفية. دوى : 10.1007/978-3-540-73263-1 . رقم ISBN 978-3-540-73262-4.
  7. ↑ غوردون، ديانا؛ ديجاردان، ماري (1995). "تقييم واختيار التحيزات في التعلم الآلي" (ملف PDF) . التعلم الآلي . 20 ( 1-2 ): 5-22 . doi : 10.1023/A:1022630017346 . تاريخ الاسترجاع: 27 مارس 2020 .
  8. 1 2 3 4 وينغ، ليليان (30 نوفمبر 2018). "التعلم الفائق: تعلم كيفية التعلم بسرعة" . مدونة OpenAI . تم الاطلاع عليه بتاريخ 27 أكتوبر 2019 .
  9. ↑ سانتورو، آدم؛ بارتونوف، سيرجي؛ ويرسترا، دان؛ ليليكرب، تيموثي. "التعلم الفائق باستخدام الشبكات العصبية المعززة بالذاكرة" (ملف PDF) . جوجل ديب مايند . تاريخ الاسترجاع: 29 أكتوبر 2019 .
  10. ↑ مونخدالاي، تسيندسورين؛ يو، هونغ (2017). " الشبكات الفوقية" . وقائع بحوث التعلم الآلي . 70 : 2554-2563 . arXiv : 1703.00837 . PMC 6519722. PMID 31106300 .  
  11. ↑ كوتش، غريغوري؛ زيميل، ريتشارد؛ سالاخوتدينوف، روسلان (2015). "الشبكات العصبية السيامية للتعرف على الصور بلقطة واحدة" (ملف PDF) . تورنتو، أونتاريو، كندا: قسم علوم الحاسوب، جامعة تورنتو.
  12. ↑ فينيالز، أو.؛ ​​بلونديل، سي.؛ ليليكرب، تي.؛ كافوكوغلو، ك.؛ ويرسترا، دي. (2016). "شبكات المطابقة للتعلم بلقطة واحدة" (ملف PDF) . جوجل ديب مايند . تم الاطلاع عليه في 3 نوفمبر 2019 .
  13. ↑ سونغ، ف.؛ يانغ، ي.؛ تشانغ، ل.؛ شيانغ، ت.؛ تور، ب.هـ.س.؛ هوسبيداليس، ت.م. (2018). "التعلم للمقارنة: شبكة العلاقات للتعلم بعدد قليل من الأمثلة" (PDF) .
  14. ↑ سنيل، ج.؛ سويرسكي، ك.؛ زيميل، ر.س. (2017). "الشبكات النموذجية للتعلم القليل من الأمثلة" (PDF) .
  15. ↑ رافي، ساشين؛ لاروشيل، هوغو (2017). التحسين كنموذج للتعلم باستخدام عدد قليل من الأمثلة . المؤتمر الدولي لتعلم المحاكاة 2017. تم الاطلاع عليه بتاريخ 3 نوفمبر 2019 .
  16. 1 2 3 4 فين، تشيلسي؛ أبيل، بيتر؛ ليفين، سيرجي (2017). "التعلم الفائق غير المعتمد على النموذج من أجل التكيف السريع للشبكات العميقة". arXiv : 1703.03400 [ cs.LG ].
  17. ↑ نيكول، أليكس؛ أشيام، جوشوا؛ شولمان، جون (2018). "حول خوارزميات التعلم الفائق من الدرجة الأولى". arXiv : 1803.02999 [ cs.LG ].
  18. ↑ شميدهوبر، يورغن (1993). "مصفوفة أوزان مرجعية ذاتية". وقائع مؤتمر ICANN'93، أمستردام : 446-451 .
  19. ↑ هوكريتر، سيب؛ يونغر، أ.س؛ كونول، ب.ر (2001). "التعلم من خلال التعلم باستخدام انحدار التدرج". وقائع مؤتمر ICANN'01 : 87-94 .
  20. ↑ أندريكوفيتش، مارسين؛ دينيل، ميشا؛ غوميز، سيرجيو؛ هوفمان، ماثيو؛ بفاو، ديفيد؛ شاول، توم؛ شيلينغفورد، بريندان؛ دي فريتاس، ناندو (2017). "التعلم من خلال الانحدار التدرجي". وقائع المؤتمر الدولي للتعلم الآلي 2017، سيدني، أستراليا . arXiv : 1606.04474 .
  21. ↑ شميدهوبر، يورغن (1994). "حول تعلم كيفية تعلم استراتيجيات التعلم" (ملف PDF) . تقرير فني FKI-198-94، جامعة ميونخ التقنية .
  22. ↑ شميدهوبر، يورغن؛ تشاو، ج.؛ ويرينغ، م. (1997). "تغيير التحيز الاستقرائي باستخدام خوارزمية قصة النجاح، وبحث ليفين التكيفي، والتحسين الذاتي التدريجي" . تعلم الآلة . 28 : 105-130 . doi : 10.1023/a:1007383707642 .
  23. ^ شميدهوبر، يورغن (2006). "آلات غودل: مُحسّنات ذاتية عالمية مثالية ذاتية المرجعية بالكامل" . في B. Goertzel & C. Pennachin، محرران: الذكاء العام الاصطناعي : 199–226 .
  24. ^ زينتغراف، لويزا؛ شولز، سيباستيان. لو، كونغ؛ فنغ، ليو. ايجل، ماكسيميليان. شيارليس، كيرياكوس؛ غال يارين. هوفمان، كاتيا. ويتسون، شمعون (2021). "VariBAD: Variational Bayes-Adaptive Deep RL عبر التعلم التلوي" . مجلة أبحاث التعلم الآلي . 22 (289): 1– 39. ISSN 1533-7928 . 
  25. ↑ غرينبيرغ، إيدو؛ مانور، شي؛ تشيك، غال؛ ميروم، إيلي (15 ديسمبر 2023). "تدرب بجد، قاتل بسهولة: التعلم المعزز الفائق القوي" . التطورات في أنظمة معالجة المعلومات العصبية . 36 : 68276-68299 .
  26. ↑ بيجولي، إدمون (مايو 2014). "بنية الاستدلال الإجرائي للتعليمات القائمة على تحليل السلوك التطبيقي" . أطروحات دكتوراه . نوكسفيل، تينيسي، الولايات المتحدة الأمريكية: جامعة تينيسي، نوكسفيل: 44-79 . تاريخ الاسترجاع: 14 أكتوبر 2017 .
  27. ↑ «الروبوتات الآن "تصنع روبوتات جديدة"، بحسب مراسل تقني» . NPR.org . 2018. تم الاطلاع عليه بتاريخ 29 مارس 2018 .
  28. ↑ "التعلم الآلي التلقائي لتصنيف الصور واسعة النطاق واكتشاف الكائنات" . مدونة أبحاث جوجل . نوفمبر 2017. تم الاطلاع عليه بتاريخ 29 مارس 2018 .