آلة تورينج العصبية

آلة تورينج العصبية ( NTM ) هي نموذج شبكة عصبية متكررة لآلة تورينج . نُشر هذا النهج بواسطة أليكس جريفز وآخرون في عام 2014. [ 1 ] تجمع آلات تورينج العصبية بين قدرات مطابقة الأنماط الضبابية للشبكات العصبية والقوة الخوارزمية للحواسيب القابلة للبرمجة .

تحتوي الشبكة العصبية للذاكرة (NTM) على وحدة تحكم شبكية عصبية متصلة بموارد ذاكرة خارجية ، تتفاعل معها من خلال آليات الانتباه. وتكون تفاعلات الذاكرة قابلة للتفاضل من البداية إلى النهاية، مما يتيح تحسينها باستخدام خوارزمية التدرج الهبوطي . [ 2 ] ويمكن لشبكة NTM المزودة بوحدة تحكم شبكية للذاكرة طويلة المدى (LSTM) استنتاج خوارزميات بسيطة مثل النسخ والفرز والاستدعاء الترابطي من الأمثلة فقط. [ 1 ]

لم ينشر مؤلفو ورقة NTM الأصلية شفرة المصدر الخاصة بهم . [ 1 ] نُشر أول تطبيق مستقر مفتوح المصدر في عام 2018 في المؤتمر الدولي السابع والعشرين للشبكات العصبية الاصطناعية، وحصل على جائزة أفضل ورقة بحثية. [ 3 ] [ 4 ] [ 5 ] توجد تطبيقات أخرى مفتوحة المصدر لـ NTMs، ولكنها حتى عام 2018 لم تكن مستقرة بما يكفي للاستخدام الإنتاجي. [ 6 ] [ 7 ] [ 8 ] [ 9 ] [ 10 ] [ 11 ] [ 12 ] يُبلغ المطورون إما أن تدرجات تطبيقاتهم تصبح أحيانًا NaN أثناء التدريب لأسباب غير معروفة، مما يؤدي إلى فشل التدريب؛ [ 10 ] [ 11 ] [ 9 ] أو يُبلغون عن بطء التقارب؛ [ 7 ] [ 6 ] أو لا يُبلغون عن سرعة تعلم تطبيقاتهم. [ 12 ] [ 8 ]

تُعد الحواسيب العصبية التفاضلية نتاجًا لآلات تورينج العصبية، مع آليات انتباه تتحكم في مكان نشاط الذاكرة، وتحسن الأداء. [ 13 ]

مراجع

  1. 1 2 3 جريفز، أليكس؛ واين، جريج. دانيهيلكا، إيفو (2014). “آلات تورينج العصبية”. أرخايف : 1410.5401 [ cs.NE ].
  2. "العقول العميقة: مقابلة مع أليكس غريفز وكوراي كافوكوغلو من جوجل" . تم الاطلاع عليه بتاريخ 17 مايو 2016 .
  3. كولير، مارك؛ بيل، جويران (2018)، "تطبيق آلات تورينج العصبية"، الشبكات العصبية الاصطناعية والتعلم الآلي - ICANN 2018 ، دار نشر سبرينغر الدولية، ص 94-104 ، arXiv : 1807.08518 ، Bibcode : 2018arXiv180708518C ، doi : 10.1007/978-3-030-01424-7_10 ، ISBN  9783030014230، S2CID 49908746 
  4. "MarkPKCollier/NeuralTuringMachine" . GitHub . تم الاطلاع عليه بتاريخ 20-10-2018 .
  5. بيل، جويران (20 أكتوبر 2018). "جائزة أفضل ورقة بحثية عن بحثنا "تطبيق آلات تورينج العصبية" في المؤتمر الدولي السابع والعشرين للشبكات العصبية الاصطناعية | البروفيسور جويران بيل (كلية ترينيتي دبلن)" . مدونة كلية علوم الحاسوب والإحصاء، كلية ترينيتي دبلن . تاريخ الاطلاع: 20 أكتوبر 2018 .
  6. 1 2 "snowkylin/ntm" . GitHub . تم الاسترجاع في 2018-10-20 .
  7. 1 2 "chiggum/Neural-Turing-Machines" . GitHub . تم الاسترجاع في 2018-10-20 .
  8. 1 2 "yeoedward/Neural-Turing-Machine" . GitHub . 2017-09-13 . تم الاسترجاع في 2018-10-20 .
  9. 1 2 "camigord/Neural-Turing-Machine" . GitHub . تم الاسترجاع في 2018-10-20 .
  10. 1 2 "carpedm20/NTM-tensorflow" . جيثب . تم الاسترجاع 2018/10/20 .
  11. 1 2 "snipsco/ntm-lasagne" . GitHub . تم الاسترجاع في 2018-10-20 .
  12. 1 2 "loudinthecloud/pytorch-ntm" . GitHub . تم الاسترجاع في 2018-10-20 .
  13. مدير الموقع. "شبكة ديب مايند العصبية التفاضلية تفكر بعمق" . www.i-programmer.info . تاريخ الاسترجاع: 20 أكتوبر 2016 .