SqueezeNet

📅 آخر تحديث: ٢٥ يوليو ٢٠٢٦
✍️ نُشر في: ٢٥ يوليو ٢٠٢٦
الموسوعة الحرة

SqueezeNet هي شبكة عصبية عميقة لتصنيف الصور ، صدرت عام 2016. طُوّرت SqueezeNet على يد باحثين من DeepScale وجامعة كاليفورنيا في بيركلي وجامعة ستانفورد . كان هدف الباحثين من تصميم SqueezeNet هو إنشاء شبكة عصبية أصغر حجمًا بعدد أقل من المعاملات مع تحقيق دقة تنافسية. حقق أفضل نموذج أداء لديهم نفس دقة AlexNet في تصنيف ImageNet ، ولكن بحجم أصغر منها بـ 510 مرة. [ 1 ]

سجل الإصدارات

صدرت SqueezeNet لأول مرة في 22 فبراير 2016. [ 2 ] تم تنفيذ هذه النسخة الأصلية من SqueezeNet باستخدام إطار عمل Caffe لبرمجيات التعلم العميق. بعد ذلك بوقت قصير، قام مجتمع البحث مفتوح المصدر بنقل SqueezeNet إلى عدد من أطر عمل التعلم العميق الأخرى. في 26 فبراير 2016، أصدر إيدي بيل نسخة من SqueezeNet لإطار عمل Chainer للتعلم العميق. [ 3 ] في 2 مارس 2016، أصدر غو هاريا نسخة من SqueezeNet لإطار عمل Apache MXNet . [ 4 ] في 3 يونيو 2016، أصدرت تامي يانغ نسخة من SqueezeNet لإطار عمل Keras . [ 5 ] في عام 2017، عرضت شركات من بينها Baidu و Xilinx و Imagination Technologies و Synopsys تشغيل SqueezeNet على منصات معالجة منخفضة الطاقة مثل الهواتف الذكية و FPGAs والمعالجات المخصصة. [ 6 ] [ 7 ] [ 8 ] [ 9 ]

اعتبارًا من عام 2018، أصبح SqueezeNet مُدمجًا بشكلٍ أساسي في شفرة المصدر لعدد من أُطر التعلم العميق، مثل PyTorch و Apache MXNet و Apple CoreML. [ 10 ] [ 11 ] [ 12 ] بالإضافة إلى ذلك، قام مطورو برامج خارجيون بإنشاء تطبيقات لـ SqueezeNet متوافقة مع أُطر عمل مثل TensorFlow . [ 13 ] فيما يلي مُلخص لأُطر العمل التي تدعم SqueezeNet.

نطاقدعم SqueezeNetالمرجع.
أباتشي إم إكس نتمحلي[ 11 ]
Apple CoreMLمحلي[ 12 ]
كافيه 2محلي[ 14 ]
كيراسطرف ثالث[ 5 ]
صندوق أدوات التعلم العميق في MATLABمحلي[ 15 ]
ONNXمحلي[ 16 ]
بايتورشمحلي[ 10 ]
TensorFlowطرف ثالث[ 13 ]
وولفرام ماثيماتيكامحلي[ 17 ]

العلاقة بالشبكات الأخرى

أليكس نت

وُصِفَ SqueezeNet في الأصل في مقال بعنوان: "دقة تُضاهي دقة AlexNet مع عدد أقل من المعاملات بمقدار 50 ضعفًا وحجم نموذج أقل من 0.5 ميجابايت" . [ 1 ] AlexNet عبارة عن شبكة عصبية عميقة تحتوي على 240 ميجابايت من المعاملات، بينما تحتوي SqueezeNet على 5 ميجابايت فقط. يُسهّل هذا الحجم الصغير للنموذج استيعابه في ذاكرة الحاسوب ونقله عبر شبكة الحاسوب. مع ذلك، من المهم ملاحظة أن SqueezeNet ليس "نسخة مُصغّرة من AlexNet"، بل هو بنية شبكة عصبية عميقة مختلفة تمامًا عن AlexNet. [ 18 ] يشترك كل من SqueezeNet وAlexNet في تحقيقهما مستوى دقة متقاربًا عند تقييمهما على مجموعة بيانات التحقق من تصنيف الصور ImageNet .

ضغط النموذج

يمكن تطبيق ضغط النموذج (مثل التكميم وتقليص معلمات النموذج) على الشبكة العصبية العميقة بعد تدريبها. [ 19 ] في ورقة بحثية حول SqueezeNet، أوضح الباحثون إمكانية تطبيق تقنية ضغط النموذج المسماة الضغط العميق على SqueezeNet لتقليل حجم ملف المعلمات من 5 ميجابايت إلى 500 كيلوبايت. [ 1 ] كما طُبق الضغط العميق على شبكات عصبية عميقة أخرى، مثل AlexNet وVGG. [ 20 ]

المتغيرات

واصل بعض أعضاء فريق SqueezeNet الأصلي تطوير شبكات عصبية عميقة فعّالة من حيث استهلاك الموارد لتطبيقات متنوعة. يُشار إلى بعض هذه الأعمال في الجدول التالي. وكما هو الحال مع نموذج SqueezeNet الأصلي، قام مجتمع البحث مفتوح المصدر بنقل وتكييف نماذج عائلة "squeeze" الأحدث هذه لتتوافق مع أطر التعلم العميق المتعددة.

نموذج الشبكة العصبية العميقةطلبإبداعي

تطبيق

آخر

التطبيقات

SqueezeDet [ 21 ] [ 22 ]الكشف عن الأجسام

على الصور

TensorFlow [ 23 ]كافيه، [ 24 ] كيراس [ 25 ] [ 26 ] [ 27 ]
SqueezeSeg [ 28 ]دلالي

التجزئة

تقنية الليدار

TensorFlow [ 29 ]
SqueezeNext [ 30 ]صورة

تصنيف

كافيه [ 31 ]TensorFlow، [ 32 ] كيراس، [ 33 ]

PyTorch [ 34 ]

SqueezeNAS [ 35 ] [ 36 ]البحث عن بنية عصبية

للتجزئة الدلالية

PyTorch [ 37 ]

بالإضافة إلى ذلك، قام مجتمع البحث مفتوح المصدر بتوسيع نطاق استخدام SqueezeNet ليشمل تطبيقات أخرى، بما في ذلك التجزئة الدلالية للصور ونقل الأنماط . [ 38 ] [ 39 ] [ 40 ]

انظر أيضاً

مراجع

  1. 1 2 3 إياندولا، فورست ن؛ هان، سونغ؛ موسكيويتش، ماثيو و؛ أشرف، خالد؛ دالي، ويليام ج؛ كويتزر، كورت (2016). "SqueezeNet: دقة بمستوى AlexNet مع عدد أقل من المعلمات بمقدار 50 مرة وحجم نموذج أقل من 0.5 ميجابايت". arXiv : 1602.07360 [ cs.CV ].
  2. ↑ "SqueezeNet" . GitHub . 2016-02-22 . تم الاسترجاع في 2018-05-12 .
  3. ↑ بيل، إيدي (2016-02-26). "تطبيق SqueezeNet في Chainer" . GitHub . تم الاسترجاع في 2018-05-12 .
  4. ^ هاريا ، قوه (2016/03/02). "SqueezeNet لـ MXNet" . جيثب . تم الاسترجاع 2018-05-12 .
  5. 1 2 يانغ ، تامي (2016/06/03). "تنفيذ SqueezeNet Keras" . جيثب . تم الاسترجاع 2018-05-12 .
  6. ↑ تشيرجوين، ريتشارد (26 سبتمبر 2017). "بايدو تُدمج التعلم العميق مفتوح المصدر في الهواتف الذكية" . ذا ريجستر . تاريخ الاسترجاع: 7 أبريل 2018 .
  7. ↑ بوش، ستيف (25 يناير 2018). "مجموعة تطوير البرامج للشبكات العصبية لوحدات معالجة الرسومات PowerVR" . مجلة إلكترونيكس ويكلي . تم الاطلاع عليه بتاريخ 7 أبريل 2018 .
  8. ↑ يوشيدا، جونكو (13 مارس 2017). "محرك الذكاء الاصطناعي من زيلينكس يرسم مسارًا جديدًا" . مجلة إي إي تايمز . تاريخ الاسترجاع: 13 مايو 2018 .
  9. ↑ بوتون، بول (28 أغسطس 2017). "خوارزميات رؤية الحاسوب للتعلم العميق مُحولة إلى معالج IP" . إنجينير لايف . تم الاسترجاع في 7 أبريل 2018 .
  10. 1 2 "squeezenet.py" . GitHub: PyTorch . تم الاسترجاع في 12-05-2018 .
  11. 1 2 "squeezenet.py" . GitHub: Apache MXNet . تم الاسترجاع في 2018-04-07 .
  12. 1 2 "CoreML" . أبل . تم الاسترجاع في 10 أبريل 2018 .
  13. 1 2 بوستر، دومينيك. "تنفيذ خوارزمية SqueezeNet باستخدام Tensorflow" . جيت هاب . تم الاطلاع عليه بتاريخ 12-05-2018 .
  14. ↑ إنكويتش، ناثان. "دليل التحميل السريع لنموذج SqueezeNet" . GitHub: Caffe2 . تم الاطلاع عليه بتاريخ 7 أبريل 2018 .
  15. ↑ "SqueezeNet for MATLAB Deep Learning Toolbox" . Mathworks . تم الاطلاع عليه بتاريخ 2018-10-03 .
  16. ↑ فانغ، لو. "SqueezeNet لـ ONNX" . تبادل الشبكات العصبية المفتوحة .
  17. ↑ "SqueezeNet V1.1 المدرب على بيانات مسابقة ImageNet" . مستودع Wolfram للشبكات العصبية . تم الاسترجاع في 12 مايو 2018 .
  18. ↑ "SqueezeNet" . العلوم المختصرة . تم الاسترجاع في 13 مايو 2018 .
  19. ↑ هان، سونغ؛ ماو، هويزي؛ دالي، ويليام جيه. (2016-02-15)، الضغط العميق: ضغط الشبكات العصبية العميقة باستخدام التقليم والتكميم المدرب وتشفير هوفمان ، arXiv : 1510.00149
  20. ↑ هان، سونغ (2016-11-06). "ضغط وتنظيم الشبكات العصبية العميقة" . أورايلي . تم الاسترجاع في 2018-05-08 .
  21. ↑ وو، بيشين؛ وان، ألفين؛ إياندولا، فورست؛ جين، بيتر هـ.؛ كويتزر، كورت (2016). "SqueezeDet: شبكات عصبية تلافيفية كاملة موحدة وصغيرة ومنخفضة الطاقة للكشف عن الأجسام في الوقت الحقيقي للقيادة الذاتية". arXiv : 1612.01051 [ cs.CV ].
  22. ↑ نونيس فرنانديز، إدغار (2017-03-02). "تقديم SqueezeDet: إطار عمل شبكة عصبية تلافيفية بالكامل منخفض الطاقة للقيادة الذاتية" . ذكاء المعلومات . تم الاسترجاع في 2019-03-31 .
  23. ↑ وو، بيشين (2016-12-08). "SqueezeDet: شبكات عصبية تلافيفية كاملة موحدة وصغيرة ومنخفضة الطاقة للكشف عن الأجسام في الوقت الحقيقي للقيادة الذاتية" . GitHub . تم الاسترجاع في 2018-12-26 .
  24. ↑ كوان، شو (2017-12-20). "Caffe SqueezeDet" . جيت هاب . تم الاسترجاع في 2018-12-26 .
  25. ^ بادمانابها ، نيشال (2017/03/20). "SqueezeDet على Keras" . جيثب . تم الاسترجاع 2018-12-26 .
  26. ↑ إهمان، كريستوفر (29 مايو 2018). "الكشف السريع عن الأجسام باستخدام SqueezeDet على Keras" . Medium . تم الاطلاع عليه بتاريخ 31 مارس 2019 .
  27. ↑ إهمان، كريستوفر (2018-05-02). "نظرة معمقة على SqueezeDet في Keras" . Medium . تم الاطلاع عليه بتاريخ 2019-03-31 .
  28. ↑ وو، بيشين؛ وان، ألفين؛ يو، شيانغيو؛ كويتزر، كورت (2017). "SqueezeSeg: شبكات عصبية التفافية مع CRF متكرر لتقسيم أجسام الطرق في الوقت الحقيقي من سحابة نقاط LiDAR ثلاثية الأبعاد". arXiv : 1710.07368 [ cs.CV ].
  29. ↑ وو، بيشين (2017-12-06). "SqueezeSeg: شبكات عصبية التفافية مع حقول عشوائية شرطية متكررة لتقسيم أجسام الطرق في الوقت الحقيقي من سحابة نقاط LiDAR ثلاثية الأبعاد" . GitHub . تم الاسترجاع في 2018-12-26 .
  30. ↑ غلامي، أمير؛ كوون، كيسيوك؛ وو، بيتشن؛ تاي، زيزهينج؛ يو، شيانغيو؛ جين، بيتر؛ تشاو، سيتشنغ؛ كيتزر، كورت (2018). “SqueezeNext: تصميم الشبكة العصبية المدرك للأجهزة”. أرخايف : 1803.10615 [ cs.CV ].
  31. ↑ غلامي، أمير (18 أبريل 2018). "SqueezeNext" . جيت هاب . تم الاسترجاع في 29 ديسمبر 2018 .
  32. ↑ فيرهولسدونك، تيجمن (9 يوليو 2018). "SqueezeNext Tensorflow: تطبيق Tensorflow لـ SqueezeNext" . جيت هاب . تم الاطلاع عليه بتاريخ 29 ديسمبر 2018 .
  33. ↑ سيميري، أوليغ (24-09-2018). "SqueezeNext، مُنفَّذ باستخدام Keras" . GitHub . تم الاسترجاع في 29-12-2018 .
  34. ^ لو ، يي (21/06/2018). "SqueezeNext.PyTorch" . جيثب . تم الاسترجاع 2018-12-29 .
  35. ↑ شو، ألبرت؛ هنتر، دانيال؛ إياندولا، فورست؛ سيدو، سامي (2019). "SqueezeNAS: بحث سريع عن بنية عصبية لتجزئة دلالية أسرع". arXiv : 1908.01748 [ cs.LG ].
  36. ↑ يوشيدا، جونكو (25 أغسطس 2019). "هل تحتوي شريحة الذكاء الاصطناعي الخاصة بك على شبكة عصبية عميقة خاصة بها؟" . إي إي تايمز . تم الاسترجاع في 12 سبتمبر 2019 .
  37. ↑ شو، ألبرت (27 أغسطس 2019). "SqueezeNAS" . جيت هاب . تم الاسترجاع في 12 سبتمبر 2019 .
  38. ↑ تريمل، مايكل؛ وآخرون (2016). "تسريع التجزئة الدلالية للقيادة الذاتية" . ورشة عمل NIPS MLITS . تم الاطلاع عليه بتاريخ 21 يوليو 2019 . 
  39. ↑ زينغ، لي (22-03-2017). "نمط SqueezeNet العصبي على PyTorch" . جيت هاب . تم الاسترجاع في 21-07-2019 .
  40. ↑ وو، بيشن؛ كويتزر، كورت (2017). "أثر سكويز نت" (ملف PDF) . جامعة كاليفورنيا، بيركلي . تاريخ الاسترجاع: 21 يوليو 2019 .