الطبقة الالتفافية

📅 آخر تحديث: ٢٥ يوليو ٢٠٢٦
✍️ نُشر في: ٢٥ يوليو ٢٠٢٦
📷 يحتوي على 6 صور
الموسوعة الحرة

في الشبكات العصبية الاصطناعية ، تُعدّ الطبقة الالتفافية نوعًا من طبقات الشبكة التي تُطبّق عملية التفاف على المدخلات. وتُعتبر الطبقات الالتفافية من اللبنات الأساسية للشبكات العصبية الالتفافية (CNNs)، وهي فئة من الشبكات العصبية تُستخدم غالبًا مع الصور والفيديوهات والصوتيات وغيرها من البيانات التي تتميز بخاصية التناظر الانتقالي المنتظم . [ 1 ]

تتضمن عملية الالتفاف في الطبقة الالتفافية تحريك نافذة صغيرة (تسمى النواة أو المرشح) عبر بيانات الإدخال وحساب حاصل الضرب النقطي بين القيم في النواة وبيانات الإدخال عند كل موضع. تُنشئ هذه العملية خريطة ميزات تمثل الميزات المكتشفة في بيانات الإدخال. [ 2 ]

المفاهيم

النواة

النوى ، والمعروفة أيضًا بالمرشحات ، هي مصفوفات صغيرة من الأوزان يتم تعلمها أثناء عملية التدريب. كل نواة مسؤولة عن اكتشاف ميزة محددة في بيانات الإدخال. حجم النواة هو مُعامل فائق يؤثر على سلوك الشبكة.

التفاف

لإدخال ثنائي الأبعادx{\displaystyle x}ونواة ثنائية الأبعادw{\displaystyle w}يمكن التعبير عن عملية الالتفاف ثنائية الأبعاد على النحو التالي:y[أنا،ج]=∑م=0كح-1∑ن=0كw-1x[أنا+م،ج+ن]⋅w[م،ن]{\displaystyle y[i,j]=\sum _{m=0}^{k_{h}-1}\sum _{n=0}^{k_{w}-1}x[i+m,j+n]\cdot w[m,n]}أينكح{\displaystyle k_{h}}وكw{\displaystyle k_{w}}يمثلان ارتفاع وعرض النواة، على التوالي.

وينطبق هذا بشكل مباشر على الالتفافات متعددة الأبعاد. ومن أنواع الالتفافات الشائعة الاستخدام الالتفافات أحادية البعد (للصوت والنص)، وثنائية الأبعاد (للصور)، وثلاثية الأبعاد (للأجسام المكانية ومقاطع الفيديو).

خطوة

تحدد خطوة الشبكة كيفية تحرك النواة عبر بيانات الإدخال. خطوة مقدارها 1 تعني أن النواة تتحرك بمقدار بكسل واحد في كل مرة، بينما تؤدي خطوة أكبر (مثل 2 أو 3) إلى تقليل التداخل بين عمليات الالتفاف وإنتاج خرائط ميزات إخراج أصغر.

حشوة

تتضمن عملية الحشو إضافة وحدات بكسل إضافية حول حواف بيانات الإدخال. وهي تخدم غرضين رئيسيين:

  • الحفاظ على الأبعاد المكانية: بدون حشو، يقلل كل التفاف من حجم خريطة الميزات.
  • معالجة وحدات البكسل الحدودية: يضمن الحشو إعطاء وحدات البكسل الحدودية أهمية متساوية في عملية الالتفاف.

تشمل استراتيجيات الحشو الشائعة ما يلي:

  • بدون حشو/حشو صالح. عادةً ما تؤدي هذه الاستراتيجية إلى تقليص حجم الناتج.
  • نفس الحشو: أي طريقة تضمن أن يكون حجم الإخراج مساوياً لحجم الإدخال هي استراتيجية حشو متماثلة.
  • الحشو الكامل: أي طريقة تضمن أن يتم تطبيق عملية الالتفاف على كل إدخال بنفس عدد المرات تعتبر استراتيجية حشو كامل.

تتضمن خوارزميات الحشو الشائعة ما يلي:

  • إضافة أصفار إلى حدود المدخلات.
  • الحشو المتماثل/الانعكاسي: اعكس مصفوفة الإدخال على الحدود.
  • الحشو الدائري: قم بتدوير مصفوفة الإدخال إلى الحدود المقابلة، مثل الحلقة.

الأرقام الدقيقة المستخدمة في عمليات الالتفاف معقدة، والتي نشير إليها في (Dumoulin and Visin, 2018) [ 3 ] للحصول على التفاصيل.

المتغيرات

معيار

الشكل الأساسي للالتفاف كما هو موضح أعلاه، حيث يتم تطبيق كل نواة على حجم الإدخال بأكمله.

قابل للفصل حسب العمق

يفصل الالتفاف القابل للفصل العميق الالتفاف القياسي إلى خطوتين: الالتفاف العميق والالتفاف النقطي . يقوم الالتفاف القابل للفصل العميق بتفكيك الالتفاف القياسي الواحد إلى التفافين: التفاف عميق يقوم بتصفية كل قناة إدخال بشكل مستقل، والالتفاف النقطي.1×1{\displaystyle 1\times 1}الالتفاف) الذي يجمع مخرجات الالتفاف العميق. هذا التحليل يقلل بشكل كبير من التكلفة الحسابية. [ 4 ]

تم تطويره لأول مرة بواسطة لوران سيفري خلال فترة تدريب في جوجل برين عام 2013 كنسخة معمارية معدلة من أليكس نت لتحسين سرعة التقارب وحجم النموذج. [ 4 ]

توسع

يُدخل الالتفاف المتوسع ، أو الالتفاف المتباعد ، فجوات بين عناصر النواة، مما يسمح للشبكة بالتقاط مجال استقبال أكبر دون زيادة حجم النواة. [ 5 ] [ 6 ]

منقولة

الالتفاف المعكوس ، المعروف أيضاً باسم الالتفاف العكسي ، والالتفاف ذي الخطوة الجزئية ، والالتفاف لزيادة الدقة ، هو نوع من الالتفاف يكون فيه موتر الإخراج أكبر من موتر الإدخال. يُستخدم غالباً في بنى التشفير-فك التشفير لزيادة الدقة، ويُستخدم في توليد الصور، والتجزئة الدلالية ، ومهام تحسين الدقة الفائقة .

تاريخ

استُلهم مفهوم الالتفاف في الشبكات العصبية من القشرة البصرية في الدماغ البيولوجي. وقد أرست الأعمال المبكرة التي قام بها هوبل وويزل في ستينيات القرن الماضي على الجهاز البصري للقطط الأساس لشبكات الالتفاف الاصطناعية. [ 7 ]

طوّر كونيهيكو فوكوشيما شبكة عصبية التفافية مبكرة عام 1969. كانت معظم نواة هذه الشبكة مصممة يدويًا، مستوحاة من الالتفافات في رؤية الثدييات. [ 8 ] وفي عام 1979، حسّنها إلى شبكة نيوكوجنيترون ، التي تتعلم جميع نوى الالتفاف من خلال التعلم غير الخاضع للإشراف (أو كما وصفها فوكوشيما، " التنظيم الذاتي من خلال التعلم دون مُعلّم"). [ 9 ] [ 10 ]

خلال الفترة من 1988 إلى 1998، تم تقديم سلسلة من الشبكات العصبية التلافيفية (CNN) بواسطة يان ليكان وآخرون، وانتهت بشبكة LeNet-5 في عام 1998. كانت هذه الشبكة بنية CNN مبكرة ومؤثرة للتعرف على الأرقام المكتوبة بخط اليد، وقد تم تدريبها على مجموعة بيانات MNIST ، وتم استخدامها في أجهزة الصراف الآلي . [ 11 ]

اكتشف أولشاوزن وفيلد (1996) [12] أن الخلايا البسيطة في القشرة البصرية الأولية للثدييات تُنفذ حقول استقبال موضعية وموجهة ونطاقية، والتي يمكن إعادة إنشائها عن طريق تركيب رموز خطية متفرقة للمشاهد الطبيعية. وقد وُجد لاحقًا أن هذا يحدث أيضًا في النوى الأدنى مستوى للشبكات العصبية التلافيفية المدربة. [ 13 ] : الشكل 3

شهد هذا المجال انتعاشًا ملحوظًا في العقد الثاني من الألفية الثانية مع تطور البنى المعقدة وتوفر مجموعات البيانات الضخمة ووحدات معالجة الرسومات القوية. وكانت شبكة AlexNet ، التي طورها أليكس كريزيفسكي وزملاؤه عام 2012، بمثابة نقطة تحول في مجال التعلم العميق الحديث . [ 13 ] [ 14 ] في مسابقة ImageNet في ذلك العام ، حقق نموذج AlexNet معدل خطأ ضمن أفضل خمسة نماذج بلغ 16%، متفوقًا بشكل ملحوظ على النموذج الذي تلاه في الترتيب، والذي بلغ معدل خطأه 26%. استخدمت الشبكة ثماني طبقات قابلة للتدريب، وحوالي 650,000 عصبون، ونحو 60 مليون مُعامل، مما يُبرز تأثير البنى المعقدة وتسريع وحدات معالجة الرسومات على أداء التعرف على الصور . [ 14 ]

في مسابقة ImageNet لعام 2013، اعتمدت معظم المشاركات على الشبكات العصبية الالتفافية العميقة، مستفيدةً من نجاح AlexNet. وعلى مدار السنوات اللاحقة، تحسّن الأداء بشكل مطرد، حيث انخفض معدل الخطأ في أفضل خمس نتائج من 16% في عام 2012 و12% في عام 2013 إلى أقل من 3% بحلول عام 2017، مع ازدياد عمق الشبكات. [ 14 ]

انظر أيضاً

مراجع

  1. ↑ غودفيلو، إيان؛ بينجيو، يوشوا؛ كورفيل، آرون (2016). التعلم العميق . كامبريدج، ماساتشوستس: مطبعة معهد ماساتشوستس للتكنولوجيا. ص 326-366 . ISBN  978-0262035613.
  2. ↑ تشانغ، أستون؛ ليبتون، زاكاري؛ لي، مو؛ سمولا، ألكسندر ج. (2024). "7.2. الالتفافات للصور" . الغوص في التعلم العميق . كامبريدج، نيويورك، بورت ملبورن، نيودلهي، سنغافورة: مطبعة جامعة كامبريدج. ISBN 978-1-009-38943-3.
  3. ↑ دومولين، فينسنت؛ فيسين، فرانشيسكو (2016). "دليل لحسابات الالتفاف للتعلم العميق". arXiv : 1603.07285 [ stat.ML ].
  4. 1 2 شوليه، فرانسوا (2017). "Xception: التعلم العميق باستخدام الالتفافات القابلة للفصل العميق" . مؤتمر IEEE لعام 2017 حول رؤية الحاسوب والتعرف على الأنماط (CVPR) . الصفحات 1800-1807 . arXiv : 1610.02357 . doi : 10.1109/CVPR.2017.195 . ISBN  978-1-5386-0457-1.
  5. ↑ يو، فيشر؛ كولتون، فلادلين (2016). "تجميع السياق متعدد المقاييس بواسطة الالتفافات المتوسعة". Iclr 2016. arXiv : 1511.07122 .
  6. ↑ تشين، ليانغ-تشيه؛ باباندريو، جورج؛ كوكينوس، إياسوناس؛ مورفي، كيفن؛ يويل، آلان ل. (2018-04-01). "DeepLab: تجزئة الصور الدلالية باستخدام الشبكات العصبية التلافيفية العميقة، والالتفاف المتباعد، ونماذج الحقول العشوائية الشرطية المتصلة بالكامل". معاملات IEEE في تحليل الأنماط والذكاء الآلي . 40 (4): 834-848 . arXiv : 1606.00915 . Bibcode : 2018ITPAM..40..834C . doi : 10.1109/TPAMI.2017.2699184 . ISSN 0162-8828 . PMID 28463186 .  
  7. ↑ هوبل، د.هـ؛ ويزل، ت.ن. (1968). "الحقول الاستقبالية والبنية الوظيفية لقشرة الدماغ المخططة لدى القرود" . مجلة علم وظائف الأعضاء . 195 (1): 215-243 . doi : 10.1113/jphysiol.1968.sp008455 . PMC 1557912. PMID 4966457 .  
  8. ↑ فوكوشيما، كونيهيكو (1969). "استخلاص الميزات المرئية بواسطة شبكة متعددة الطبقات من عناصر العتبة التناظرية". معاملات IEEE في علوم الأنظمة وعلم التحكم الآلي . 5 (4): 322-333 . doi : 10.1109/TSSC.1969.300225 . ISSN 0536-1567 . 
  9. ^ فوكوشيما، كونيهيكو (أكتوبر 1979). " " شبكة عصبية"" نموذج لآلية التعرف على الأنماط التي لا تتأثر بالتحول في الموضع – نيوكوجنيترون – ] . عبر. IECE (باللغة اليابانية). ي62-أ (10): 658-665 .
  10. ↑ فوكوشيما، كونيهيكو (1980). "نيوكوجنيترون: نموذج شبكة عصبية ذاتية التنظيم لآلية التعرف على الأنماط غير المتأثرة بتغير الموضع" . علم التحكم الحيوي . 36 (4): 193-202 . doi : 10.1007/BF00344251 . PMID 7370364 . 
  11. ↑ لوكون، يان؛ بوتو، ليون؛ بينجيو، يوشوا؛ هافنر، باتريك (1998). "التعلم القائم على التدرج المطبق على التعرف على المستندات". وقائع معهد مهندسي الكهرباء والإلكترونيات . 86 (11): 2278-2324 . doi : 10.1109/5.726791 .
  12. ↑ أولشاوزن، برونو أ.؛ فيلد، ديفيد ج. (يونيو 1996). "ظهور خصائص مجال الاستقبال للخلايا البسيطة من خلال تعلم رمز متفرق للصور الطبيعية" . مجلة نيتشر . 381 (6583): 607-609 . Bibcode : 1996Natur.381..607O . doi : 10.1038/381607a0 . ISSN 1476-4687 . PMID 8637596 .  
  13. 1 2 كريزيفسكي، أليكس؛ سوتسكيفر، إيليا؛ هينتون، جيفري إي (2012). "تصنيف ImageNet باستخدام الشبكات العصبية التلافيفية العميقة" . التطورات في أنظمة معالجة المعلومات العصبية . 25. كوران أسوشيتس، إنك.
  14. 1 2 3 "كيف أصبحت أجهزة الكمبيوتر بارعة بشكل مذهل في التعرف على الصور" . آرس تكنيكا . 18 ديسمبر 2018. تم الاطلاع عليه بتاريخ 21 مارس 2025 .