تعلم القاموس المتفرق

📅 آخر تحديث: ٢٦ يوليو ٢٠٢٦
✍️ نُشر في: ٢٦ يوليو ٢٠٢٦
📷 يحتوي على 52 صور
الموسوعة الحرة

يُعدّ تعلّم القاموس المتفرق (المعروف أيضًا بالترميز المتفرق أو SDL ) أسلوبًا لتعلم التمثيل يهدف إلى إيجاد تمثيل متفرق لبيانات الإدخال على شكل توليفة خطية من العناصر الأساسية، بالإضافة إلى تلك العناصر الأساسية نفسها. تُسمى هذه العناصر بالذرات ، وهي تُشكّل القاموس . لا يُشترط أن تكون الذرات في القاموس متعامدة ، وقد تكون مجموعة شاملة زائدة. يسمح هذا الإعداد أيضًا بأن يكون بُعد الإشارات المُراد تمثيلها أعلى من بُعد أي إشارة مُلاحظة. تؤدي هاتان الخاصيتان إلى وجود ذرات تبدو زائدة، مما يسمح بتمثيلات متعددة للإشارة نفسها، ولكنه يُحسّن أيضًا من تفرق ومرونة التمثيل.

يُعدّ مجال الاستشعار المضغوط أو استعادة الإشارات من أهم تطبيقات تعلّم القواميس المتفرقة . في الاستشعار المضغوط، يُمكن استعادة إشارة عالية الأبعاد ببضع قياسات خطية فقط، شريطة أن تكون الإشارة متفرقة أو شبه متفرقة. ولأنّ هذا الشرط لا ينطبق على جميع الإشارات، فمن الضروري إيجاد تمثيل متفرق لها، مثل تحويل المويجات أو التدرج الاتجاهي لمصفوفة مُرَسَّمة. بمجرد تحويل مصفوفة أو متجه عالي الأبعاد إلى فضاء متفرق، يُمكن استخدام خوارزميات استعادة مختلفة، مثل خوارزمية البحث الأساسي ، وخوارزمية CoSaMP [ 1 ] ، أو خوارزميات سريعة غير تكرارية [ 2 ] ، لاستعادة الإشارة.

من المبادئ الأساسية لتعلم القواميس استنتاج القاموس من بيانات الإدخال. وقد حفز ظهور أساليب تعلم القواميس المتفرقة حقيقة أن معالجة الإشارات تتطلب عادةً تمثيل بيانات الإدخال باستخدام أقل عدد ممكن من المكونات. قبل هذا النهج، كان من الشائع استخدام قواميس مُعرَّفة مسبقًا، مثل تحويلات فورييه أو المويجات . مع ذلك، في بعض الحالات، يُمكن لقاموس مُدرَّب ليلائم بيانات الإدخال أن يُحسِّن التفرق بشكل ملحوظ، وهو ما يُفيد في تحليل البيانات وضغطها وتفكيكها ، وقد استُخدم في مجالات إزالة التشويش من الصور وتصنيفها ، ومعالجة الفيديو والصوت . وللقواميس المتفرقة والقواميس المُكتملة تطبيقات واسعة في ضغط الصور ودمجها وترميمها .

إزالة التشويش من الصور باستخدام تعلم القاموس

بيان المشكلة

بالنظر إلى مجموعة البيانات المدخلةX=[x1،...،xك]،xأنا∈Rد{\displaystyle X=[x_{1},...,x_{K}],x_{i}\in \mathbb {R} ^{d}}نريد أن نجد قاموسًاد∈Rد×ن:د=[د1،...،دن]{\displaystyle \mathbf {D} \in \mathbb {R} ^{d\times n}:D=[d_{1},...,d_{n}]}وتمثيلR=[ر1،...،رك]،رأنا∈Rن{\displaystyle R=[r_{1},...,r_{K}],r_{i}\in \mathbb {R} ^{n}}بحيث يكون كلاهما‖X-دR‖F2{\displaystyle \|X-\mathbf {D} R\|_{F}^{2}}يتم تقليلها إلى الحد الأدنى والتمثيلاترأنا{\displaystyle r_{i}}تكون البيانات متفرقة بما يكفي. ويمكن صياغة ذلك على شكل مسألة التحسين التالية :

أرجينيند∈ج،رأنا∈Rن∑أنا=1ك‖xأنا-درأنا‖22+λ‖رأنا‖0// \|r_{i}\|_{0}}، أينج≡{د∈Rد×ن:‖دأنا‖2≤1∀أنا=1،...،ن}{\displaystyle {\mathcal {C}}\equiv \{\mathbf {D} \in \mathbb {R} ^{d\times n}:\|d_{i}\|_{2}\leq 1\,\,\forall i=1,...,n\}}،λ>0{\displaystyle \lambda >0}

ج{\displaystyle {\mathcal {C}}}يلزم تقييدد{\displaystyle \mathbf {D} }بحيث لا تصل ذراتها إلى قيم عالية بشكل تعسفي، مما يسمح بقيم منخفضة بشكل تعسفي (ولكنها غير صفرية) لـرأنا{\displaystyle r_{i}}.λ{\displaystyle \lambda }يتحكم في المفاضلة بين التباعد وخطأ التقليل.

إن مسألة التصغير المذكورة أعلاه ليست محدبة بسبب معيار ℓ₀ ، وحل هذه المسألة صعب حسابيًا (NP-hard). [ 3 ] في بعض الحالات، من المعروف أن معيار L₁ يضمن التباعد [ 4 ] ، وبالتالي تصبح المسألة المذكورة أعلاه مسألة تحسين محدبة بالنسبة لكل متغير.د{\displaystyle \mathbf {D} }وR{\displaystyle \mathbf {R} }عندما يكون الآخر ثابتًا، ولكنه ليس محدبًا بشكل مشترك في(د،R){\displaystyle (\mathbf {D} ,\mathbf {R} )}.

خصائص القاموس

القاموسد{\displaystyle \mathbf {D} }يمكن اعتبار التعريف المذكور أعلاه "غير مكتمل" إذان<د{\displaystyle n<d}أو "مكتملة بشكل مفرط" في حالةن>د{\displaystyle n>d}مع كون هذا الأخير افتراضًا نموذجيًا لمشكلة تعلم القواميس المتفرقة. أما حالة القاموس الكامل فلا تُحسّن الأداء من وجهة نظر التمثيل، ولذلك لا تُؤخذ في الاعتبار.

تمثل القواميس غير المكتملة الإعداد الذي تقع فيه بيانات الإدخال الفعلية في فضاء ذي أبعاد أقل. ترتبط هذه الحالة ارتباطًا وثيقًا بتقليل الأبعاد وتقنيات مثل تحليل المكونات الرئيسية التي تتطلب الذرات.د1،...،دن{\displaystyle d_{1},...,d_{n}}أن تكون متعامدة. يُعد اختيار هذه الفضاءات الفرعية أمرًا بالغ الأهمية لتقليل الأبعاد بكفاءة، ولكنه ليس بالأمر البسيط. ويمكن توسيع نطاق تقليل الأبعاد القائم على تمثيل القاموس لمعالجة مهام محددة مثل تحليل البيانات أو التصنيف. ومع ذلك، فإن عيبها الرئيسي هو تقييد اختيار الذرات.

ومع ذلك، فإن القواميس المكتملة بشكل مفرط لا تتطلب أن تكون الذرات متعامدة (لن يكون لها أساس على أي حال) مما يسمح بقواميس أكثر مرونة وتمثيلات بيانات أكثر ثراءً.

يمكن أن يكون القاموس المُفرط في الشمول، والذي يسمح بتمثيل الإشارة بشكل مُختصر، مصفوفة تحويل معروفة (مثل تحويل المويجات أو تحويل فورييه)، أو يمكن صياغته بحيث تتغير عناصره بطريقة تُمكّنه من تمثيل الإشارة المُعطاة بأفضل شكل مُختصر. وتتميز القواميس المُتعلمة بقدرتها على تقديم حلول أكثر اختصارًا مقارنةً بمصفوفات التحويل المُحددة مُسبقًا.

الخوارزميات

بما أن مشكلة التحسين الموصوفة أعلاه يمكن حلها كمشكلة محدبة فيما يتعلق إما بالقاموس أو الترميز المتفرق بينما يكون الآخر من الاثنين ثابتًا، فإن معظم الخوارزميات تعتمد على فكرة التحديث التكراري لأحدهما ثم الآخر.

مشكلة إيجاد ترميز متفرق أمثلR{\displaystyle R}باستخدام قاموس معيند{\displaystyle \mathbf {D} }تُعرف هذه المشكلة باسم التقريب المتفرق (أو أحيانًا مشكلة الترميز المتفرق). وقد طُوِّرت عدة خوارزميات لحلها (مثل خوارزمية المطابقة وخوارزمية LASSO )، وهي مُدمجة في الخوارزميات الموضحة أدناه.

طريقة الاتجاهات المثلى (MOD)

كانت طريقة الاتجاهات المثلى (أو MOD) من أوائل الطرق التي طُرحت لمعالجة مشكلة تعلم القواميس المتفرقة. [ 5 ] وتتمثل الفكرة الأساسية لهذه الطريقة في حل مشكلة التصغير مع مراعاة العدد المحدود للمكونات غير الصفرية لمتجه التمثيل:

ميند،R{‖X-دR‖F2}شارع∀أنا‖رأنا‖0≤تي{\displaystyle \min _{\mathbf {D} ,R}\{\|X-\mathbf {D} R\|_{F}^{2}\}\,\,{\text{st}}\,\,\forall i\,\,\|r_{i}\|_{0}\leq T}

هنا،F{\displaystyle F}يرمز إلى معيار فروبينيوس . يتناوب MOD بين الحصول على الترميز المتفرق باستخدام طريقة مثل البحث المطابق وتحديث القاموس عن طريق حساب الحل التحليلي للمسألة المعطاة بواسطةد=XR+{\displaystyle \mathbf {D} =XR^{+}}أينR+{\displaystyle R^{+}}هو معكوس مور-بنروز الزائف . بعد هذا التحديثد{\displaystyle \mathbf {D} }يُعاد ضبط المصفوفة لتتوافق مع القيود، ويتم الحصول على الترميز المتفرق الجديد مرة أخرى. وتُكرر العملية حتى الوصول إلى التقارب (أو حتى الحصول على قيمة متبقية صغيرة بما فيه الكفاية).

أثبتت تقنية MOD أنها طريقة فعالة للغاية لبيانات الإدخال منخفضة الأبعادX{\displaystyle X}لا يتطلب الأمر سوى بضع تكرارات للتقارب. مع ذلك، ونظرًا للتعقيد الكبير لعملية عكس المصفوفة، فإن حساب المعكوس الزائف في الحالات عالية الأبعاد يكون في كثير من الأحيان غير عملي. وقد ألهم هذا القصور تطوير طرق أخرى لتعلم القواميس.

K-SVD

خوارزمية K-SVD هي خوارزمية تُجري تحليل القيم المفردة (SVD) في جوهرها لتحديث عناصر القاموس واحدًا تلو الآخر، وهي في الأساس تعميم لخوارزمية K-means . وهي تضمن أن كل عنصر من عناصر بيانات الإدخالxأنا{\displaystyle x_{i}}يتم ترميزها بواسطة توليفة خطية لا تزيد عنتي0{\displaystyle T_{0}}العناصر بطريقة مطابقة لنهج MOD:

ميند،R{‖X-دR‖F2}شارع∀أنا‖رأنا‖0≤تي0{\displaystyle \min _{\mathbf {D} ,R}\{\|X-\mathbf {D} R\|_{F}^{2}\}\,\,{\text{st}}\,\,\forall i\,\,\|r_{i}\|_{0}\leq T_{0}}

جوهر هذه الخوارزمية هو إصلاح القاموس أولاً، ثم إيجاد أفضل قيمة ممكنةR{\displaystyle R}في ظل القيد المذكور أعلاه (باستخدام خوارزمية البحث عن المطابقة المتعامدة )، ثم يتم تحديث عناصر القاموس بشكل متكررد{\displaystyle \mathbf {D} }بالطريقة التالية:

‖X-دR‖F2=|X-∑أنا=1كدأناxتيأنا|F2=‖هـك-دكxتيك‖F2{\displaystyle \|X-\mathbf {D} R\|_{F}^{2}=\left|X-\sum _{i=1}^{K}d_{i}x_{T}^{i}\right|_{F}^{2}=\|E_{k}-d_{k}x_{T}^{k}\|_{F}^{2}}

تتضمن الخطوات التالية للخوارزمية تقريب المصفوفة المتبقية من الرتبة 1هـك{\displaystyle E_{k}}تحديثدك{\displaystyle d_{k}}وفرض ندرةxك{\displaystyle x_{k}}بعد التحديث، تُعتبر هذه الخوارزمية معيارًا لتعلم القواميس وتُستخدم في تطبيقات متنوعة. مع ذلك، فهي تشترك مع خوارزمية MOD في بعض نقاط الضعف، إذ أنها فعالة فقط مع الإشارات ذات الأبعاد المنخفضة نسبيًا، ولديها احتمال الوقوع في الحد الأدنى المحلي.

الهبوط التدرجي العشوائي

يمكن أيضًا تطبيق طريقة التدرج العشوائي الشائعة مع الإسقاط التكراري لحل هذه المشكلة. [ 6 ] وتتلخص فكرة هذه الطريقة في تحديث القاموس باستخدام التدرج العشوائي من الدرجة الأولى وإسقاطه على مجموعة القيود.ج{\displaystyle {\mathcal {C}}}الخطوة التي تحدث في التكرار رقم i موصوفة بهذا التعبير:

دأنا=مشروعج{دأنا-1-دلتاأنا∇د∑أنا∈S‖xأنا-درأنا‖22+λ‖رأنا‖1}{\displaystyle \mathbf {D} _{i}={\text{proj}}_{\mathcal {C}}\left\{\mathbf {D} _{i-1}-\delta _{i}\nabla _{\mathbf {D} }\sum _{i\in S}\|x_{i}-\mathbf {D} r_{i}\|_{2}^{2}+\lambda \|r_{i}\|_{1}\right\}}، أينS{\displaystyle S}هي مجموعة فرعية عشوائية من{1...ك}{\displaystyle \{1...K\}}ودلتاأنا{\displaystyle \delta _{i}}هي خطوة تدرج.

طريقة لاغرانج الثنائية

تُوفّر خوارزمية تعتمد على حلّ مسألة لاغرانجية ثنائية طريقةً فعّالةً لإيجاد القاموس دون تعقيدات ناتجة عن دالة التباعد. [ 7 ] لنفترض دالة لاغرانج التالية:

ل(د،Λ)=tr((X-دR)تي(X-دR))+∑ج=1نλج(∑أنا=1ددأناج2-ج){\displaystyle {\mathcal {L}}(\mathbf {D} ,\Lambda )={\text{tr}}\left((X-\mathbf {D} R)^{T}(X-\mathbf {D} R)\right)+\sum _{j=1}^{n}\lambda _{j}\left({\sum _{i=1}^{d}\mathbf {D} _{ij}^{2}-c}\right)}، أينج{\displaystyle c}يمثل قيدًا على معيار الذرات وλأنا{\displaystyle \lambda _{i}}هي ما يسمى بالمتغيرات الثنائية التي تشكل المصفوفة القطريةΛ{\displaystyle \Lambda }.

يمكننا بعد ذلك تقديم تعبير تحليلي للثنائية لاغرانج بعد التصغير علىد{\displaystyle \mathbf {D} }:

د(Λ)=ميندل(د،Λ)=tr(XتيX-XRتي(RRتي+Λ)-1(XRتي)تي-جΛ){\displaystyle {\mathcal {D}}(\Lambda )=\min _{\mathbf {D} }{\mathcal {L}}(\mathbf {D} ,\Lambda )={\text{tr}}(X^{T}X-XR^{T}(RR^{T}+\Lambda )^{-1}(XR^{T})^{T}-c\Lambda )}.

بعد تطبيق إحدى طرق التحسين على قيمة الثنائية (مثل طريقة نيوتن أو التدرج المترافق )، نحصل على قيمةد{\displaystyle \mathbf {D} }:

دتي=(RRتي+Λ)-1(XRتي)تي{\displaystyle \mathbf {D} ^{T}=(RR^{T}+\Lambda )^{-1}(XR^{T})^{T}}

يُعد حل هذه المشكلة أقل صعوبة من الناحية الحسابية نظرًا لقلة عدد المتغيرات الثنائيةن{\displaystyle n}في كثير من الأحيان يكون أقل بكثير من عدد المتغيرات في المسألة الأصلية.

لاسو

في هذا النهج، تتم صياغة مشكلة التحسين على النحو التالي:

مينر∈Rن{‖ر‖1}رهناً بـ‖X-دR‖F2<ϵ{\displaystyle \min _{r\in \mathbb {R} ^{n}}\{\,\,\|r\|_{1}\}\,\,{\text{subject to}}\,\,\|X-\mathbf {D} R\|_{F}^{2}<\epsilon }، أينϵ{\displaystyle \epsilon }هو الخطأ المسموح به في إعادة بناء LASSO.

ويتوصل إلى تقدير لـرأنا{\displaystyle r_{i}}عن طريق تقليل الخطأ التربيعي الأدنى مع مراعاة قيد المعيار L1 في متجه الحل، والذي تمت صياغته على النحو التالي:

مينر∈Rن12‖X-در‖F2+λ‖ر‖1{\displaystyle \min _{r\in \mathbb {R} ^{n}}\,\,{\dfrac {1}{2}}\,\,\|X-\mathbf {D} r\|_{F}^{2}+\lambda \,\,\|r\|_{1}}، أينλ>0{\displaystyle \lambda >0}يتحكم هذا في المفاضلة بين التباعد وخطأ إعادة البناء، مما يُعطي الحل الأمثل الشامل. [ 8 ] انظر أيضًا: تعلم القاموس عبر الإنترنت للترميز المتفرق

أساليب التدريب البارامتري

تهدف أساليب التدريب البارامتري إلى الجمع بين أفضل ما في كلا المجالين: مجال القواميس المبنية تحليليًا والقواميس المُستخلصة. [ 9 ] وهذا يسمح ببناء قواميس معممة أكثر قوة، يُمكن تطبيقها على حالات الإشارات ذات الأحجام المختلفة. ومن أبرز هذه الأساليب:

  • القواميس الثابتة تحت الترجمة. [ 10 ] تتكون هذه القواميس من ترجمات الذرات المُستمدة من القاموس المُنشأ لرقعة إشارة ذات حجم محدود. وهذا يسمح للقاموس الناتج بتقديم تمثيل للإشارة ذات الحجم العشوائي.
  • القواميس متعددة المقاييس. [ 11 ] تركز هذه الطريقة على بناء قاموس يتكون من قواميس مختلفة المقاييس لتحسين التباعد.
  • القواميس المتفرقة. [ 12 ] تركز هذه الطريقة ليس فقط على توفير تمثيل متفرق، بل أيضًا على بناء قاموس متفرق يتم فرضه بواسطة التعبيرد=بأ{\displaystyle \mathbf {D} =\mathbf {B} \mathbf {A} }أينب{\displaystyle \mathbf {B} }هو قاموس تحليلي مُحدد مسبقًا يتمتع بخصائص مرغوبة مثل سرعة الحساب وأ{\displaystyle \mathbf {A} }هي مصفوفة متفرقة. تسمح هذه الصياغة بالجمع المباشر بين التنفيذ السريع للقواميس التحليلية ومرونة الأساليب المتفرقة.

تعلم القاموس عبر الإنترنت ( نهج لاسو )

تعتمد العديد من الأساليب الشائعة لتعلم القواميس المتفرقة على حقيقة أن بيانات الإدخال الكاملةX{\displaystyle X}يتوفر للخوارزمية (أو على الأقل مجموعة بيانات تدريبية كبيرة بما يكفي). مع ذلك، قد لا يكون هذا هو الحال في الواقع العملي، إذ قد يكون حجم بيانات الإدخال كبيرًا جدًا بحيث لا يتسع في الذاكرة. الحالة الأخرى التي لا يمكن فيها افتراض ذلك هي عندما تأتي بيانات الإدخال على شكل تدفق . تكمن هذه الحالات في مجال دراسة التعلم عبر الإنترنت ، والذي يقترح أساسًا تحديث النموذج بشكل متكرر بناءً على نقاط البيانات الجديدة.x{\displaystyle x}أصبح متاحاً.

يمكن تعلم القاموس عبر الإنترنت بالطريقة التالية: [ 13 ]

  1. لت=1...تي:{\displaystyle t=1...T:}
  2. ارسم نموذجًا جديدًاxت{\displaystyle x_{t}}
  3. إيجاد ترميز متفرق باستخدام LARS :رت=أرجينينر∈Rن(12‖xت-دت-1ر‖+λ‖ر‖1){\displaystyle r_{t}={\underset {r\in \mathbb {R} ^{n}}{\text{argmin}}}\left({\frac {1}{2}}\|x_{t}-\mathbf {D} _{t-1}r\|+\lambda \|r\|_{1}\right)}
  4. تحديث القاموس باستخدام أسلوب الإحداثيات الكتلية :دت=أرجينيند∈ج1ت∑أنا=1ت(12‖xأنا-درأنا‖22+λ‖رأنا‖1){\displaystyle \mathbf {D} _{t}={\underset {\mathbf {D} \in {\mathcal {C}}}{\text{argmin}}}{\frac {1}{t}}\sum _{i=1}^{t}\left({\frac {1}{2}}\|x_{i}-\mathbf {D} r_{i}\|_{2}^{2}+\lambda \|r_{i}\|_{1}\right)}

تتيح لنا هذه الطريقة تحديث القاموس تدريجياً مع توفر بيانات جديدة لتعلم التمثيل المتفرق وتساعد بشكل كبير في تقليل مقدار الذاكرة اللازمة لتخزين مجموعة البيانات (والتي غالباً ما يكون حجمها ضخماً).

التطبيقات

أدى إطار عمل تعلم القواميس، وتحديدًا التحليل الخطي لإشارة الإدخال باستخدام عدد قليل من العناصر الأساسية المستخلصة من البيانات نفسها، إلى تحقيق نتائج متقدمة في مختلف مهام معالجة الصور والفيديو. يمكن تطبيق هذه التقنية على مسائل التصنيف، فإذا أنشأنا قواميس خاصة لكل فئة، يُمكن تصنيف إشارة الإدخال من خلال إيجاد القاموس الذي يُمثلها بأقل قدر من التشويش. كما تتميز هذه التقنية بخصائص مفيدة لإزالة التشويش من الإشارة، حيث يُمكن عادةً تعلم قاموس لتمثيل الجزء المهم من إشارة الإدخال بشكل مُختصر، بينما يكون تمثيل التشويش في الإشارة أقل اختصارًا بكثير. [ 14 ]

لقد طُبِّقَ تعلّم القاموس المتفرق بنجاح على مهام معالجة الصور والفيديو والصوت المختلفة، بالإضافة إلى توليف النسيج [ 15 ] والتجميع غير الخاضع للإشراف [ 16 ] . وفي التقييمات التي أُجريت باستخدام نموذج حقيبة الكلمات [ 17 ] [ 18 ] ، وُجِدَ تجريبياً أن الترميز المتفرق يتفوق على أساليب الترميز الأخرى في مهام التعرف على فئات الكائنات.

يُستخدم تعلم القاموس لتحليل الإشارات الطبية بالتفصيل. وتشمل هذه الإشارات الطبية تلك الصادرة عن تخطيط كهربية الدماغ (EEG)، وتخطيط كهربية القلب (ECG)، والتصوير بالرنين المغناطيسي (MRI)، والتصوير بالرنين المغناطيسي الوظيفي (fMRI)، وأجهزة مراقبة الجلوكوز المستمرة [ 19 ] ، والتصوير المقطعي المحوسب بالموجات فوق الصوتية (USCT)، حيث تُستخدم افتراضات مختلفة لتحليل كل إشارة.

كما طُبقت تقنية تعلم القاموس على الكشف السلبي عن الإشارات غير المعروفة في البيئات المعقدة. وعلى وجه الخصوص، تُمكّن هذه التقنية من الكشف عن الإشارات بشكل أعمى في قنوات تشويه انتشار الوقت (TSD)، دون معرفة مسبقة بمصدر الإشارة. [ 20 ] وقد أثبت هذا النهج فعاليته في كل من الظروف المحاكاة والتجريبية، موفرًا أداءً قويًا في سيناريوهات انخفاض نسبة الإشارة إلى الضوضاء.

انظر أيضاً

مراجع

  1. ↑ نيدل، د.؛ تروب، ج. أ. (2009). "CoSaMP: استعادة الإشارة التكرارية من عينات غير مكتملة وغير دقيقة". التحليل التوافقي التطبيقي والحسابي . 26 (3): 301-321 . arXiv : 0803.2392 . doi : 10.1016/j.acha.2008.07.002 .
  2. ↑ لطفي، م.؛ فيدياساجار، م. " خوارزمية سريعة غير تكرارية للاستشعار المضغوط باستخدام مصفوفات القياس الثنائية "
  3. ↑ AM Tillmann, " حول صعوبة الحساب في تعلم القاموس الدقيق والتقريبي "، رسائل معالجة الإشارات IEEE 22(1)، 2015: 45-49.
  4. ↑ دونوهو، ديفيد ل. (2006-06-01). "بالنسبة لمعظم أنظمة المعادلات الخطية الكبيرة غير المحددة، فإن الحل الأدنى بمعيار 𝓁1 هو أيضًا الحل الأقل كثافة". مجلة الاتصالات في الرياضيات البحتة والتطبيقية . 59 (6): 797-829 . doi : 10.1002/cpa.20132 . ISSN 1097-0312 . S2CID 8510060 .  
  5. ↑ إنجان، ك .؛ آسي، س.و.؛ هاكون هوسوي، ج. (1999-01-01). "طريقة الاتجاهات المثلى لتصميم الإطار". المؤتمر الدولي لهندسة الصوت والكلام ومعالجة الإشارات لعام 1999. وقائع المؤتمر. ICASSP99 (رقم التصنيف 99CH36258) . المجلد 5. الصفحات 2443-2446. doi : 10.1109/ICASSP.1999.760624 . ISBN   978-0-7803-5041-0. S2CID 33097614 . 
  6. ↑ أهارون، ميخال ؛ إيلاد، مايكل (2008). "نمذجة محتوى الصورة بشكل متفرق ومتكرر باستخدام قاموس توقيع الصورة". مجلة SIAM لعلوم التصوير . 1 (3): 228-247 . CiteSeerX 10.1.1.298.6982 . doi : 10.1137/07070156x . 
  7. ↑ لي، هونغلاك، وآخرون. "خوارزميات الترميز المتفرق الفعالة". التقدم في أنظمة معالجة المعلومات العصبية . 2006.
  8. ↑ كومار، أبهاي؛ كاتاريا، سوراب. "تطبيقات التعلم القائم على القاموس في معالجة الصور باستخدام التحسين المحدب" (PDF) .
  9. ↑ روبنشتاين، ر.؛ بروكشتاين، أ.م.؛ إيلاد، م. (2010-06-01). "قواميس لنمذجة التمثيل المتفرق". وقائع معهد مهندسي الكهرباء والإلكترونيات . 98 (6): 1045-1057 . CiteSeerX 10.1.1.160.527 . doi : 10.1109 /JPROC.2010.2040551 . ISSN 0018-9219 . S2CID 2176046 .   
  10. ^ إنجان، كيرستي ؛ سكريتنج، كارل؛ حسوي، جون هاكون (2007-01-01). “عائلة خوارزميات تعلم القاموس التكرارية المستندة إلى LS، ILS-DLA، لتمثيل الإشارة المتفرقة”. رقم. عملية الإشارة . 17 (1): 32– 49. بيب كود : 2007DSP....17...32E . دوى : 10.1016/j.dsp.2006.02.002 . ISSN 1051-2004 . 
  11. ↑ مايرال، ج.؛ سابيرو، ج.؛ إيلاد، م. (1 يناير 2008). "تعلم التمثيلات المتفرقة متعددة المقاييس لاستعادة الصور والفيديوهات". النمذجة والمحاكاة متعددة المقاييس . 7 (1): 214-241 . CiteSeerX 10.1.1.95.6239 . doi : 10.1137/070697653 . ISSN 1540-3459 .  
  12. ↑ روبنشتاين، ر.؛ زيبوليفسكي، م.؛ إيلاد، م. (2010-03-01). "التباعد المزدوج: تعلم القواميس المتفرقة لتقريب الإشارات المتفرقة". معاملات IEEE في معالجة الإشارات . 58 (3): 1553-1564 . Bibcode : 2010ITSP...58.1553R . CiteSeerX 10.1.1.183.992 . doi : 10.1109/TSP.2009.2036477 . ISSN 1053-587X . S2CID 7193037 .   
  13. ↑ مايرال، جوليان؛ باخ، فرانسيس؛ بونس، جان؛ سابيرو، غييرمو (2010-03-01). "التعلم عبر الإنترنت لتحليل المصفوفات والترميز المتفرق" . مجلة أبحاث تعلم الآلة 11 : 19-60 . arXiv : 0908.0050 . Bibcode : 2009arXiv0908.0050M . ISSN 1532-4435 . 
  14. ↑ أهارون، م ، م إيلاد، وبروكشتاين، أ. 2006. " خوارزمية K-SVD: خوارزمية لتصميم قواميس مكتملة للتمثيل المتفرق ." معالجة الإشارات، معاملات IEEE 54 (11): 4311-4322
  15. ↑ بيريه، غابرييل (2008-11-06). "النمذجة المتفرقة للنسيج" (ملف PDF) . مجلة التصوير الرياضي والرؤية . 34 (1): 17-31 . doi : 10.1007/s10851-008-0120-3 . ISSN 0924-9907 . S2CID 15994546 .  
  16. ↑ راميريز، إغناسيو؛ سبريشمان، بابلو؛ سابيرو، غييرمو (1 يناير 2010). "التصنيف والتجميع عبر تعلم القاموس مع عدم التماسك المنظم والخصائص المشتركة". مؤتمر جمعية مهندسي الكهرباء والإلكترونيات (IEEE) لعام 2010 حول رؤية الحاسوب والتعرف على الأنماط . لوس ألاميتوس، كاليفورنيا، الولايات المتحدة الأمريكية: جمعية مهندسي الكهرباء والإلكترونيات (IEEE). الصفحات 3501-3508 . doi : 10.1109/CVPR.2010.5539964 . ISBN  978-1-4244-6984-0. S2CID 206591234 . 
  17. ↑ كونيوز، بيوتر؛ يان، فاي؛ ميكولاجيك، كريستيان (2013-05-01). "مقارنة بين مناهج ترميز الميزات متوسطة المستوى واستراتيجيات التجميع في الكشف عن المفاهيم المرئية". رؤية الحاسوب وفهم الصور . 117 (5): 479-492 . CiteSeerX 10.1.1.377.3979 . doi : 10.1016/j.cviu.2012.10.010 . ISSN 1077-3142 .  
  18. ↑ كونيوز، بيوتر؛ يان، فاي؛ غوسلين، فيليب هنري؛ ميكولاجيك، كريستيان (24 فبراير 2017). "تجميع التكرارات من الرتبة العليا لحقائب الكلمات: الكشف عن المفاهيم المرئية" (ملف PDF) . معاملات IEEE في تحليل الأنماط والذكاء الآلي . 39 (2): 313-326 . Bibcode : 2017ITPAM..39..313K . doi : 10.1109/TPAMI.2016.2545667 . hdl : 10044/1/39814 . ISSN : 0162-8828 . PMID: 27019477. S2CID : 10577592 .   
  19. ↑ الماتوق، علي؛ لاليغ كيراتي، تاوس مريم؛ نوفارا، كارلو؛ إيفانا، رابوني؛ فينسنت، تايرون (15 مارس 2019). "إعادة بناء تدفقات الجلوكوز باستخدام أجهزة مراقبة الجلوكوز المستمرة". مجلة IEEE/ACM للمعاملات في علم الأحياء الحاسوبي والمعلوماتية الحيوية . 17 (5): 1797-1809 . doi : 10.1109/TCBB.2019.2905198 . hdl : 10754/655914 . ISSN 1545-5963 . PMID 30892232. S2CID 84185121 .   
  20. ↑ رشيد، رامي؛ عبدي، علي؛ ميخالوبولو، زوي-هيليني (2025). "الكشف الأعمى عن الإشارات الضعيفة عبر تعلم القاموس في قنوات التشوه الزمني باستخدام أجهزة استشعار متجهة" . رسائل JASA السريعة . 5 (6): 064803. doi : 10.1121/10.0036919 .