الإنتروبيا التقريبية

في الإحصاء ، يُعدّ الإنتروبيا التقريبية ( ApEn ) أسلوبًا يُستخدم لتحديد مدى انتظام وعدم قابلية التنبؤ بالتقلبات في بيانات السلاسل الزمنية . ^{[ 1 ]} على سبيل المثال، لنفترض سلسلتين من البيانات:

السلسلة أ: (0، 1، 0، 1، 0، 1، 0، 1، 0، 1، 0، 1، 0، 1، ...)، والتي تتناوب فيها القيمتان 0 و1.

السلسلة ب: (0، 1، 0، 0، 1، 0، 1، 0، 0، 1، 1، 1، 1، 0، 0، 1، ...)، والتي لها إما قيمة 0 أو 1، يتم اختيارها عشوائيًا، كل منها باحتمالية 1/2.

لا تُفرّق إحصاءات العزوم ، كالمتوسط ​​والتباين ، بين هاتين السلسلتين. ولا تُفرّق إحصاءات الترتيب بينهما أيضًا . مع ذلك، فإن السلسلة (أ ) منتظمة تمامًا: فمعرفة قيمة أحد حدودها (1) تُمكّن من التنبؤ بيقين بأن قيمة الحد التالي ستكون صفرًا. في المقابل، فإن السلسلة (ب) عشوائية القيم: فمعرفة قيمة أحد حدودها (1) لا تُعطي أي فكرة عن قيمة الحد التالي.

كان يُقاس الانتظام في الأصل بإحصاءات الانتظام الدقيقة، والتي تركز بشكل أساسي على مقاييس الإنتروبيا المختلفة. ^{[ 1 ]} ومع ذلك، يتطلب حساب الإنتروبيا بدقة كميات هائلة من البيانات، وتتأثر النتائج بشكل كبير بضوضاء النظام، ^{[ 2 ]} لذلك، ليس من العملي تطبيق هذه الطرق على البيانات التجريبية. تم اقتراح ApEn لأول مرة (تحت اسم مختلف) من قبل أفياد كوهين وإيتامار بروكاسيا ، ^{[ 3 ]} كخوارزمية تقريبية لحساب إحصائية الانتظام الدقيقة، إنتروبيا كولموغوروف-سيناي ، ثم شاع استخدامها لاحقًا على يد ستيف إم. بينكوس . استُخدم ApEn في البداية لتحليل الديناميكيات الفوضوية والبيانات الطبية، مثل معدل ضربات القلب، ^{[ 1 ]} ثم توسعت تطبيقاته لاحقًا لتشمل التمويل ، ^{[ 4 ]} وعلم وظائف الأعضاء ، ^{[ 5 ]} وهندسة العوامل البشرية ، ^{[ 6 ]} وعلوم المناخ. ^{[ 7 ]}

يتوفر دليل تعليمي شامل خطوة بخطوة مع شرح للأسس النظرية للإنتروبيا التقريبية. ^{[ 8 ]} الخوارزمية هي:

الخطوة 1

افترض وجود سلسلة زمنية من البيانات${\displaystyle u(1),u(2),\ldots ,u(N)}$هذه هي${\displaystyle N}$قيم البيانات الأولية من قياسات متباعدة زمنياً بشكل متساوٍ.

الخطوة الثانية

يترك${\displaystyle m\in \mathbb {Z} ^{+}}$ليكن عددًا صحيحًا موجبًا ، مع${\displaystyle m\leq N}$، وهو ما يمثل طول سلسلة من البيانات (أي نافذة ). لنفترض${\displaystyle r\in \mathbb {R} ^{+}}$ليكن عددًا حقيقيًا موجبًا ، يحدد مستوى التصفية.${\displaystyle n=N-m+1}$.

الخطوة 3

يُعرِّف${\displaystyle \mathbf {x} (i)={\big [}u(i),u(i+1),\ldots ,u(i+m-1){\big ]}}$لكل${\displaystyle i}$أين${\displaystyle 1\leq i\leq n}$. بعبارة أخرى،${\displaystyle \mathbf {x} (i)}$هو${\displaystyle m}$متجه ذو أبعاد يحتوي على سلسلة البيانات التي تبدأ بـ${\displaystyle u(i)}$عرّف المسافة بين متجهين${\displaystyle \mathbf {x} (i)}$و${\displaystyle \mathbf {x} (ي)}$باعتبارها أقصى المسافات بين مكوناتها، والتي تُعطى بواسطة

${\displaystyle {\begin{aligned}d[\mathbf {x} (i),\mathbf {x} (j)]&=\max _{k}{\big (}|\mathbf {x} (i)_{k}-\mathbf {x} (j)_{k}|{\big )}\\&=\max _{k}{\big (}|u(i+k-1)-u(j+k-1)|{\big )}\\\end{aligned}}}$

ل${\displaystyle 1\leq k\leq m}$.

الخطوة الرابعة

حدد عددًا${\displaystyle C_{i}^{m}}$مثل

${\displaystyle C_{i}^{m}(r)={({\text{عدد }}j{\text{ بحيث }}d[\mathbf {x} (i),\mathbf {x} (j)]\leq r) \over n}}$

لكل${\displaystyle i}$أين${\displaystyle 1\leq i,j\leq n}$لاحظ أنه منذ${\displaystyle j}$تأخذ جميع القيم بين 1 و${\displaystyle n}$سيتم احتساب المباراة عندما${\displaystyle j=i}$(أي عندما يكون تسلسل الاختبار الفرعي،${\displaystyle \mathbf {x} (ي)}$، تتم مقارنته بنفسه،${\displaystyle \mathbf {x} (i)}$).

الخطوة 5

يُعرِّف

${\displaystyle \phi ^{m}(r)={1 \over n}\sum _{i=1}^{n}\log(C_{i}^{m}(r))}$

أين${\displaystyle \log }$هو اللوغاريتم الطبيعي ، ولـ ثابت${\displaystyle m}$،${\displaystyle r}$، و${\displaystyle n}$كما هو موضح في الخطوة 2.

الخطوة 6

عرّف الإنتروبيا التقريبية (${\displaystyle \mathrm {ApEn} }$) مثل

${\displaystyle \mathrm {ApEn} (m,r,N)(u)=\phi ^{m}(r)-\phi ^{m+1}(r)}$

اختيار المعلمات

عادةً، اختر${\displaystyle m=2}$أو${\displaystyle m=3}$، بينما${\displaystyle r}$يعتمد ذلك بشكل كبير على التطبيق.

يستخدم تطبيق على Physionet، ^{[ 9 ]} والذي يعتمد على Pincus، ^{[ 2 ]}${\displaystyle d[\mathbf {x} (i),\mathbf {x} (j)]<r}$بدلاً من${\displaystyle d[\mathbf {x} (i),\mathbf {x} (j)]\leq r}$في الخطوة الرابعة. على الرغم من أنها تشكل مصدر قلق بالنسبة للأمثلة المصطنعة، إلا أنها عادة لا تشكل مصدر قلق في الممارسة العملية.

لنفترض سلسلة من${\displaystyle N=51}$عينات من معدل ضربات القلب موزعة على فترات زمنية متساوية:

${\displaystyle \ S_{N}=\{85,80,89,85,80,89,\ldots \}}$

لاحظ أن المتتالية دورية بفترة 3. لنختر${\displaystyle m=2}$و${\displaystyle r=3}$(قيم${\displaystyle m}$و${\displaystyle r}$يمكن تغييرها دون التأثير على النتيجة).

كوّن سلسلة من المتجهات:

${\displaystyle {\begin{aligned}\mathbf {x} (1)&=[u(1)\ u(2)]=[85\ 80]\\\mathbf {x} (2)&=[u(2)\ u(3)]=[80\ 89]\\\mathbf {x} (3)&=[u(3)\ u(4)]=[89\ 85]\\\mathbf {x} (4)&=[u(4)\ u(5)]=[85\ 80]\\&\ \ \vdots \end{aligned}}}$

يتم حساب المسافة بشكل متكرر كما يلي. في الحساب الأول،

${\displaystyle \ d[\mathbf {x} (1),\mathbf {x} (1)]=\max _{k}|\mathbf {x} (1)_{k}-\mathbf {x} (1)_{k}|=0}$وهو أقل من${\displaystyle r}$.

في الحساب الثاني، لاحظ أن${\displaystyle |u(2)-u(3)|>|u(1)-u(2)|}$، لذا

${\displaystyle \ d[\mathbf {x} (1),\mathbf {x} (2)]=\max _{k}|\mathbf {x} (1)_{k}-\mathbf {x} (2)_{k}|=|u(2)-u(3)|=9}$وهو أكبر من${\displaystyle r}$.

بصورة مماثلة،

${\displaystyle {\begin{aligned}d[\mathbf {x} (1)&,\mathbf {x} (3)]=|u(2)-u(4)|=5>r\\d[\mathbf {x} (1)&,\mathbf {x} (4)]=|u(1)-u(4)|=|u(2)-u(5)|=0<r\\&\vdots \\d[\mathbf {x} (1)&,\mathbf {x} (j)]=\cdots \\&\vdots \\\end{aligned}}}$

والنتيجة هي 17 مصطلحاً إجمالاً${\displaystyle \mathbf {x} (j)}$بحيث${\displaystyle d[\mathbf {x} (1),\mathbf {x} (j)]\leq r}$وتشمل هذه${\displaystyle \mathbf {x} (1),\mathbf {x} (4),\mathbf {x} (7),\ldots ,\mathbf {x} (49)}$في هذه الحالات،${\displaystyle C_{i}^{m}(r)}$يكون

${\displaystyle \ C_{1}^{2}(3)={\frac {17}{50}}}$

${\displaystyle \ C_{2}^{2}(3)={\frac {17}{50}}}$

${\displaystyle \ C_{3}^{2}(3)={\frac {16}{50}}}$

${\displaystyle \ C_{4}^{2}(3)={\frac {17}{50}}\ \cdots }$

ملاحظة في الخطوة 4،${\displaystyle 1\leq i\leq n}$ل${\displaystyle \mathbf {x} (i)}$لذا فإن المصطلحات${\displaystyle \mathbf {x} (j)}$بحيث${\displaystyle d[\mathbf {x} (3),\mathbf {x} (j)]\leq r}$يشمل${\displaystyle \mathbf {x} (3),\mathbf {x} (6),\mathbf {x} (9),\ldots ,\mathbf {x} (48)}$والعدد الإجمالي هو 16.

في نهاية هذه الحسابات، لدينا

${\displaystyle \phi ^{2}(3)={1 \over 50}\sum _{i=1}^{50}\log(C_{i}^{2}(3))\approx -1.0982}$

ثم نكرر الخطوات المذكورة أعلاه لـ${\displaystyle m=3}$أولاً، قم بتكوين سلسلة من المتجهات:

${\displaystyle {\begin{aligned}\mathbf {x} (1)&=[u(1)\ u(2)\ u(3)]=[85\ 80\ 89]\\\mathbf {x} (2)&=[u(2)\ u(3)\ u(4)]=[80\ 89\ 85]\\\mathbf {x} (3)&=[u(3)\ u(4)\ u(5)]=[89\ 85\ 80]\\\mathbf {x} (4)&=[u(4)\ u(5)\ u(6)]=[85\ 80\ 89]\\&\ \ \vdots \end{aligned}}}$

عن طريق حساب المسافات بين المتجهات${\displaystyle \mathbf {x} (i),\mathbf {x} (j),1\leq i\leq 49}$، نجد أن المتجهات التي تحقق مستوى الترشيح لها الخصائص التالية:

${\displaystyle d[\mathbf {x} (i),\mathbf {x} (i+3)]=0<r}$

لذلك،

${\displaystyle \ C_{1}^{3}(3)={\frac {17}{49}}}$

${\displaystyle \ C_{2}^{3}(3)={\frac {16}{49}}}$

${\displaystyle \ C_{3}^{3}(3)={\frac {16}{49}}}$

${\displaystyle \ C_{4}^{3}(3)={\frac {17}{49}}\ \cdots }$

في نهاية هذه الحسابات، لدينا

${\displaystyle \phi ^{3}(3)={1 \over 49}\sum _{i=1}^{49}\log(C_{i}^{3}(3))\approx -1.0982}$

أخيراً،

${\displaystyle \mathrm {ApEn} =\phi ^{2}(3)-\phi ^{3}(3)\approx 0.000010997}$

القيمة صغيرة جداً، لذا فهي تشير إلى أن التسلسل منتظم ويمكن التنبؤ به، وهو ما يتوافق مع الملاحظة.

• إنتروبيا تقريبية سريعة من MATLAB Central
• الإنتروبيا التقريبية

إن وجود أنماط متكررة من التقلبات في سلسلة زمنية يجعلها أكثر قابلية للتنبؤ من سلسلة زمنية تخلو من هذه الأنماط. يعكس ApEn احتمالية عدم تكرار أنماط الملاحظات المتشابهة بملاحظات مماثلة أخرى . ^{[ 10 ]} تتميز السلسلة الزمنية التي تحتوي على العديد من الأنماط المتكررة بقيمة ApEn منخفضة نسبيًا؛ بينما تتميز العملية الأقل قابلية للتنبؤ بقيمة ApEn أعلى. في مجال التنبؤ، نوقشت الإنتروبيا التقريبية أيضًا كمؤشر لتشخيص قابلية التنبؤ بالسلاسل الزمنية. ^{[ 11 ] [ 12 ]}

تشمل مزايا ApEn ما يلي: ^{[ 2 ]}

• انخفاض متطلبات الحوسبة. يمكن تصميم ApEn للعمل مع عينات بيانات صغيرة (${\displaystyle N<50}$ويمكن تطبيقها في الوقت الفعلي.
• تأثير أقل للضوضاء. إذا كانت البيانات مشوشة، يمكن مقارنة مقياس ApEn بمستوى الضوضاء في البيانات لتحديد مدى جودة المعلومات الحقيقية التي قد تكون موجودة في البيانات.

تحسب خوارزمية ApEn كل تسلسل على أنه مطابق لنفسه لتجنب حدوث${\displaystyle \log(0)}$في الحسابات. قد تؤدي هذه الخطوة إلى إدخال تحيز في ApEn، مما يتسبب في أن يكون لـ ApEn خاصيتان ضعيفتان في الممارسة العملية: ^{[ 13 ]}

1. يعتمد ApEn بشكل كبير على طول السجل ويكون أقل بشكل موحد من المتوقع بالنسبة للسجلات القصيرة.
2. يفتقر إلى الاتساق النسبي. بمعنى آخر، إذا كانت قيمة ApEn لمجموعة بيانات واحدة أعلى من قيمتها لمجموعة بيانات أخرى، فينبغي أن تظل أعلى في جميع الظروف التي تم اختبارها، ولكنها لا تظل كذلك.

تم تطبيق ApEn لتصنيف تخطيط كهربية الدماغ (EEG) في الأمراض النفسية، مثل الفصام، ^{[ 14 ]} والصرع ، ^{[ 15 ]} والإدمان. ^{[ 16 ]}

• تحليل تحديد كمية التكرار
• إنتروبيا العينة