معالجة اللغة الطبيعية

غالباً ما يتم توضيح فرضية معالجة اللغة الطبيعية الرمزية باستخدام تجربة جون سيرل الفكرية للغرفة الصينية: بالنظر إلى مجموعة من القواعد (على سبيل المثال، كتاب عبارات صيني، مع أسئلة وإجابات مطابقة)، يقوم الكمبيوتر بمحاكاة فهم اللغة الطبيعية (أو مهام معالجة اللغة الطبيعية الأخرى) من خلال تطبيق تلك القواعد على البيانات التي يواجهها.

• خمسينيات القرن العشرين : شملت تجربة جامعة جورجتاون عام 1954 ترجمةً آليةً كاملةً لأكثر من ستين جملة روسية إلى الإنجليزية. زعم الباحثون أن الترجمة الآلية ستُحلّ في غضون ثلاث إلى خمس سنوات. ^{[ 3 ]} إلا أن التقدم الفعلي كان أبطأ بكثير، وبعد تقرير لجنة تقييم الترجمة الآلية (ALPAC) عام 1966، الذي خلص إلى أن عشر سنوات من البحث لم تُحقق التوقعات، انخفض تمويل الترجمة الآلية بشكلٍ كبير. لم تُجرَ سوى أبحاث قليلة في مجال الترجمة الآلية في أمريكا (مع أن بعض الأبحاث استمرت في أماكن أخرى، مثل اليابان وأوروبا ^{[ 4 ]} ) حتى أواخر ثمانينيات القرن العشرين، حين طُوّرت أولى أنظمة الترجمة الآلية الإحصائية .
• في ستينيات القرن العشرين، شهدت أنظمة معالجة اللغة الطبيعية نجاحًا ملحوظًا، منها نظام SHRDLU ، وهو نظام يعمل ضمن " عوالم كتل " محدودة بمفردات محدودة، ونظام ELIZA ، وهو محاكاة للعلاج النفسي الروجرزي، من تأليف جوزيف وايزنباوم بين عامي 1964 و1966. ورغم استخدام ELIZA معلومات ضئيلة عن الفكر أو العاطفة البشرية، إلا أنه استطاع إنتاج تفاعلات بدت شبيهة بالتفاعلات البشرية. فعندما يتجاوز "المريض" قاعدة المعرفة المحدودة جدًا، كان بإمكان ELIZA تقديم رد عام، كأن يرد على عبارة "رأسي يؤلمني" بـ "لماذا تقول إن رأسك يؤلمك؟". وقد تم إثبات نجاح روس كويليان في مجال معالجة اللغة الطبيعية باستخدام مفردات لا تتجاوز عشرين كلمة، لأن هذا كان الحد الأقصى الذي يمكن تخزينه في ذاكرة الحاسوب آنذاك. ^{[ 5 ]}
• سبعينيات القرن العشرين : خلال سبعينيات القرن العشرين، بدأ العديد من المبرمجين بكتابة " أنطولوجيات مفاهيمية"، والتي قامت بتنظيم معلومات العالم الحقيقي وتحويلها إلى بيانات قابلة للفهم بواسطة الحاسوب. ومن الأمثلة على ذلك: مارجي (شانك، 1975)، وسام (كولينغفورد، 1978)، وبام (ويلينسكي، 1978)، وتيلسبين (ميهان، 1976)، وكوالم (لينرت، 1977)، وبوليتكس (كاربونيل، 1979)، ووحدات الحبكة (لينرت، 1981). خلال هذه الفترة، تم كتابة أولى برامج الدردشة الآلية (مثل باري ).
• ثمانينيات القرن العشرين : شهدت ثمانينيات القرن العشرين وأوائل تسعينياته ذروة استخدام الأساليب الرمزية في معالجة اللغات الطبيعية. وشملت مجالات التركيز في ذلك الوقت البحث في التحليل النحوي القائم على القواعد (مثل تطوير HPSG كتطبيق حاسوبي للقواعد التوليدية )، وعلم الصرف (مثل الصرف ثنائي المستوى ^{[ 6 ]} )، وعلم الدلالة (مثل خوارزمية Lesk )، والإحالة (مثل نظرية التمركز ^{[ 7 ]} )، ومجالات أخرى لفهم اللغة الطبيعية (مثل نظرية البنية البلاغية ). كما استمرت خطوط بحثية أخرى، مثل تطوير روبوتات المحادثة باستخدام Racter و Jabberwacky . وكان من التطورات المهمة (التي أدت في النهاية إلى التحول الإحصائي في تسعينيات القرن العشرين) تزايد أهمية التقييم الكمي في هذه الفترة. ^{[ 8 ]}

حتى ثمانينيات القرن العشرين، كانت معظم أنظمة معالجة اللغة الطبيعية تعتمد على مجموعات معقدة من القواعد المكتوبة بخط اليد. إلا أنه ابتداءً من أواخر ثمانينيات القرن العشرين، شهدت معالجة اللغة الطبيعية ثورةً مع ظهور خوارزميات التعلم الآلي . وقد تأثر هذا التحول بزيادة القدرة الحاسوبية (انظر قانون مور ) وتراجع هيمنة النظريات اللغوية التشومسكية (مثل قواعد التحويل )، التي كانت أسسها النظرية تُثبط نوع علم اللغة الحاسوبي الذي يقوم عليه نهج التعلم الآلي في معالجة اللغة. ^{[ 9 ]}

• في تسعينيات القرن العشرين ، تحققت العديد من النجاحات المبكرة البارزة في الأساليب الإحصائية لمعالجة اللغات الطبيعية في مجال الترجمة الآلية ، ويعود الفضل في ذلك بشكل خاص إلى العمل الذي أنجزه مركز أبحاث IBM، مثل نماذج محاذاة IBM . وقد استفادت هذه الأنظمة من مجموعات النصوص متعددة اللغات الموجودة التي أنتجها البرلمان الكندي والاتحاد الأوروبي نتيجةً لقوانين تنص على ترجمة جميع الإجراءات الحكومية إلى جميع اللغات الرسمية لأنظمة الحكم المعنية. ومع ذلك، اعتمدت العديد من الأنظمة على مجموعات نصوص طُوّرت خصيصًا للمهام التي صُممت لأدائها. وقد شكّل هذا الاعتماد قيدًا رئيسيًا على فعاليتها على نطاق أوسع، ولا يزال يؤثر على أنظمة مماثلة. ونتيجةً لذلك، ركّزت أبحاثٌ كثيرة على أساليب التعلّم الفعّال من كميات محدودة من البيانات.
• العقد الأول من الألفية الثانية : مع نمو شبكة الإنترنت، تزايدت كميات البيانات اللغوية الخام (غير المصنفة) المتاحة منذ منتصف التسعينيات. ولذلك، ركزت الأبحاث بشكل متزايد على خوارزميات التعلم غير الخاضع للإشراف وشبه الخاضع للإشراف . تستطيع هذه الخوارزميات التعلم من بيانات لم تُصنف يدويًا بالإجابات المطلوبة، أو باستخدام مزيج من البيانات المصنفة وغير المصنفة. عمومًا، تُعد هذه المهمة أصعب بكثير من التعلم الخاضع للإشراف ، وعادةً ما تُنتج نتائج أقل دقة لكمية معينة من بيانات الإدخال. مع ذلك، تتوفر كميات هائلة من البيانات غير المصنفة (بما في ذلك، على سبيل المثال لا الحصر، محتوى شبكة الإنترنت العالمية بأكمله )، والتي غالبًا ما تُعوض عن انخفاض الكفاءة إذا كانت الخوارزمية المستخدمة ذات تعقيد زمني منخفض بما يكفي لتكون عملية.
• 2003: نموذج n-gram للكلمات ، الذي كان في ذلك الوقت أفضل خوارزمية إحصائية، يتفوق عليه نموذج متعدد الطبقات (مع طبقة مخفية واحدة وطول سياق يبلغ عدة كلمات، تم تدريبه على ما يصل إلى 14 مليون كلمة، بواسطة بينجيو وآخرون) ^{[ 10 ]}
• في عام ٢٠١٠، قام توماش ميكولوف (طالب دكتوراه آنذاك في جامعة برنو للتكنولوجيا ) مع باحثين آخرين بتطبيق شبكة عصبية متكررة بسيطة ذات طبقة مخفية واحدة على نمذجة اللغة، ^{[ ١١ ]} وفي السنوات اللاحقة، طور برنامج Word2vec . في العقد الثاني من الألفية، انتشرت أساليب تعلم التمثيل والتعلم الآلي القائمة على الشبكات العصبية العميقة (التي تتميز بطبقات مخفية متعددة) على نطاق واسع في معالجة اللغة الطبيعية. اكتسب هذا التحول زخمًا بفضل النتائج التي أظهرت أن هذه التقنيات ^{[ ١٢ ] [ ١٣ ]} قادرة على تحقيق نتائج متقدمة في العديد من مهام اللغة الطبيعية، مثل نمذجة اللغة ^{[ ١٤ ]} والتحليل النحوي. ^{[ ١٥ ] [ ١٦ ]} يكتسب هذا الأمر أهمية متزايدة في الطب والرعاية الصحية ، حيث تساعد معالجة اللغة الطبيعية في تحليل الملاحظات والنصوص في السجلات الصحية الإلكترونية التي يصعب الوصول إليها للدراسة، وذلك بهدف تحسين الرعاية ^{[ ١٧ ]} أو حماية خصوصية المرضى. ^{[ ١٨ ]}

في أواخر ثمانينيات ومنتصف تسعينيات القرن الماضي، أنهى النهج الإحصائي فترة ركود في مجال الذكاء الاصطناعي ، والتي نتجت عن عدم كفاءة المناهج القائمة على القواعد. ^{[ 21 ] [ 22 ]}

كانت أشجار القرار الأولى ، التي تنتج أنظمة من قواعد "إذا-ثم" الصارمة ، لا تزال مشابهة جدًا للأساليب القديمة القائمة على القواعد. ولم يُعلن عن نهاية النهج القديم القائم على القواعد إلا ظهور نماذج ماركوف المخفية ، التي طُبقت على تصنيف أجزاء الكلام.

من أبرز عيوب الأساليب الإحصائية أنها تتطلب هندسة ميزات معقدة . منذ عام 2015، ^{[ 23 ]} حلت الأساليب القائمة على الشبكات العصبية محل الأساليب الإحصائية التقليدية بشكل متزايد، باستخدام الشبكات الدلالية ^{[ 24 ]} وتضمينات الكلمات لالتقاط الخصائص الدلالية للكلمات.

لم تعد هناك حاجة إلى المهام الوسيطة (مثل تحديد أجزاء الكلام وتحليل التبعية).

لقد جعلت الترجمة الآلية العصبية ، القائمة على تحويلات التسلسل إلى التسلسل التي تم اختراعها حديثًا آنذاك ، الخطوات الوسيطة، مثل محاذاة الكلمات، التي كانت ضرورية سابقًا للترجمة الآلية الإحصائية ، أمرًا عفا عليه الزمن .

التعرف الضوئي على الأحرف (OCR)

بالنظر إلى صورة تمثل نصًا مطبوعًا، حدد النص المقابل.

التعرف على الكلام

عند إدخال مقطع صوتي لشخص أو مجموعة أشخاص يتحدثون، حدد التمثيل النصي لهذا الكلام. هذا عكس عملية تحويل النص إلى كلام ، وهو أحد أصعب المشكلات التي تُعرف شعبياً باسم " الذكاء الاصطناعي الكامل " (انظر أعلاه). في الكلام الطبيعي، تكاد تنعدم الفواصل بين الكلمات المتتالية، ولذا يُعدّ تجزئة الكلام مهمة فرعية ضرورية للتعرف على الكلام (انظر أدناه). في معظم اللغات المنطوقة، تندمج الأصوات التي تُمثل الأحرف المتتالية في عملية تُسمى التلفظ المشترك ، لذا فإن تحويل الإشارة التناظرية إلى أحرف منفصلة قد يكون عملية بالغة الصعوبة. كذلك، ونظراً لأن الكلمات في اللغة نفسها تُنطق بلهجات مختلفة، يجب أن يكون برنامج التعرف على الكلام قادراً على تمييز هذا التنوع الكبير في المدخلات باعتبارها متطابقة من حيث مكافئها النصي.

تجزئة الكلام

عند إعطاء مقطع صوتي لشخص أو أشخاص يتحدثون، يتم فصله إلى كلمات. هذه مهمة فرعية من مهام التعرف على الكلام ، وعادةً ما تُصنف ضمنها.

تحويل النص إلى كلام

عند إدخال نص، يتم تحويل وحداته وإنتاج تمثيل صوتي له. ويمكن استخدام تقنية تحويل النص إلى كلام لمساعدة ضعاف البصر. ^{[ 25 ]}

تجزئة الكلمات ( التقسيم إلى رموز )

التجزئة هي تقنية لمعالجة النصوص تقسم النص إلى كلمات منفردة أو أجزاء منها. ينتج عن هذه التقنية عنصران أساسيان: فهرس الكلمات والنص المُجزأ. فهرس الكلمات عبارة عن قائمة تربط الكلمات الفريدة بمعرفات رقمية محددة، بينما يستبدل النص المُجزأ كل كلمة برمزها الرقمي المقابل. تُستخدم هذه الرموز الرقمية لاحقًا في مختلف أساليب التعلم العميق. ^{[ 26 ]}

بالنسبة للغة الإنجليزية ، يُعدّ هذا الأمر بسيطًا نسبيًا، إذ تُفصل الكلمات عادةً بمسافات. مع ذلك، لا تُحدّد بعض اللغات المكتوبة، كالصينية واليابانية والتايلاندية، حدود الكلمات بهذه الطريقة، وفي هذه اللغات، يُمثّل تقسيم النص مهمةً بالغة الأهمية تتطلّب معرفةً بمفردات اللغة وبنية كلماتها . يُستخدم هذا الأسلوب أحيانًا في حالاتٍ مثل إنشاء نماذج " حقيبة الكلمات " (BOW) في استخراج البيانات. ^{[ 27 ] [ 28 ]}

التقطيع إلى أجزاء

تتمثل مهمة هذه العملية في إزالة النهايات الاشتقاقية فقط وإعادة الصيغة الأساسية للكلمة، والمعروفة أيضًا باسم الجذر اللغوي. يُعدّ التجريد اللغوي تقنية أخرى لاختزال الكلمات إلى صيغتها المعيارية. ولكن في هذه الحالة، يستخدم التحويل قاموسًا لربط الكلمات بصيغتها الفعلية. ^{[ 29 ]}

التجزئة المورفولوجية

يُقسّم الكلمات إلى مورفيمات فردية ويُحدد نوع كل مورفيم. وتعتمد صعوبة هذه المهمة بشكل كبير على مدى تعقيد بنية الكلمات في اللغة قيد الدراسة. تتميز اللغة الإنجليزية ببنية صرفية بسيطة نسبيًا، لا سيما الصرف الاشتقاقي ، ولذا يُمكن غالبًا تجاهل هذه المهمة تمامًا والاكتفاء بنمذجة جميع الأشكال الممكنة للكلمة (مثل: "open, opens, opened, opening") ككلمات منفصلة. أما في لغات مثل التركية أو لغة ميتي ، وهي لغة هندية شديدة الالتصاق ، فإن هذا النهج غير ممكن، إذ يحتوي كل مدخل في القاموس على آلاف الأشكال الممكنة للكلمة. ^{[ 30 ]}

تحديد أجزاء الكلام

حدد نوع الكلمة في الجملة. يمكن أن تكون العديد من الكلمات، وخاصة الشائعة منها، أكثر من نوع. على سبيل المثال، يمكن أن تكون كلمة "book" اسمًا ("الكتاب الموجود على الطاولة") أو فعلًا ("حجز رحلة طيران")؛ ويمكن أن تكون كلمة "set" اسمًا أو فعلًا أو صفة ؛ ويمكن أن تكون كلمة "out" أيًا من خمسة أنواع مختلفة على الأقل.

تجذير

عملية اختزال الكلمات المصرفة (أو المشتقة أحيانًا) إلى شكلها الأساسي (مثلًا، كلمة "close" هي جذر الكلمات "closed" و"closing" و"close" و"closer" وما إلى ذلك). ينتج عن التجريد نتائج مشابهة للتقطيع، ولكنه يعتمد على قواعد محددة، وليس على قاموس.

الاستقراء النحوي ^{[ 31 ]}

قم بإنشاء قواعد نحوية رسمية تصف تركيب اللغة.

تقسيم الجملة (المعروف أيضًا باسم " إزالة الغموض عن حدود الجملة ").

بالنظر إلى جزء من النص، حدد حدود الجمل. غالبًا ما يتم تمييز حدود الجمل بنقاط أو علامات ترقيم أخرى ، ولكن يمكن أن تخدم هذه الأحرف نفسها أغراضًا أخرى (مثل تمييز الاختصارات ).

التحليل

حدد شجرة التحليل النحوي (التحليل النحوي) لجملة معينة. قواعد اللغات الطبيعية غامضة ، وللجمل النموذجية تحليلات متعددة محتملة: ربما من المثير للدهشة أن الجملة النموذجية قد تحتوي على آلاف التحليلات المحتملة (معظمها سيبدو غير منطقي تمامًا للبشر). هناك نوعان رئيسيان من التحليل النحوي: تحليل التبعية وتحليل المكونات . يركز تحليل التبعية على العلاقات بين الكلمات في الجملة (تحديد عناصر مثل المفعول به والمسند)، بينما يركز تحليل المكونات على بناء شجرة التحليل النحوي باستخدام قواعد نحوية احتمالية خالية من السياق (انظر أيضًا القواعد النحوية العشوائية ).

الدلالات المعجمية

ما هو المعنى الحسابي للكلمات الفردية في سياقها؟

الدلالات التوزيعية

كيف يمكننا تعلم التمثيلات الدلالية من البيانات؟

التعرف على الكيانات المسماة (NER)

بالنظر إلى نصٍّ ما، حدّد العناصر التي تُقابل أسماءً علمية، كالأشخاص أو الأماكن، ونوع كل اسم (مثلاً: شخص، موقع، منظمة). مع أن استخدام الأحرف الكبيرة يُساعد في التعرّف على الكيانات المُسمّاة في لغاتٍ كالإنجليزية، إلا أن هذه المعلومة لا تُساعد في تحديد نوع الكيان ، وهي في أغلب الأحيان غير دقيقة أو غير كافية. على سبيل المثال، يُكتب الحرف الأول من الجملة بحرف كبير، وغالبًا ما تتكوّن الكيانات المُسمّاة من عدة كلمات، بعضها فقط يُكتب بحرف كبير. علاوةً على ذلك، لا تستخدم العديد من اللغات الأخرى المكتوبة بنصوص غير غربية (كالصينية والعربية ) الأحرف الكبيرة إطلاقًا، وحتى اللغات التي تستخدمها قد لا تُطبّقها باستمرار لتمييز الأسماء. على سبيل المثال، تُكتب جميع الأسماء في الألمانية بحرف كبير ، سواءً كانت أسماءً أم لا، بينما لا تُكتب الأسماء التي تُستخدم كصفات في الفرنسية والإسبانية بحرف كبير . تُعرف هذه المهمة أيضًا بتصنيف الرموز. ^{[ 32 ]}

تحليل المشاعر (انظر أيضًا تحليل المشاعر متعدد الوسائط )

يتضمن تحليل المشاعر تحديد وتصنيف النبرة العاطفية المُعبر عنها في النصوص. وتعتمد هذه التقنية على تحليل النصوص لتحديد ما إذا كانت المشاعر المُعبر عنها إيجابية أم سلبية أم محايدة. تستخدم نماذج تصنيف المشاعر عادةً مُدخلات مثل تسلسلات الكلمات (n-grams) ، وميزات تردد المصطلح - تردد المستند العكسي (TF-IDF)، وميزات مُولدة يدويًا، أو تستخدم نماذج التعلم العميق المصممة للتعرف على التبعيات طويلة المدى وقصيرة المدى في تسلسلات النصوص. تطبيقات تحليل المشاعر متنوعة، وتمتد لتشمل مهامًا مثل تصنيف تقييمات العملاء على مختلف المنصات الإلكترونية. ^{[ 26 ]}

استخلاص المصطلحات

الهدف من استخراج المصطلحات هو استخراج المصطلحات ذات الصلة تلقائيًا من مجموعة بيانات معينة.

إزالة الغموض عن معاني الكلمات (WSD)

للكلمات أكثر من معنى ؛ وعلينا اختيار المعنى الأنسب للسياق. في هذه المسألة، عادةً ما تُعطى لنا قائمة بالكلمات ومعانيها، مثلاً من قاموس أو مصدر إلكتروني مثل WordNet .

ربط الكيانات

تشير العديد من الكلمات - عادةً ما تكون أسماء أعلام - إلى كيانات مسماة ؛ وهنا يتعين علينا اختيار الكيان (شخصية مشهورة، أو موقع، أو شركة، وما إلى ذلك) الذي يُشار إليه في السياق.

استخلاص العلاقات

بالنظر إلى جزء من النص، حدد العلاقات بين الكيانات المسماة (على سبيل المثال، من متزوج من من).

التحليل الدلالي

عند إعطاء نص (عادةً جملة)، يتم إنتاج تمثيل رسمي لدلالاته، إما كرسم بياني (مثلاً، في تحليل AMR ) أو وفقًا لصيغة منطقية (مثلاً، في تحليل DRT ). يشمل هذا التحدي عادةً جوانب من عدة مهام معالجة لغوية طبيعية أساسية من علم الدلالة (مثلاً، تصنيف الأدوار الدلالية، وإزالة الغموض عن معاني الكلمات)، ويمكن توسيعه ليشمل تحليل الخطاب الكامل (مثلاً، تحليل الخطاب، والإحالة المرجعية؛ انظر فهم اللغة الطبيعية أدناه).

تصنيف الأدوار الدلالية (انظر أيضًا تصنيف الأدوار الدلالية الضمني أدناه)

بالنظر إلى جملة واحدة، حدد ووضح المسندات الدلالية (مثل الأطر اللفظية )، ثم حدد وصنف عناصر الإطار ( الأدوار الدلالية ).

قرار الإحالة

بالنظر إلى جملة أو جزء أكبر من النص، حدد الكلمات ("المراجع") التي تشير إلى نفس الأشياء ("الكيانات"). يُعدّ حلّ الإحالة مثالًا محددًا على هذه المهمة، وهو يُعنى تحديدًا بمطابقة الضمائر مع الأسماء التي تُشير إليها. تشمل المهمة الأكثر عمومية لحلّ الإحالة أيضًا تحديد ما يُسمى "علاقات الربط" التي تتضمن تعابير مرجعية . على سبيل المثال، في جملة مثل "دخل منزل جون من الباب الأمامي"، يُعدّ "الباب الأمامي" تعبيرًا مرجعيًا، وعلاقة الربط المطلوب تحديدها هي أن الباب المشار إليه هو الباب الأمامي لمنزل جون (وليس بابًا لمبنى آخر قد يُشار إليه أيضًا).

تحليل الخطاب

يتضمن هذا المعيار عدة مهام مترابطة. إحدى هذه المهام هي تحليل الخطاب، أي تحديد بنية الخطاب لنص متصل، أي طبيعة العلاقات الخطابية بين الجمل (مثل التوضيح، والشرح، والمقارنة). مهمة أخرى محتملة هي التعرف على أفعال الكلام وتصنيفها في جزء من النص (مثل سؤال بنعم/لا، وسؤال المحتوى، والبيان، والتأكيد، إلخ).

تحديد الأدوار الدلالية الضمنية

بالنظر إلى جملة واحدة، حدد ووضح المسندات الدلالية (مثل الأطر الفعلية ) وأدوارها الدلالية الصريحة في الجملة الحالية (انظر تصنيف الأدوار الدلالية أعلاه). ثم حدد الأدوار الدلالية غير المُتحققة صراحةً في الجملة الحالية، وصنفها إلى حجج مُتحققة صراحةً في موضع آخر من النص وأخرى غير مُحددة، وقارن الأولى بالنص المحلي. ومن المهام ذات الصلة الوثيقة حل الإحالة الصفرية، أي توسيع نطاق حل الإحالة ليشمل اللغات التي تُحذف فيها الضمير .

إدراك الاستلزام النصي

بالنظر إلى نصين، حدد ما إذا كانت صحة أحدهما تستلزم صحة الآخر، أو تستلزم نفي الآخر، أو تسمح بأن يكون الآخر صحيحًا أو خاطئًا. ^{[ 33 ]}

تجزئة المواضيع والتعرف عليها

بالنظر إلى جزء من النص، قم بتقسيمه إلى أجزاء، كل جزء منها مخصص لموضوع معين، وحدد موضوع الجزء.

استخراج الحجج

يهدف استخراج الحجج إلى الاستخلاص التلقائي وتحديد البنى الحجاجية من النصوص اللغوية الطبيعية باستخدام برامج الحاسوب. ^{[ 34 ]} تشمل هذه البنى الحجاجية المقدمة، والنتائج، ومخطط الحجة ، والعلاقة بين الحجة الرئيسية والحجة الفرعية، أو بين الحجة الرئيسية والحجة المضادة في الخطاب. ^{[ 35 ] [ 36 ]}

التلخيص التلقائي (تلخيص النصوص)

تقديم ملخص مقروء لجزء من النص. يُستخدم هذا الأسلوب غالبًا لتقديم ملخصات لنصوص من نوع معروف، مثل الأبحاث العلمية أو المقالات في القسم المالي من الصحيفة.

تصحيح الأخطاء النحوية

يشمل اكتشاف الأخطاء النحوية وتصحيحها نطاقًا واسعًا من المشكلات على جميع مستويات التحليل اللغوي (علم الأصوات/الإملاء، علم الصرف، علم النحو، علم الدلالة، علم التداول). ويُعدّ تصحيح الأخطاء النحوية ذا تأثير بالغ، إذ يؤثر على مئات الملايين من الأشخاص الذين يستخدمون اللغة الإنجليزية أو يتعلمونها كلغة ثانية. ولذلك، فقد خضع لعدد من المهام المشتركة منذ عام 2011. ^{[ 37 ] [ 38 ] [ 39 ]} وفيما يتعلق بالإملاء، وعلم الصرف، وعلم النحو، وبعض جوانب علم الدلالة، وبفضل تطوير نماذج لغوية عصبية قوية مثل GPT-2 ، يُمكن اعتبار هذه المشكلة محلولة إلى حد كبير الآن (2019)، ويتم تسويقها في تطبيقات تجارية متنوعة.

الترجمة المنطقية

ترجمة نص من لغة طبيعية إلى منطق صوري.

الترجمة الآلية (MT)

الترجمة الآلية للنصوص من لغة بشرية إلى أخرى. تُعد هذه إحدى أصعب المشكلات، وهي تنتمي إلى فئة من المشكلات تُعرف عامةً باسم "المشكلات المتعلقة بالذكاء الاصطناعي "، أي أنها تتطلب جميع أنواع المعرفة المختلفة التي يمتلكها البشر (القواعد، والدلالات، والحقائق المتعلقة بالعالم الحقيقي، وما إلى ذلك) لحلها بشكل صحيح.

فهم اللغة الطبيعية (NLU)

تحويل أجزاء النص إلى تمثيلات أكثر رسمية، مثل هياكل منطق الرتبة الأولى، التي يسهل على برامج الحاسوب التعامل معها. يتضمن فهم اللغة الطبيعية تحديد المعنى المقصود من بين الدلالات المتعددة الممكنة التي يمكن استخلاصها من تعبير لغوي طبيعي، والذي عادةً ما يتخذ شكل رموز منظمة لمفاهيم اللغة الطبيعية. يُعدّ إدخال وإنشاء نماذج فوقية للغة ونماذج أنطولوجية حلولًا فعّالة ولكنها تجريبية. يُتوقع، لبناء أساس لرسم دلالات اللغة الطبيعية، صياغة رسمية صريحة دون الخلط بينها وبين الافتراضات الضمنية، مثل افتراض العالم المغلق مقابل افتراض العالم المفتوح ، أو الإجابة الذاتية (نعم/لا) مقابل الإجابة الموضوعية (صواب/خطأ). ^{[ 40 ]}

توليد اللغة الطبيعية (NLG):

تحويل المعلومات من قواعد بيانات الحاسوب أو النوايا الدلالية إلى لغة بشرية قابلة للقراءة.

تأليف الكتب

لا يُعدّ إنشاء الكتب الكاملة مهمةً بحدّ ذاتها في معالجة اللغة الطبيعية، بل هو امتدادٌ لها ولغيرها من مهام معالجة اللغة الطبيعية. أُنشئ أول كتابٍ آليّ بواسطة نظامٍ قائمٍ على القواعد عام 1984 (Racter، لحية الشرطي نصف مُنشأة ). ^{[ 41 ]} أما أول عملٍ منشورٍ بواسطة شبكةٍ عصبيةٍ فقد نُشر عام 2018، وهو رواية " 1 the Road" التي سُوِّقت على أنها روايةٌ، وتحتوي على ستين مليون كلمة. كلا النظامين عبارةٌ في الأساس عن نماذج لغويةٍ مُعقّدةٍ ولكنها غير منطقية (خالية من الدلالات) . نُشر أول كتابٍ علميٍّ آليّ عام 2019 (Beta Writer، بطاريات الليثيوم أيون ، Springer، Cham). ^{[ 42 ]} على عكس Racter و "1 the Road" ، يستند هذا الكتاب إلى المعرفة الواقعية ويعتمد على تلخيص النصوص.

الذكاء الاصطناعي للمستندات

تعتمد منصة الذكاء الاصطناعي للمستندات على تقنية معالجة اللغة الطبيعية، مما يُمكّن المستخدمين الذين ليس لديهم خبرة سابقة في الذكاء الاصطناعي أو التعلّم الآلي أو معالجة اللغة الطبيعية من تدريب الحاسوب بسرعة لاستخراج البيانات المحددة التي يحتاجونها من أنواع مختلفة من المستندات. كما يُمكّن الذكاء الاصطناعي للمستندات المدعوم بمعالجة اللغة الطبيعية الفرق غير التقنية من الوصول بسرعة إلى المعلومات المخفية في المستندات، على سبيل المثال، المحامون ومحللو الأعمال والمحاسبون. ^{[ 43 ]}

إدارة الحوار

أنظمة حاسوبية مصممة للتحدث مع الإنسان.

الإجابة على الأسئلة

عند طرح سؤال بلغة بشرية، حدد إجابته. عادةً ما يكون للأسئلة إجابة صحيحة محددة (مثل "ما هي عاصمة كندا؟")، ولكن في بعض الأحيان يتم النظر في الأسئلة المفتوحة أيضًا (مثل "ما معنى الحياة؟").

تحويل النص إلى صورة

بناءً على وصف صورة ما، قم بإنشاء صورة تطابق هذا الوصف. ^{[ 44 ]}

توليد المشاهد من النص

بناءً على وصف لمشهد ما، قم بإنشاء نموذج ثلاثي الأبعاد لهذا المشهد. ^{[ 45 ] [ 46 ]}

تحويل النص إلى فيديو

بناءً على وصف فيديو، قم بإنشاء فيديو مطابق للوصف. ^{[ 47 ] [ 48 ]}

تتضمن معظم تطبيقات معالجة اللغة الطبيعية المتقدمة جوانب تحاكي السلوك الذكي والفهم الواضح للغة الطبيعية. وبشكل أعم، يمثل التفعيل التقني للجوانب المتقدمة بشكل متزايد للسلوك المعرفي أحد مسارات تطور معالجة اللغة الطبيعية (انظر الاتجاهات بين المهام المشتركة في CoNLL أعلاه).

يشير الإدراك إلى "العملية العقلية أو اكتساب المعرفة والفهم من خلال الفكر والتجربة والحواس". ^{[ 50 ]} علم الإدراك هو الدراسة العلمية متعددة التخصصات للعقل وعملياته. ^{[ 51 ]} اللسانيات الإدراكية فرع متعدد التخصصات من اللسانيات، يجمع بين المعرفة والبحث من علم النفس واللسانيات. ^{[ 52 ]} لا سيما خلال عصر معالجة اللغة الطبيعية الرمزية ، حافظ مجال اللسانيات الحاسوبية على روابط وثيقة مع الدراسات الإدراكية.

على سبيل المثال، يقدم جورج لاكوف منهجية لبناء خوارزميات معالجة اللغة الطبيعية (NLP) من منظور العلوم المعرفية، إلى جانب نتائج اللغويات المعرفية، ^{[ 53 ]} مع جانبين أساسيين:

1. طبّق نظرية الاستعارة المفاهيمية ، التي شرحها لاكوف بأنها "فهم فكرة ما، من خلال فكرة أخرى"، والتي تُعطي فكرة عن قصد الكاتب. ^{[ 54 ]} على سبيل المثال، لنأخذ كلمة "big " الإنجليزية . عند استخدامها في المقارنة ("That is a big tree")، يقصد الكاتب الإشارة إلى أن الشجرة كبيرة الحجم فعليًا مقارنةً بأشجار أخرى أو بتجارب الكاتب. وعند استخدامها مجازيًا ("Tomorrow is a big day")، يقصد الكاتب الإشارة إلى الأهمية . أما القصد من الاستخدامات الأخرى، كما في "She is a big person"، فسيظل غامضًا إلى حد ما بالنسبة للإنسان وخوارزمية معالجة اللغة الطبيعية المعرفية على حد سواء دون معلومات إضافية.
2. يُحدد هذا الأسلوب مقاييس نسبية للمعنى لكلمة أو عبارة أو جملة أو نص بناءً على المعلومات المقدمة قبل النص المراد تحليله وبعده، وذلك باستخدام قواعد نحوية احتمالية خالية من السياق (PCFG) على سبيل المثال. وقد وردت المعادلة الرياضية لهذه الخوارزميات في براءة الاختراع الأمريكية رقم 9269353 : ^{[ 55 ]}

${\displaystyle {RMM(token_{N})}={PMM(token_{N})}\times {\frac {1}{2d}}\left(\sum _{i=-d}^{d}{((PMM(token_{N})}\times {PF(token_{Ni},token_{N},token_{N+i}))_{i}}\right)}$

أين

RMM هو المقياس النسبي للمعنى

الرمز هو أي كتلة نصية أو جملة أو عبارة أو كلمة

يمثل N عدد الرموز المميزة التي يتم تحليلها

PMM هو مقياس احتمالية المعنى بناءً على مجموعة من النصوص

يمثل d الموقع غير الصفري للرمز المميز على طول سلسلة الرموز المميزة N

PF هي دالة الاحتمال الخاصة بلغة معينة

تُعدّ الروابط مع اللغويات المعرفية جزءًا من التراث التاريخي لمعالجة اللغات الطبيعية، إلا أنها لم تحظَ بالاهتمام الكافي منذ التحول نحو الإحصاء في تسعينيات القرن الماضي. ومع ذلك، فقد تمّ اتباع مناهج لتطوير نماذج معرفية نحو أطر عمل قابلة للتطبيق تقنيًا في سياق أطر عمل متنوعة، مثل القواعد المعرفية ^{[ 56 ]} ، والقواعد الوظيفية ^{[ 57 ]} ، وقواعد البناء ^{[ 58 ]} ، وعلم اللغة النفسي الحاسوبي، وعلم الأعصاب المعرفي (مثل ACT-R )، ولكن مع تبني محدود في التيار الرئيسي لمعالجة اللغات الطبيعية (كما يتضح من الحضور في المؤتمرات الرئيسية ^{[ 59 ]} لجمعية اللغويات المعرفية ). ومؤخرًا، تمّ إحياء أفكار معالجة اللغات الطبيعية المعرفية كنهج لتحقيق قابلية التفسير ، على سبيل المثال، في إطار مفهوم "الذكاء الاصطناعي المعرفي". ^{[ 60 ]} وبالمثل، فإن أفكار معالجة اللغة الطبيعية المعرفية متأصلة في النماذج العصبية ومعالجة اللغة الطبيعية متعددة الوسائط (على الرغم من أنها نادراً ما تكون صريحة) ^{[ 61 ]} والتطورات في الذكاء الاصطناعي ، وتحديداً الأدوات والتقنيات التي تستخدم مناهج نماذج اللغة الكبيرة ^{[ 62 ]} والاتجاهات الجديدة في الذكاء الاصطناعي العام القائم على مبدأ الطاقة الحرة ^{[ 63 ]} من قبل عالم الأعصاب والمنظر البريطاني في جامعة كوليدج لندن كارل جيه فريستون .