الترجمة الآلية العصبية

الترجمة الآلية العصبية ( NMT ) هي نهج للترجمة الآلية يستخدم شبكة عصبية اصطناعية للتنبؤ باحتمالية تسلسل الكلمات، وعادة ما يقوم بنمذجة الجمل الكاملة في نموذج متكامل واحد.

يُعدّ هذا النهج هو السائد اليوم ^{[ 1 ]}^{: 293}^{[ 2 ]}^{: 1} ، ويمكنه إنتاج ترجمات تُضاهي الترجمات البشرية عند الترجمة بين لغات غنية بالموارد في ظل ظروف مُحددة. ^{[ 3 ]} ومع ذلك، لا تزال هناك تحديات، لا سيما مع اللغات التي تتوفر عنها بيانات أقل جودة، ^{[ 4 ]}^{[ 5 ]}^{[ 1 ]}^{: 293} ومع اختلاف نطاق البيانات التي دُرِّب عليها النظام والنصوص التي يُفترض أن يُترجمها. ^{[ 1 ]}^{: 293} كما تميل أنظمة الترجمة الآلية العصبية إلى إنتاج ترجمات حرفية إلى حد كبير. ^{[ 5 ]}

ملخص

في مهمة الترجمة، جملة $\mathbf {x} =x_{1,I}$ (يتألف من $I$ الرموز $x_{i}$ ) في اللغة المصدر يجب ترجمتها إلى جملة $\mathbf {y} =x_{1,J}$ (يتألف من $J$ الرموز $x_{j}$ ) في اللغة الهدف. الرموز المصدر والهدف (والتي تُستخدم في الحدث البسيط لبعضها البعض من أجل لعبة معينة) متجهات، بحيث يمكن معالجتها رياضياً.

تُحدد نماذج الترجمة الآلية العصبية احتمالية $P(y|x)$ ^{[ 2 ]}^{: 5}^{[ 6 ]}^{: 1}إلى الترجمات المحتملة y، ثم البحث في مجموعة فرعية من الترجمات المحتملة عن الترجمة ذات الاحتمالية الأعلى. معظم نماذج الترجمة الآلية العصبية ذاتيةالانحدار: فهي تُنمذج احتمالية كل رمز مستهدف كدالة للجملة المصدر والرموز المستهدفة المتوقعة سابقًا. وبالتالي، فإن احتمالية الترجمة الكاملة هي حاصل ضرب احتمالات الرموز المتوقعة الفردية:^{[ 2 ]}^{: 5}^{[ 6 ]}^{: 2}

$P(y|x)=\prod _{j=1}^{J}P(y_{j}|y_{1,i-1},\mathbf {x} )$

تختلف نماذج الترجمة الآلية العصبية في كيفية نمذجة هذه الوظيفة بدقة. $P$ لكن معظمها يستخدم شكلاً من أشكال بنية المُشفِّر-المُفكِّك : ^{[ 6 ]}^{: 2}^{[ 7 ]}^{: 469.} تستخدم أولاً شبكة مُشفِّر للمعالجة $\mathbf {x}$ ثم يتم ترميزها إلى تمثيل متجهي أو مصفوفي للجملة المصدرية. بعد ذلك، تُستخدم شبكة فك ترميز تُنتج عادةً كلمة هدف واحدة في كل مرة، مع الأخذ في الاعتبار التمثيل المصدري والرموز المميزة التي أنتجتها سابقًا. بمجرد أن تُنتج شبكة فك الترميز رمزًا مميزًا لنهاية الجملة ، تنتهي عملية فك الترميز. ولأن شبكة فك الترميز تعتمد على مخرجاتها السابقة أثناء العملية، تُسمى هذه الطريقة في فك الترميز بالتراجع الذاتي .

تاريخ

الأساليب المبكرة

في عام ١٩٨٧، برهن روبرت ب. ألين على استخدام الشبكات العصبية ذات التغذية الأمامية لترجمة جمل إنجليزية مُولَّدة تلقائيًا بمفردات محدودة من ٣١ كلمة إلى الإسبانية. في هذه التجربة، تم اختيار حجم طبقتي الإدخال والإخراج في الشبكة بحيث يكون كافيًا لأطول الجمل في اللغة المصدر واللغة الهدف على التوالي، نظرًا لعدم وجود آلية في الشبكة لترميز سلاسل ذات أطوال عشوائية إلى تمثيل ثابت الحجم. في ملخصه، ألمح ألين أيضًا إلى إمكانية استخدام نماذج التجميع الذاتي، نموذج لترميز المصدر وآخر لفك ترميز الهدف. ^{[ ٨ ]}

بنى لوني كريسمان على عمل ألين عام 1991 من خلال تدريب شبكات ذاكرة ترابطية ذاتية متكررة (RAAM) منفصلة (طورها جوردان ب. بولاك ^{[ 9 ]} ) للغة المصدر واللغة الهدف. تُدرَّب كل شبكة من شبكات RAAM على ترميز جملة ذات طول عشوائي في تمثيل مخفي ذي حجم ثابت، ثم فك ترميز الجملة الأصلية من هذا التمثيل. بالإضافة إلى ذلك، تُدرَّب الشبكتان أيضًا على مشاركة تمثيلهما المخفي؛ وبهذه الطريقة، يمكن لمُشفِّر المصدر إنتاج تمثيل يمكن لمُفكِّك الهدف فك ترميزه. ^{[ 10 ]} قام فوركادا ونيكو بتبسيط هذه العملية عام 1997 لتدريب مُشفِّر المصدر ومُفكِّك الهدف مباشرةً فيما أسمياه ذاكرة ترابطية غير متجانسة متكررة . ^{[ 11 ]}

وفي عام 1997 أيضاً، استخدم كاستانيو وكاساكوبيرتا شبكة عصبية متكررة من نوع إلمان في مهمة ترجمة آلية أخرى ذات مفردات محدودة للغاية وتعقيد منخفض. ^{[ 12 ]}^{[ 13 ]}

على الرغم من أن هذه الأساليب المبكرة كانت مشابهة بالفعل للترجمة الآلية العصبية الحديثة، إلا أن موارد الحوسبة في ذلك الوقت لم تكن كافية لمعالجة مجموعات البيانات الكبيرة بما يكفي لمواكبة التعقيد الحسابي لمشكلة الترجمة الآلية على النصوص الواقعية. ^{[ 1 ]}^{: 39}^{[ 14 ]}^{: 2} بدلاً من ذلك، برزت أساليب أخرى مثل الترجمة الآلية الإحصائية لتصبح أحدث ما توصلت إليه التكنولوجيا في التسعينيات والألفية الجديدة.

الأساليب الهجينة

خلال الفترة التي سادت فيها الترجمة الآلية الإحصائية، استخدمت بعض الدراسات أساليب الشبكات العصبية لاستبدال أجزاء مختلفة منها، مع الاستمرار في استخدام أسلوب الانحدار اللوغاريتمي الخطي لربطها ببعضها. ^{[ 1 ]}^{: 39}^{[ 2 ]}^{: 1} على سبيل المثال، في دراسات متعددة بالتعاون مع باحثين آخرين، استبدل هولجر شوينك نموذج اللغة التقليدي (n-gram) بنموذج عصبي ^{[ 15 ]}^{[ 16 ]} ، وقدّر احتمالات ترجمة العبارات باستخدام شبكة تغذية أمامية. ^{[ 17 ]}

seq2seq

في عامي 2013 و2014، شهدت الترجمة الآلية العصبية الشاملة طفرةً نوعيةً، حيث استخدم كالشبرينر وبلونسوم شبكة عصبية التفافية (CNN) لترميز النص الأصلي ^{[ 18 ]} ، بينما استخدم كلٌ من تشو وآخرون وسوتسكيفر وآخرون شبكة عصبية متكررة (RNN) بدلاً من ذلك ^{[ 19 ]}^{[ 20 ].} استخدم الباحثون الثلاثة شبكة RNN مشروطة بترميز ثابت للنص الأصلي كوحدة فك ترميز لإنتاج الترجمة. مع ذلك، كان أداء هذه النماذج ضعيفًا مع الجمل الطويلة ^{[ 21 ]}^{: 107}^{[ 1 ]}^{: 39}^{[ 2 ]}^{: 7.} تمت معالجة هذه المشكلة عندما لفت بهدانو وآخرون الانتباه إلى بنية المُشفِّر-فك الترميز الخاصة بهم: ففي كل خطوة من خطوات فك الترميز، تُستخدم حالة وحدة فك الترميز لحساب تمثيل للنص الأصلي يركز على أجزاء مختلفة منه، ويُستخدم هذا التمثيل في حساب احتمالات الرمز المميز التالي. ^{[ 22 ]} استنادًا إلى هذه البنى القائمة على الشبكات العصبية المتكررة، أطلقت بايدو "أول نظام ترجمة آلية عصبية واسع النطاق" ^{[ 23 ]}^{: 144} في عام 2015، تبعتها خدمة الترجمة الآلية العصبية من جوجل في عام 2016. ^{[ 23 ]}^{: 144}^{[ 24 ]} ومنذ ذلك العام، أصبحت النماذج العصبية الخيار السائد في مؤتمر الترجمة الآلية الرئيسي، ورشة عمل الترجمة الآلية الإحصائية. ^{[ 25 ]}

قام جيرينج وآخرون بدمج مشفر CNN مع آلية الانتباه في عام 2017، مما عالج التبعيات طويلة المدى في المصدر بشكل أفضل من الأساليب السابقة وزاد أيضًا من سرعة الترجمة لأن مشفر CNN قابل للتوازي، في حين أن مشفر RNN يجب أن يقوم بتشفير رمز واحد في كل مرة بسبب طبيعته المتكررة. ^{[ 26 ]}^{: 230} في العام نفسه، أطلقت مايكروسوفت مترجمها، وهو نظام ترجمة آلية عصبية عبر الإنترنت مدعوم بالذكاء الاصطناعي. ^{[ 27 ]} كما أُطلق مترجم DeepL ، الذي كان يعتمد آنذاك على مُشفِّر CNN ، في العام نفسه، وقد أشادت به العديد من وسائل الإعلام لتفوقه على منافسيه. ^{[ 28 ]}^{[ 29 ]}^{[ 30 ]} وقد لوحظ أيضًا أن GPT-3 من OpenAI ، الذي أُطلق عام 2020، يعمل كنظام ترجمة آلية عصبية. كما لوحظ أن بعض أنظمة الترجمة الآلية الأخرى، مثل مترجم مايكروسوفت وSYSTRAN، قد دمجت الشبكات العصبية في عملياتها.

محول

من بين بنى الشبكات الأخرى التي تُسهّل المعالجة المتوازية، نجد بنية المحوّل (Transformer )، التي قدّمها فاسواني وآخرون عام 2017. ^{[ 31 ]} وكما في النماذج السابقة، لا تزال بنية المحوّل تستخدم آلية الانتباه لترجيح مخرجات المُشفّر في خطوات فك التشفير. مع ذلك، تعتمد شبكتا المُشفّر والمفكّك في المحوّل على الانتباه بدلاً من التكرار أو الالتفاف: إذ تُرجّح كل طبقة مخرجات الطبقة السابقة وتُحوّلها في عملية تُسمى الانتباه الذاتي . ولأن آلية الانتباه لا تُراعي ترتيب الرموز، بينما يُعدّ ترتيب الكلمات في الجملة ذا أهمية بالغة، يتم دمج تضمينات الرموز مع ترميز صريح لموقعها في الجملة . ^{[ 2 ]}^{: 15}^{[ 6 ]}^{: 7} ولأن كلاً من مُشفّر ومفكّك المحوّل خاليان من العناصر المتكررة، يُمكن معالجتهما بالتوازي أثناء التدريب. ومع ذلك، فإن وحدة فك التشفير الخاصة بالمحول الأصلي لا تزال ذاتية التراجع، مما يعني أنه لا يزال يتعين إجراء فك التشفير رمزًا واحدًا في كل مرة أثناء الاستدلال.

سرعان ما أصبح نموذج المحول الخيار المهيمن لأنظمة الترجمة الآلية ^{[ 2 ]}^{: 44} ، وظل حتى الآن البنية الأكثر استخدامًا في ورشة العمل حول الترجمة الآلية الإحصائية في عامي 2022 و2023. ^{[ 32 ]}^{: 35-40}^{[ 33 ]}^{: 28-31}

عادةً، تُهيأ أوزان نماذج الترجمة الآلية العصبية عشوائيًا، ثم تُدرَّب على مجموعات بيانات متوازية. مع ذلك، ونظرًا لنجاح استخدام نماذج اللغة الكبيرة (LLMs) مثل BERT ، المدربة مسبقًا على كميات هائلة من البيانات أحادية اللغة، كنقطة انطلاق لتعلم مهام أخرى، في معالجة اللغات الطبيعية على نطاق أوسع ، فقد أصبح هذا النموذج أكثر شيوعًا في الترجمة الآلية العصبية. يُعد هذا مفيدًا بشكل خاص للغات ذات الموارد المحدودة، حيث لا تتوفر مجموعات بيانات متوازية كبيرة. ^{[ 4 ]}^{: 689-690.} ومن الأمثلة على ذلك نموذج mBART، الذي يُدرِّب أولًا مُحوِّلًا واحدًا على مجموعة بيانات متعددة اللغات لاستعادة الرموز المُقنَّحة في الجمل، ثم يُحسِّن أداء المُشفِّر التلقائي الناتج في مهمة الترجمة. ^{[ 34 ]}

ماجستير القانون التوليدي

بدلاً من ضبط نموذج لغوي مُدرَّب مسبقاً على مهمة الترجمة، يمكن أيضاً استخدام نماذج توليدية كبيرة الحجم لترجمة جملة إلى اللغة المطلوبة مباشرةً. وقد تم اختبار هذا النهج وتقييمه بشكل شامل لأول مرة على GPT 3.5 في عام 2023 من قِبَل هيندي وآخرون. ووجدوا أن "أنظمة GPT قادرة على إنتاج مخرجات ترجمة سلسة وتنافسية للغاية حتى في حالة عدم وجود بيانات تدريبية، وخاصةً بالنسبة لترجمات اللغات التي تتطلب موارد عالية". ^{[ 35 ]}^{: 22}

اختبر مؤتمر الترجمة الآلية لعام 2023 مجموعة متنوعة من نماذج اللغات واللغات من حيث قدراتها على الترجمة، ووجد أن الترجمات الآلية كانت جميعها تقريبًا على قدم المساواة مع الترجمة اليدوية. ^{[ 33 ]}^{: 16-17}

مقارنة بالترجمة الآلية الإحصائية

لقد تغلبت تقنية الترجمة الآلية العصبية (NMT) على العديد من التحديات التي كانت موجودة في الترجمة الآلية الإحصائية (SMT):

لقد تغلب اعتماد الترجمة الآلية العصبية الكامل على التمثيل المتواصل للرموز على مشكلات التباين الناتجة عن الكلمات أو العبارات النادرة. وأصبحت النماذج قادرة على التعميم بشكل أكثر فعالية. ^{[ 18 ]}^{: 1}^{[ 36 ]}^{: 900-901}
تسبب طول النماذج اللغوية المحدودة (n-gram) المستخدمة في نماذج الترجمة الآلية الإحصائية (SMT) في فقدان السياق. تتغلب أنظمة الترجمة الآلية العصبية (NMT) على هذه المشكلة من خلال عدم وجود حد فاصل صارم بعد عدد محدد من الرموز، واستخدام آلية الانتباه لاختيار الرموز التي يجب التركيز عليها عند توليد الرمز التالي. ^{[ 36 ]}^{: 900-901}
أدى التدريب الشامل لنموذج واحد إلى تحسين أداء الترجمة وتبسيط العملية بأكملها.
تتطلب نماذج n-gram الضخمة (حتى 7-gram) المستخدمة في SMT كميات كبيرة من الذاكرة، ^{[ 37 ]}^{: 88} بينما تتطلب NMT أقل من ذلك.

إجراءات التدريب

خسارة الإنتروبيا المتقاطعة

عادةً ما يتم تدريب نماذج الترجمة الآلية العصبية لزيادة احتمالية ملاحظة بيانات التدريب إلى أقصى حد. أي، بالنسبة لمجموعة بيانات من $T$ جمل المصدر $X=\mathbf {x} ^{(1)},...,\mathbf {x} ^{(T)}$ والجمل المستهدفة المقابلة $Y=\mathbf {y} ^{(1)},...,\mathbf {y} ^{(T)}$ الهدف هو إيجاد معلمات النموذج $\theta ^{*}$ التي تزيد من مجموع احتمالية كل جملة مستهدفة في بيانات التدريب بالنظر إلى الجملة المصدرية المقابلة:

$\theta ^{*}={\underset {\theta }{\operatorname {arg\,max} }}\sum _{i}^{T}P_{\theta }(\mathbf {y} ^{(i)}|\mathbf {x} ^{(i)})$

يؤدي التوسع إلى مستوى الرمز المميز إلى:

$\theta ^{*}={\underset {\theta }{\operatorname {arg\,max} }}\sum _{i}^{T}\prod _{j=1}^{J^{(i)}}P(y_{j}^{(i)}|y_{1,j-1}^{(i)},\mathbf {x} ^{(i)})$

بما أننا مهتمون فقط بالقيمة القصوى، فيمكننا البحث عن القيمة القصوى للوغاريتم بدلاً من ذلك (والذي يتميز بأنه يتجنب حدوث تدفق سفلي للفاصلة العائمة الذي يمكن أن يحدث مع حاصل ضرب الاحتمالات المنخفضة).

$\theta ^{*}={\underset {\theta }{\operatorname {arg\,max} }}\sum _{i}^{T}\log \prod _{j=1}^{J^{(i)}}P(y_{j}^{(i)}|y_{1,j-1}^{(i)},\mathbf {x} ^{(i)})$

باستخدام حقيقة أن لوغاريتم حاصل الضرب هو مجموع لوغاريتمات العوامل وعكس الإشارة ينتج عنه خسارة الإنتروبيا المتقاطعة الكلاسيكية :

$\theta ^{*}={\underset {\theta }{\operatorname {arg\,min} }}-\sum _{i}^{T}\log \sum _{j=1}^{J^{(i)}}P(y_{j}^{(i)}|y_{1,j-1}^{(i)},\mathbf {x} ^{(i)})$

من الناحية العملية، يتم إجراء هذا التصغير بشكل متكرر على مجموعات فرعية صغيرة (دفعات صغيرة) من مجموعة التدريب باستخدام التدرج العشوائي .

إجبار المعلم

أثناء الاستدلال، تستخدم وحدات فك التشفير التراجعية التلقائية الرمز المميز المُولّد في الخطوة السابقة كرمز إدخال. مع ذلك، عادةً ما تكون مفردات الرموز المستهدفة كبيرة جدًا. لذا، في بداية مرحلة التدريب، ستختار النماذج غير المدربة الرمز المميز الخاطئ في أغلب الأحيان؛ وستضطر الخطوات اللاحقة إلى العمل برموز إدخال خاطئة، مما يُبطئ التدريب بشكل ملحوظ. بدلاً من ذلك، يُستخدم أسلوب "التوجيه المُدرّب " خلال مرحلة التدريب: حيث يُغذّى النموذج (الطالب في استعارة التوجيه المُدرّب) دائمًا بالرموز المميزة السابقة الصحيحة كمدخل للرمز المميز التالي، بغض النظر عما تنبأ به في الخطوة السابقة.

ترجمة فورية من قبل مهندسي القانون الحاصلين على درجة الماجستير

كما هو موضح في قسم التاريخ أعلاه، بدلاً من استخدام نظام ترجمة آلية عصبية مُدرَّب على نصوص متوازية، يمكن أيضًا استخدام نموذج لغة توليدي لترجمة النص. تختلف هذه النماذج عن نظام الترجمة الآلية العصبية المُشفِّر-المُفكِّك في عدة جوانب: ^{[ 35 ]}^{: 1}

لا تُدرَّب نماذج اللغة التوليدية على مهمة الترجمة، ناهيك عن تدريبها على مجموعة بيانات موازية. بل تُدرَّب على هدف نمذجة لغوية، مثل التنبؤ بالكلمة التالية في تسلسل مُستقى من مجموعة بيانات نصية كبيرة. قد تحتوي هذه المجموعة على مستندات بلغات متعددة، ولكنها عمليًا تهيمن عليها النصوص الإنجليزية. ^{[ 38 ]} بعد هذا التدريب الأولي، تُضبط هذه النماذج بدقة على مهمة أخرى ، عادةً ما تكون اتباع التعليمات. ^{[ 39 ]}
ولأنها غير مدربة على الترجمة، فإنها لا تحتوي أيضاً على بنية مُشفِّر-مُفكِّك. بدلاً من ذلك، فهي تتكون فقط من مُفكِّك مُحوِّل.
لكي تكون نماذج اللغة واللغة (LLMs) قادرة على المنافسة في مجال الترجمة الآلية، يجب أن تكون أكبر بكثير من أنظمة الترجمة الآلية العصبية الأخرى. على سبيل المثال، يحتوي GPT-3 على 175 مليار مُعامل، ^{[ 40 ]}^{: 5} بينما يحتوي mBART على 680 مليون مُعامل ^{، [ 34 ]}^{: 727} أما نموذج transformer-big الأصلي فيحتوي على 213 مليون مُعامل فقط. ^{[ 31 ]}^{: 9} وهذا يعني أن تدريبها واستخدامها أكثر تكلفة من الناحية الحسابية.

يمكن تزويد نموذج التعلم اللغوي التوليدي بالتعليمات دون الحاجة إلى أمثلة إضافية، وذلك ببساطة عن طريق مطالبته بترجمة نص إلى لغة أخرى دون تقديم أي أمثلة إضافية في التعليمات. أو يمكن تضمين ترجمة واحدة أو عدة ترجمات كمثال في التعليمات قبل طلب ترجمة النص المطلوب. يُطلق على هذه الطريقة اسم التعلم بمثال واحد أو التعلم بأمثلة قليلة ، على التوالي. على سبيل المثال، استخدم هيندي وآخرون (2023) التعليمات التالية للترجمة بدون أمثلة والترجمة بمثال واحد: ^{[ 35 ]}

### ترجم هذه الجملة من [لغة المصدر] إلى [لغة الهدف]، المصدر: [الجملة المصدرية] ### هدف:

ترجم هذا إلى 1. [اللغة المستهدفة]: [مصدر اللقطة 1] 1. [مرجع اللقطة 1] ترجم هذا إلى 1. [اللغة المستهدفة]: [مدخل] 1.

الأدب

كوهن، فيليب (2020). الترجمة الآلية العصبية . مطبعة جامعة كامبريدج. arXiv : 1709.07809 . doi : 10.1017/9781108608480 . ISBN 9781108608480.
ستالبرغ، فيليكس (2019). "الترجمة الآلية العصبية: مراجعة ومسح". arXiv : 1912.02047 [ cs.CL ].

انظر أيضاً

مراجع

1 2 3 4 5 6 كوهن، فيليب (2020). الترجمة الآلية العصبية . مطبعة جامعة كامبريدج.
1 2 3 4 5 6 7 ستالبرغ، فيليكس (29-09-2020). "الترجمة الآلية العصبية: مراجعة ودراسة استقصائية". arXiv : 1912.02047v2 [ cs.CL ].
^ بوبيل ، مارتن. تومكوفا، ماركيتا؛ توميك، جاكوب؛ كايزر، لوكاس؛ أوسزكوريت، جاكوب؛ بوجار، أوندريج؛ جابوكرتسكي ، زدينيك (2020-09-01). "تحويل الترجمة الآلية: نظام التعلم العميق يصل إلى جودة ترجمة الأخبار تضاهي جودة الترجمة البشرية" . اتصالات الطبيعة . 11 (1): 4381. بيب كود : 2020NatCo..11.4381P . دوى : 10.1038/s41467-020-18073-9 . hdl : 11346/BIBLIO@id = 368112263610994118 . ISSN 2041-1723 . بمك 7463233 . PMID 32873773 .
1 2 هادو، باري؛ باودن، راشيل؛ ميسيلي باروني، أنطونيو فاليريو؛ هيلكل، جيندريش؛ بيرش، ألكسندرا (2022). "دراسة استقصائية للترجمة الآلية منخفضة الموارد" . اللغويات الحاسوبية . 48 (3): 673-732 . arXiv : 2109.00486 . doi : 10.1162/coli_a_00446 .
1 2 بويبو، تييري (2022). كالزولاري، نيكوليتا؛ بيشيه، فريدريك؛ بلاش، فيليب؛ شكري، خالد؛ سييري، كريستوفر؛ ديكليرك، تييري؛ جوجي، سارة؛ إيساهارا، هيتوشي؛ مايجارد، بينتي (محررون). "حول "التكافؤ البشري" و"الأداء الخارق" في تقييم الترجمة الآلية" . وقائع المؤتمر الثالث عشر لموارد اللغة وتقييمها . مرسيليا، فرنسا: الرابطة الأوروبية لموارد اللغة: 6018-6023 .
1 2 3 4 تان، تشيكسينغ؛ وانغ، شو. يانغ، زونغان؛ تشين، جانج؛ هوانغ، شيوانتشنغ؛ صن، ماوسونج؛ ليو ، يانغ (2020-12-31). “الترجمة الآلية العصبية: مراجعة للأساليب والموارد والأدوات”. أرخايف : 2012.15515 [ cs.CL ].
↑ غودفيلو، إيان؛ بينجيو، يوشوا؛ كورفيل، آرون (2016). " 12.4.5 الترجمة الآلية العصبية" . التعلم العميق . مطبعة معهد ماساتشوستس للتكنولوجيا. ص 468-471 . تاريخ الاسترجاع: 29-12-2022 .
↑ ألين، روبرت ب. ( 1987). دراسات متعددة حول اللغة الطبيعية والانتشار العكسي . المؤتمر الدولي الأول لشبكات IEEE العصبية. المجلد 2. سان دييغو. الصفحات 335-341 . تاريخ الاسترجاع: 30 ديسمبر 2022 .
↑ كريسمان، لوني (1991). "تعلم التمثيلات الموزعة المتكررة للحوسبة الشاملة" . علم الاتصال . 3 (4): 345-366 . doi : 10.1080/09540099108946592 . ISSN 0954-0091 .
↑ بولاك، جوردان ب. (1990). "التمثيلات الموزعة المتكررة" . الذكاء الاصطناعي . 46 (1): 77-105 . doi : 10.1016/0004-3702(90)90005-K .
↑ فوركادا، ميكيل ل.؛ نيكو، رامون ب. (1997). "ذاكرات ترابطية غير متجانسة متكررة للترجمة". الحوسبة البيولوجية والاصطناعية: من علم الأعصاب إلى التكنولوجيا . سلسلة محاضرات في علوم الحاسوب. المجلد 1240. الصفحات 453-462 . doi : 10.1007/BFb0032504 . ISBN 978-3-540-63047-0.
↑ كاستانيو، أسونسيون؛ كاساكوبيرتا، فرانسيسكو (1997). منهج اتصالي للترجمة الآلية . المؤتمر الأوروبي الخامس للاتصالات الكلامية والتكنولوجيا (يوروسبيتش 1997). رودس، اليونان. ص 91-94 . doi : 10.21437/Eurospeech.1997-50 .
↑ كاستانيو، أسونسيون؛ كاساكوبيرتا، فرانسيسكو؛ فيدال، إنريكي (23 يوليو 1997). الترجمة الآلية باستخدام الشبكات العصبية ونماذج الحالات المحدودة . وقائع المؤتمر السابع حول القضايا النظرية والمنهجية في الترجمة الآلية للغات الطبيعية. كلية سانت جون، سانتا فيه.
↑ يانغ، شوهينغ؛ وانغ، يوكسين؛ تشو، شياو وين (2020-02-18). "دراسة استقصائية لتقنيات التعلم العميق للترجمة الآلية العصبية". arXiv : 2002.07526 [ cs.CL ].
↑ شوينك، هولجر؛ ديشيلوت، دانيال؛ غوفان، جان لوك (2006). نماذج اللغة ذات الفضاء المتصل للترجمة الآلية الإحصائية . وقائع جلسات الملصقات للمؤتمر الرئيسي COLING/ACL 2006. سيدني، أستراليا. ص 723-730 .
↑ شوينك، هولجر (2007). "نماذج اللغة في الفضاء المتصل". الكلام واللغة الحاسوبية . 3 (21): 492-518 . doi : 10.1016/j.csl.2006.09.003 .
↑ شوينك، هولجر (2012). نماذج الترجمة المكانية المتصلة للترجمة الآلية الإحصائية القائمة على العبارات . وقائع مؤتمر COLING 2012: ملصقات. مومباي، الهند. ص 1071-1080 .
1 2 كالشبرينر، نال؛ بلونسوم، فيليب (2013). "نماذج الترجمة المستمرة المتكررة" . وقائع جمعية اللغويات الحاسوبية : 1700-1709 .
↑ تشو، كيونغ هيون؛ فان ميرينبوير، بارت؛ غولجيهري، كاغلار؛ بهدانو، ديمتري؛ بوغاريس، فتحي؛ شوينك، هولغر؛ بينجيو، يوشوا (2014). تعلم تمثيلات العبارات باستخدام مُشفِّر-مُفكِّك الشبكة العصبية المتكررة للترجمة الآلية الإحصائية . وقائع مؤتمر 2014 حول الأساليب التجريبية في معالجة اللغة الطبيعية (EMNLP). الدوحة، قطر: جمعية اللغويات الحاسوبية. ص 1724-1734 . arXiv : 1406.1078 . doi : 10.3115/v1/D14-1179 .
↑ سوتسكيفر، إيليا؛ فينيالز، أوريول؛ لي، كوك ف. (2014). "التعلم من تسلسل إلى تسلسل باستخدام الشبكات العصبية" . التطورات في أنظمة معالجة المعلومات العصبية . 27. كوران أسوشيتس، إنك. arXiv : 1409.3215 . مؤرشف من الأصل في 27 يناير 2025. تم الاسترجاع في 26 ديسمبر 2023 .
↑ تشو، كيونغ هيون؛ فان ميرينبوير، بارت؛ بهدانو، ديمتري؛ بينجيو، يوشوا (2014). حول خصائص الترجمة الآلية العصبية: مناهج المُشفِّر-المُفكِّك . وقائع ورشة العمل الثامنة حول بناء الجملة والدلالات والبنية في الترجمة الإحصائية (SSST-8). الدوحة، قطر: جمعية اللغويات الحاسوبية. ص 103-111 . arXiv : 1409.1259 . doi : 10.3115/v1/W14-4012 .
↑ باهدانو، ديمتري؛ تشو، كيونغ هيون؛ بينجيو، يوشوا (2014). "الترجمة الآلية العصبية من خلال التعلم المشترك للمحاذاة والترجمة". arXiv : 1409.0473 [ cs.CL ].
1 2 وانغ، هايفنغ؛ وو، هوا؛ هو تشونغ جون. هوانغ، ليانغ؛ تشيرش كينيث وارد (2022-11-01). "التقدم في الترجمة الآلية" . هندسة . 18 : 143– 153. بيب كود : 2022Engin..18..143W . دوى : 10.1016/j.eng.2021.03.023 .
↑ وو، يونغهوي؛ شوستر، مايك؛ تشين، تشيفنغ؛ لي، كوك ف.؛ نوروزي، محمد؛ ماشيري، وولفغانغ؛ كريكن، مكسيم؛ كاو، يوان؛ غاو، تشين؛ ماشيري، كلاوس؛ كلينغر، جيف؛ شاه، أبورفا؛ جونسون، ملفين؛ ليو، شياوبينغ؛ كايزر، لوكاس (2016). "نظام جوجل للترجمة الآلية العصبية: سد الفجوة بين الترجمة البشرية والآلية". arXiv : 1609.08144 [ cs.CL ].
↑ بوجار، أوندري؛ تشاتيرجي، راجين؛ فيدرمان، كريستيان؛ غراهام، إيفيت؛ هادو، باري؛ هوك، ماتياس؛ ييبس، أنطونيو خيمينو؛ كوهن، فيليب؛ لوغاتشيفا، فارفارا؛ مونز، كريستوف؛ نيغري، ماتيو؛ نيفيول، أوريلي؛ نيفيس، ماريانا؛ بوبيل، مارتن؛ بوست، مات؛ روبينو، رافائيل؛ سكارتون، كارولينا؛ سبيسيا، لوسيا؛ تورتشي، ماركو؛ فيرسبور، كارين؛ زامبيري، ماركوس (2016). "نتائج مؤتمر 2016 حول الترجمة الآلية" (ملف PDF) . المؤتمر الأول للترجمة الآلية (WMT16) لعام 2016. رابطة اللغويات الحاسوبية: 131-198 . مؤرشف من الأصل (ملف PDF) بتاريخ 27 يناير 2018 . تم الاطلاع عليه بتاريخ 27 يناير 2018 .
↑ جيرينغ، جوناس؛ أولي، مايكل؛ غرانجييه، ديفيد؛ دوفين، يان (2017). نموذج ترميز التفافي للترجمة الآلية العصبية . وقائع الاجتماع السنوي الخامس والخمسين لجمعية اللغويات الحاسوبية (المجلد 1: الأوراق البحثية الطويلة). فانكوفر، كندا: جمعية اللغويات الحاسوبية. الصفحات 123-135 . arXiv : 1611.02344 . doi : 10.18653/v1/P17-1012 .
↑ "تُقدّم مايكروسوفت خدمة الترجمة المدعومة بالذكاء الاصطناعي للمستخدمين النهائيين والمطورين، سواء كنت متصلاً بالإنترنت أو غير متصل" . مدونة مترجم مايكروسوفت . ١٨ أبريل ٢٠١٨. تاريخ الاطلاع: ١٩ أبريل ٢٠٢٤ .
↑ كولدوي، ديفين (29 أغسطس 2017). "ديب إل يُعلّم المترجمين الآخرين عبر الإنترنت تقنيات التعلّم الآلي الذكية" . تيك كرانش . تاريخ الاسترجاع: 26 ديسمبر 2023 .
^ ليلوب، داميان. لاروسيري ، ديفيد (29/08/2022). "ما هي أفضل خدمة ترجمة عبر الإنترنت؟" . لوموند . تم الاسترجاع 2023-01-10 .
^ باكالسكي ، إنجو (29/08/2017). "التدريب العملي العميق: أداة جديدة أفضل من Google وMicrosoft" . جوليم . تم الاسترجاع 2023-01-10 .
1 2 فاسواني، أشيش؛ شازير، نعوم؛ بارمار، نيكي؛ أوسزكوريت، جاكوب؛ جوميز، ايدان N.؛ كايزر، لوكاس؛ بولوسوخين، إيليا (2017). الاهتمام هو كل ما تحتاجه . التقدم في أنظمة معالجة المعلومات العصبية 30 (NIPS 2017). ص 5998 – 6008.
^ كوكمي، توم؛ باودن، راشيل. بوجار، أوندريج؛ دفوركوفيتش، أنطون؛ فيدرمان، كريستيان؛ فيشل، مارك؛ جودا، ثامي؛ جراهام، إيفيت؛ غروندكيويتش، رومان؛ هادو، باري. نولز ، ريبيكا. كوهن، فيليب؛ مونز، كريستوف. موريشيتا، ماكوتو؛ ناجاتا، ماساكي (2022). كوهن، فيليب؛ بارولت، لويك؛ بوجار، أوندريج؛ بوغارس، فتحي؛ تشاترجي، راجين؛ كوستا جوسا، مارتا ر.؛ فيدرمان، كريستيان؛ فيشل، مارك؛ فريزر ، الكسندر (محرران). نتائج مؤتمر 2022 للترجمة الآلية (WMT22) . وقائع المؤتمر السابع للترجمة الآلية (WMT). أبو ظبي، الإمارات العربية المتحدة (هجين): رابطة اللغويات الحاسوبية. ص 1-45 .
1 2 كوتشمي، توم؛ أفراميديس، إليفثيريوس؛ باودن، راشيل؛ بوجار، أوندري؛ دفوركوفيتش، أنطون؛ فيدرمان، كريستيان؛ فيشيل، مارك؛ فرايتاغ، ماركوس؛ غودا، ثامي؛ غروندكيفيتش، رومان؛ هادو، باري؛ كوهن، فيليب؛ ماري، بنجامين؛ مونز، كريستوف؛ موريشيتا، ماكوتو (2023). كوهن، فيليب؛ هادو، باري؛ كوتشمي، توم؛ مونز، كريستوف (محررون). نتائج مؤتمر 2023 حول الترجمة الآلية (WMT23): برامج الماجستير في اللغة موجودة ولكنها لم تصل إلى مبتغاها بعد . وقائع المؤتمر الثامن حول الترجمة الآلية . سنغافورة: جمعية اللغويات الحاسوبية. الصفحات 1-42 . doi : 10.18653/v1/2023.wmt-1.1 .
1 2 ليو، ينهان؛ غو، جياتاو؛ غويال، نامان؛ لي، شيان؛ إيدونوف، سيرجي؛ غازفينينجاد، مرجان؛ لويس، مايك؛ زيتلموير، لوك (2020). "التدريب المسبق لإزالة التشويش متعدد اللغات للترجمة الآلية العصبية" . معاملات رابطة اللغويات الحاسوبية . 8 : 726-742 . arXiv : 2001.08210 . doi : 10.1162/tacl_a_00343 .
1 2 3 هندي، عمرو؛ عبد الرحيم، محمد؛ شرف، عمرو؛ رونق، فيكاس؛ جبر، محمد؛ ماتسوشيتا، هيتوكازو؛ كيم، يونغ جين؛ عفيفي، محمد؛ عوض الله، هاني (18-02-2023). "ما مدى جودة نماذج GPT في الترجمة الآلية؟ تقييم شامل". arXiv : 2302.09210 [ cs.CL ].
1 2 راسل، ستيوارت؛ نورفيج، بيتر. الذكاء الاصطناعي: منهج حديث (الطبعة الرابعة، العالمية ). بيرسون.
↑ فيديريكو، مارسيلو؛ سيتولو، ماورو (2007). كاليسون-بيرش، كريس؛ كوهن، فيليب؛ فوردس، كاميرون شو؛ مونز، كريستوف (محررون). "المعالجة الفعالة لنماذج لغة N-gram للترجمة الآلية الإحصائية" . وقائع ورشة العمل الثانية حول الترجمة الآلية الإحصائية . براغ، جمهورية التشيك: رابطة اللغويات الحاسوبية: 88-95 . doi : 10.3115/1626355.1626367 .
↑ "إحصائيات مجموعة بيانات GPT 3: اللغات حسب عدد الأحرف" . OpenAI. 2020-06-01 . تم الاسترجاع في 2023-12-23 .
↑ رادفورد، أليك؛ ناراسيمهان، كارتيك؛ ساليمانس، تيم؛ سوتسكيفر، إيليا (2018). تحسين فهم اللغة من خلال التدريب المسبق التوليدي (ملف PDF) (تقرير فني). OpenAI . تاريخ الاسترجاع: 26 ديسمبر 2023 .
↑ براون، توم؛ مان، بنجامين؛ رايدر، نيك؛ سوبيا، ميلاني؛ كابلان، جاريد د؛ داريوال، برافولا؛ نيلاكانتان، أرفيند؛ شيام، براناف؛ ساستري، جيريش؛ أسكيل، أماندا؛ أغاروال، سانديني؛ هربرت-فوس، أرييل؛ كروجر، غريتشن؛ هينيغان، توم؛ تشايلد، ريون (2020). "نماذج اللغة هي متعلمون بعدد قليل من الأمثلة" . التطورات في أنظمة معالجة المعلومات العصبية . 33. كوران أسوشيتس، إنك.: 1877-1901 .

[Koehn2020-1] 1 2 3 4 5 6 كوهن، فيليب (2020). الترجمة الآلية العصبية . مطبعة جامعة كامبريدج.

[Stahlberg2020-2] 1 2 3 4 5 6 7 ستالبرغ، فيليكس (29-09-2020). "الترجمة الآلية العصبية: مراجعة ودراسة استقصائية". arXiv : 1912.02047v2 [ cs.CL ].

[Popel2020-3] بوبيل ، مارتن. تومكوفا، ماركيتا؛ توميك، جاكوب؛ كايزر، لوكاس؛ أوسزكوريت، جاكوب؛ بوجار، أوندريج؛ جابوكرتسكي ، زدينيك (2020-09-01). "تحويل الترجمة الآلية: نظام التعلم العميق يصل إلى جودة ترجمة الأخبار تضاهي جودة الترجمة البشرية" . اتصالات الطبيعة . 11 (1): 4381. بيب كود : 2020NatCo..11.4381P . دوى : 10.1038/s41467-020-18073-9 . hdl : 11346/BIBLIO@id = 368112263610994118 . ISSN 2041-1723 . بمك 7463233 . PMID 32873773 .

[Haddow2022-4] 1 2 هادو، باري؛ باودن، راشيل؛ ميسيلي باروني، أنطونيو فاليريو؛ هيلكل، جيندريش؛ بيرش، ألكسندرا (2022). "دراسة استقصائية للترجمة الآلية منخفضة الموارد" . اللغويات الحاسوبية . 48 (3): 673-732 . arXiv : 2109.00486 . doi : 10.1162/coli_a_00446 .

[Poibeau2022-5] 1 2 بويبو، تييري (2022). كالزولاري، نيكوليتا؛ بيشيه، فريدريك؛ بلاش، فيليب؛ شكري، خالد؛ سييري، كريستوفر؛ ديكليرك، تييري؛ جوجي، سارة؛ إيساهارا، هيتوشي؛ مايجارد، بينتي (محررون). "حول "التكافؤ البشري" و"الأداء الخارق" في تقييم الترجمة الآلية" . وقائع المؤتمر الثالث عشر لموارد اللغة وتقييمها . مرسيليا، فرنسا: الرابطة الأوروبية لموارد اللغة: 6018-6023 .

[Tan2020-6] 1 2 3 4 تان، تشيكسينغ؛ وانغ، شو. يانغ، زونغان؛ تشين، جانج؛ هوانغ، شيوانتشنغ؛ صن، ماوسونج؛ ليو ، يانغ (2020-12-31). “الترجمة الآلية العصبية: مراجعة للأساليب والموارد والأدوات”. أرخايف : 2012.15515 [ cs.CL ].

[Goodfellow2013-7] غودفيلو، إيان؛ بينجيو، يوشوا؛ كورفيل، آرون (2016). " 12.4.5 الترجمة الآلية العصبية" . التعلم العميق . مطبعة معهد ماساتشوستس للتكنولوجيا. ص 468-471 . تاريخ الاسترجاع: 29-12-2022 .

[Allen1987-8] ألين، روبرت ب. ( 1987). دراسات متعددة حول اللغة الطبيعية والانتشار العكسي . المؤتمر الدولي الأول لشبكات IEEE العصبية. المجلد 2. سان دييغو. الصفحات 335-341 . تاريخ الاسترجاع: 30 ديسمبر 2022 .

[Pollack1990-9] كريسمان، لوني (1991). "تعلم التمثيلات الموزعة المتكررة للحوسبة الشاملة" . علم الاتصال . 3 (4): 345-366 . doi : 10.1080/09540099108946592 . ISSN 0954-0091 .

[Chrisman1991-10] بولاك، جوردان ب. (1990). "التمثيلات الموزعة المتكررة" . الذكاء الاصطناعي . 46 (1): 77-105 . doi : 10.1016/0004-3702(90)90005-K .

[Forcada1997-11] فوركادا، ميكيل ل.؛ نيكو، رامون ب. (1997). "ذاكرات ترابطية غير متجانسة متكررة للترجمة". الحوسبة البيولوجية والاصطناعية: من علم الأعصاب إلى التكنولوجيا . سلسلة محاضرات في علوم الحاسوب. المجلد 1240. الصفحات 453-462 . doi : 10.1007/BFb0032504 . ISBN 978-3-540-63047-0.

[Castano1997a-12] كاستانيو، أسونسيون؛ كاساكوبيرتا، فرانسيسكو (1997). منهج اتصالي للترجمة الآلية . المؤتمر الأوروبي الخامس للاتصالات الكلامية والتكنولوجيا (يوروسبيتش 1997). رودس، اليونان. ص 91-94 . doi : 10.21437/Eurospeech.1997-50 .

[Castano1997b-13] كاستانيو، أسونسيون؛ كاساكوبيرتا، فرانسيسكو؛ فيدال، إنريكي (23 يوليو 1997). الترجمة الآلية باستخدام الشبكات العصبية ونماذج الحالات المحدودة . وقائع المؤتمر السابع حول القضايا النظرية والمنهجية في الترجمة الآلية للغات الطبيعية. كلية سانت جون، سانتا فيه.

[Yang2020-14] يانغ، شوهينغ؛ وانغ، يوكسين؛ تشو، شياو وين (2020-02-18). "دراسة استقصائية لتقنيات التعلم العميق للترجمة الآلية العصبية". arXiv : 2002.07526 [ cs.CL ].

[Schwenk2006-15] شوينك، هولجر؛ ديشيلوت، دانيال؛ غوفان، جان لوك (2006). نماذج اللغة ذات الفضاء المتصل للترجمة الآلية الإحصائية . وقائع جلسات الملصقات للمؤتمر الرئيسي COLING/ACL 2006. سيدني، أستراليا. ص 723-730 .

[Schwenk2007-16] شوينك، هولجر (2007). "نماذج اللغة في الفضاء المتصل". الكلام واللغة الحاسوبية . 3 (21): 492-518 . doi : 10.1016/j.csl.2006.09.003 .

[Schwenk2012-17] شوينك، هولجر (2012). نماذج الترجمة المكانية المتصلة للترجمة الآلية الإحصائية القائمة على العبارات . وقائع مؤتمر COLING 2012: ملصقات. مومباي، الهند. ص 1071-1080 .

[KalchbrennerBlunsom2013-18] 1 2 كالشبرينر، نال؛ بلونسوم، فيليب (2013). "نماذج الترجمة المستمرة المتكررة" . وقائع جمعية اللغويات الحاسوبية : 1700-1709 .

[Cho2014EncDec-19] تشو، كيونغ هيون؛ فان ميرينبوير، بارت؛ غولجيهري، كاغلار؛ بهدانو، ديمتري؛ بوغاريس، فتحي؛ شوينك، هولغر؛ بينجيو، يوشوا (2014). تعلم تمثيلات العبارات باستخدام مُشفِّر-مُفكِّك الشبكة العصبية المتكررة للترجمة الآلية الإحصائية . وقائع مؤتمر 2014 حول الأساليب التجريبية في معالجة اللغة الطبيعية (EMNLP). الدوحة، قطر: جمعية اللغويات الحاسوبية. ص 1724-1734 . arXiv : 1406.1078 . doi : 10.3115/v1/D14-1179 .

[Sutskever2014-20] سوتسكيفر، إيليا؛ فينيالز، أوريول؛ لي، كوك ف. (2014). "التعلم من تسلسل إلى تسلسل باستخدام الشبكات العصبية" . التطورات في أنظمة معالجة المعلومات العصبية . 27. كوران أسوشيتس، إنك. arXiv : 1409.3215 . مؤرشف من الأصل في 27 يناير 2025. تم الاسترجاع في 26 ديسمبر 2023 .

[Cho2014Properties-21] تشو، كيونغ هيون؛ فان ميرينبوير، بارت؛ بهدانو، ديمتري؛ بينجيو، يوشوا (2014). حول خصائص الترجمة الآلية العصبية: مناهج المُشفِّر-المُفكِّك . وقائع ورشة العمل الثامنة حول بناء الجملة والدلالات والبنية في الترجمة الإحصائية (SSST-8). الدوحة، قطر: جمعية اللغويات الحاسوبية. ص 103-111 . arXiv : 1409.1259 . doi : 10.3115/v1/W14-4012 .

[Bahdanau2015-22] باهدانو، ديمتري؛ تشو، كيونغ هيون؛ بينجيو، يوشوا (2014). "الترجمة الآلية العصبية من خلال التعلم المشترك للمحاذاة والترجمة". arXiv : 1409.0473 [ cs.CL ].

[Wang2022-23] 1 2 وانغ، هايفنغ؛ وو، هوا؛ هو تشونغ جون. هوانغ، ليانغ؛ تشيرش كينيث وارد (2022-11-01). "التقدم في الترجمة الآلية" . هندسة . 18 : 143– 153. بيب كود : 2022Engin..18..143W . دوى : 10.1016/j.eng.2021.03.023 .

[Wu2016-24] وو، يونغهوي؛ شوستر، مايك؛ تشين، تشيفنغ؛ لي، كوك ف.؛ نوروزي، محمد؛ ماشيري، وولفغانغ؛ كريكن، مكسيم؛ كاو، يوان؛ غاو، تشين؛ ماشيري، كلاوس؛ كلينغر، جيف؛ شاه، أبورفا؛ جونسون، ملفين؛ ليو، شياوبينغ؛ كايزر، لوكاس (2016). "نظام جوجل للترجمة الآلية العصبية: سد الفجوة بين الترجمة البشرية والآلية". arXiv : 1609.08144 [ cs.CL ].

[WMT2016-25] بوجار، أوندري؛ تشاتيرجي، راجين؛ فيدرمان، كريستيان؛ غراهام، إيفيت؛ هادو، باري؛ هوك، ماتياس؛ ييبس، أنطونيو خيمينو؛ كوهن، فيليب؛ لوغاتشيفا، فارفارا؛ مونز، كريستوف؛ نيغري، ماتيو؛ نيفيول، أوريلي؛ نيفيس، ماريانا؛ بوبيل، مارتن؛ بوست، مات؛ روبينو، رافائيل؛ سكارتون، كارولينا؛ سبيسيا، لوسيا؛ تورتشي، ماركو؛ فيرسبور، كارين؛ زامبيري، ماركوس (2016). "نتائج مؤتمر 2016 حول الترجمة الآلية" (ملف PDF) . المؤتمر الأول للترجمة الآلية (WMT16) لعام 2016. رابطة اللغويات الحاسوبية: 131-198 . مؤرشف من الأصل (ملف PDF) بتاريخ 27 يناير 2018 . تم الاطلاع عليه بتاريخ 27 يناير 2018 .

[Gehring2017-26] جيرينغ، جوناس؛ أولي، مايكل؛ غرانجييه، ديفيد؛ دوفين، يان (2017). نموذج ترميز التفافي للترجمة الآلية العصبية . وقائع الاجتماع السنوي الخامس والخمسين لجمعية اللغويات الحاسوبية (المجلد 1: الأوراق البحثية الطويلة). فانكوفر، كندا: جمعية اللغويات الحاسوبية. الصفحات 123-135 . arXiv : 1611.02344 . doi : 10.18653/v1/P17-1012 .

[27] "تُقدّم مايكروسوفت خدمة الترجمة المدعومة بالذكاء الاصطناعي للمستخدمين النهائيين والمطورين، سواء كنت متصلاً بالإنترنت أو غير متصل" . مدونة مترجم مايكروسوفت . ١٨ أبريل ٢٠١٨. تاريخ الاطلاع: ١٩ أبريل ٢٠٢٤ .

[DeepLTechCrunch-28] كولدوي، ديفين (29 أغسطس 2017). "ديب إل يُعلّم المترجمين الآخرين عبر الإنترنت تقنيات التعلّم الآلي الذكية" . تيك كرانش . تاريخ الاسترجاع: 26 ديسمبر 2023 .

[DeepLLeMonde-29] ليلوب، داميان. لاروسيري ، ديفيد (29/08/2022). "ما هي أفضل خدمة ترجمة عبر الإنترنت؟" . لوموند . تم الاسترجاع 2023-01-10 .

[DeepLGolem-30] باكالسكي ، إنجو (29/08/2017). "التدريب العملي العميق: أداة جديدة أفضل من Google وMicrosoft" . جوليم . تم الاسترجاع 2023-01-10 .

[Vaswani2017-31] 1 2 فاسواني، أشيش؛ شازير، نعوم؛ بارمار، نيكي؛ أوسزكوريت، جاكوب؛ جوميز، ايدان N.؛ كايزر، لوكاس؛ بولوسوخين، إيليا (2017). الاهتمام هو كل ما تحتاجه . التقدم في أنظمة معالجة المعلومات العصبية 30 (NIPS 2017). ص 5998 – 6008.

[WMT2022-32] كوكمي، توم؛ باودن، راشيل. بوجار، أوندريج؛ دفوركوفيتش، أنطون؛ فيدرمان، كريستيان؛ فيشل، مارك؛ جودا، ثامي؛ جراهام، إيفيت؛ غروندكيويتش، رومان؛ هادو، باري. نولز ، ريبيكا. كوهن، فيليب؛ مونز، كريستوف. موريشيتا، ماكوتو؛ ناجاتا، ماساكي (2022). كوهن، فيليب؛ بارولت، لويك؛ بوجار، أوندريج؛ بوغارس، فتحي؛ تشاترجي، راجين؛ كوستا جوسا، مارتا ر.؛ فيدرمان، كريستيان؛ فيشل، مارك؛ فريزر ، الكسندر (محرران). نتائج مؤتمر 2022 للترجمة الآلية (WMT22) . وقائع المؤتمر السابع للترجمة الآلية (WMT). أبو ظبي، الإمارات العربية المتحدة (هجين): رابطة اللغويات الحاسوبية. ص 1-45 .

[WMT2023-33] 1 2 كوتشمي، توم؛ أفراميديس، إليفثيريوس؛ باودن، راشيل؛ بوجار، أوندري؛ دفوركوفيتش، أنطون؛ فيدرمان، كريستيان؛ فيشيل، مارك؛ فرايتاغ، ماركوس؛ غودا، ثامي؛ غروندكيفيتش، رومان؛ هادو، باري؛ كوهن، فيليب؛ ماري، بنجامين؛ مونز، كريستوف؛ موريشيتا، ماكوتو (2023). كوهن، فيليب؛ هادو، باري؛ كوتشمي، توم؛ مونز، كريستوف (محررون). نتائج مؤتمر 2023 حول الترجمة الآلية (WMT23): برامج الماجستير في اللغة موجودة ولكنها لم تصل إلى مبتغاها بعد . وقائع المؤتمر الثامن حول الترجمة الآلية . سنغافورة: جمعية اللغويات الحاسوبية. الصفحات 1-42 . doi : 10.18653/v1/2023.wmt-1.1 .

[Liu2020-34] 1 2 ليو، ينهان؛ غو، جياتاو؛ غويال، نامان؛ لي، شيان؛ إيدونوف، سيرجي؛ غازفينينجاد، مرجان؛ لويس، مايك؛ زيتلموير، لوك (2020). "التدريب المسبق لإزالة التشويش متعدد اللغات للترجمة الآلية العصبية" . معاملات رابطة اللغويات الحاسوبية . 8 : 726-742 . arXiv : 2001.08210 . doi : 10.1162/tacl_a_00343 .

[Hendy2023-35] 1 2 3 هندي، عمرو؛ عبد الرحيم، محمد؛ شرف، عمرو؛ رونق، فيكاس؛ جبر، محمد؛ ماتسوشيتا، هيتوكازو؛ كيم، يونغ جين؛ عفيفي، محمد؛ عوض الله، هاني (18-02-2023). "ما مدى جودة نماذج GPT في الترجمة الآلية؟ تقييم شامل". arXiv : 2302.09210 [ cs.CL ].

[Russell2020-36] 1 2 راسل، ستيوارت؛ نورفيج، بيتر. الذكاء الاصطناعي: منهج حديث (الطبعة الرابعة، العالمية ). بيرسون.

[Federico2007-37] فيديريكو، مارسيلو؛ سيتولو، ماورو (2007). كاليسون-بيرش، كريس؛ كوهن، فيليب؛ فوردس، كاميرون شو؛ مونز، كريستوف (محررون). "المعالجة الفعالة لنماذج لغة N-gram للترجمة الآلية الإحصائية" . وقائع ورشة العمل الثانية حول الترجمة الآلية الإحصائية . براغ، جمهورية التشيك: رابطة اللغويات الحاسوبية: 88-95 . doi : 10.3115/1626355.1626367 .

[GPT3LanguagesByCharacterCount2020-38] "إحصائيات مجموعة بيانات GPT 3: اللغات حسب عدد الأحرف" . OpenAI. 2020-06-01 . تم الاسترجاع في 2023-12-23 .

[Radford2018-39] رادفورد، أليك؛ ناراسيمهان، كارتيك؛ ساليمانس، تيم؛ سوتسكيفر، إيليا (2018). تحسين فهم اللغة من خلال التدريب المسبق التوليدي (ملف PDF) (تقرير فني). OpenAI . تاريخ الاسترجاع: 26 ديسمبر 2023 .

[Brown2020-40] براون، توم؛ مان، بنجامين؛ رايدر، نيك؛ سوبيا، ميلاني؛ كابلان، جاريد د؛ داريوال، برافولا؛ نيلاكانتان، أرفيند؛ شيام، براناف؛ ساستري، جيريش؛ أسكيل، أماندا؛ أغاروال، سانديني؛ هربرت-فوس، أرييل؛ كروجر، غريتشن؛ هينيغان، توم؛ تشايلد، ريون (2020). "نماذج اللغة هي متعلمون بعدد قليل من الأمثلة" . التطورات في أنظمة معالجة المعلومات العصبية . 33. كوران أسوشيتس، إنك.: 1877-1901 .

[ 1 ]

[ 2 ]

[ 3 ]

[ 4 ]

[ 5 ]

[ 6 ]

[ 7 ]

[ ٨ ]

[ 9 ]

[ 10 ]

[ 11 ]

[ 12 ]

[ 13 ]

[ 14 ]

[ 15 ]

[ 16 ]

[ 17 ]

[ 18 ]

[ 19 ]

[ 20 ].

[ 21 ]

[ 22 ]

[ 23 ]

[ 24 ]

[ 25 ]

[ 26 ]

[ 27 ]

[ 28 ]

[ 29 ]

[ 30 ]

[ 31 ]

[ 32 ]

[ 33 ]

[ 34 ]

[ 35 ]

[ 36 ]

[ 37 ]

[ 38 ]

[ 39 ]

[ 40 ]

اللغة	العربية (RTL)
روابط موسوعية	30 رابطاً
المصدر الأصلي	ويكيبيديا ↗