تضمين الرسم البياني المعرفي

📅 آخر تحديث: ٢٥ يوليو ٢٠٢٦
✍️ نُشر في: ٢٥ يوليو ٢٠٢٦
📷 يحتوي على 53 صور
الموسوعة الحرة
تضمين مخطط المعرفة. يمكن استخدام التمثيل المتجهي للكيانات والعلاقات في تطبيقات تعلم الآلة المختلفة.

في مجال تعلم التمثيل ، يُعد تضمين الرسم البياني المعرفي ( KGE )، والذي يُسمى أيضًا تعلم تمثيل المعرفة ( KRL ) أو تعلم العلاقات المتعددة ، [ 1 ] مهمةً من مهام التعلم الآلي تتمثل في تعلم تمثيل منخفض الأبعاد لكيانات وعلاقات الرسم البياني المعرفي مع الحفاظ على دلالاتها. [ 1 ] [ 2 ] [ 3 ] وبفضل هذا التمثيل المُضمّن ، يُمكن استخدام الرسوم البيانية المعرفية في تطبيقات متنوعة مثل التنبؤ بالروابط ، وتصنيف الثلاثيات، والتعرف على الكيانات، والتجميع ، واستخراج العلاقات . [ 1 ] [ 4 ]

تعريف

مخطط المعرفةجي={هـ،R،F}{\displaystyle {\mathcal {G}}=\{E,R,F\}}هي مجموعة من الكياناتهـ{\displaystyle E}العلاقاتR{\displaystyle R}والحقائقF{\displaystyle F}[ 5 ] الحقيقة ثلاثية​​(ح،ر،ت)∈F{\displaystyle (h,r,t)\in F}وهذا يدل على وجود رابطر∈R{\displaystyle r\in R}بين الرأسح∈هـ{\displaystyle h\in E}والذيلت∈هـ{\displaystyle t\in E}من الثلاثية. وهناك رمز آخر يُستخدم غالبًا في الأدبيات لتمثيل الثلاثية (أو الحقيقة) وهو⟨رأس،علاقة،ذيل⟩{\displaystyle \langle {\text{head}},{\text{relation}},{\text{tail}}\rangle }يُطلق على هذه الصيغة اسم إطار وصف الموارد (RDF). [ 1 ] [ 5 ] يُمثل الرسم البياني المعرفي المعرفة المتعلقة بمجال مُحدد؛ وباستخدام هذا التمثيل المُهيكل، يُمكن استنتاج معلومة جديدة منه بعد بعض خطوات التحسين. [ 6 ] مع ذلك، يواجه المستخدمون اليوم مشكلة ندرة البيانات وعدم كفاءة الحوسبة اللازمة لاستخدامها في التطبيقات العملية. [ 3 ] [ 7 ]

إن تضمين الرسم البياني المعرفي هو دالة تترجم كل كيان وكل علاقة إلى متجه ذي بُعد معين.د{\displaystyle d}يُطلق عليه بُعد التضمين. [ 7 ] بل من الممكن تضمين الكيانات والعلاقات بأبعاد مختلفة. [ 7 ] ويمكن استخدام متجهات التضمين هذه في مهام أخرى.

يتميز تضمين الرسم البياني المعرفي بأربعة جوانب: [ 1 ]

  1. فضاء التمثيل: الفضاء ذو ​​الأبعاد المنخفضة الذي يتم فيه تمثيل الكيانات والعلاقات. [ 1 ]
  2. دالة التقييم: مقياس لجودة التمثيل الثلاثي المضمن. [ 1 ]
  3. نماذج الترميز: هي الطريقة التي تتفاعل بها التمثيلات المضمنة للكيانات والعلاقات مع بعضها البعض. [ 1 ]
  4. معلومات إضافية: أي معلومات إضافية مستقاة من مخطط المعرفة تُثري التمثيل المُضمّن. [ 1 ] عادةً، تُدمج دالة تقييم مخصصة في دالة التقييم العامة لكل معلومة إضافية. [ 5 ] [ 1 ] [ 8 ]

إجراء التضمين

تتبع جميع خوارزميات إنشاء تمثيل بياني معرفي نفس المنهجية. [ 7 ] أولًا، تُهيأ متجهات التمثيل بقيم عشوائية. [ 7 ] ثم تُحسّن بشكل تكراري باستخدام مجموعة تدريب من الثلاثيات. في كل تكرار، يتم استخدام دفعة بحجمب{\displaystyle b}يتم أخذ عينة من الثلاثيات من مجموعة التدريب، ثم تُختار ثلاثية منها وتُشوّه - أي ثلاثية لا تُمثل حقيقة صحيحة في الرسم البياني المعرفي. [ 7 ] يتضمن تشويه الثلاثية استبدال رأسها أو ذيلها (أو كليهما) بكيان آخر يجعل الحقيقة خاطئة. [ 7 ] تُضاف الثلاثية الأصلية والثلاثية المشوّهة إلى دفعة التدريب، ثم تُحدّث التضمينات، مما يُحسّن دالة التقييم. [ 5 ] [ 7 ] تتوقف العملية عند الوصول إلى شرط التوقف. [ 7 ] عادةً، يعتمد شرط التوقف على فرط التخصيص لمجموعة التدريب. [ 7 ] في النهاية، يجب أن تكون التضمينات المُستخلصة قد استخرجت المعنى الدلالي من ثلاثيات التدريب، وأن تتنبأ بشكل صحيح بالحقائق الصحيحة غير المرئية في الرسم البياني المعرفي. [ 5 ]

الشفرة الزائفة

فيما يلي الشفرة الزائفة لإجراء التضمين العام. [ 9 ] [ 7 ]

خوارزمية حساب تضمينات الكيانات والعلاقات : المدخلات: مجموعة التدريبS={(ح،ر،ت)}{\displaystyle S=\{(h,r,t)\}}، مجموعة الكيانات هـ{\displaystyle E}، مجموعة العلاقات R{\displaystyle R}، بُعد التضمين ك{\displaystyle k}الناتج: تضمينات الكيانات والعلاقات التهيئة: الكياناتهـ{\displaystyle e}والعلاقاتر{\displaystyle r}يتم تهيئة التضمينات (المتجهات) بشكل عشوائيبينما شرط التوقف، نفّذSبأتجح←sأمصلهـ(S،ب){\displaystyle S_{batch}\leftarrow sample(S,b)} // أخذ عينة من مجموعة التدريب لكل(ح،ر،ت){\displaystyle (h,r,t)}فيSبأتجح{\displaystyle S_{batch}}يفعل(ح′،ر،ت′)←sأمصلهـ(S′){\displaystyle (h',r,t')\leftarrow sample(S')} // عينة من حقيقة فاسدة تيبأتجح←تيبأتجح∪{((ح،ر،ت)،(ح′،ر،ت′))}{\displaystyle T_{batch}\leftarrow T_{batch}\cup \{((h,r,t),(h',r,t'))\}}نهاية لـ قم بتحديث التضمينات عن طريق تقليل دالة الخسارة نهاية الحلقة

مؤشرات الأداء

تُستخدم هذه المؤشرات غالبًا لقياس جودة تضمين النموذج. وبساطة هذه المؤشرات تجعلها مناسبة جدًا لتقييم أداء خوارزمية التضمين حتى على نطاق واسع. [ 10 ] بالنظر إلىسؤال{\displaystyle {\ce {Q}}}باعتبارها مجموعة جميع التنبؤات المصنفة لنموذج ما، فمن الممكن تحديد ثلاثة مؤشرات أداء مختلفة: Hits@K و MR و MRR. [ 10 ]

Hits@K

مؤشر Hits@K، أو اختصارًا H@K، هو مؤشر أداء يقيس احتمالية العثور على التنبؤ الصحيح ضمن أفضل K تنبؤات نموذجية. [ 10 ] وعادةً ما يُستخدمك=10{\displaystyle k=10}[ 10 ] يعكس مؤشر Hits@K دقة نموذج التضمين في التنبؤ بالعلاقة بين مجموعتين ثلاثيتين معطيتين بشكل صحيح. [ 10 ]

Hits@K=|{q∈سؤال:q<ك}||سؤال|∈[0،1]{\displaystyle ={\frac {|\{q\in Q:q<k\}|}{|Q|}}\in [0,1]}

القيم الأكبر تعني أداءً تنبؤيًا أفضل. [ 10 ]

متوسط ​​الرتبة (MR)

متوسط ​​الترتيب هو متوسط ​​ترتيب العناصر التي تنبأ بها النموذج من بين جميع العناصر الممكنة. [ 10 ]

مR=1|سؤال|∑q∈سؤالq{\displaystyle MR={\frac {1}{|Q|}}\sum _{q\in Q}{q}}

كلما كانت القيمة أصغر، كان النموذج أفضل. [ 10 ]

متوسط ​​الرتبة المتبادلة (MRR)

يقيس متوسط ​​الرتبة المتبادلة عدد الثلاثيات المتوقعة بشكل صحيح. [ 10 ] إذا كانت الثلاثية المتوقعة الأولى صحيحة، يُضاف 1، وإذا كانت الثانية صحيحة12{\displaystyle {\frac {1}{2}}}يتم جمعها، وهكذا. [ 10 ]

يُستخدم متوسط ​​الرتبة المتبادلة بشكل عام لتحديد تأثير خوارزميات البحث. [ 10 ]

مRR=1|سؤال|∑q∈سؤال1q∈[0،1]{\displaystyle MRR={\frac {1}{|Q|}}\sum _{q\in Q}{\frac {1}{q}}\in [0,1]}

كلما زاد المؤشر، كان النموذج أفضل. [ 10 ]

التطبيقات

مهام التعلم الآلي

إكمال مخطط المعرفة (KGC) هو مجموعة من التقنيات لاستنتاج المعرفة من تمثيل مخطط المعرفة المضمن. [ 11 ] على وجه الخصوص، تُكمل هذه التقنية ثلاثيةً باستنتاج الكيان أو العلاقة المفقودة. [ 11 ] تُسمى المهام الفرعية المقابلة بتوقع الروابط أو الكيانات (أي، تخمين كيان من التضمين بالنظر إلى الكيان الآخر في الثلاثية والعلاقة)، ​​وتوقع العلاقات (أي، التنبؤ بالعلاقة الأكثر ترجيحًا التي تربط كيانين). [ 11 ]

يُعدّ تصنيف الثلاثيات مسألة تصنيف ثنائي . [ 1 ] عند إعطاء ثلاثية، يُقيّم النموذج المُدرّب مدى معقولية الثلاثية باستخدام التمثيل المُضمّن لتحديد ما إذا كانت الثلاثية صحيحة أم خاطئة. [ 11 ] ويتم اتخاذ القرار باستخدام دالة تقييم النموذج وعتبة مُحدّدة. [ 11 ] يُعدّ التجميع تطبيقًا آخر يستفيد من التمثيل المُضمّن لرسم بياني معرفي مُتفرق لتكثيف تمثيل الكيانات الدلالية المُتشابهة القريبة في فضاء ثنائي الأبعاد. [ 4 ]

تطبيقات عملية في العالم الحقيقي

يتزايد استخدام تضمين الرسم البياني المعرفي في العديد من التطبيقات. ففي أنظمة التوصية ، يُمكن لهذا التضمين التغلب على قيود التعلم المعزز التقليدي [ 12 ] [ 13 ] ، بالإضافة إلى قيود أسلوب الترشيح التعاوني التقليدي [ 14 ] . يتطلب تدريب هذا النوع من أنظمة التوصية كمية هائلة من المعلومات من المستخدمين؛ إلا أن تقنيات الرسم البياني المعرفي تُعالج هذه المشكلة باستخدام رسم بياني مُنشأ مسبقًا بناءً على معرفة مسبقة بارتباط العناصر، واستخدام التضمين لاستنتاج التوصية منه [ 12 ] . يُقصد بإعادة استخدام الأدوية استخدام دواء مُعتمد بالفعل، ولكن لغرض علاجي مختلف عن الغرض الذي صُمم من أجله في الأصل [ 15 ] . من الممكن استخدام مهمة التنبؤ بالروابط لاستنتاج صلة جديدة بين دواء موجود ومرض ما، وذلك باستخدام رسم بياني معرفي طبي حيوي مُنشأ بالاستفادة من وفرة الأدبيات وقواعد البيانات الطبية الحيوية. [ 15 ] يمكن أيضًا استخدام تضمين الرسم البياني المعرفي في مجال السياسة الاجتماعية. [ 4 ]

نماذج

الجدول الزمني لنشر بعض نماذج تضمين مخططات المعرفة. باللون الأحمر نماذج تحليل الموترات، وباللون الأزرق النماذج الهندسية، وباللون الأخضر نماذج التعلم العميق. كان RESCAL [ 16 ] (2011) أول نهج حديث لتضمين مخططات المعرفة. وفي [ 17 ] طُبِّق على مخطط المعرفة YAGO. وكان هذا أول تطبيق لتضمين مخططات المعرفة على مخطط معرفة واسع النطاق.

بافتراض وجود مجموعة من الثلاثيات (أو الحقائق)F={⟨رأس،علاقة،ذيل⟩}{\displaystyle {\mathcal {F}}=\{\langle {\text{head}},{\text{relation}},{\text{tail}}\rangle \}}[ 7 ] يقوم نموذج تضمين الرسم البياني المعرفي بإنتاج تمثيل متجهي مستمر لكل كيان وعلاقة موجودة في الرسم البياني المعرفي.(ح،ر،ت){\displaystyle (h,r,t)}هو التضمين المقابل لثلاثية معح،ت∈أناRد{\displaystyle h,t\in {\rm {I\!R}}^{d}}ور∈أناRك{\displaystyle r\in {\rm {I\!R}}^{k}}، أيند{\displaystyle d}يمثل بُعد التضمين للكيانات، وك{\displaystyle k}بالنسبة للعلاقات. [ 7 ] يُرمز إلى دالة التقييم لنموذج معين بـور(ح،ت){\displaystyle {\mathcal {f}}_{r}(h,t)}ويقيس هذا المقياس مدى بُعد تمثيل الرأس عن تمثيل الذيل، مع الأخذ في الاعتبار تمثيل العلاقة. بعبارة أخرى، يُحدد هذا المقياس مدى معقولية التمثيل المُضمّن لحقيقة معينة. [ 5 ]

يقترح روسي وآخرون تصنيفًا لنماذج التضمين ويحددون ثلاث عائلات رئيسية من النماذج: نماذج تحليل الموترات، والنماذج الهندسية، ونماذج التعلم العميق. [ 5 ]

نموذج تحليل الموتر

يُعدّ تحليل الموتر فئةً من نماذج تضمين مخططات المعرفة، تستخدم مصفوفة متعددة الأبعاد لتمثيل مخطط المعرفة، [ 1 ] [ 5 ] [ 18 ] الذي يكون قابلاً للمعرفة جزئيًا نظرًا لوجود فجوات في المخطط الذي يصف مجالًا معينًا بدقة. [ 5 ] تستخدم هذه النماذج، على وجه الخصوص، موترًا من الرتبة الثالثة (3D) ، والذي يُحلل بعد ذلك إلى متجهات منخفضة الأبعاد تمثل التضمينات. [ 5 ] [ 18 ] يُعدّ الموتر من الرتبة الثالثة مناسبًا لتمثيل مخطط المعرفة لأنه يسجل فقط وجود أو عدم وجود علاقة بين الكيانات، [ 18 ] وبالتالي فهو بسيط، ولا حاجة لمعرفة بنية الشبكة مسبقًا ، [ 16 ] مما يجعل هذه الفئة من نماذج التضمين خفيفة وسهلة التدريب حتى وإن كانت تعاني من ارتفاع الأبعاد وندرة البيانات. [ 5 ] [ 18 ]

النماذج الثنائية الخطية

تستخدم هذه المجموعة من النماذج معادلة خطية لتضمين العلاقة بين الكيانات من خلال علاقة. [ 1 ] وعلى وجه الخصوص، فإن التمثيل المُضمّن للعلاقات هو مصفوفة ثنائية الأبعاد. [ 5 ] تستخدم هذه النماذج، أثناء عملية التضمين، الحقائق الفردية فقط لحساب التمثيل المُضمّن، وتتجاهل الارتباطات الأخرى بنفس الكيان أو العلاقة. [ 19 ]

  • DistMult [ 20 ] : بما أن مصفوفة تضمين العلاقة هي مصفوفة قطرية ، [ 5 ] فإن دالة التقييم لا تستطيع التمييز بين الحقائق غير المتناظرة. [ 5 ] [ 19 ]
  • ComplEx [ 21 ] : نظرًا لأن DistMult يستخدم مصفوفة قطرية لتمثيل تضمين العلاقات، ولكنه يضيف تمثيلًا في فضاء المتجهات المركبة والضرب الهرميتي ، فإنه يستطيع التمييز بين الحقائق المتناظرة وغير المتناظرة. [ 5 ] [ 18 ] هذا النهج قابل للتوسع ليشمل مخططات معرفية كبيرة من حيث الوقت والمساحة. [ 21 ]
  • التناظر [ 22 ] : يُشفّر هذا النموذج في التضمين البنية التناظرية لمخطط المعرفة لمحاكاة الاستدلال الاستقرائي . [ 22 ] [ 5 ] [ 1 ] باستخدام دالة هدف قابلة للتفاضل، يتمتع التناظر بعمومية نظرية جيدة وقابلية توسع حسابية عالية. [ 22 ] وقد ثبت أن التضمين الناتج عن التناظر يستعيد تمامًا تضمين DistMult وComplEx وHolE. [ 22 ]
  • SimplE [ 23 ] : يُعد هذا النموذج تحسينًا لتحليل متعدد الحدود المتعارف عليه (CP)، حيث يتم فيه تعلم متجه تضمين للعلاقة ومتجهي تضمين مستقلين لكل كيان، اعتمادًا على ما إذا كان رأسًا أو ذيلًا في حقيقة الرسم البياني المعرفي. [ 23 ] يحل SimplE مشكلة التعلم المستقل لتضمينات الكيانين باستخدام علاقة عكسية، ويحسب متوسط ​​درجة CP.(ح،ر،ت){\displaystyle (h,r,t)}و(ت،ر-1،ح){\displaystyle (t,r^{-1},h)}[ 7 ] [ 18 ] وبهذه الطريقة ، يجمع SimplE العلاقة بين الكيانات عندما تظهر في دور الفاعل أو المفعول به داخل حقيقة ما، وهو قادر على تضمين العلاقات غير المتناظرة. [ 5 ]

النماذج غير الخطية

  • HolE: [ 24 ] يستخدم HolE الارتباط الدائري لإنشاء تمثيل مضمن لمخطط المعرفة، [ 24 ] والذي يمكن اعتباره ضغطًا لضرب المصفوفات، ولكنه أكثر كفاءة حسابية وقابلية للتوسع مع الحفاظ على القدرة على التعبير عن العلاقات غير المتناظرة نظرًا لأن الارتباط الدائري ليس تبادليًا. [ 19 ] يربط HolE بين التضمينات الهولوغرافية والمعقدة، لأنه عند استخدامه مع فورييه ، يمكن اعتباره حالة خاصة من ComplEx. [ 1 ]
  • TuckER: [ 25 ] ينظر TuckER إلى الرسم البياني المعرفي على أنه موتر يمكن تحليله باستخدام تحليل تاكر إلى مجموعة من المتجهات - أي تضمينات الكيانات والعلاقات - ذات نواة مشتركة. [ 25 ] [ 5 ] يتم تعلم أوزان موتر النواة مع التضمينات، وتمثل مستوى تفاعل المدخلات. [ 26 ] لكل كيان وعلاقة بُعد تضمين خاص به، ويُحدد حجم موتر النواة من خلال شكل الكيانات والعلاقات المتفاعلة. [ 5 ] يتم جمع تضمين موضوع ومفعول الحقيقة بنفس الطريقة، مما يجعل TuckER معبرًا بشكل كامل، ويمكن التعبير عن نماذج تضمين أخرى مثل RESCAL وDistMult وComplEx وSimplE كصيغة خاصة من TuckER. [ 25 ]
  • MEI: [ 27 ] تُقدّم MEI تقنية التفاعل بالتضمين متعدد الأقسام باستخدام صيغة موتر المصطلح الكتلي، وهي تعميم لتحليل CP وتحليل Tucker. تقسم هذه التقنية متجه التضمين إلى أقسام متعددة وتتعلم أنماط التفاعل المحلية من البيانات بدلاً من استخدام أنماط خاصة ثابتة كما في نموذجي ComplEx وSimplE. يُمكّن هذا MEI من تحقيق التوازن الأمثل بين الكفاءة والتعبيرية، وليس مجرد التعبيرية الكاملة. [ 27 ] تُعتبر النماذج السابقة مثل TuckER وRESCAL وDistMult وComplEx وSimplE حالات خاصة محدودة دون المستوى الأمثل من MEI.
  • MEIM: [ 28 ] يتجاوز MEIM تنسيق موتر المصطلح الكتلي ليقدم موتر النواة المستقل لتأثيرات تعزيز المجموعة، والتعامد المرن لرسم الخرائط العلائقية ذات الرتبة القصوى، بالإضافة إلى تفاعل التضمين متعدد الأقسام. يعمم MEIM العديد من النماذج السابقة مثل MEI ونماذجه الفرعية، RotaE وQuatE. [ 28 ] يحسن MEIM من القدرة التعبيرية مع الحفاظ على كفاءته العالية عمليًا، مما يساعده على تحقيق نتائج جيدة باستخدام أحجام نماذج صغيرة نسبيًا.

النماذج الهندسية

يُشفّر الفضاء الهندسي المُحدد بواسطة هذه المجموعة من النماذج العلاقة كتحويل هندسي بين رأس وذيل حقيقة ما. [ 5 ] ولهذا السبب، لحساب تضمين الذيل، من الضروري تطبيق تحويل.τ{\displaystyle \tau }إلى تضمين الرأس، ودالة المسافةدلتا{\displaystyle \delta }يُستخدم لقياس جودة التضمين أو لتقييم موثوقية حقيقة ما. [ 5 ]

ور(ح،ت)=دلتا(τ(ح،ر)،ت){\displaystyle {\mathcal {f}}_{r}(h,t)=\delta (\tau (h,r),t)}

تتشابه النماذج الهندسية مع نموذج تحليل الموتر، لكن الفرق الرئيسي بينهما هو ضرورة الحفاظ على قابلية تطبيق التحويل.τ{\displaystyle \tau }في الفضاء الهندسي الذي تم تعريفه فيه. [ 5 ]

نماذج انتقالية خالصة

يستلهم هذا النوع من النماذج فكرة ثبات الترجمة التي طُرحت في نموذج word2vec . [ 7 ] يعتمد نموذج الترجمة البحتة على حقيقة أن متجهات تضمين الكيانات تكون متقاربة بعد تطبيق ترجمة علائقية مناسبة في الفضاء الهندسي الذي تُعرَّف فيه. [ 19 ] بعبارة أخرى، عند وجود حقيقة ما، يجب أن يساوي مجموع تضمين الرأس وتضمين العلاقة تضمين الذيل. [ 5 ] يُحدد مدى تقارب تضمين الكيانات بمقياس مسافة ما، ويُحدد هذا المقياس موثوقية الحقيقة. [ 18 ]

نموذج تضمين TransE. يجب أن يكون التمثيل المتجهي (التضمين) للرأس بالإضافة إلى التمثيل المتجهي للعلاقة مساوياً للتمثيل المتجهي لكيان الذيل.
  • TransE [ 9 ] : يستخدم دالة تسجيل تجبر التضمينات على استيفاء معادلة مجموع متجهات بسيطة في كل حقيقة تظهر فيها: ح+ر=ت{\displaystyle h+r=t}[ 7 ] سيكون التضمين دقيقًا إذا ظهر كل كيان وعلاقة في حقيقة واحدة فقط، ولذلك فهو عمليًا ضعيف في تمثيل العلاقات من نوع واحد إلى متعدد ، ومن نوع متعدد إلى واحد ، والعلاقات غير المتناظرة . [ 5 ] [ 7 ]
  • TransH [ 29 ] : تعديل لـ TransE لتمثيل أنواع العلاقات، باستخدام مستوى فائق كفضاء هندسي. [ 29 ] في TransH، يكون تضمين العلاقة على مستوى فائق مختلف اعتمادًا على الكيانات التي تتفاعل معها. [ 7 ] لذا، لحساب دالة النتيجة لحقيقة ما، على سبيل المثال، يجب إسقاط التمثيل المُضمّن للرأس والذيل باستخدام مصفوفة إسقاط علائقية على المستوى الفائق الصحيح للعلاقة. [ 1 ] [ 7 ]
  • TransR [ 30 ] : هو تعديل لـ TransH يستخدم مساحات مختلفة لتضمين الكيانات مقابل العلاقات، [ 1 ] [ 19 ] وبالتالي يفصل بين المساحات الدلالية للكيانات والعلاقات. [ 7 ] كما يستخدم TransR مصفوفة إسقاط علائقية لترجمة تضمين الكيانات إلى مساحة العلاقات. [ 7 ]
  • TransD : [ 31 ] في TransR، يمكن أن ينتمي رأس وذيل حقيقة معينة إلى نوعين مختلفين من الكيانات. على سبيل المثال، في الحقيقة(أوباما،رئيس،الولايات المتحدة الأمريكية){\displaystyle ({\text{أوباما}},{\text{رئيس}},{\text{الولايات المتحدة الأمريكية}})}أوباما شخص ، والولايات المتحدة الأمريكية دولة. [ 31 ] [ 7 ] يُعدّ ضرب المصفوفات إجراءً مُكلفًا في TransR لحساب الإسقاط. [ 7 ] [ 31 ] في هذا السياق، يستخدم TransD متجهين لكل زوج من الكيانات والعلاقات لحساب تعيين ديناميكي يحل محل مصفوفة الإسقاط مع تقليل التعقيد البُعدي. [ 1 ] [ 7 ] [ 31 ] يُستخدم المتجه الأول لتمثيل المعنى الدلالي للكيانات والعلاقات، بينما يُستخدم الثاني لحساب مصفوفة التعيين. [ 31 ]
  • TransA: [ 32 ] تُعرّف جميع نماذج الترجمة دالة تقييم في فضاء تمثيلها، لكنها تُبسّط خسارة المقياس هذه تبسيطًا مفرطًا. [ 32 ] نظرًا لأن التمثيل المتجهي للكيانات والعلاقات ليس مثاليًا، فإن الترجمة البحتة لـ ح+ر{\displaystyle h+r}قد يكون بعيدًا عنت{\displaystyle t}وتجعل المسافة الإقليدية الكروية متساوية الجهد من الصعب التمييز بين الكيانات الأقرب. [ 32 ] في المقابل، يُدخل TransA مسافة ماهالانوبيس التكيفية لترجيح أبعاد التضمين، بالإضافة إلى الأسطح الإهليلجية لإزالة الغموض. [ 1 ] [ 7 ] [ 32 ]

نماذج انتقالية مع تضمينات إضافية

من الممكن ربط معلومات إضافية بكل عنصر في مخطط المعرفة وحقائق تمثيله المشتركة. [ 1 ] يمكن إثراء كل كيان وعلاقة بأوصاف نصية، وأوزان، وقيود، وغيرها لتحسين الوصف الشامل للمجال باستخدام مخطط المعرفة. [ 1 ] أثناء تضمين مخطط المعرفة، يمكن استخدام هذه المعلومات لتعلم تضمينات متخصصة لهذه الخصائص إلى جانب التمثيل المضمن المعتاد للكيانات والعلاقات، مع ما يترتب على ذلك من تعلم عدد أكبر من المتجهات. [ 5 ]

  • STransE: [ 33 ] هذا النموذج هو نتاج دمج TransE مع تضمين البنية [ 33 ] بطريقة تمكنه من تمثيل علاقات واحد إلى متعدد، ومتعدد إلى واحد، ومتعدد إلى متعدد بشكل أفضل . [ 5 ] ولتحقيق ذلك، يتضمن النموذج مصفوفتين مستقلتين إضافيتيندبليورح{\displaystyle W_{r}^{h}}ودبليورت{\displaystyle W_{r}^{t}}لكل علاقة مضمنةر{\displaystyle r}في قاعدة المعرفة. [ 33 ] تُستخدم كل مصفوفة إضافية بناءً على تفاعل العلاقة المحددة مع رأس أو ذيل الحقيقة. [ 33 ] بعبارة أخرى، بالنظر إلى حقيقة معينة(ح،ر،ت){\displaystyle (h,r,t)}قبل تطبيق ترجمة المتجهات، الرأسح{\displaystyle h}يتم ضربها فيدبليورح{\displaystyle W_{r}^{h}}ويتم ضرب الذيل بـدبليورت{\displaystyle W_{r}^{t}}[ 7 ]​
  • CrossE : [ 34 ] يمكن استخدام تفاعلات التقاطع لاختيار المعلومات ذات الصلة، وقد تكون مفيدة جدًا في عملية التضمين. [ 34 ] تُقدم تفاعلات التقاطع مساهمتين متميزتين في اختيار المعلومات: التفاعلات من العلاقات إلى الكيانات، والتفاعلات من الكيانات إلى العلاقات. [ 34 ] هذا يعني أن العلاقة، مثل "رئيس_لـ"، تختار تلقائيًا أنواع الكيانات التي تربط الموضوع بموضوع الحقيقة. [ 34 ] وبالمثل، يُحدد كيان الحقيقة بشكل غير مباشر مسار الاستدلال الذي يجب اختياره للتنبؤ بموضوع الثلاثية ذات الصلة. [ 34 ] وللقيام بذلك، يتعلم CrossE مصفوفة تفاعل إضافية.ج{\displaystyle C}، يستخدم الضرب العنصري لحساب التفاعل بينح{\displaystyle h}ور{\displaystyle r}[ 5 ] [ 34 ] على الرغم من أن CrossE لا يعتمد على بنية الشبكة العصبية، فقد ثبت أنه يمكن ترميز هذه المنهجية في مثل هذه البنية. [ 1 ]

نماذج الدوران والترجمة

تستخدم هذه المجموعة من النماذج، بالإضافة إلى أو بدلاً من عملية الإزاحة، تحويلاً يشبه الدوران. [ 5 ]

  • TorusE: [ 35 ] يؤدي حد التنظيم في TransE إلى إنشاء فضاء كروي لتضمين الكيان، وبالتالي يفقد خصائص الإزاحة للفضاء الهندسي. [ 35 ] لمعالجة هذه المشكلة، يستفيد TorusE من استخدام زمرة لي مضغوطة، وهي في هذه الحالة تحديدًا فضاء توروس ذو بُعد n ، ويتجنب استخدام التنظيم. [ 1 ] [ 35 ] يُعرّف TorusE دوال المسافة لاستبدال معياري L1 وL2 في TransE. [ 5 ]
  • RotatE: [ 36 ] استُلهمت RotatE من متطابقة أويلر وتتضمن استخدام جداء هادامارد لتمثيل علاقةر{\displaystyle r}كدوران من الرأسح{\displaystyle h}إلى الذيلت{\displaystyle t}في الفضاء المركب. [ 36 ] لكل عنصر من عناصر الثلاثية، يصف الجزء المركب من التضمين دورانًا عكس اتجاه عقارب الساعة حول محور، يمكن وصفه باستخدام متطابقة أويلر، بينما يكون معيار متجه العلاقة 1. [ 36 ] وقد ثبت أن النموذج قادر على تضمين العلاقات المتناظرة وغير المتناظرة والمعكوسة والتركيبية من الرسم البياني المعرفي. [ 36 ]

نماذج التعلم العميق

تستخدم هذه المجموعة من نماذج التضمين الشبكات العصبية العميقة لتعلم الأنماط من الرسم البياني المعرفي الذي يمثل بيانات الإدخال. [ 5 ] تتميز هذه النماذج بقدرتها على التمييز بين أنواع الكيانات والعلاقات، والمعلومات الزمنية، ومعلومات المسار، والمعلومات الهيكلية الأساسية، [ 19 ] كما أنها تتغلب على قيود النماذج القائمة على المسافة والمطابقة الدلالية في تمثيل جميع خصائص الرسم البياني المعرفي. [ 1 ] وقد أظهر استخدام التعلم العميق لتضمين الرسم البياني المعرفي أداءً تنبؤيًا جيدًا، على الرغم من ارتفاع تكلفة التدريب، واستهلاكها الكبير للبيانات، واحتياجها في كثير من الأحيان إلى تمثيل تضمين مُدرَّب مسبقًا للرسم البياني المعرفي من نموذج تضمين مختلف. [ 1 ] [ 5 ]

الشبكات العصبية الالتفافية

تستخدم هذه المجموعة من النماذج، بدلاً من الطبقات المتصلة بالكامل، طبقة واحدة أو أكثر من الطبقات الالتفافية التي تقوم بدمج بيانات الإدخال بتطبيق مرشح منخفض الأبعاد قادر على تضمين هياكل معقدة بمعاملات قليلة من خلال تعلم خصائص غير خطية. [ 1 ] [ 5 ] [ 19 ]

  • ConvE: [ 37 ] يُعدّ ConvE نموذج تضمين يُمثّل توازناً جيداً بين قدرة نماذج التعلّم العميق على التعبير والتكلفة الحسابية، [ 18 ] في الواقع، لقد ثبت أنه يستخدم معلمات أقل بثماني مرات مقارنةً بـ DistMult. [ 37 ] يستخدم ConvE بُعداً واحداًد{\displaystyle d}يُستخدم تضمين بحجم معين لتمثيل الكيانات والعلاقات في مخطط المعرفة. [ 5 ] [ 37 ] لحساب دالة التقييم لثلاثية، يطبق ConvE إجراءً بسيطًا: أولًا، يدمج تضمين رأس الثلاثية والعلاقة في بيانات واحدة.[ح؛ر]{\displaystyle {\ce {[h;{\mathcal {r}}]}}}ثم تُستخدم هذه المصفوفة كمدخل لطبقة الالتفاف ثنائية الأبعاد. [ 5 ] [ 18 ] بعد ذلك، تُمرر النتيجة عبر طبقة كثيفة تُطبق تحويلًا خطيًا مُعاملًا بواسطة المصفوفة.دبليو{\displaystyle {\mathcal {W}}}وفي النهاية، يتم ربط الناتج الداخلي بالثلاثية الطرفية. [ 5 ] [ 19 ] كما يتميز ConvE بكفاءة عالية في عملية التقييم: فباستخدام نظام تسجيل 1-N، يُطابق النموذج، عند تحديد رأس وعلاقة، جميع الأطراف في آن واحد، مما يوفر الكثير من وقت التقييم مقارنةً ببرنامج التقييم 1-1 للنماذج الأخرى. [ 19 ]
  • ConvR: [ 38 ] ConvR هي شبكة عصبية تلافيفية تكيفية تهدف إلى تمثيل جميع التفاعلات الممكنة بين الكيانات والعلاقات تمثيلاً دقيقاً. [ 38 ] ولتحقيق هذه المهمة، تحسب ConvR مرشحاً تلافيفياً لكل علاقة، وعند الحاجة، تطبق هذه المرشحات على الكيان محل الاهتمام لاستخراج الميزات الملتفة. [ 38 ] إجراء حساب درجة الثلاثية هو نفسه في ConvE. [ 5 ]
  • ConvKB: [ 39 ] ConvKB، لحساب دالة النتيجة لثلاثية معينة(ح،ر،ت){\displaystyle (h,r,t)}، فهو ينتج مدخلاً[ح؛ر؛ت]{\displaystyle {\ce {[h;{\mathcal {r}};t]}}}من الأبعادد×3{\displaystyle d\times 3}دون إعادة تشكيلها، وتمررها إلى سلسلة من مرشحات الالتفاف ذات الحجم1×3{\displaystyle 1\times 3}[ 39 ] تُغذّي هذه النتيجة طبقة كثيفة تحتوي على عصبون واحد فقط ، والذي يُنتج النتيجة النهائية. [ 39 ] يجعل العصبون النهائي الوحيد هذا التصميم مُصنِّفًا ثنائيًا، حيث يمكن أن تكون الحقيقة صحيحة أو خاطئة. [ 5 ] يتمثل أحد الاختلافات مع ConvE في أن بُعد الكيانات لا يتغير. [ 18 ]

الشبكات العصبية الكبسولية

تستخدم هذه المجموعة من النماذج شبكات عصبية كبسولية لإنشاء تمثيل أكثر استقرارًا قادرًا على التعرف على سمة في المدخلات دون فقدان المعلومات المكانية. [ 5 ] تتكون الشبكة من طبقات التفافية، ولكنها منظمة في كبسولات، ويتم إرسال النتيجة الإجمالية للكبسولة إلى كبسولة أعلى يتم تحديدها بواسطة روتين معالجة ديناميكي. [ 5 ]

  • CapsE: [ 40 ] تُطبّق CapsE شبكة كبسولات لنمذجة حقيقة(ح،ر،ت){\displaystyle (h,r,t)}[ 40 ] كما هو الحال في ConvKB، يتم دمج كل عنصر ثلاثي لبناء مصفوفة[ح؛ر؛ت]{\displaystyle {\ce {[h;{\mathcal {r}};t]}}}ويُستخدم لتغذية طبقة التفافية لاستخراج خصائص الالتفاف. [ 5 ] [ 40 ] ثم تُعاد توجيه هذه الخصائص إلى كبسولة لإنتاج متجه متصل، وكلما زاد طول المتجه، زادت صحة هذه الحقيقة. [ 40 ]

الشبكات العصبية المتكررة

تستفيد هذه الفئة من النماذج من استخدام الشبكات العصبية المتكررة . [ 5 ] وتكمن ميزة هذه البنية في قدرتها على حفظ سلسلة من الحقائق، بدلاً من مجرد تفصيل أحداث منفردة. [ 41 ]

  • شبكات التخطي المتكررة (RSN): [ 41 ] خلال عملية التضمين، يُفترض عادةً أن الكيانات المتشابهة لها علاقات متشابهة. [ 41 ] عمليًا، لا يُستفاد من هذا النوع من المعلومات، لأن التضمين يُحسب بناءً على الحقيقة الحالية فقط وليس على تاريخ الحقائق. [ 41 ] تستخدم شبكات التخطي المتكررة (RSN) شبكة عصبية متكررة لتعلم المسار العلائقي باستخدام أخذ عينات عشوائية. [ 5 ] [ 41 ]

أداء النموذج

تُعدّ مهمة التنبؤ بالروابط من أكثر مهام التعلّم الآلي استخدامًا لتقييم دقة تضمين نماذج الرسم البياني المعرفي. [ 1 ] [ 3 ] [ 5 ] [ 6 ] [ 7 ] [ 19 ] وقد قدّم روسي وآخرون [ 5 ] معيارًا شاملًا لهذه النماذج، كما توصلت دراسات أخرى إلى نتائج مماثلة. [ 3 ] [ 7 ] [ 19 ] [ 26 ] يتضمن المعيار خمس مجموعات بيانات: FB15k، [ 9 ] وWN18، [ 9 ] وFB15k-237، [ 42 ] و WN18RR، [ 37 ] وYAGO3-10. [ 43 ] وقد نوقش مؤخرًا أن هذه المجموعات بعيدة كل البعد عن التطبيقات العملية، وأنه ينبغي دمج مجموعات بيانات أخرى كمعيار قياسي. [ 44 ]

جدول يلخص خصائص مجموعات البيانات المستخدمة لتقييم نماذج التضمين.
اسم مجموعة البياناتعدد الكيانات المختلفةعدد العلاقات المختلفةعدد الثلاثيات
FB15k [ 9 ]149511345584,113
WN18 [ 9 ]4094318151,442
FB15k-237 [ 42 ]14541237310,116
WN18RR [ 37 ]409431193003
YAGO3-10 [ 43 ]123182371,089,040
يلخص الجدول تعقيد الذاكرة ودقة التنبؤ بالروابط لنماذج تضمين الرسم البياني المعرفي وفقًا لروسي وآخرون [ 5 ] من حيث Hits@10 وMR وMRR. أفضل النتائج لكل مقياس لكل مجموعة بيانات مُوضحة بخط غامق.
اسم الطرازتعقيد الذاكرةFB15K (Hits@10)FB15K (MR)FB15K (MRR)FB15K - 237 (Hits@10)FB15K - 237 (MR)FB15K - 237 (MRR)WN18 (Hits@10)WN18 (MR)WN18 (MRR)WN18RR (Hits@10)WN18RR (MR)WN18RR (MRR)YAGO3-10 (Hits@10)YAGO3-10 (MR)YAGO3-10 (MRR)
DistMul [ 20 ]يا(شمالهـد+شمالرك)(د=ك){\displaystyle {\mathcal {O}}(N_{e}d+N_{r}k)(d=k)}0.8631730.7840.4901990.3130.9466750.8240.50259130.4330.66111070.501
ComplEx [ 21 ]يا(شمالهـد+شمالرك)(د=ك){\displaystyle {\mathcal {O}}(N_{e}d+N_{r}k)(d=k)}0.905340.8480.5292020.3490.95536230.9490.52149070.4580.70311120.576
HolE [ 24 ]يا(شمالهـد+شمالرك)(د=ك){\displaystyle {\mathcal {O}}(N_{e}d+N_{r}k)(d=k)}0.8672110.8000.4761860.3030.9496500.9380.48784010.4320.65164890.502
القياس [ 22 ]يا(شمالهـد+شمالرك2)(د=ك){\displaystyle {\mathcal {O}}(N_{e}d+N_{r}k^{2})(d=k)}0.8371260.7260.3534760.2020.9448080.9340.38092660.3660.45624230.283
SimplE [ 23 ]يا(شمالهـد+شمالرك)(د=ك){\displaystyle {\mathcal {O}}(N_{e}d+N_{r}k)(d=k)}0.8361380.7260.3436510.1790.9457590.9380.42687640.3980.63128490.453
تاكر [ 25 ]يا(شمالهـد+شمالرك)(د=ك){\displaystyle {\mathcal {O}}(N_{e}d+N_{r}k)(d=k)}0.888390.7880.5361620.3520.9585100.9510.51462390.4590.68024170.544
MEI [ 27 ]يا(شمالهـد+شمالرك)(د=ك){\displaystyle {\mathcal {O}}(N_{e}d+N_{r}k)(d=k)}0.5521450.3650.55132680.4810.7097560.578
MEIM [ 28 ]يا(شمالهـد+شمالرك)(د=ك){\displaystyle {\mathcal {O}}(N_{e}d+N_{r}k)(d=k)}0.5571370.3690.57724340.4990.7167470.585
TransE [ 9 ]يا(شمالهـد+شمالرك)(د=ك){\displaystyle {\mathcal {O}}(N_{e}d+N_{r}k)(d=k)}0.847450.6280.4972090.3100.9482790.6460.49539360.2060.67311870.501
STransE [ 33 ]يا(شمالهـد+شمالرك2)(د=ك){\displaystyle {\mathcal {O}}(N_{e}d+N_{r}k^{2})(d=k)}0.796690.5430.4953570.3150.9342080.6560.42251720.2260.07357970.049
CrossE [ 34 ]يا(شمالهـد+شمالرك)(د=ك){\displaystyle {\mathcal {O}}(N_{e}d+N_{r}k)(d=k)}0.8621360.7020.4702270.2980.9504410.8340.44952120.4050.65438390.446
TorusE [ 35 ]يا(شمالهـد+شمالرك)(د=ك){\displaystyle {\mathcal {O}}(N_{e}d+N_{r}k)(d=k)}0.8391430.7460.4472110.2810.9545250.9470.53548730.4630.474194550.342
RotatE [ 36 ]يا(شمالهـد+شمالرك)(د=ك){\displaystyle {\mathcal {O}}(N_{e}d+N_{r}k)(d=k)}0.881420.7910.5221780.3360.9602740.9490.57333180.4750.57018270.498
ConvE [ 37 ]يا(شمالهـد2+شمالرك2){\displaystyle {\mathcal {O}}(N_{e}d^{2}+N_{r}k^{2})}0.849510.6880.5212810.3050.9564130.9450.50749440.4270.65724290.488
ConvKB [ 39 ]يا(شمالهـد+شمالرك)(د=ك){\displaystyle {\mathcal {O}}(N_{e}d+N_{r}k)(d=k)}0.4083240.2110.5173090.2300.9482020.7090.52534290.2490.60416830.420
ConvR [ 38 ]يا(شمالهـد+شمالرك)(د=ك){\displaystyle {\mathcal {O}}(N_{e}d+N_{r}k)(d=k)}0.885700.7730.5262510.3460.9584710.9500.52656460.4670.67325820.527
CapsE [ 40 ]يا(شمالهـد+شمالرك)(د=ك){\displaystyle {\mathcal {O}}(N_{e}d+N_{r}k)(d=k)}0.2176100.0870.3564050.1600.9502330.8900.5597200.4150606760.000
RSN [ 41 ]يا(شمالهـد+شمالرك)(د=ك){\displaystyle {\mathcal {O}}(N_{e}d+N_{r}k)(d=k)}0.870510.7770.4442480.2800.9513460.9280.48342100.3950.66413390.511

المكتبات

انظر أيضاً

مراجع

  1. 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 جي، شاوكسيونغ؛ بان، شيروي؛ كامبريا، إريك؛ مارتينين، بيكا؛ يو، فيليب س. (2021). "دراسة استقصائية حول مخططات المعرفة: التمثيل، والاكتساب، والتطبيقات". معاملات IEEE في الشبكات العصبية وأنظمة التعلم . الصفحات (2): 494-514 . arXiv : 2002.00388 . doi : 10.1109/TNNLS.2021.3070843 . hdl : 10072/416709 . ISSN 2162-237X . PMID 33900922 . S2CID 211010433 .   
  2. ↑ محمد، سامح ك؛ نوفاتشيك، فيت؛ نونو، آية (2019-08-01). كوين، لينور (محرر). "اكتشاف أهداف الأدوية البروتينية باستخدام تضمينات الرسم البياني المعرفي" . المعلوماتية الحيوية . 36 (2): 603-610 . doi : 10.1093/bioinformatics/btz600 . hdl : 10379/15375 . ISSN 1367-4803 . PMID 31368482 .  
  3. 1 2 3 4 لين، يانكاي؛ هان، شو؛ شيه، روبينج؛ ليو، تشييوان؛ صن ، ماوسونج (2018/12/28). “تعلم تمثيل المعرفة: مراجعة كمية”. أرخايف : 1812.10901 [ cs.CL ].
  4. أبو صالح، بلال؛ الطويل، مروان؛ الجراح، إبراهيم؛ فارس، حسام؛ وونغثونغثام، بورنبيت؛ تشان، كيت يان؛ بهشتي، أمين (12 مايو 2021). " تحليل التعلم العلائقي للسياسة الاجتماعية باستخدام تضمين الرسم البياني المعرفي" . استخراج البيانات واكتشاف المعرفة . 35 (4): 1497-1536 . arXiv : 2006.01626 . doi : 10.1007/s10618-021-00760-w . ISSN 1573-756X . S2CID 219179556 .  
  5. 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 روسي، أندريا؛ باربوسا، دينيلسون؛ فيرماني، دوناتيلا؛ ماتيناتا، أنطونيو؛ ميريالدو، باولو (2020). "تضمين الرسم البياني للمعرفة للتنبؤ بالروابط: تحليل مقارن" . معاملات ACM لاكتشاف المعرفة من البيانات . 15 (2): 1-49 . arXiv : 2002.00819 . doi : 10.1145/3424672 . hdl : 11573/1638610 . ISSN: 1556-4681 . S2CID : 211011226 .  
  6. 1 2 بولهايم، هايكو (2016-12-06). سيميانو، فيليب (محرر). "تحسين مخطط المعرفة: دراسة استقصائية للمناهج وأساليب التقييم" . الويب الدلالي . 8 (3): 489-508 . doi : 10.3233/SW-160218 . S2CID 13151033 . 
  7. 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 داي، يوانفي؛ وانغ، شيبينغ؛ شيونغ، نيل ن.؛ غو، وينتشونغ (مايو 2020). "دراسة استقصائية حول تضمين الرسم البياني المعرفي: المناهج والتطبيقات والمعايير" . الإلكترونيات . 9 (5): 750. doi : 10.3390/electronics9050750 .
  8. ↑ غو، شو؛ وانغ، كوان؛ وانغ، بين؛ وانغ، ليهونغ؛ غو، لي (2015). "تضمين الرسم البياني المعرفي السلس دلاليًا" . وقائع الاجتماع السنوي الثالث والخمسين لجمعية اللغويات الحاسوبية والمؤتمر الدولي المشترك السابع حول معالجة اللغة الطبيعية (المجلد 1: الأوراق البحثية الطويلة) . جمعية اللغويات الحاسوبية. الصفحات 84-94 . doi : 10.3115/v1/P15-1009 . S2CID 205692 .  
  9. 1 2 3 4 5 6 7 بوردس، أنطوان؛ أوسونييه، نيكولاس؛ غارسيا-دوران، ألبرتو؛ ويستون، جيسون؛ ياخنينكو، أوكسانا (مايو 2013). "ترجمة التضمينات لنمذجة البيانات متعددة العلاقات" . NIPS'13: وقائع المؤتمر الدولي السادس والعشرين حول أنظمة معالجة المعلومات العصبية . المجلد 2. دار كوران أسوشيتس للنشر. الصفحات 2787-2795 .  
  10. 1 2 3 4 5 6 7 8 9 10 11 12 تشن، زهي؛ وانغ، يوهان؛ تشاو بن. تشنغ، جينغ؛ تشاو، شين؛ دوان، زونغتاو (2020). "إكمال الرسم البياني المعرفي: مراجعة" . الوصول إلى IEEE . 8 : 192435– 192456. بيب كود : 2020IEEEA...8s2435C . دوى : 10.1109/ACCESS.2020.3030076 . ردمك 2169-3536 . S2CID 226230006 .  
  11. 1 2 3 4 5 كاي، هونغيون؛ تشنغ، فينسنت و.؛ تشانغ، كيفن تشن-تشوان (2018-02-02). "دراسة شاملة لتضمين الرسوم البيانية: المشكلات والتقنيات والتطبيقات". arXiv : 1709.07604 [ cs.AI ].
  12. 1 2 تشو، سيجين؛ داي، شينيى؛ تشن، هاكون. تشانغ، وينان. رن، كان؛ تانغ، رويمينغ. هو شيو تشيانغ. يو يونغ (2020-06-18). “نظام التوصية التفاعلي عبر التعلم المعزز المعزز بالرسم البياني المعرفي”. أرخايف : 2006.10389 [ cs.IR ].
  13. ↑ ليو، تشان؛ لي، لون؛ ياو، شياولو؛ تانغ، لين (أغسطس 2019). "دراسة استقصائية لخوارزميات التوصية القائمة على تضمين الرسم البياني المعرفي". المؤتمر الدولي لهندسة الحاسوب والمعلوماتية التعليمية (CSEI) لعام 2019. الصفحات 168-171 . doi : 10.1109/CSEI47661.2019.8938875 . ISBN  978-1-7281-2308-0. S2CID 209459928 . 
  14. ↑ إيتان، ل.، بوغينا، ف.، بن غال، إ.، وكوينغشتاين، ن. (2025). "KPAR: نظام توصية قائم على المسار ومدرك للمعرفة مع قابلية التفسير" (ملف PDF) . معاملات ACM لأنظمة التوصية، 3(3)، 1-23.{{cite web}}: صيانة CS1: أسماء متعددة: قائمة المؤلفين ( رابط ) صيانة CS1: أسماء رقمية: قائمة المؤلفين ( رابط )
  15. 1 2 سوسا، دانيال ن.؛ ديري، ألكسندر؛ غو، مارغريت؛ وي، إريك؛ برينتون، كونور؛ ألتمان، روس ب. (2020). "طريقة تضمين الرسم البياني المعرفي القائمة على الأدبيات لتحديد فرص إعادة استخدام الأدوية في الأمراض النادرة" . ندوة المحيط الهادئ حول الحوسبة الحيوية. ندوة المحيط الهادئ حول الحوسبة الحيوية . 25 : 463-474 . ISSN 2335-6936 . PMC 6937428. PMID 31797619 .   
  16. 1 2 نيكل، ماكسيميليان؛ تريسب، فولكر؛ كريجل، هانز-بيتر (28-06-2011). "نموذج ثلاثي الأبعاد للتعلم الجماعي على البيانات متعددة العلاقات" . ICML'11: وقائع المؤتمر الدولي الثامن والعشرين للتعلم الآلي . أومنيبريس. الصفحات 809-816 . ISBN  978-1-4503-0619-5.
  17. ↑ نيكل، ماكسيميليان؛ تريسب، فولكر؛ كريجل، هانز-بيتر (16 أبريل 2012). "تحليل YAGO". وقائع المؤتمر الدولي الحادي والعشرين حول شبكة الويب العالمية . رابطة آلات الحوسبة. الصفحات 271-280 . doi : 10.1145/2187836.2187874 . ISBN  978-1-4503-1229-5. S2CID 6348464 . 
  18. 1 2 3 4 5 6 7 8 9 10 الشهراني، منى؛ ثافار، مها أ.؛ إيساك، مغبوبة (18 فبراير 2021). "تطبيق وتقييم تضمينات الرسم البياني المعرفي في البيانات الطبية الحيوية" . مجلة PeerJ لعلوم الحاسوب . 7 e341. doi : 10.7717/peerj-cs.341 . ISSN 2376-5992 . PMC 7959619. PMID 33816992 .   
  19. 1 2 3 4 5 6 7 8 9 10 11 وانغ، ميهونغ؛ تشيو، لينلينغ؛ وانغ، شياولي (16 مارس 2021). "دراسة استقصائية حول تضمينات الرسم البياني المعرفي للتنبؤ بالروابط" . التناظر . 13 (3): 485. رمز Bibcode : 2021Symm...13..485W . doi : 10.3390/sym13030485 . ISSN 2073-8994 . 
  20. 1 2 يانغ، بيشان؛ ييه، وين تاو؛ هي، شياودونغ؛ غاو، جيان فنغ؛ دينغ، لي (29-08-2015). "تضمين الكيانات والعلاقات للتعلم والاستدلال في قواعد المعرفة". arXiv : 1412.6575 [ cs.CL ].
  21. 1 2 3 ترويون، ثيو؛ ويلبل، يوهانس؛ ريدل، سيباستيان. جاوسييه، إريك؛ بوشار ، غيوم (2016/06/20). “التضمينات المعقدة للتنبؤ بالارتباط البسيط”. أرخايف : 1606.06357 [ cs.AI ].
  22. 1 2 3 4 5 ليو، هانشياو؛ وو، يوشين؛ يانغ، ييمينغ (2017-07-06). "الاستدلال التناظري للتضمينات متعددة العلاقات". arXiv : 1705.02426 [ cs.LG ].
  23. 1 2 3 كاظمي، سيد مهران؛ بول، ديفيد (2018-10-25). "SimplE Embedding for Link Prediction in Knowledge Graphs". arXiv : 1802.04868 [ stat.ML ].
  24. 1 2 3 نيكل، ماكسيميليان؛ روساسكو، لورينزو؛ بوجيو، توماسو (2015-12-07). "التضمينات الهولوغرافية لمخططات المعرفة". arXiv : 1510.04935 [ cs.AI ].
  25. 1 2 3 4 بالازيفيتش، إيفانا؛ ألين، كارل؛ هوسبيداليس، تيموثي م. (2019). "TuckER: تحليل الموترات لإكمال مخططات المعرفة". وقائع مؤتمر 2019 حول الأساليب التجريبية في معالجة اللغات الطبيعية والمؤتمر الدولي المشترك التاسع حول معالجة اللغات الطبيعية (EMNLP-IJCNLP) . الصفحات 5184-5193 . arXiv : 1901.09590 . doi : 10.18653/v1/D19-1522 . S2CID 59316623 .  
  26. 1 2 علي، مهدي؛ بيرندورف، ماكس؛ هويت، تشارلز تابلي؛ فيرمو، لوران؛ جالكن، ميخائيل؛ شريف زاده، سهند؛ فيشر، أسجا؛ تريسب، فولكر؛ ليمان، ينس (2021). "إلقاء الضوء على الظلام: تقييم واسع النطاق لنماذج تضمين الرسم البياني المعرفي ضمن إطار موحد". معاملات IEEE في تحليل الأنماط والذكاء الآلي . الصفحات (12): 8825-8845 . arXiv : 2006.13365 . doi : 10.1109/TPAMI.2021.3124805 . PMID: 34735335. S2CID : 220041612 .  
  27. 1 2 3 تران، هونغ نغيب؛ تاكاسو، أتسوهيرو (2020). "التفاعل مع تضمين متعدد الأقسام باستخدام تنسيق المصطلح الكتلي لإكمال الرسم البياني المعرفي" . وقائع المؤتمر الأوروبي للذكاء الاصطناعي (ECAI 2020) . آفاق في الذكاء الاصطناعي وتطبيقاته. المجلد 325. دار نشر IOS. الصفحات 833-840 . arXiv : 2006.16365 . doi : 10.3233/FAIA200173 . S2CID 220265751 .   
  28. 1 2 3 تران، هونغ-نغيب؛ تاكاسو، أتسوهيرو (16 يوليو 2022). "MEIM: تفاعل تضمين متعدد الأقسام يتجاوز تنسيق مصطلح الكتلة للتنبؤ الفعال والمعبر بالروابط". وقائع المؤتمر الدولي المشترك الحادي والثلاثين حول الذكاء الاصطناعي . المجلد 3. الصفحات 2262-2269 . doi : 10.24963/ijcai.2022/314 . ISBN   978-1-956792-00-3. S2CID 250635995 . 
  29. 1 2 وانغ، تشن (2014). "تضمين الرسم البياني للمعرفة عن طريق الترجمة على المستويات الفائقة" . وقائع مؤتمر AAAI حول الذكاء الاصطناعي . المجلد 28. doi : 10.1609/aaai.v28i1.8870 . S2CID 15027084 .  
  30. ↑ لين، يانكاي؛ ليو، تشيوان؛ صن، ماوسونغ؛ ليو، يانغ؛ تشو، شوان (25 يناير 2015). تعلم تضمينات الكيانات والعلاقات لإكمال مخططات المعرفة . منشورات AAAI. الصفحات 2181-2187 . ISBN  978-0-262-51129-2.
  31. 1 2 3 4 5 جي، غوليانغ؛ هي، شيزو؛ شو، ليهينغ؛ ليو، كانغ؛ تشاو، جون (يوليو 2015). "تضمين الرسم البياني للمعرفة عبر مصفوفة التعيين الديناميكي" . وقائع الاجتماع السنوي الثالث والخمسين لجمعية اللغويات الحاسوبية والمؤتمر الدولي المشترك السابع حول معالجة اللغة الطبيعية (المجلد 1: الأوراق البحثية الطويلة) . جمعية اللغويات الحاسوبية. الصفحات 687-696 . doi : 10.3115/v1/P15-1067 . S2CID 11202498 .  
  32. 1 2 3 4 شياو، هان؛ هوانغ، مينلي؛ هاو، يو؛ تشو ، شياويان (27/09/2015). “TransA: نهج تكيفي لتضمين الرسم البياني المعرفي”. أرخايف : 1509.05490 [ cs.CL ].
  33. 1 2 3 4 5 نغوين، دات كوك؛ سيرتس، كايريت؛ كو، ليزين؛ جونسون، مارك (يونيو 2016). "STransE: نموذج تضمين جديد للكيانات والعلاقات في قواعد المعرفة" . وقائع مؤتمر 2016 لفرع أمريكا الشمالية لجمعية اللغويات الحاسوبية: تقنيات اللغة البشرية . جمعية اللغويات الحاسوبية. الصفحات 460-466 . arXiv : 1606.08140 . doi : 10.18653/v1/N16-1054 . S2CID 9884935 .  
  34. 1 2 3 4 5 6 7 تشانغ، وين؛ باوديل، بيبك؛ تشانغ، وي؛ بيرنشتاين، أبراهام؛ تشين، هواجون (30 يناير 2019). "تضمينات التفاعل للتنبؤ والتفسير في مخططات المعرفة". وقائع المؤتمر الدولي الثاني عشر لجمعية ACM حول البحث على الويب واستخراج البيانات . الصفحات 96-104 . arXiv : 1903.04750 . doi : 10.1145/3289600.3291014 . ISBN  9781450359405. S2CID 59516071 . 
  35. 1 2 3 4 إبيسو، تاكوما؛ إيتشيس ، ريوتارو (2017/11/15). “TorusE: تضمين الرسم البياني للمعرفة في مجموعة كذبة”. أرخايف : 1711.05435 [ cs.AI ].
  36. 1 2 3 4 5 صن، تشي تشينغ؛ دينغ، تشي هونغ؛ ني، جيان يون؛ تانغ، جيان (2019-02-26). "RotatE: تضمين الرسم البياني المعرفي عن طريق التدوير العلائقي في الفضاء المعقد". arXiv : 1902.10197 [ cs.LG ].
  37. 1 2 3 4 5 6 ديتميرز، تيم؛ مينرفيني، باسكوالي؛ ستينيتورب، بونتوس؛ ريدل، سيباستيان (2018-07-04). "تضمينات الرسم البياني المعرفي ثنائي الأبعاد التلافيفي". arXiv : 1707.01476 [ cs.LG ].
  38. جيانغ ، شياوتيان؛ وانغ، كوان؛ وانغ، بين (يونيو 2019). " الالتفاف التكيفي للتعلم متعدد العلاقات" . وقائع مؤتمر الشمال لعام 2019. رابطة اللغويات الحاسوبية. ص 978-987 . doi : 10.18653 / v1/N19-1103 . S2CID 174800352 .  
  39. ١ ٢ ٣ ٤ نغوين، داي كوك؛ نغوين، تو دينه؛ نغوين، دات كوك؛ فونغ، دينه (٢٠١٨). "نموذج تضمين جديد لإكمال قاعدة المعرفة قائم على الشبكة العصبية الالتفافية". وقائع مؤتمر ٢٠١٨ لفرع أمريكا الشمالية لجمعية اللغويات الحاسوبية: تقنيات اللغة البشرية، المجلد ٢ (أوراق بحثية قصيرة) . الصفحات ٣٢٧-٣٣٣ . arXiv : ١٧١٢.٠٢١٢١ . doi : ١٠.١٨٦٥٣/v١/N١٨-٢٠٥٣ . S٢CID ٣٨٨٢٠٥٤ .  
  40. 1 2 3 4 5 نجوين، داي كووك؛ فو، ثانه؛ نجوين، تو دينه؛ نجوين، دات كووك؛ فونج ، دينه (2019-03-06). “نموذج التضمين المستند إلى شبكة الكبسولة لإكمال الرسم البياني المعرفي وتخصيص البحث”. أرخايف : 1808.04122 [ cs.CL ].
  41. 1 2 3 4 5 6 غو، لينغ بينغ؛ صن، زي تشون؛ هو، وي (2019-05-13). "التعلم لاستغلال التبعيات العلائقية طويلة المدى في مخططات المعرفة". arXiv : 1905.04914 [ cs.AI ].
  42. 1 2 توتانوفا، كريستينا؛ تشين، دانكي (يوليو 2015). "الخصائص المرصودة مقابل الخصائص الكامنة لاستنتاج قواعد المعرفة والنصوص" . وقائع ورشة العمل الثالثة حول نماذج فضاء المتجهات المتصلة وتركيبها . رابطة اللغويات الحاسوبية. ص 57-66 . doi : 10.18653/v1/W15-4007 . S2CID 5378837 .  
  43. 1 2 مهديسلطاني، ف.؛ بيجا، J .؛ سوشانيك، فابيان م. (2015). “YAGO3: قاعدة معرفية من ويكيبيديا متعددة اللغات”. CIDR . S2CID 6611164 . 
  44. ↑ هو، وي هوا؛ فاي، ماتياس؛ زيتنيك، مارينكا؛ دونغ، يوكسياو؛ رين، هونغ يو؛ ليو، بوين؛ كاتاستا، ميشيل؛ ليسكوفيك، يوري (24-02-2021). "معيار الرسم البياني المفتوح: مجموعات البيانات للتعلم الآلي على الرسوم البيانية". arXiv : 2005.00687 [ cs.LG ].