شبكة الخصومة التوليدية

📅 آخر تحديث: ٢٥ يوليو ٢٠٢٦
✍️ نُشر في: ٢٥ يوليو ٢٠٢٦
📷 يحتوي على 196 صور
الموسوعة الحرة

توضيح لكيفية عمل الشبكة التوليدية الخصومية (GAN)

الشبكة التوليدية التنافسية ( GAN ) هي فئة من أطر التعلم الآلي ، وإطار عمل بارز في مجال الذكاء الاصطناعي التوليدي . طُوّر هذا المفهوم مبدئيًا على يد إيان غودفيلو وزملائه في يونيو 2014. [ 1 ] في الشبكة التوليدية التنافسية، تتنافس شبكتان عصبيتان في شكل لعبة محصلتها صفر ، حيث يكون ربح إحدى الشبكتين خسارة للأخرى.

باستخدام مجموعة بيانات تدريبية، تتعلم هذه التقنية توليد بيانات جديدة بنفس إحصائيات مجموعة البيانات التدريبية. على سبيل المثال، يمكن لشبكة GAN المدربة على الصور الفوتوغرافية توليد صور جديدة تبدو واقعية، ولو ظاهريًا، للمشاهدين، إذ تتمتع بالعديد من الخصائص الواقعية. مع أن شبكات GAN طُرحت في الأصل كنموذج توليدي للتعلم غير الخاضع للإشراف ، فقد أثبتت جدواها أيضًا في التعلم شبه الخاضع للإشراف ، [ 2 ] والتعلم الخاضع للإشراف الكامل ، [ 3 ] والتعلم المعزز . [ 4 ]

تعتمد الفكرة الأساسية لشبكة GAN على التدريب "غير المباشر" من خلال المُمَيِّز، وهو شبكة عصبية أخرى تُحدد مدى "واقعية" المُدخلات، ويتم تحديثها ديناميكيًا. [ 5 ] هذا يعني أن المُوَلِّد لا يُدرَّب على تقليل المسافة إلى صورة مُحدَّدة، بل على خداع المُمَيِّز. وهذا يُمكِّن النموذج من التعلُّم بطريقة غير مُشرفة.

تتشابه الشبكات التوليدية الخصومية مع المحاكاة في علم الأحياء التطوري ، حيث يوجد سباق تسلح تطوري بين الشبكتين.

تعريف

رياضي

تم تعريف GAN الأصلي على أنه اللعبة التالية : [ 1 ]

كل فضاء احتمالي(Ω،μمرجع){\displaystyle (\Omega ,\mu _{\text{ref}})}يُعرّف لعبة GAN.

يوجد لاعبان: المولد والمميز.

مجموعة استراتيجيات المولد هيP(Ω){\displaystyle {\mathcal {P}}(\Omega )}، مجموعة جميع مقاييس الاحتماليةμجي{\displaystyle \mu _{G}}علىΩأوميغا.

مجموعة استراتيجيات المُميِّز هي مجموعة نوى ماركوف.μد:Ω→P[0،1]{\displaystyle \mu _{D}:\Omega \to {\mathcal {P}}[0,1]}، أينP[0،1]{\displaystyle {\mathcal {P}}[0,1]}هي مجموعة مقاييس الاحتمال على[0،1]{\displaystyle [0,1]}.

لعبة GAN هي لعبة مجموعها صفر ، ولها دالة هدف.ل(μجي،μد):=هـx∼μمرجع،y∼μد(x)⁡[ln⁡y]+هـx∼μجي،y∼μد(x)⁡[ln⁡(1-y)].{\displaystyle L(\mu _{G},\mu _{D}):=\operatorname {E} _{x\sim \mu _{\text{ref}},y\sim \mu _{D}(x)}[\ln y]+\operatorname {E} _{x\sim \mu _{G},y\sim \mu _{D}(x)}[\ln(1-y)].} يهدف المولد إلى تقليل الهدف، ويهدف المميز إلى زيادة الهدف.

تتمثل مهمة المولد في الاقترابμجي≈μمرجع{\displaystyle \mu _{G}\approx \mu _{\text{ref}}}أي أن يطابق توزيع مخرجاته مع التوزيع المرجعي قدر الإمكان. وتتمثل مهمة المُميِّز في إخراج قيمة قريبة من 1 عندما يبدو أن المدخلات تنتمي إلى التوزيع المرجعي، وإخراج قيمة قريبة من 0 عندما تبدو المدخلات وكأنها تنتمي إلى توزيع المُوَلِّد.

عملياً

تُنشئ الشبكة التوليدية مرشحين ، بينما تُقيّمهم الشبكة التمييزية . [ 1 ] يُنشئ هذا منافسةً قائمةً على توزيعات البيانات، حيث يتعلم المُولِّد كيفية الربط بين فضاء كامن وتوزيع البيانات الحقيقي، بهدف إنتاج مرشحين لا تستطيع الشبكة التمييز بينهم وبين البيانات الحقيقية. يتمثل هدف الشبكة التمييزية في تحديد هؤلاء المرشحين بشكل صحيح، ولكن مع تحسن أداء المُولِّد، تصبح مهمته أكثر صعوبة، مما يزيد من معدل خطأ الشبكة التمييزية. [ 1 ] [ 6 ]

تُستخدم مجموعة بيانات معروفة كبيانات تدريب أولية للمُميّز. يتضمن التدريب تزويده بعينات من مجموعة بيانات التدريب حتى يحقق دقة مقبولة. يتم تدريب المُولّد بناءً على نجاحه في خداع المُميّز. عادةً، يُزوّد ​​المُولّد بمدخلات عشوائية مأخوذة من فضاء كامن مُحدد مسبقًا (مثل التوزيع الطبيعي متعدد المتغيرات ). بعد ذلك، يُقيّم المُميّز العينات المُصنّعة بواسطة المُولّد. تُطبّق إجراءات الانتشار العكسي المستقلة على كلتا الشبكتين بحيث يُنتج المُولّد عينات أفضل، بينما يُصبح المُميّز أكثر مهارة في تمييز العينات المُصنّعة. [ 7 ] عند استخدامه لتوليد الصور، يكون المُولّد عادةً شبكة عصبية عكسية ، بينما يكون المُميّز شبكة عصبية التفافية .

العلاقة بأساليب التعلم الآلي الإحصائي الأخرى

تعتبر GANs نماذج توليدية ضمنية ، [ 8 ] مما يعني أنها لا تقوم بنمذجة دالة الاحتمال بشكل صريح ولا توفر وسيلة لإيجاد المتغير الكامن المقابل لعينة معينة، على عكس البدائل مثل النموذج التوليدي القائم على التدفق .

الأنواع الرئيسية للنماذج التوليدية العميقة التي تقوم بتقدير الاحتمالية القصوى [ 9 ]

بالمقارنة مع شبكات الاعتقاد المرئية بالكامل مثل WaveNet و PixelRNN والنماذج الانحدارية الذاتية بشكل عام، يمكن لشبكات GANs توليد عينة كاملة واحدة في تمريرة واحدة، بدلاً من تمريرات متعددة عبر الشبكة.

بالمقارنة مع آلات بولتزمان و ICA الخطية ، لا يوجد قيد على نوع الوظيفة التي تستخدمها الشبكة.

بما أن الشبكات العصبية هي مُقَرِّبات شاملة ، فإن الشبكات التوليدية الخصومية (GANs) متسقة تقاربياً . اعتباراً من عام 2026، ثبت أن المشفرات التلقائية التباينية هي مُقَرِّبات شاملة [ 10 ] .

الخصائص الرياضية

اعتبارات نظرية القياس

يقدم هذا القسم بعض النظريات الرياضية الكامنة وراء هذه الأساليب.

في نظرية الاحتمالات الحديثة القائمة على نظرية القياس ، يجب أن يكون فضاء الاحتمالات مزودًا بجبر سيجما . ونتيجة لذلك، فإن تعريفًا أكثر دقة للعبة GAN سيُدخل التغييرات التالية:

كل فضاء احتمالي(Ω،ب،μمرجع){\displaystyle (\Omega ,{\mathcal {B}},\mu _{\text{ref}})}يُعرّف لعبة GAN.

مجموعة استراتيجيات المولد هيP(Ω،ب){\displaystyle {\mathcal {P}}(\Omega ,{\mathcal {B}})}، مجموعة جميع مقاييس الاحتماليةμجي{\displaystyle \mu _{G}}في مساحة القياس(Ω،ب){\displaystyle (\Omega ,{\mathcal {B}})}.

مجموعة استراتيجيات المُميِّز هي مجموعة نوى ماركوف.μد:(Ω،ب)→P([0،1]،ب([0،1])){\displaystyle \mu _{D}:(\Omega ,{\mathcal {B}})\to {\mathcal {P}}([0,1],{\mathcal {B}}([0,1]))}، أينب([0،1]){\displaystyle {\mathcal {B}}([0,1])}هل جبر بوريل سيجما على[0،1]{\displaystyle [0,1]}.

وبما أن مسائل قابلية القياس لا تظهر أبداً في الممارسة العملية، فلن نهتم بها بعد الآن.

اختيار مجموعة الاستراتيجيات

في النسخة الأكثر عمومية من لعبة GAN الموصوفة أعلاه، تحتوي مجموعة الاستراتيجيات الخاصة بالمميز على جميع نوى ماركوفμد:Ω→P[0،1]{\displaystyle \mu _{D}:\Omega \to {\mathcal {P}}[0,1]}ومجموعة الاستراتيجيات الخاصة بالمولد تحتوي على توزيعات احتمالية عشوائيةμجي{\displaystyle \mu _{G}}علىΩأوميغا.

ومع ذلك، كما هو موضح أدناه، فإن استراتيجية التمييز المثلى ضد أيμجي{\displaystyle \mu _{G}}بما أن الدالة حتمية، فلا يوجد فقدان للعمومية في تقييد استراتيجيات المُميِّز بالوظائف الحتمية.د:Ω→[0،1]{\displaystyle D:\Omega \to [0,1]}في معظم التطبيقات،د{\displaystyle D}هي دالة شبكة عصبية عميقة .

أما بالنسبة للمولد الكهربائي، فبينماμجي{\displaystyle \mu _{G}}من الناحية النظرية، يمكن أن يكون أي توزيع احتمالي قابل للحساب، ولكن من الناحية العملية، يتم تنفيذه عادةً كعملية دفع للأمام :μجي=μZ∘جي-1{\displaystyle \mu _{G}=\mu _{Z}\circ G^{-1}}أي ابدأ بمتغير عشوائيz∼μZ{\displaystyle z\sim \mu _{Z}}، أينμZ{\displaystyle \mu _{Z}}إذا كان التوزيع الاحتمالي سهل الحساب (مثل التوزيع المنتظم أو التوزيع الغاوسي )، فقم بتعريف دالة.جي:ΩZ→Ω{\displaystyle G:\Omega _{Z}\to \Omega }ثم التوزيعμجي{\displaystyle \mu _{G}}هو توزيعجي(z){\displaystyle G(z)}.

وبالتالي، تُعرَّف استراتيجية المولد عادةً على أنها مجردجي{\displaystyle G}مغادرةz∼μZ{\displaystyle z\sim \mu _{Z}}ضمنيًا. في هذا الشكل، يكون هدف لعبة GAN هول(جي،د):=هـx∼μمرجع⁡[ln⁡د(x)]+هـz∼μZ⁡[ln⁡(1-د(جي(z)))].{\displaystyle L(G,D):=\operatorname {E} _{x\sim \mu _{\text{ref}}}[\ln D(x)]+\operatorname {E} _{z\sim \mu _{Z}}[\ln(1-D(G(z)))].}

إعادة تحديد المعلمات التوليدية

تتكون بنية الشبكة التوليدية الخصومية (GAN) من عنصرين رئيسيين. أحدهما هو تحويل عملية التحسين إلى لعبة، على شكلمينجيالأعلىدل(جي،د){\displaystyle \min _{G}\max _{D}L(G,D)}وهو يختلف عن النوع المعتاد من التحسين، من الشكلمينθل(θ){\displaystyle \min _{\theta }L(\theta )}أما الآخر فهو تحللμجي{\displaystyle \mu _{G}}داخلμZ∘جي-1{\displaystyle \mu _{Z}\circ G^{-1}}، وهو ما يمكن فهمه على أنه خدعة لإعادة تحديد المعلمات.

لإدراك أهميتها، يجب مقارنة الشبكات التوليدية الخصومية (GAN) بالأساليب السابقة لتعلم النماذج التوليدية، والتي كانت تعاني من "حسابات احتمالية معقدة تنشأ في تقدير الاحتمال الأقصى والاستراتيجيات ذات الصلة". [ 1 ]

في الوقت نفسه، قام كل من كينغما وويلينغ [ 11 ] وريزيندي وآخرون [ 12 ] بتطوير فكرة إعادة التحديد إلى طريقة عامة للانتشار العكسي العشوائي. وكان من بين تطبيقاتها الأولى المشفر التلقائي التبايني .

تغيير النظام والتوازنات الاستراتيجية

في الورقة الأصلية، وكذلك في معظم الأوراق اللاحقة، يُفترض عادةً أن المولد يتحرك أولاً ، والمميز يتحرك ثانياً ، مما ينتج عنه لعبة minimax التالية:مينμجيالأعلىμدل(μجي،μد):=هـx∼μمرجع،y∼μد(x)⁡[ln⁡y]+هـx∼μجي،y∼μد(x)⁡[ln⁡(1-y)].{\displaystyle \min _{\mu _{G}}\max _{\mu _{D}}L(\mu _{G},\mu _{D}):=\operatorname {E} _{x\sim \mu _{\text{ref}},y\sim \mu _{D}(x)}[\ln y]+\operatorname {E} _{x\sim \mu _{G},y\sim \mu _{D}(x)}[\ln(1-y)].}

إذا كانت مجموعات استراتيجيات كل من المولد والمميز مغطاة بعدد محدود من الاستراتيجيات، فبموجب نظرية المينيماكس ،مينμجيالأعلىμدل(μجي،μد)=الأعلىμدمينμجيل(μجي،μد){\displaystyle \min _{\mu _{G}}\max _{\mu _{D}}L(\mu _{G},\mu _{D})=\max _{\mu _{D}}\min _{\mu _{G}}L(\mu _{G},\mu _{D})}أي أن ترتيب النقلات لا يهم.

مع ذلك، ولأن مجموعتي الاستراتيجيات ليستا ممتدتين بشكل محدود، فإن نظرية المينيماكس لا تنطبق، ويصبح مفهوم "التوازن" دقيقًا. وبالتالي، توجد المفاهيم المختلفة التالية للتوازن:

  • يتحقق التوازن عندما يتحرك المولد أولاً، ثم يتحرك المميز ثانياً:μ^جي∈arg⁡مينμجيالأعلىμدل(μجي،μد)،μ^د∈arg⁡الأعلىμدل(μ^جي،μد)،{\displaystyle {\hat {\mu }}_{G}\in \arg \min _{\mu _{G}}\max _{\mu _{D}}L(\mu _{G},\mu _{D}),\quad {\hat {\mu }}_{D}\in \arg \max _{\mu _{D}}L({\hat {\mu }}_{G},\mu _{D}),\quad }
  • التوازن عندما يتحرك المُمَيِّز أولاً، ثم يتحرك المُوَلِّد ثانياً:μ^د∈arg⁡الأعلىμدمينμجيل(μجي،μد)،μ^جي∈arg⁡مينμجيل(μجي،μ^د)،{\displaystyle {\hat {\mu }}_{D}\in \arg \max _{\mu _{D}}\min _{\mu _{G}}L(\mu _{G},\mu _{D}),\quad {\hat {\mu }}_{G}\in \arg \min _{\mu _{G}}L(\mu _{G},{\hat {\mu }}_{D}),}
  • توازن ناش(μ^د،μ^جي){\displaystyle ({\hat {\mu }}_{D},{\hat {\mu }}_{G})}، وهو مستقر في ظل ترتيب النقل المتزامن:μ^د∈arg⁡الأعلىμدل(μ^جي،μد)،μ^جي∈arg⁡مينμجيل(μجي،μ^د){\displaystyle {\hat {\mu }}_{D}\in \arg \max _{\mu _{D}}L({\hat {\mu }}_{G},\mu _{D}),\quad {\hat {\mu }}_{G}\in \arg \min _{\mu _{G}}L(\mu _{G},{\hat {\mu }}_{D})}

في الألعاب العامة، لا يشترط أن تتفق هذه التوازنات، أو حتى أن تكون موجودة. أما في لعبة GAN الأصلية، فجميع هذه التوازنات موجودة ومتساوية. مع ذلك، في ألعاب GAN الأكثر عمومية، لا يشترط وجودها أو توافقها. [ 13 ]

النظريات الرئيسية لألعاب GAN

أثبتت الورقة البحثية الأصلية حول الشبكات التوليدية الخصومية (GAN) النظريتين التاليتين: [ 1 ]

نظرية (يحسب المُمَيِّز الأمثل تباعد جنسن-شانون) — لأي استراتيجية مولد ثابتة μجي{\displaystyle \mu _{G}}لنفترض أن الرد الأمثل هود*=arg⁡الأعلىدل(μجي،د){\displaystyle D^{*}=\arg \max _{D}L(\mu _{G},D)}، ثم

د*(x)=دμمرجعد(μمرجع+μجي)ل(μجي،د*)=2دجS(μمرجع؛μجي)-2ln⁡2{\displaystyle {\begin{aligned}D^{*}(x)&={\frac {d\mu _{\text{ref}}}{d(\mu _{\text{ref}}+\mu _{G})}}\\[6pt]L(\mu _{G},D^{*})&=2D_{JS}(\mu _{\text{ref}};\mu _{G})-2\ln 2\end{aligned}}}

حيث يكون المشتق هو مشتق رادون-نيكوديم ، ودجS{\displaystyle D_{JS}}هو تباعد جنسن-شانون .

دليل

بحسب متباينة جنسن،

هـx∼μمرجع،y∼μد(x)⁡[ln⁡y]≤هـx∼μمرجع⁡[ln⁡هـy∼μد(x)⁡[y]]{\displaystyle \operatorname {E} _{x\sim \mu _{\text{ref}},y\sim \mu _{D}(x)}[\ln y]\leq \operatorname {E} _{x\sim \mu _{\text{ref}}}[\ln \operatorname {E} _{y\sim \mu _{D}(x)}[y]]} وينطبق الأمر نفسه على الحد الآخر. لذلك، يمكن أن تكون الإجابة المثلى حتمية، أيμد(x)=دلتاد(x){\displaystyle \mu _{D}(x)=\delta _{D(x)}}لبعض الوظائفد:Ω→[0،1]{\displaystyle D:\Omega \to [0,1]}وفي هذه الحالة

ل(μجي،μد):=هـx∼μمرجع⁡[ln⁡د(x)]+هـx∼μجي⁡[ln⁡(1-د(x))].{\displaystyle L(\mu _{G},\mu _{D}):=\operatorname {E} _{x\sim \mu _{\text{ref}}}[\ln D(x)]+\operatorname {E} _{x\sim \mu _{G}}[\ln(1-D(x))].}

لتحديد دوال الكثافة المناسبة، نحدد مقياسًا أساسيًاμ:=μمرجع+μجي{\displaystyle \mu :=\mu _{\text{ref}}+\mu _{G}} ، مما يسمح لنا بأخذ مشتقات رادون-نيكوديم

ρمرجع=دμمرجعدμρجي=دμجيدμ{\displaystyle \rho _{\text{ref}}={\frac {d\mu _{\text{ref}}}{d\mu }}\quad \rho _{G}={\frac {d\mu _{G}}{d\mu }}} معρمرجع+ρجي=1{\displaystyle \rho _{\text{ref}}+\rho _{G}=1}.

ثم لدينا

ل(μجي،μد):=∫μ(دx)[ρمرجع(x)ln⁡(د(x))+ρجي(x)ln⁡(1-د(x))].{\displaystyle L(\mu _{G},\mu _{D}):=\int \mu (dx)\left[\rho _{\text{ref}}(x)\ln(D(x))+\rho _{G}(x)\ln(1-D(x))\right].}

الدالة التكاملية هي ببساطة الإنتروبيا التقاطعية السالبة بين متغيرين عشوائيين من نوع برنولي بمعاملاتρمرجع(x){\displaystyle \rho _{\text{ref}}(x)}ود(x){\displaystyle D(x)}يمكننا كتابة هذا على النحو التالي:-ح(ρمرجع(x))-دكل(ρمرجع(x)∥د(x)){\displaystyle -H(\rho _{\text{ref}}(x))-D_{KL}(\rho _{\text{ref}}(x)\parallel D(x))}، أينح{\displaystyle H}هي دالة الإنتروبيا الثنائية ، لذا

ل(μجي،μد)=-∫μ(دx)(ح(ρمرجع(x))+دكل(ρمرجع(x)∥د(x))).{\displaystyle L(\mu _{G},\mu _{D})=-\int \mu (dx)(H(\rho _{\text{ref}}(x))+D_{KL}(\rho _{\text{ref}}(x)\parallel D(x))).}

هذا يعني أن الاستراتيجية المثلى للمميز هيد(x)=ρمرجع(x){\displaystyle D(x)=\rho _{\text{ref}}(x)}، مع ل(μجي،μد*)=-∫μ(دx)ح(ρمرجع(x))=دجS(μمرجع∥μجي)-2ln⁡2{\displaystyle L(\mu _{G},\mu _{D}^{*})=-\int \mu (dx)H(\rho _{\text{ref}}(x))=D_{JS}(\mu _{\text{ref}}\parallel \mu _{G})-2\ln 2}

بعد إجراء الحسابات الروتينية.

التفسير : بالنسبة لأي استراتيجية مولد ثابتةμجي{\displaystyle \mu _{G}}، يقوم المُميّز الأمثل بتتبع نسبة الاحتمالية بين التوزيع المرجعي وتوزيع المُولّد:د(x)1-د(x)=دμمرجعدμجي(x)=μمرجع(دx)μجي(دx)؛د(x)=σ(ln⁡μمرجع(دx)-ln⁡μجي(دx)){\displaystyle {\frac {D(x)}{1-D(x)}}={\frac {d\mu _{\text{ref}}}{d\mu _{G}}}(x)={\frac {\mu _{\text{ref}}(dx)}{\mu _{G}(dx)}};\quad D(x)=\sigma (\ln \mu _{\text{ref}}(dx)-\ln \mu _{G}(dx))}أينσ{\displaystyle \sigma }هي الدالة اللوجستية . على وجه الخصوص، إذا كان الاحتمال المسبق لصورة ماx{\displaystyle x}أن يأتي من التوزيع المرجعي يساوي12{\displaystyle {\frac {1}{2}}}، ثمد(x){\displaystyle D(x)}هو مجرد الاحتمال اللاحق لـx{\displaystyle x}جاء من التوزيع المرجعي:د(x)=برو(x تم الحصول على البيانات من التوزيع المرجعي|x).{\displaystyle D(x)=\Pr(x{\text{ came from reference distribution}}\mid x).}

نظرية (نقطة التوازن الفريدة) - لأي لعبة GAN، يوجد زوج (μ^د،μ^جي){\displaystyle ({\hat {\mu }}_{D},{\hat {\mu }}_{G})}وهذا يمثل توازناً تسلسلياً وتوازن ناش في آن واحد:

ل(μ^جي،μ^د)=مينμجيالأعلىμدل(μجي،μد)=الأعلىμدمينμجيل(μجي،μد)=-2ln⁡2μ^د∈arg⁡الأعلىμدمينμجيل(μجي،μد)،μ^جي∈arg⁡مينμجيالأعلىμدل(μجي،μد)μ^د∈arg⁡الأعلىμدل(μ^جي،μد)،μ^جي∈arg⁡مينμجيل(μجي،μ^د)∀x∈Ω،μ^د(x)=دلتا12،μ^جي=μمرجع{\displaystyle {\begin{aligned}&L({\hat {\mu }}_{G},{\hat {\mu }}_{D})=\min _{\mu _{G}}\max _{\mu _{D}}L(\mu _{G},\mu _{D})=&\max _{\mu _{D}}\min _{\mu _{G}}L(\mu _{G},\mu _{D})=-2\ln 2\\[6pt]&{\hat {\mu }}_{D}\in \arg \max _{\mu _{D}}\min _{\mu _{G}}L(\mu _{G},\mu _{D}),&\quad {\hat {\mu }}_{G}\in \arg \min _{\mu _{G}}\max _{\mu _{D}}L(\mu _{G},\mu _{D})\\[6pt]&{\hat {\mu }}_{D}\in \arg \max _{\mu _{D}}L({\hat {\mu }}_{G},\mu _{D}),&\quad {\hat {\mu }}_{G}\in \arg \min _{\mu _{G}}L(\mu _{G},{\hat {\mu }}_{D})\\[6pt]&\forall x\in \Omega ,{\hat {\mu }}_{D}(x)=\delta _{\frac {1}{2}},&\quad {\hat {\mu }}_{G}=\mu _{\text{ref}}\end{aligned}}}

أي أن المولد يحاكي المرجع بشكل مثالي، ومخرجات المميز12{\displaystyle {\frac {1}{2}}}بشكل حتمي على جميع المدخلات.

دليل

انطلاقاً من الاقتراح السابق،

arg⁡مينμجيالأعلىμدل(μجي،μد)=μمرجع؛مينμجيالأعلىμدل(μجي،μد)=-2ln⁡2.{\displaystyle \arg \min _{\mu _{G}}\max _{\mu _{D}}L(\mu _{G},\mu _{D})=\mu _{\text{ref}};\quad \min _{\mu _{G}}\max _{\mu _{D}}L(\mu _{G},\mu _{D})=-2\ln 2.}

لأي استراتيجية تمييز ثابتةμد{\displaystyle \mu _{D}}، أيμجي{\displaystyle \mu _{G}}ركز على المجموعة

{x|هـy∼μد(x)⁡[ln⁡(1-y)]=معلوماتxهـy∼μد(x)⁡[ln⁡(1-y)]}{\displaystyle \{x\mid \operatorname {E} _{y\sim \mu _{D}(x)}[\ln(1-y)]=\inf _{x}\operatorname {E} _{y\sim \mu _{D}(x)}[\ln(1-y)]\}} تُعدّ هذه استراتيجية مثالية للمولد. وبالتالي،

arg⁡الأعلىμدمينμجيل(μجي،μد)=arg⁡الأعلىμدهـx∼μمرجع،y∼μد(x)⁡[ln⁡y]+معلوماتxهـy∼μد(x)⁡[ln⁡(1-y)].{\displaystyle \arg \max _{\mu _{D}}\min _{\mu _{G}}L(\mu _{G},\mu _{D})=\arg \max _{\mu _{D}}\operatorname {E} _{x\sim \mu _{\text{ref}},y\sim \mu _{D}(x)}[\ln y]+\inf _{x}\operatorname {E} _{y\sim \mu _{D}(x)}[\ln(1-y)].}

بحسب متباينة جنسن، لا يمكن للمميز أن يتحسن إلا من خلال تبني الاستراتيجية الحتمية المتمثلة في اللعب دائمًاد(x)=هـy∼μد(x)⁡[y]{\displaystyle D(x)=\operatorname {E} _{y\sim \mu _{D}(x)}[y]}. لذلك،

arg⁡الأعلىμدمينμجيل(μجي،μد)=arg⁡الأعلىدهـx∼μمرجع⁡[ln⁡د(x)]+معلوماتxln⁡(1-د(x)){\displaystyle \arg \max _{\mu _{D}}\min _{\mu _{G}}L(\mu _{G},\mu _{D})=\arg \max _{D}\operatorname {E} _{x\sim \mu _{\text{ref}}}[\ln D(x)]+\inf _{x}\ln(1-D(x))}

بحسب متباينة جنسن،

ln⁡هـx∼μمرجع⁡[د(x)]+معلوماتxln⁡(1-د(x))=ln⁡هـx∼μمرجع⁡[د(x)]+ln⁡(1-رشفةxد(x))=ln⁡[هـx∼μمرجع⁡[د(x)](1-رشفةxد(x))]≤ln⁡[رشفةxد(x))(1-رشفةxد(x))]≤ln⁡14،{\displaystyle {\begin{aligned}&\ln \operatorname {E} _{x\sim \mu _{\text{ref}}}[D(x)]+\inf _{x}\ln(1-D(x))\\[6pt]={}&\ln \operatorname {E} _{x\sim \mu _{\text{ref}}}[D(x)]+\ln(1-\sup _{x}D(x))\\[6pt]={}&\ln[\operatorname {E} _{x\sim \mu _{\text{ref}}}[D(x)](1-\sup _{x}D(x))]\leq \ln[\sup _{x}D(x))(1-\sup _{x}D(x))]\leq \ln {\frac {1}{4}},\end{aligned}}}

مع المساواة إذاد(x)=12{\displaystyle D(x)={\frac {1}{2}}}، لذا

∀x∈Ω،μ^د(x)=دلتا12؛الأعلىμدمينμجيل(μجي،μد)=-2ln⁡2.{\displaystyle \forall x\in \Omega ,{\hat {\mu }}_{D}(x)=\delta _{\frac {1}{2}};\quad \max _{\mu _{D}}\min _{\mu _{G}}L(\mu _{G},\mu _{D})=-2\ln 2.}

وأخيرًا، للتحقق من أن هذا توازن ناش، لاحظ أنه عندماμجي=μمرجع{\displaystyle \mu _{G}=\mu _{\text{ref}}}لدينا

ل(μجي،μد):=هـx∼μمرجع،y∼μد(x)⁡[ln⁡(y(1-y))]{\displaystyle L(\mu _{G},\mu _{D}):=\operatorname {E} _{x\sim \mu _{\text{ref}},y\sim \mu _{D}(x)}[\ln(y(1-y))]} والتي يتم تعظيمها دائمًا بواسطةy=12{\displaystyle y={\frac {1}{2}}}.

متى∀x∈Ω،μد(x)=دلتا12{\displaystyle \forall x\in \Omega ,\mu _{D}(x)=\delta _{\frac {1}{2}}}، أي استراتيجية هي الأمثل للمولد.

تدريب وتقييم الشبكات التوليدية المتنافسة

تمرين

تقارب غير مستقر

بينما تتميز لعبة GAN بنقطة توازن عالمية فريدة عندما يكون لكل من المولد والمميز إمكانية الوصول إلى مجموعات استراتيجياتهما الكاملة، فإن التوازن لم يعد مضمونًا عندما تكون لديهما مجموعة استراتيجيات محدودة. [ 13 ]

من الناحية العملية، لا يمكن للمولد الوصول إلا إلى مقاييس الشكلμZ∘جيθ-1{\displaystyle \mu _{Z}\circ G_{\theta }^{-1}}، أينجيθ{\displaystyle G_{\theta }}هي دالة يتم حسابها بواسطة شبكة عصبية ذات معلماتθ{\displaystyle \theta }، وμZ{\displaystyle \mu _{Z}}هو توزيع يسهل أخذ عينات منه، مثل التوزيع المنتظم أو الطبيعي. وبالمثل، لا يمكن للمميز الوصول إلا إلى دوال من الشكلدζ{\displaystyle D_{\zeta }}، دالة يتم حسابها بواسطة شبكة عصبية ذات معلماتζ{\displaystyle \zeta }تشكل هذه المجموعات الاستراتيجية المحدودة نسبة ضئيلة للغاية من مجموعات استراتيجياتها الكاملة. [ 14 ]

علاوة على ذلك، حتى في حال وجود حالة توازن، لا يمكن إيجادها إلا بالبحث في الفضاء عالي الأبعاد لجميع وظائف الشبكة العصبية الممكنة. غالبًا ما تفشل الاستراتيجية القياسية المتمثلة في استخدام خوارزمية التدرج الهبوطي لإيجاد حالة التوازن مع الشبكات التوليدية الخصومية (GAN)، وغالبًا ما "تنهار" اللعبة في أحد أنماط الفشل المتعددة. ولتحسين استقرار التقارب، تبدأ بعض استراتيجيات التدريب بمهمة أسهل، مثل توليد صور منخفضة الدقة [ 15 ] أو صور بسيطة (كائن واحد بخلفية موحدة) [ 16 ] ، ثم تزيد صعوبة المهمة تدريجيًا أثناء التدريب. وهذا يُترجم أساسًا إلى تطبيق مخطط التعلم المنهجي [ 17 ] .

انهيار الوضع

غالباً ما تعاني الشبكات التوليدية الخصومية (GANs) من انهيار الأنماط ، حيث تفشل في التعميم بشكل صحيح، فتفقد أنماطاً كاملة من بيانات الإدخال. على سبيل المثال، قد لا تُنتج شبكة GAN مُدرَّبة على مجموعة بيانات MNIST التي تحتوي على العديد من عينات كل رقم سوى صور الرقم 0. وقد أُطلق على هذه الحالة اسم "سيناريو هيلفيتيكا". [ 1 ]

تتمثل إحدى الآليات الشائعة لانهيار الأنماط في أن يقوم المولد بتوليد قيمة واحدة أو بضع قيم محتملة فقط، أو صورة غير مكتملة لتوزيع البيانات المستهدفة. ولأن المُمَيِّز مُدرَّب فقط على التمييز بين العينات الحقيقية والمزيفة، فإنه سيُحدد العينات المُولَّدة على أنها حقيقية بشكل صحيح، ولكن لا تُفرض أي عقوبة على قدرة الشبكة التوليدية الخصومية (GAN) على توليد بيانات تُمثل النطاق الكامل لتوزيع البيانات المستهدفة.

قد لا تتمكن أدوات التمييز الضعيفة، على سبيل المثال تلك التي تعاني من نقص في المعلمات، أو تلك التي تم تدريبها ببطء شديد مقارنة بالمولد، من التمييز بشكل كامل على كامل نطاق التوزيع، وتصبح قادرة فقط على التمييز بشكل صحيح على جزء غير مكتمل للغاية من التوزيع المستهدف.

يرى بعض الباحثين أن المشكلة الأساسية تكمن في ضعف الشبكة التمييزية التي تعجز عن رصد نمط الإغفال، بينما يعزو آخرون السبب إلى سوء اختيار دالة الهدف . وقد طُرحت حلول عديدة، لكنها لا تزال مشكلة مفتوحة. [ 18 ] [ 19 ]

حتى أحدث بنية، BigGAN (2019)، لم تستطع تجنب انهيار الأنماط. لجأ المؤلفون إلى "السماح بحدوث الانهيار في المراحل اللاحقة من التدريب، عندما يكون النموذج قد تم تدريبه بشكل كافٍ لتحقيق نتائج جيدة". [ 20 ]

قاعدة تحديث النطاق الزمني المزدوج

تم اقتراح قاعدة تحديث النطاق الزمني المزدوج (TTUR) لجعل تقارب الشبكات التوليدية الخصومية (GANs) أكثر استقرارًا عن طريق خفض معدل تعلم المولد عن معدل تعلم المميز. وقد أثبت الباحثون أنه عند تدريب هذه الشبكات بهذه الطريقة، فإنها "تتقارب، في ظل افتراضات بسيطة، إلى توازن ناش محلي ثابت". [ 21 ] كما أظهروا أن هذه الخاصية تمتد لتشمل استخدام مُحسِّن آدم، الشائع استخدامه في خوارزمية التدرج العشوائي.

إن وجود توازن ناش محلي لا يعني بأي حال من الأحوال عدم وجود انهيار في النمط - على سبيل المثال، قد يفي نموذج GAN المدرب على MNIST والذي تم اختزاله لتوليد رقم واحد بفرضيات الورقة البحثية، مع استمراره في عرض انهيار النمط.

تدرج متلاشي

على النقيض من ذلك، إذا تعلم المُمَيِّز بسرعة كبيرة مقارنة بالمُوَلِّد، فإنه يستطيع التمييز بشكل شبه كامل.μجيθ،μمرجع{\displaystyle \mu _{G_{\theta }},\mu _{\text{ref}}}في هذه الحالة، المولدجيθ{\displaystyle G_{\theta }}قد يواجه خسارة فادحة بغض النظر عن اتجاه تغيرهθ{\displaystyle \theta }، مما يعني أن التدرج∇θل(جيθ،دζ){\displaystyle \nabla _{\theta }L(G_{\theta },D_{\zeta })}ستكون قريبة من الصفر. في هذه الحالة، لا يستطيع المولد التعلم، وهي حالة من حالات مشكلة تلاشي التدرج . [ 14 ]

من الناحية البديهية، فإن المميز جيد للغاية، وبما أن المولد لا يمكنه اتخاذ أي خطوة صغيرة (يتم النظر فقط في الخطوات الصغيرة في انحدار التدرج) لتحسين مردوده، فإنه لا يحاول حتى.

إحدى الطرق المهمة لحل هذه المشكلة هي شبكة Wasserstein GAN .

تقييم

عادةً ما تُقيّم الشبكات التوليدية الخصومية (GANs) باستخدام مقياس Inception (IS)، الذي يقيس مدى تنوع مخرجات المُولِّد (كما يصنفها مُصنِّف الصور، عادةً Inception-v3 )، أو مسافة Fréchet inception (FID)، التي تقيس مدى تشابه مخرجات المُولِّد مع مجموعة مرجعية (كما يصنفها مُحلِّل ميزات الصور المُدرَّب، مثل Inception-v3 بدون طبقته النهائية). تُشير العديد من الأبحاث التي تقترح بنى GAN جديدة لتوليد الصور إلى كيفية تفوق هذه البنى على أحدث التقنيات في مقياسي FID أو IS.

هناك طريقة تقييم أخرى وهي طريقة تشابه رقعة الصورة الإدراكية المتعلمة (LPIPS)، والتي تبدأ بمُحسِّن ميزات الصورة المتعلم.وθ:صورة→Rن{\displaystyle f_{\theta }:{\text{Image}}\to \mathbb {R} ^{n}}ويقوم بتحسينه من خلال التعلم الخاضع للإشراف على مجموعة من(x،x′،صهـرجهـصتuأل دأناووهـرهـنجهـ⁡(x،x′)){\displaystyle (x,x',\operatorname {perceptual~difference} (x,x'))}، أينx{\displaystyle x}هي صورة،x′{\displaystyle x'}هي نسخة مشوهة منها، وصهـرجهـصتuأل دأناووهـرهـنجهـ⁡(x،x′){\displaystyle \operatorname {perceptual~difference} (x,x')}يكمن الفرق في مدى اختلافها، كما أفاد بذلك المشاركون من البشر. تم ضبط النموذج بدقة بحيث يمكنه تقريب‖وθ(x)-وθ(x′)‖≈صهـرجهـصتuأل دأناووهـرهـنجهـ⁡(x،x′){\displaystyle \|f_{\theta }(x)-f_{\theta }(x')\|\approx \operatorname {perceptual~difference} (x,x')}ثم يُستخدم هذا النموذج المُحسَّن لتحديدLPIPS⁡(x،x′):=‖وθ(x)-وθ(x′)‖{\displaystyle \operatorname {LPIPS} (x,x'):=\|f_{\theta }(x)-f_{\theta }(x')\|}[ 22 ]​

تمت مراجعة طرق التقييم الأخرى في [ 23 ] .

المتغيرات

يوجد عدد هائل من أنواع الشبكات التوليدية الخصومية (GAN). [ 24 ] ومن أبرزها ما يلي:

شبكة GAN الشرطية

تتشابه الشبكات التوليدية الخصومية الشرطية مع الشبكات التوليدية الخصومية القياسية، إلا أنها تسمح للنموذج بتوليد عينات بشكل مشروط بناءً على معلومات إضافية. على سبيل المثال، إذا أردنا توليد صورة وجه قطة بناءً على صورة كلب، فيمكننا استخدام شبكة توليدية خصومية شرطية.

يقوم المولد في لعبة GAN بتوليدμجي{\displaystyle \mu _{G}}، توزيع احتمالي على فضاء الاحتمالاتΩ{\displaystyle \Omega }وهذا يقودنا إلى فكرة الشبكة التوليدية الخصومية الشرطية، حيث يتم بدلاً من توليد توزيع احتمالي واحد علىΩ{\displaystyle \Omega }يقوم المولد بتوليد توزيع احتمالي مختلفμجي(ج){\displaystyle \mu _{G}(c)}علىΩ{\displaystyle \Omega }لكل تصنيف فئة معينج{\displaystyle c}.

على سبيل المثال، لإنشاء صور تشبه صور ImageNet ، يجب أن يكون المولد قادرًا على إنشاء صورة لقطة عند إعطائه تصنيف الفئة "قطة".

في الورقة الأصلية، [ 1 ] لاحظ المؤلفون أنه يمكن توسيع GAN بشكل بسيط إلى GAN الشرطي من خلال توفير التصنيفات لكل من المولد والمميز.

بشكل ملموس، فإن لعبة GAN الشرطية هي مجرد لعبة GAN مع توفير تصنيفات الفئات:ل(μجي،د):=هـج∼μج،x∼μمرجع(ج)⁡[ln⁡د(x،ج)]+هـج∼μج،x∼μجي(ج)⁡[ln⁡(1-د(x،ج))]{\displaystyle L(\mu _{G},D):=\operatorname {E} _{c\sim \mu _{C},x\sim \mu _{\text{ref}}(c)}[\ln D(x,c)]+\operatorname {E} _{c\sim \mu _{C},x\sim \mu _{G}(c)}[\ln(1-D(x,c))]}أينμج{\displaystyle \mu _{C}}هو توزيع احتمالي على الفئات،μمرجع(ج){\displaystyle \mu _{\text{ref}}(c)}هو التوزيع الاحتمالي للصور الحقيقية من الفئةج{\displaystyle c}، وμجي(ج){\displaystyle \mu _{G}(c)}التوزيع الاحتمالي للصور التي يُنشئها المُولِّد عند إعطائها تصنيفًا فئويًاج{\displaystyle c}.

في عام 2017، تعلمت شبكة GAN الشرطية توليد 1000 فئة من الصور من ImageNet . [ 25 ]

شبكات الخصومة التوليدية ذات البنى البديلة

لعبة GAN هي إطار عمل عام ويمكن تشغيلها بأي معلمات معقولة للمولدجي{\displaystyle G}ومميزد{\displaystyle D}في الورقة البحثية الأصلية، أوضح المؤلفون ذلك باستخدام شبكات الإدراك متعددة الطبقات والشبكات العصبية الالتفافية . وقد تم تجربة العديد من البنى البديلة.

شبكة GAN التلافيفية العميقة (DCGAN): [ 26 ] تستخدم هذه الشبكة، في كل من المولد والمميز، شبكات عميقة تتكون بالكامل من طبقات التلافيف وفك التلافيف، أي شبكات تلافيفية بالكامل. [ 27 ]

شبكة GAN ذاتية الانتباه (SAGAN): [ 28 ] تبدأ بشبكة DCGAN، ثم تضيف وحدات الانتباه الذاتي القياسية المتصلة بشكل متبقي إلى المولد والمميز.

GAN المشفر التلقائي المتغير (VAEGAN): [ 29 ] يستخدم مشفرًا تلقائيًا متغيرًا (VAE) للمولد.

Transformer GAN (TransGAN): [ 30 ] يستخدم بنية المحول النقي لكل من المولد والمميز، وهو خالٍ تمامًا من طبقات الالتفاف وفك الالتفاف.

Flow-GAN: [ 31 ] يستخدم نموذجًا توليديًا قائمًا على التدفق للمولد، مما يسمح بحساب فعال لدالة الاحتمالية.

شبكات GAN ذات أهداف بديلة

يتم الحصول على العديد من متغيرات GAN ببساطة عن طريق تغيير دوال الخسارة للمولد والمميز.

GAN الأصلي:

قمنا بإعادة صياغة هدف GAN الأصلي إلى شكل أكثر ملاءمة للمقارنة:{ميندلد(د،μجي)=-هـx∼μجي⁡[ln⁡د(x)]-هـx∼μمرجع⁡[ln⁡(1-د(x))]مينجيلجي(د،μجي)=-هـx∼μجي⁡[ln⁡(1-د(x))]{\displaystyle {\begin{cases}\min _{D}L_{D}(D,\mu _{G})=-\operatorname {E} _{x\sim \mu _{G}}[\ln D(x)]-\operatorname {E} _{x\sim \mu _{\text{ref}}}[\ln(1-D(x))]\\\min _{G}L_{G}(D,\mu _{G})=-\operatorname {E} _{x\sim \mu _{G}}[\ln(1-D(x))]\end{cases}}}

شبكة GAN الأصلية، خسارة غير مشبعة:

تم التوصية بهذا الهدف للمولد في الورقة الأصلية لتحقيق تقارب أسرع. [ 1 ]لجي=هـx∼μجي⁡[ln⁡د(x)]{\displaystyle L_{G}=\operatorname {E} _{x\sim \mu _{G}}[\ln D(x)]}تم تحليل تأثير استخدام هذا الهدف في القسم 2.2.2 من Arjovsky et al. [ 32 ]

الشبكة التوليدية الأصلية، الاحتمال الأقصى:

لجي=هـx∼μجي⁡[(خبرة∘σ-1∘د)(x)]{\displaystyle L_{G}=\operatorname {E} _{x\sim \mu _{G}}[({\exp }\circ \sigma ^{-1}\circ D)(x)]}أينσ{\displaystyle \sigma }هي الدالة اللوجستية. عندما يكون المُمَيِّز مثاليًا، يكون تدرج المُوَلِّد هو نفسه كما في تقدير الاحتمال الأقصى ، على الرغم من أن الشبكة التوليدية الخصومية (GAN) لا تستطيع إجراء تقدير الاحتمال الأقصى بنفسها . [ 33 ] [ 34 ]

خسارة المفصلة GAN : [ 35 ]لد=-هـx∼صمرجع⁡[مين(0،-1+د(x))]-هـx∼μجي⁡[مين(0،-1-د(x))]{\displaystyle L_{D}=-\operatorname {E} _{x\sim p_{\text{ref}}}\left[\min \left(0,-1+D(x)\right)\right]-\operatorname {E} _{x\sim \mu _{G}}\left[\min \left(0,-1-D\left(x\right)\right)\right]}لجي=-هـx∼μجي⁡[د(x)]{\displaystyle L_{G}=-\operatorname {E} _{x\sim \mu _{G}}[D(x)]}شبكة GAN للمربعات الصغرى: [ 36 ]لد=هـx∼μمرجع⁡[(د(x)-ب)2]+هـx∼μجي⁡[(د(x)-أ)2]{\displaystyle L_{D}=\operatorname {E} _{x\sim \mu _{\text{ref}}}[(D(x)-b)^{2}]+\operatorname {E} _{x\sim \mu _{G}}[(D(x)-a)^{2}]}لجي=هـx∼μجي⁡[(د(x)-ج)2]{\displaystyle L_{G}=\operatorname {E} _{x\sim \mu _{G}}[(D(x)-c)^{2}]}أينأ،ب،ج{\displaystyle a,b,c}هناك معايير يجب اختيارها. وقد أوصى المؤلفونأ=-1،ب=1،ج=0{\displaystyle a=-1,b=1,c=0}.

شبكة Wasserstein GAN (WGAN)

يقوم نموذج Wasserstein GAN بتعديل لعبة GAN في نقطتين:

  • مجموعة استراتيجيات المُميِّز هي مجموعة الدوال القابلة للقياس من النوعد:Ω→R{\displaystyle D:\Omega \to \mathbb {R} }بمعيار ليبشيتز المحدود :‖د‖ل≤ك{\displaystyle \|D\|_{L}\leq K}، أينك{\displaystyle K}هو ثابت موجب ثابت.
  • الهدف هولدبليوجيأشمال(μجي،د):=هـx∼μجي⁡[د(x)]-هـx∼μمرجع[د(x)]{\displaystyle L_{WGAN}(\mu _{G},D):=\operatorname {E} _{x\sim \mu _{G}}[D(x)]-\mathbb {E} _{x\sim \mu _{\text{ref}}}[D(x)]}

يتمثل أحد أهدافها في حل مشكلة انهيار الأنماط (انظر أعلاه). [ 14 ] ويدعي المؤلفون: "لم نرَ في أي تجربة دليلاً على انهيار الأنماط لخوارزمية WGAN".

شبكات GAN التي تضم أكثر من لاعبين

مشفر تلقائي عدائي

يُعدّ المُشفّر التلقائي المُعادي (AAE) [ 37 ] أقرب إلى المُشفّر التلقائي منه إلى الشبكة التوليدية التنافسية (GAN). وتتلخص الفكرة في البدء بمُشفّر تلقائي بسيط ، ثم تدريب مُميّز لتمييز المتجهات الكامنة عن توزيع مرجعي (غالباً التوزيع الطبيعي).

إنفوغان

في الشبكات التوليدية الخصومية الشرطية، يتلقى المولد متجه ضوضاءz{\displaystyle z}وملصقج{\displaystyle c}، وينتج صورةجي(z،ج){\displaystyle G(z,c)}يستقبل المُميّز أزواج الصورة والتصنيف.(x،ج){\displaystyle (x,c)}ويحسبد(x،ج){\displaystyle D(x,c)}.

عندما تكون مجموعة بيانات التدريب غير مصنفة، فإن الشبكة التوليدية المشروطة لا تعمل بشكل مباشر.

تتمثل فكرة InfoGAN في افتراض أن كل متجه كامن في الفضاء الكامن يمكن تحليله إلى(z،ج){\displaystyle (z,c)}جزء ضوضاء غير قابل للانضغاطz{\displaystyle z}وجزء ملصق معلوماتيج{\displaystyle c}وتشجيع المُنتِج على الامتثال للقرار، من خلال تشجيعه على تحقيق أقصى استفادة.أنا(ج،جي(z،ج)){\displaystyle I(c,G(z,c))}المعلومات المتبادلة بينج{\displaystyle c}وجي(z،ج){\displaystyle G(z,c)}، مع عدم فرض أي متطلبات على المعلومات المتبادلةz{\displaystyle z}بينجي(z،ج){\displaystyle G(z,c)}.

للأسف،أنا(ج،جي(z،ج)){\displaystyle I(c,G(z,c))}يُعدّ هذا الأمر غير قابل للحل بشكل عام، وتتمثل الفكرة الأساسية لـ InfoGAN في تعظيم المعلومات المتبادلة المتغيرة: [ 38 ] حيث يتم تعظيمها بشكل غير مباشر عن طريق تعظيم حد أدنى.أنا^(جي،سؤال)=هـz∼μZ،ج∼μج[ln⁡سؤال(ج|جي(z،ج))]؛أنا(ج،جي(z،ج))≥رشفةسؤالأنا^(جي،سؤال){\displaystyle {\hat {I}}(G,Q)=\mathbb {E} _{z\sim \mu _{Z},c\sim \mu _{C}}[\ln Q(c\mid G(z,c))];\quad I(c,G(z,c))\geq \sup _{Q}{\hat {I}}(G,Q)}أينسؤال{\displaystyle Q}نطاقات على جميع نوى ماركوف من النوعسؤال:ΩY→P(Ωج){\displaystyle Q:\Omega _{Y}\to {\mathcal {P}}(\Omega _{C})}.

تُعرَّف لعبة InfoGAN على النحو التالي: [ 39 ]

ثلاثة فضاءات احتمالية تحدد لعبة InfoGAN:

  • (ΩX،μمرجع){\displaystyle (\Omega _{X},\mu _{\text{ref}})}، مساحة الصور المرجعية.
  • (ΩZ،μZ){\displaystyle (\Omega _{Z},\mu _{Z})}، مولد الضوضاء العشوائية الثابتة.
  • (Ωج،μج){\displaystyle (\Omega _{C},\mu _{C})}، مولد المعلومات العشوائية الثابتة.

يوجد ثلاثة لاعبين في فريقين: المُوَلِّد، وQ، والمُمَيِّز. المُوَلِّد وQ في فريق واحد، والمُمَيِّز في الفريق الآخر.

دالة الهدف هيل(جي،سؤال،د)=لجيأشمال(جي،د)-λأنا^(جي،سؤال){\displaystyle L(G,Q,D)=L_{GAN}(G,D)-\lambda {\hat {I}}(G,Q)}أينلجيأشمال(جي،د)=هـx∼μمرجع،⁡[ln⁡د(x)]+هـz∼μZ⁡[ln⁡(1-د(جي(z،ج)))]{\displaystyle L_{GAN}(G,D)=\operatorname {E} _{x\sim \mu _{\text{ref}},}[\ln D(x)]+\operatorname {E} _{z\sim \mu _{Z}}[\ln(1-D(G(z,c)))]}هو الهدف الأصلي للعبة GAN، وأنا^(جي،سؤال)=هـz∼μZ،ج∼μج[ln⁡سؤال(ج|جي(z،ج))]{\displaystyle {\hat {I}}(G,Q)=\mathbb {E} _{z\sim \mu _{Z},c\sim \mu _{C}}[\ln Q(c\mid G(z,c))]}

يهدف فريق Generator-Q إلى تقليل الهدف، بينما يهدف فريق discriminator إلى زيادته إلى أقصى حد:مينجي،سؤالالأعلىدل(جي،سؤال،د){\displaystyle \min _{G,Q}\max _{D}L(G,Q,D)}

شبكة GAN ثنائية الاتجاه (BiGAN)

مولد GAN القياسي هو دالة من النوعجي:ΩZ→ΩX{\displaystyle G:\Omega _{Z}\to \Omega _{X}}أي أنها عملية إسقاط من فضاء كامنΩZ{\displaystyle \Omega _{Z}}إلى مساحة الصورةΩX{\displaystyle \Omega _{X}}يمكن فهم ذلك على أنه عملية "فك تشفير"، حيث يتم من خلالها فك تشفير كل متجه كامنz∈ΩZ{\displaystyle z\in \Omega _{Z}}هو رمز للصورةx∈ΩX{\displaystyle x\in \Omega _{X}}ويقوم المولد بعملية فك التشفير. وهذا يقودنا بشكل طبيعي إلى فكرة تدريب شبكة أخرى تقوم بعملية "التشفير"، مما يؤدي إلى إنشاء مُشفِّر تلقائي من زوج المُشفِّر والمولد.

أشار المؤلفون في الورقة البحثية الأصلية [ 1 ] إلى أنه "يمكن إجراء الاستدلال التقريبي المُتعلم عن طريق تدريب شبكة مساعدة للتنبؤ".z{\displaystyle z}منحx{\displaystyle x}". تقوم بنية GAN ثنائية الاتجاه بهذا بالضبط. [ 40 ]

يتم تعريف BiGAN على النحو التالي:

يُعرّف فضاءان احتماليان لعبة BiGAN:

  • (ΩX،μX){\displaystyle (\Omega _{X},\mu _{X})}، مساحة الصور المرجعية.
  • (ΩZ،μZ){\displaystyle (\Omega _{Z},\mu _{Z})}، الفضاء الكامن.

يوجد ثلاثة لاعبين موزعين على فريقين: المُوَلِّد، والمُشفِّر، والمُمَيِّز. المُوَلِّد والمُشفِّر في فريق، والمُمَيِّز في الفريق الآخر.

استراتيجيات المولد هي دوالجي:ΩZ→ΩX{\displaystyle G:\Omega _{Z}\to \Omega _{X}}واستراتيجيات المُشفِّر عبارة عن دوالهـ:ΩX→ΩZ{\displaystyle E:\Omega _{X}\to \Omega _{Z}}استراتيجيات المُميِّز هي دوالد:ΩX→[0،1]{\displaystyle D:\Omega _{X}\to [0,1]}.

دالة الهدف هيل(جي،هـ،د)=هـx∼μX[ln⁡د(x،هـ(x))]+هـz∼μZ[ln⁡(1-د(جي(z)،z))]{\displaystyle L(G,E,D)=\mathbb {E} _{x\sim \mu _{X}}[\ln D(x,E(x))]+\mathbb {E} _{z\sim \mu _{Z}}[\ln(1-D(G(z),z))]}

يهدف فريق المولد-المشفر إلى تقليل الهدف، بينما يهدف المميز إلى زيادته إلى أقصى حد:مينجي،هـالأعلىدل(جي،هـ،د){\displaystyle \min _{G,E}\max _{D}L(G,E,D)}

في الورقة البحثية، قدموا تعريفاً أكثر تجريداً للهدف على النحو التالي:ل(جي،هـ،د)=هـ(x،z)∼μهـ،X[ln⁡د(x،z)]+هـ(x،z)∼μجي،Z[ln⁡(1-د(x،z))]{\displaystyle L(G,E,D)=\mathbb {E} _{(x,z)\sim \mu _{E,X}}[\ln D(x,z)]+\mathbb {E} _{(x,z)\sim \mu _{G,Z}}[\ln(1-D(x,z))]}أينμهـ،X(دx،دz)=μX(دx)⋅دلتاهـ(x)(دz){\displaystyle \mu _{E,X}(dx,dz)=\mu _{X}(dx)\cdot \delta _{E(x)}(dz)}هو توزيع الاحتمالات علىΩX×ΩZ{\displaystyle \Omega _{X}\times \Omega _{Z}}تم الحصول عليه عن طريق الدفعμX{\displaystyle \mu _{X}}إعادة توجيه عبرx↦(x،هـ(x)){\displaystyle x\mapsto (x,E(x))}، وμجي،Z(دx،دz)=دلتاجي(z)(دx)⋅μZ(دz){\displaystyle \mu _{G,Z}(dx,dz)=\delta _{G(z)}(dx)\cdot \mu _{Z}(dz)}هو توزيع الاحتمالات علىΩX×ΩZ{\displaystyle \Omega _{X}\times \Omega _{Z}}تم الحصول عليه عن طريق الدفعμZ{\displaystyle \mu _{Z}}إعادة توجيه عبرz↦(جي(x)،z){\displaystyle z\mapsto (G(x),z)}.

تشمل تطبيقات النماذج ثنائية الاتجاه التعلم شبه الموجه ، [ 41 ] والتعلم الآلي القابل للتفسير ، [ 42 ] والترجمة الآلية العصبية . [ 43 ]

CycleGAN

CycleGAN عبارة عن بنية لإجراء عمليات الترجمة بين مجالين، مثل بين صور الخيول وصور الحمير الوحشية، أو صور المدن الليلية وصور المدن النهارية.

تُعرَّف لعبة CycleGAN على النحو التالي: [ 44 ]

يوجد فضاءان احتماليان(ΩX،μX)،(ΩY،μY){\displaystyle (\Omega _{X},\mu _{X}),(\Omega _{Y},\mu _{Y})}، بما يتوافق مع المجالين اللازمين للترجمات ذهابًا وإيابًا.

يوجد 4 لاعبين في فريقين: مولداتجيX:ΩX→ΩY،جيY:ΩY→ΩX{\displaystyle G_{X}:\Omega _{X}\to \Omega _{Y},G_{Y}:\Omega _{Y}\to \Omega _{X}}والمميزوندX:ΩX→[0،1]،دY:ΩY→[0،1]{\displaystyle D_{X}:\Omega _{X}\to [0,1],D_{Y}:\Omega _{Y}\to [0,1]}.

دالة الهدف هيل(جيX،جيY،دX،دY)=لجيأشمال(جيX،دX)+لجيأشمال(جيY،دY)+λلجyجلهـ(جيX،جيY){\displaystyle L(G_{X},G_{Y},D_{X},D_{Y})=L_{GAN}(G_{X},D_{X})+L_{GAN}(G_{Y},D_{Y})+\lambda L_{cycle}(G_{X},G_{Y})}

أينλ{\displaystyle \lambda }هو معامل قابل للتعديل إيجابي،لجيأشمال{\displaystyle L_{GAN}}هذا هو هدف لعبة GAN، ولجyجلهـ{\displaystyle L_{cycle}}هل فقدان اتساق الدورة هو :لجyجلهـ(جيX،جيY)=هـx∼μX‖جيX(جيY(x))-x‖+هـy∼μY‖جيY(جيX(y))-y‖{\displaystyle L_{cycle}(G_{X},G_{Y})=E_{x\sim \mu _{X}}\|G_{X}(G_{Y}(x))-x\|+E_{y\sim \mu _{Y}}\|G_{Y}(G_{X}(y))-y\|}تهدف المولدات إلى تقليل الهدف، بينما تهدف المميزات إلى تعظيمه:مينجيX،جيYالأعلىدX،دYل(جيX،جيY،دX،دY){\displaystyle \min _{G_{X},G_{Y}}\max _{D_{X},D_{Y}}L(G_{X},G_{Y},D_{X},D_{Y})}

على عكس الأعمال السابقة مثل pix2pix [ 45 ] ، التي تتطلب بيانات تدريب متطابقة، لا يتطلب cycleGAN أي بيانات متطابقة. على سبيل المثال، لتدريب نموذج pix2pix لتحويل صورة لمنظر صيفي إلى صورة لمنظر شتوي والعكس، يجب أن تحتوي مجموعة البيانات على أزواج من الصور لنفس المكان في الصيف والشتاء، تم التقاطها من نفس الزاوية؛ بينما يحتاج cycleGAN فقط إلى مجموعة من صور المناظر الصيفية، ومجموعة أخرى غير مرتبطة بها من صور المناظر الشتوية.

شبكات GAN ذات الأحجام الكبيرة أو الصغيرة بشكل خاص

بيج جان

تُعدّ BigGAN في جوهرها شبكة GAN ذاتية الانتباه، مُدرّبة على نطاق واسع (يصل إلى 80 مليون مُعامل) لتوليد صور كبيرة من ImageNet (بدقة تصل إلى 512 × 512 بكسل)، مع العديد من الحيل الهندسية لجعلها تتقارب. [ 20 ] [ 46 ]

زيادة البيانات القابلة للعكس

عندما تكون بيانات التدريب غير كافية، يتم استخدام التوزيع المرجعيμمرجع{\displaystyle \mu _{\text{ref}}}لا يمكن تقريبها بدقة باستخدام التوزيع التجريبي المُعطى من مجموعة بيانات التدريب. في مثل هذه الحالات، يمكن تطبيق تقنيات زيادة البيانات لتدريب الشبكات التوليدية الخصومية (GAN) على مجموعات بيانات أصغر. مع ذلك، فإن زيادة البيانات البسيطة تنطوي على بعض المشاكل.

لنأخذ لعبة GAN الأصلية كمثال، مع إعادة صياغتها قليلاً على النحو التالي:{ميندلد(د،μجي)=-هـx∼μمرجع⁡[ln⁡د(x)]-هـx∼μجي⁡[ln⁡(1-د(x))]مينجيلجي(د،μجي)=-هـx∼μجي⁡[ln⁡(1-د(x))]{\displaystyle {\begin{cases}\min _{D}L_{D}(D,\mu _{G})=-\operatorname {E} _{x\sim \mu _{\text{ref}}}[\ln D(x)]-\operatorname {E} _{x\sim \mu _{G}}[\ln(1-D(x))]\\\min _{G}L_{G}(D,\mu _{G})=-\operatorname {E} _{x\sim \mu _{G}}[\ln(1-D(x))]\end{cases}}}نستخدم الآن تقنية زيادة البيانات عن طريق أخذ عينات عشوائية من التحويلات التي تحافظ على الدلالات.تي:Ω→Ω{\displaystyle T:\Omega \to \Omega }وتطبيقها على مجموعة البيانات، للحصول على لعبة GAN المعاد صياغتها:{ميندلد(د،μجي)=-هـx∼μمرجع،تي∼μعبر⁡[ln⁡د(تي(x))]-هـx∼μجي⁡[ln⁡(1-د(x))]مينجيلجي(د،μجي)=-هـx∼μجي⁡[ln⁡(1-د(x))]{\displaystyle {\begin{cases}\min _{D}L_{D}(D,\mu _{G})=-\operatorname {E} _{x\sim \mu _{\text{ref}},T\sim \mu _{\text{trans}}}[\ln D(T(x))]-\operatorname {E} _{x\sim \mu _{G}}[\ln(1-D(x))]\\\min _{G}L_{G}(D,\mu _{G})=-\operatorname {E} _{x\sim \mu _{G}}[\ln(1-D(x))]\end{cases}}}هذا يعادل لعبة GAN بتوزيع مختلفμمرجع′{\displaystyle \mu _{\text{ref}}'}، تم أخذ عينات منها بواسطةتي(x){\displaystyle T(x)}، معx∼μمرجع،تي∼μعبر{\displaystyle x\sim \mu _{\text{ref}},T\sim \mu _{\text{trans}}}على سبيل المثال، إذاμمرجع{\displaystyle \mu _{\text{ref}}}توزيع الصور في ImageNet، وμعبر{\displaystyle \mu _{\text{trans}}}يتم أخذ عينات من تحويل الهوية باحتمالية 0.5، والانعكاس الأفقي باحتمالية 0.5، ثمμمرجع′{\displaystyle \mu _{\text{ref}}'}هو توزيع الصور في ImageNet و ImageNet المنعكسة أفقيًا، مجتمعة.

ستكون نتيجة هذا التدريب مولدًا يحاكيμمرجع′{\displaystyle \mu _{\text{ref}}'}على سبيل المثال، سيؤدي ذلك إلى إنشاء صور تبدو وكأنها مقتطعة عشوائياً، إذا كانت عملية زيادة البيانات تستخدم الاقتصاص العشوائي.

يكمن الحل في تطبيق تقنية زيادة البيانات على كل من الصور المولدة والصور الحقيقية:{ميندلد(د،μجي)=-هـx∼μمرجع،تي∼μعبر⁡[ln⁡د(تي(x))]-هـx∼μجي،تي∼μعبر⁡[ln⁡(1-د(تي(x)))]مينجيلجي(د،μجي)=-هـx∼μجي،تي∼μعبر⁡[ln⁡(1-د(تي(x)))]{\displaystyle {\begin{cases}\min _{D}L_{D}(D,\mu _{G})=-\operatorname {E} _{x\sim \mu _{\text{ref}},T\sim \mu _{\text{trans}}}[\ln D(T(x))]-\operatorname {E} _{x\sim \mu _{G},T\sim \mu _{\text{trans}}}[\ln(1-D(T(x)))]\\\min _{G}L_{G}(D,\mu _{G})=-\operatorname {E} _{x\sim \mu _{G},T\sim \mu _{\text{trans}}}[\ln(1-D(T(x)))]\end{cases}}}أظهر المؤلفون إمكانية توليد صور عالية الجودة باستخدام مجموعات بيانات كبيرة تحتوي على 100 صورة فقط. [ 47 ]

تشير ورقة StyleGAN-2-ADA إلى نقطة أخرى مهمة في مجال زيادة البيانات: يجب أن تكون قابلة للعكس . [ 48 ] لنكمل مثال توليد صور ImageNet. إذا كانت زيادة البيانات هي "تدوير الصورة عشوائيًا بزوايا 0، 90، 180، 270 درجة باحتمالية متساوية "، فلن يتمكن المولد من معرفة الاتجاه الصحيح. لنفترض وجود مولدين.جي،جي′{\displaystyle G,G'}بحيث يكون لأي كامنz{\displaystyle z}الصورة المُولَّدةجي(z){\displaystyle G(z)}هي دوران بزاوية 90 درجةجي′(z){\displaystyle G'(z)}سيكون لديهم نفس الخسارة المتوقعة تمامًا، وبالتالي لا يُفضل أي منهما على الآخر.

يكمن الحل في استخدام تقنية زيادة البيانات القابلة للعكس فقط: فبدلاً من "تدوير الصورة عشوائياً بزوايا 0، 90، 180، 270 درجة باحتمالية متساوية "، استخدم "تدوير الصورة عشوائياً بزوايا 90، 180، 270 درجة باحتمالية 0.1، مع الإبقاء على الصورة كما هي باحتمالية 0.7". وبهذه الطريقة، يُكافأ المُولِّد على إبقاء الصور موجهة بنفس اتجاه صور ImageNet غير المُعالجة.

بشكل مجرد، تأثير أخذ عينات عشوائية من التحويلاتتي:Ω→Ω{\displaystyle T:\Omega \to \Omega }من التوزيعμعبر{\displaystyle \mu _{\text{trans}}}يتمثل الهدف في تعريف نواة ماركوفكعبر:Ω→P(Ω){\displaystyle K_{\text{trans}}:\Omega \to {\mathcal {P}}(\Omega )}ثم، تدفع لعبة GAN المعززة بالبيانات المولد لإيجاد بعضμ^جي∈P(Ω){\displaystyle {\hat {\mu }}_{G}\in {\mathcal {P}}(\Omega )}بحيثكعبر*μمرجع=كعبر*μ^جي{\displaystyle K_{\text{trans}}*\mu _{\text{ref}}=K_{\text{trans}}*{\hat {\mu }}_{G}}أين*{\displaystyle *}هي عملية الالتفاف باستخدام نواة ماركوف . تُعرَّف طريقة زيادة البيانات بأنها قابلة للعكس إذا كانت نواة ماركوف الخاصة بهاكعبر{\displaystyle K_{\text{trans}}}يرضيكعبر*μ=كعبر*μ′⟹μ=μ′∀μ،μ′∈P(Ω){\displaystyle K_{\text{trans}}*\mu =K_{\text{trans}}*\mu '\implies \mu =\mu '\quad \forall \mu ,\mu '\in {\mathcal {P}}(\Omega )}بحسب التعريف، نلاحظ مباشرةً أن دمج عدة طرق قابلة للعكس لتوسيع البيانات ينتج عنه طريقة أخرى قابلة للعكس. كذلك، بحسب التعريف، إذا كانت طريقة توسيع البيانات قابلة للعكس، فإن استخدامها في لعبة GAN لا يغير الاستراتيجية المثلى.μ^جي{\displaystyle {\hat {\mu }}_{G}}بالنسبة للمولد، الذي لا يزالμمرجع{\displaystyle \mu _{\text{ref}}}.

يوجد مثالان نموذجيان لنوى ماركوف القابلة للعكس:

الحالة المنفصلة : المصفوفات العشوائية القابلة للعكس ، عندماΩ{\displaystyle \Omega }محدود.

على سبيل المثال، إذاΩ={↑،↓،←،→}{\displaystyle \Omega =\{\uparrow ,\downarrow ,\leftarrow ,\rightarrow \}}هي مجموعة من أربع صور لسهم، تشير إلى أربعة اتجاهات، وتتمثل عملية زيادة البيانات في "تدوير الصورة عشوائيًا بزوايا 90 و180 و270 درجة باحتمالية معينة".ص{\displaystyle p}، واحتفظ بالصورة كما هي على الأرجح(1-3ص){\displaystyle (1-3p)}ثم نواة ماركوفكعبر{\displaystyle K_{\text{trans}}}يمكن تمثيلها كمصفوفة عشوائية:[كعبر]=[(1-3ص)صصصص(1-3ص)صصصص(1-3ص)صصصص(1-3ص)]{\displaystyle [K_{\text{trans}}]={\begin{bmatrix}(1-3p)&p&p&p\\p&(1-3p)&p&p\\p&p&(1-3p)&p\\p&p&p&(1-3p)\end{bmatrix}}}وكعبر{\displaystyle K_{\text{trans}}}تكون نواة قابلة للعكس إذا وفقط إذا[كعبر]{\displaystyle [K_{\text{trans}}]}هي مصفوفة قابلة للعكس، أيص≠1/4{\displaystyle p\neq 1/4}.

الحالة المستمرة : نواة غاوس، عندماΩ=Rن{\displaystyle \Omega =\mathbb {R} ^{n}}بالنسبة للبعضن≥1{\displaystyle n\geq 1}.

على سبيل المثال، إذاΩ=R2562{\displaystyle \Omega =\mathbb {R} ^{256^{2}}}هي مساحة صور بحجم 256×256، وطريقة زيادة البيانات هي "توليد ضوضاء غاوسية".z∼شمال(0،أنا2562){\displaystyle z\sim {\mathcal {N}}(0,I_{256^{2}})}ثم أضفϵz{\displaystyle \epsilon z}إلى الصورة،" ثمكعبر{\displaystyle K_{\text{trans}}}هو مجرد عملية التفاف بواسطة دالة الكثافة لـشمال(0،ϵ2أنا2562){\displaystyle {\mathcal {N}}(0,\epsilon ^{2}I_{256^{2}})}هذا قابل للعكس، لأن الالتفاف بواسطة دالة غاوسية هو مجرد التفاف بواسطة نواة الحرارة ، لذلك بالنظر إلى أيμ∈P(Rن){\displaystyle \mu \in {\mathcal {P}}(\mathbb {R} ^{n})}، التوزيع الملتويكعبر*μ{\displaystyle K_{\text{trans}}*\mu }يمكن الحصول عليها عن طريق التسخينRن{\displaystyle \mathbb {R} ^{n}}وفقًا لـμ{\displaystyle \mu }ثم انتظر الوقتϵ2/4{\displaystyle \epsilon ^{2}/4}وبذلك، يمكننا التعافيμ{\displaystyle \mu }عن طريق تشغيل معادلة الحرارة عكسيًا في الزمن لـϵ2/4{\displaystyle \epsilon ^{2}/4}.

توجد أمثلة أخرى على عمليات زيادة البيانات القابلة للعكس في الورقة البحثية. [ 48 ]

سينجان

يُحقق SinGAN أقصى استفادة من تقنية تكبير البيانات، وذلك باستخدام صورة واحدة فقط كبيانات تدريب، ثم إجراء عمليات تكبير البيانات عليها. وقد تم تكييف بنية GAN مع أسلوب التدريب هذا باستخدام مسار متعدد المستويات.

المولدجي{\displaystyle G}يتم تقسيمها إلى هرم من المولداتجي=جي1∘جي2∘⋯∘جيشمال{\displaystyle G=G_{1}\circ G_{2}\circ \cdots \circ G_{N}}، حيث يقوم أدنى مستوى بتوليد الصورةجيشمال(zشمال){\displaystyle G_{N}(z_{N})}عند أدنى دقة، يتم تكبير الصورة الناتجة إلىر(جيشمال(zشمال)){\displaystyle r(G_{N}(z_{N}))}ثم يتم إدخالها إلى المستوى التالي لإنشاء صورةجيشمال-1(zشمال-1+ر(جيشمال(zشمال))){\displaystyle G_{N-1}(z_{N-1}+r(G_{N}(z_{N})))}بدقة أعلى، وهكذا. يتم تفكيك المميز إلى هرم أيضًا. [ 49 ]

سلسلة ستايلجان

عائلة StyleGAN هي سلسلة من البنى التي نشرتها شعبة الأبحاث في شركة Nvidia .

شبكة توليدية تقدمية

تُعدّ شبكة GAN التدريجية [ 15 ] طريقةً لتدريب شبكات GAN لتوليد الصور على نطاق واسع بثبات، وذلك من خلال تنمية مولد GAN من نطاق صغير إلى نطاق كبير بطريقة هرمية. ومثل شبكة SinGAN، تُقسّم هذه الشبكة المولد إلى أجزاء أصغر.جي=جي1∘جي2∘⋯∘جيشمال{\displaystyle G=G_{1}\circ G_{2}\circ \cdots \circ G_{N}}والمميز كـد=د1∘د2∘⋯∘دشمال{\displaystyle D=D_{1}\circ D_{2}\circ \cdots \circ D_{N}}.

أثناء التدريب، في البداية فقطجيشمال،دشمال{\displaystyle G_{N},D_{N}}تُستخدم في لعبة GAN لإنشاء صور بحجم 4x4. ثمجيشمال-1،دشمال-1{\displaystyle G_{N-1},D_{N-1}}تتم إضافتها للوصول إلى المرحلة الثانية من لعبة GAN، لتوليد صور بحجم 8x8، وهكذا، حتى نصل إلى لعبة GAN لتوليد صور بحجم 1024x1024.

لتجنب التداخل بين مراحل لعبة الشبكة التوليدية التنافسية (GAN)، يتم دمج كل طبقة جديدة تدريجيًا (الشكل 2 من الورقة البحثية [ 15 ] ). على سبيل المثال، هكذا تبدأ المرحلة الثانية من لعبة الشبكة التوليدية التنافسية:

  • قبل ذلك مباشرة، تتكون لعبة GAN من الزوججيشمال،دشمال{\displaystyle G_{N},D_{N}}توليد وتمييز الصور بحجم 4x4.
  • بعد ذلك مباشرة، تتكون لعبة GAN من الزوج((1-α)+α⋅جيشمال-1)∘u∘جيشمال،دشمال∘د∘((1-α)+α⋅دشمال-1){\displaystyle ((1-\alpha )+\alpha \cdot G_{N-1})\circ u\circ G_{N},D_{N}\circ d\circ ((1-\alpha )+\alpha \cdot D_{N-1})}توليد وتمييز الصور بحجم 8x8. هنا، الوظائفu،د{\displaystyle u,d}هي وظائف تكبير وتصغير الصور، وα{\displaystyle \alpha }هو عامل مزج (يشبه إلى حد كبير ألفا في تكوين الصور) ينزلق بسلاسة من 0 إلى 1.

ستايلغان-1

البنية الأساسية لـ StyleGAN-1 و StyleGAN-2

تم تصميم StyleGAN-1 كمزيج من GAN التدريجي مع نقل الأنماط العصبية . [ 50 ]

يتمثل الخيار المعماري الرئيسي لـ StyleGAN-1 في آلية نمو تدريجي، على غرار Progressive GAN. تبدأ كل صورة مُولَّدة كقيمة ثابتة.4×4×512{\displaystyle 4\times 4\times 512}يتم تمرير المصفوفة بشكل متكرر عبر كتل الأنماط. تُطبق كل كتلة نمط "متجه نمط كامن" عبر تحويل أفيني ("تطبيع الحالة التكيفي")، على غرار كيفية استخدام نقل الأنماط العصبية لمصفوفة غراميان . ثم تُضاف الضوضاء، ويتم التطبيع (طرح المتوسط، ثم القسمة على التباين).

في وقت التدريب، عادة ما يتم استخدام متجه نمط كامن واحد فقط لكل صورة يتم إنشاؤها، ولكن في بعض الأحيان يتم استخدام اثنين ("التنظيم المختلط") من أجل تشجيع كل كتلة نمط على أداء نمطها بشكل مستقل دون توقع مساعدة من كتل الأنماط الأخرى (لأنها قد تتلقى متجه نمط كامن مختلف تمامًا).

بعد التدريب، يمكن إدخال متجهات كامنة متعددة للأنماط في كل كتلة نمط. تتحكم المتجهات التي تُدخل إلى الطبقات السفلية في الأنماط واسعة النطاق، بينما تتحكم المتجهات التي تُدخل إلى الطبقات العليا في أنماط التفاصيل الدقيقة.

مزج الأنماط بين صورتينx،x′{\displaystyle x,x'}يمكن تنفيذ ذلك أيضًا. أولًا، قم بتشغيل خوارزمية التدرج الهبوطي للعثور علىz،z′{\displaystyle z,z'}بحيثجي(z)≈x،جي(z′)≈x′{\displaystyle G(z)\approx x,G(z')\approx x'}يُطلق على هذا اسم "إسقاط الصورة مرة أخرى إلى فضاء النمط الكامن". ثم،z{\displaystyle z}يمكن إدخالها إلى كتل الأنماط السفلية، وz′{\displaystyle z'}إلى كتل الأنماط الأعلى، لإنشاء صورة مركبة ذات نمط واسع النطاق منx{\displaystyle x}وأسلوب التفاصيل الدقيقة لـx′{\displaystyle x'}ويمكن أيضاً تجميع صور متعددة بهذه الطريقة.

ستايلغان-2

يُحسّن StyleGAN-2 من StyleGAN-1، باستخدام متجه النمط الكامن لتحويل أوزان طبقة الالتفاف بدلاً من ذلك، وبالتالي حل مشكلة "البقعة". [ 51 ]

تم تحديث هذا النموذج بواسطة StyleGAN-2-ADA (حيث يرمز ADA إلى "التكيفي")، [ 48 ] والذي يستخدم تقنية زيادة البيانات القابلة للعكس كما هو موضح أعلاه. كما أنه يضبط مقدار زيادة البيانات المطبقة بالبدء من الصفر، وزيادته تدريجيًا حتى تصل "خوارزمية التجاوز" إلى مستوى مستهدف، ومن هنا جاءت تسمية "التكيفي".

ستايلغان-3

يُحسّن نموذج StyleGAN-3 [ 52 ] من نموذج StyleGAN-2 بحلّ مشكلة "التصاق النسيج"، والتي يمكن ملاحظتها في الفيديوهات الرسمية. [ 53 ] وقد حلّلوا المشكلة باستخدام نظرية نايكويست-شانون لأخذ العينات ، وجادلوا بأن الطبقات في المُولّد تعلّمت استغلال الإشارة عالية التردد في البكسلات التي تعمل عليها.

لحل هذه المشكلة، اقترحوا فرض مرشحات تمرير منخفضة صارمة بين طبقات كل مولد، بحيث يُجبر المولد على التعامل مع البكسلات بطريقة تتوافق مع الإشارات المستمرة التي تمثلها، بدلاً من التعامل معها كإشارات منفصلة فقط. كما فرضوا ثباتًا دورانيًا وانتقاليًا باستخدام المزيد من مرشحات الإشارة . وبذلك، يتمكن نموذج StyleGAN-3 الناتج من حل مشكلة التصاق النسيج، بالإضافة إلى توليد صور تدور وتنتقل بسلاسة.

استخدامات أخرى

وبخلاف النمذجة التوليدية والتمييزية للبيانات، فقد تم استخدام الشبكات التوليدية الخصومية (GANs) لأشياء أخرى.

استُخدمت الشبكات التوليدية التنافسية (GANs) في التعلم بالنقل لفرض محاذاة فضاء الميزات الكامنة، كما هو الحال في التعلم العميق المعزز . [ 54 ] ويتم ذلك عن طريق تغذية المُمَيِّز بتضمينات مهمة المصدر والهدف، حيث يحاول المُمَيِّز تخمين السياق. ثم يتم نشر الخسارة الناتجة (عكسيًا) عبر المُشفِّر.

التطبيقات

علوم

تم التحقق تجريبياً من صحة الجزيئات المولدة بواسطة GAN في الفئران. [ 71 ] [ 72 ]

طبي

يُعدّ الحفاظ على خصوصية المريض أحد أهمّ التحديات في التصوير الطبي. ولهذه الأسباب، يواجه الباحثون صعوباتٍ في الحصول على صورٍ طبيةٍ لأغراض أبحاثهم. وقد استُخدمت الشبكات التوليدية التنافسية (GAN) لتوليد صورٍ طبيةٍ اصطناعية ، مثل صور الرنين المغناطيسي (MRI ) والتصوير المقطعي بالإصدار البوزيتروني (PET) ، للتغلّب على هذا التحدي. [ 73 ]

يمكن استخدام الشبكات التوليدية الخصومية (GAN) للكشف عن صور الجلوكوما ، مما يساعد على التشخيص المبكر الذي يعد ضرورياً لتجنب فقدان البصر الجزئي أو الكلي. [ 74 ]

استُخدمت الشبكات التوليدية الخصومية (GANs) لإنشاء عمليات إعادة بناء الوجه الجنائية للشخصيات التاريخية المتوفاة. [ 75 ]

خبيث

صورة مُولّدة بواسطة نموذج StyleGAN تبدو مُضللة وكأنها صورة فوتوغرافية لشخص حقيقي. تم توليد هذه الصورة بواسطة نموذج StyleGAN بناءً على تحليل صور شخصية.
مثال آخر على صورة شخصية مولدة بواسطة شبكة GAN

أُثيرت مخاوف بشأن إمكانية استخدام تقنية توليد الصور البشرية القائمة على الشبكات التوليدية الخصومية (GANs) لأغراض خبيثة، مثل إنتاج صور ومقاطع فيديو مزيفة، قد تكون مُدينة. [ 76 ] يمكن استخدام الشبكات التوليدية الخصومية (GANs) لإنشاء صور شخصية فريدة وواقعية لأشخاص غير موجودين، وذلك لأتمتة إنشاء حسابات وهمية على مواقع التواصل الاجتماعي. [ 77 ]

في عام ٢٠١٩، نظرت ولاية كاليفورنيا في مشروع القانون AB -602 وأقرته في ٣ أكتوبر ٢٠١٩، وهو مشروع قانون يحظر استخدام تقنيات توليف الصور البشرية لإنتاج مواد إباحية مزيفة دون موافقة الأشخاص الظاهرين فيها، ومشروع القانون AB-730 الذي يحظر توزيع مقاطع فيديو مُعدّلة لمرشح سياسي خلال ٦٠ يومًا من الانتخابات. وقد صاغ كلا المشروعين عضو الجمعية العامة مارك بيرمان، ووقعهما الحاكم جافين نيوسوم . ودخل القانونان حيز التنفيذ في عام ٢٠٢٠ .

يدرس برنامج الطب الشرعي الإعلامي التابع لوكالة مشاريع البحوث الدفاعية المتقدمة (DARPA) طرق مكافحة الوسائط المزيفة، بما في ذلك الوسائط المزيفة المنتجة باستخدام الشبكات التوليدية الخصومية (GANs). [ 80 ]

الموضة والفن والإعلان

يمكن استخدام الشبكات التوليدية الخصومية (GANs) لإنتاج أعمال فنية؛ فقد كتب موقع The Verge في مارس 2019 أن "الصور التي تُنتجها الشبكات التوليدية الخصومية أصبحت السمة المميزة لفن الذكاء الاصطناعي المعاصر". [ 81 ] كما يمكن استخدام الشبكات التوليدية الخصومية لـ

استخدم البعض الشبكات التوليدية التنافسية (GAN) في الإبداع الفني، باعتبارها "شبكة تنافسية إبداعية". [ 87 ] [ 88 ] وقد أنتجت شبكة GAN، تم تدريبها على مجموعة من 15000 صورة شخصية من موقع WikiArt تعود إلى الفترة من القرن الرابع عشر إلى القرن التاسع عشر، لوحة إدموند دي بيلامي عام 2018 ، والتي بيعت بمبلغ 432500 دولار أمريكي. [ 89 ]

استُخدمت الشبكات التوليدية الخصومية (GANs) من قِبل مجتمع تعديل ألعاب الفيديو لرفع دقة الصور ثنائية الأبعاد منخفضة الدقة في ألعاب الفيديو القديمة عن طريق إعادة إنشائها بدقة 4K أو أعلى من خلال تدريب الصور، ثم تقليل دقتها لتناسب الدقة الأصلية للعبة (على غرار تقنية التنعيم الفائق ). [ 90 ]

في عام ٢٠٢٠، استُخدم برنامج Artbreeder لإنشاء الشخصية الشريرة الرئيسية في الجزء الثاني من سلسلة الرعب النفسي على الإنترنت "Ben Drowned ". وأشاد المؤلف لاحقًا بتطبيقات الشبكات التوليدية الخصومية (GAN) لقدرتها على مساعدة الفنانين المستقلين ذوي الميزانية المحدودة والقوى العاملة المحدودة في توليد الأصول. [ ٩١ ] [ ٩٢ ]

في مايو 2020، قام باحثون من شركة إنفيديا بتدريب نظام ذكاء اصطناعي (يُطلق عليه اسم "GameGAN") على إعادة إنشاء لعبة باك مان بمجرد مشاهدتها أثناء اللعب. [ 93 ] [ 94 ]

في أغسطس 2019، تم إنشاء مجموعة بيانات كبيرة تتكون من 12197 أغنية MIDI، كل منها مصحوبة بكلمات وألحان متطابقة، وذلك لتوليد الألحان العصبية من الكلمات باستخدام GAN-LSTM الشرطي (راجع المصادر على GitHub AI Melody Generation from Lyrics ). [ 95 ]

متنوع

تم استخدام الشبكات التوليدية الخصومية (GANs) لـ

  • [ 96 ] توضح كيف يمكن أن يتغير مظهر الفرد مع تقدمه في العمر.
  • إعادة بناء نماذج ثلاثية الأبعاد للأشياء من الصور ، [ 97 ]
  • توليد كائنات جديدة على شكل سحب نقاط ثلاثية الأبعاد، [ 98 ]
  • نمذجة أنماط الحركة في الفيديو. [ 99 ]
  • استكمال المعالم المفقودة في الخرائط، ونقل أنماط الخرائط في علم الخرائط [ 100 ] أو تحسين صور عرض الشوارع. [ 101 ]
  • استخدم التغذية الراجعة لإنشاء الصور واستبدال أنظمة البحث عن الصور. [ 102 ]
  • تخيل تأثير تغير المناخ على منازل محددة. [ 103 ]
  • إعادة بناء صورة لوجه شخص ما بعد الاستماع إلى صوته. [ 104 ]
  • [ 105 ]​
  • توليد التسلسل المتكرر. [ 106 ]

تاريخ

في عام ١٩٩١، نشر يورغن شميدهوبر بحثًا بعنوان "الفضول الاصطناعي"، يتناول الشبكات العصبية في لعبة محصلتها صفر . [ ١٠٧ ] الشبكة الأولى هي نموذج توليدي يُحاكي توزيعًا احتماليًا لأنماط المخرجات. أما الشبكة الثانية، فتتعلم باستخدام خوارزمية التدرج الهبوطي للتنبؤ بردود فعل البيئة تجاه هذه الأنماط. يمكن اعتبار الشبكات التوليدية الخصومية (GANs) حالةً يكون فيها رد فعل البيئة إما ١ أو ٠، اعتمادًا على ما إذا كانت مخرجات الشبكة الأولى تقع ضمن مجموعة معينة. [ ١٠٨ ]

كان لدى آخرين أفكار مشابهة، لكنهم لم يطوروها بنفس الطريقة. نُشرت فكرة تتعلق بالشبكات التنافسية في مدونة عام 2010 بقلم أولي نيميتالو. [ 109 ] لم تُطبّق هذه الفكرة قط، ولم تتضمن العشوائية في المُولّد، وبالتالي لم تكن نموذجًا توليديًا. استُخدمت فكرة مشابهة للشبكات التنافسية التوليدية (GANs) لنمذجة سلوك الحيوانات من قِبل وي لي، وميلفين غاوتشي، ورودريش غروس في عام 2013. [ 110 ]

كان التقدير التبايني للضوضاء مصدر إلهام آخر لشبكات GAN، [ 111 ] والذي يستخدم نفس دالة الخسارة مثل شبكات GAN والذي درسه غودفيلو خلال فترة الدكتوراه في 2010-2014.

للتعلم الآلي التنافسي استخدامات أخرى إلى جانب النمذجة التوليدية، ويمكن تطبيقه على نماذج أخرى غير الشبكات العصبية. في نظرية التحكم، استُخدم التعلم التنافسي القائم على الشبكات العصبية عام 2006 لتدريب وحدات تحكم قوية وفقًا لنظرية الألعاب، وذلك عن طريق التناوب بين سياسة تصغير (وحدة التحكم) وسياسة تعظيم (الاضطراب). [ 112 ] [ 113 ]

في عام ٢٠١٧، استُخدمت شبكة GAN لتحسين الصور، مع التركيز على الملمس الواقعي بدلاً من دقة البكسل، مما أدى إلى إنتاج جودة صورة أعلى عند التكبير العالي. [ ١١٤ ] وفي العام نفسه، تم توليد أولى الوجوه. [ ١١٥ ] وعُرضت هذه الوجوه في فبراير ٢٠١٨ في قصر غراند باليه. [ ١١٦ ] [ ١١٧ ] أما الوجوه التي تم توليدها بواسطة StyleGAN [ ١١٨ ] في عام ٢٠١٩، فقد قورنت بتقنية التزييف العميق (Deepfakes) . [ ١١٩ ] [ ١٢٠ ] [ ١٢١ ]

انظر أيضاً

مراجع

  1. 1 2 3 4 5 6 7 8 9 10 غودفيلو، إيان؛ بوجيه-أبادي، جان؛ ميرزا، مهدي؛ شو، بينغ؛ وارد-فارلي، ديفيد؛ أوزير، شيرجيل؛ كورفيل، آرون؛ بينجيو، يوشوا (2014). الشبكات التوليدية التنافسية (ملف PDF) . وقائع المؤتمر الدولي لأنظمة معالجة المعلومات العصبية (NIPS 2014). الصفحات 2672-2680 . 
  2. ↑ ساليمانس، تيم؛ غودفيلو، إيان؛ زاريمبا، فويتشيك؛ تشيونغ، فيكي؛ رادفورد، أليك؛ تشين، شي (2016). "تقنيات محسنة لتدريب الشبكات التوليدية الخصومية". arXiv : 1606.03498 [ cs.LG ].
  3. ↑ إيزولا، فيليب؛ تشو، جون يان؛ تشو، تينغ هوي؛ إفروس، أليكسي (2017). "ترجمة الصور باستخدام الشبكات التنافسية الشرطية" . رؤية الحاسوب والتعرف على الأنماط .
  4. ↑ هو، جوناثان؛ إرمون، ستيفانو (2016). "التعلم التوليدي التنافسي القائم على التقليد" . التطورات في أنظمة معالجة المعلومات العصبية . 29 : 4565-4573 . arXiv : 1606.03476 .
  5. ↑ "Vanilla GAN (GANs in computer vision: Introduction to generative learning)" . theaisummer.com . AI Summer. 10 أبريل 2020. مؤرشف من الأصل في 3 يونيو 2020. تم الاطلاع عليه في 20 سبتمبر 2020 .
  6. ↑ لوك، بولين؛ كوبيري ، كاميل؛ تشينتالا، سوميث؛ فيربيك، جاكوب (25 نوفمبر 2016). "التجزئة الدلالية باستخدام الشبكات التنافسية". ورشة عمل NIPS حول التدريب التنافسي، ديسمبر، برشلونة، إسبانيا . 2016. arXiv : 1611.08408 .
  7. ↑ أندريه كارباثي ؛ بيتر أبيل ؛ جريج بروكمان؛ بيتر تشين؛ فيكي تشيونغ؛ روكي دوان؛ إيان جودفيلو؛ دورك كينغما؛ جوناثان هو؛ رين هوثوفت؛ تيم ساليمانس؛ جون شولمان؛ إيليا سوتسكيفر؛ فويتشيك زاريمبا، النماذج التوليدية ، OpenAI ، تم الاطلاع عليه في 7 أبريل 2016
  8. ↑ محمد، شاكر؛ لاكشمينارايانان، بالاجي (2016). "التعلم في النماذج التوليدية الضمنية". arXiv : 1610.03483 [ stat.ML ].
  9. ↑ غودفيلو، إيان (3 أبريل 2017). "برنامج NIPS 2016 التعليمي: الشبكات التوليدية التنافسية". arXiv : 1701.00160 [ cs.LG ].
  10. ↑ كينغما، ديدريك ب.؛ ويلينغ، ماكس (2019). "مقدمة في المشفرات التلقائية التباينية". أسس واتجاهات في تعلم الآلة . 12 (4): 307-392 . arXiv : 1906.02691 . doi : 10.1561/2200000056 .
  11. ↑ كينغما، ديدريك ب.؛ ويلينغ، ماكس (1 مايو 2014). "الترميز التلقائي لبايز المتغير". arXiv : 1312.6114 [ stat.ML ].
  12. ↑ ريزيندي، دانيلو خيمينيز؛ محمد، شاكر؛ ويرسترا، دان (2014). "الانتشار العكسي العشوائي والاستدلال التقريبي في النماذج التوليدية العميقة" . مجلة أبحاث تعلم الآلة . 32 (2): 1278-1286 . arXiv : 1401.4082 .
  13. 1 2 فارنيا، فرزان؛ أوزداغلار، أسومان (21 نوفمبر 2020). "هل تمتلك الشبكات التوليدية الخصومية (GANs) دائمًا توازنات ناش؟" . وقائع المؤتمر الدولي السابع والثلاثين للتعلم الآلي . المجلد 119. PMLR. الصفحات 3029-3039 .  
  14. 1 2 3 ونغ ، ليليان (18 أبريل 2019). "من GAN إلى WGAN". أرخايف : 1904.08994 [ cs.LG ].
  15. 1 2 3 كراس، تيرو؛ ايلا، تيمو؛ لين، سامولي؛ ليهتينن، جاكو (1 أكتوبر 2017). “النمو التدريجي لشبكات GAN لتحسين الجودة والاستقرار والتنوع”. أرخايف : 1710.10196 [ cs.NE ].
  16. ^ سوفياني، بيترو؛ أردي، كلوديو؛ إيونيسكو، رادو تيودور؛ ليوردينو ، ماريوس (22 أكتوبر 2019). “منهج صعوبة الصورة لشبكات الخصومة التوليدية (CuGAN)”. أرخايف : 1910.08967 [ cs.LG ].
  17. ↑ هاكوهين، جاي؛ وينشال، دافنا (24 مايو 2019). "حول قوة التعلم المنهجي في تدريب الشبكات العميقة" . المؤتمر الدولي للتعلم الآلي . PMLR: 2535-2544 . arXiv : 1904.03626 .
  18. ↑ لين، زينان؛ وآخرون . (ديسمبر 2018). PacGAN: قوة عينتين في الشبكات التوليدية التنافسية . المؤتمر الدولي الثاني والثلاثون لأنظمة معالجة المعلومات العصبية. الصفحات 1505-1514 . arXiv : 1712.04086 .  
  19. ↑ ميشيدر، لارس؛ جايجر، أندرياس؛ نوفوزين، سيباستيان (31 يوليو 2018). "ما هي طرق تدريب الشبكات التوليدية الخصومية التي تتقارب بالفعل؟". arXiv : 1801.04406 [ cs.LG ].
  20. 1 2 بروك، أندرو؛ دوناهو، جيف؛ سيمونيان، كارين (1 سبتمبر 2018). تدريب الشبكات التوليدية الخصومية واسعة النطاق لتوليف الصور الطبيعية عالية الدقة . المؤتمر الدولي حول تمثيلات التعلم 2019. arXiv : 1809.11096 .
  21. ↑ هيوزل، مارتن؛ رامساور، هوبرت؛ أونترثينر، توماس؛ نيسلر، برنارد؛ هوكريتر، سيب (2017). "شبكات GAN المدربة بقاعدة تحديث ثنائية النطاق الزمني تتقارب إلى توازن ناش محلي" . التقدم في أنظمة معالجة المعلومات العصبية . 30. كوران أسوشيتس، إنك. arXiv : 1706.08500 .
  22. ↑ تشانغ، ريتشارد؛ إيزولا، فيليب؛ إفروس، أليكسي أ.؛ شيختمان، إيلي؛ وانغ، أوليفر (2018). "الفعالية غير المعقولة للميزات العميقة كمقياس إدراكي". الصفحات 586-595 . arXiv : 1801.03924 [ cs.CV ]. 
  23. ↑ بورجي، علي (1 فبراير 2019). "مزايا وعيوب مقاييس تقييم الشبكات التوليدية الخصومية" . رؤية الحاسوب وفهم الصور . 179 : 41-65 . arXiv : 1802.03446 . Bibcode : 2019CVIU..179...41B . doi : 10.1016/j.cviu.2018.10.009 . ISSN 1077-3142 . S2CID 3627712 .  
  24. ^ هندوبور ، أفيناش (15 يوليو 2022)، حديقة حيوان غان ، استرجاعها 15 يوليو، 2022
  25. ↑ أودينا، أوغسطس؛ أولاه، كريستوفر؛ شلينز، جوناثان (17 يوليو 2017). "توليف الصور المشروط باستخدام شبكات GAN المصنفة المساعدة" . المؤتمر الدولي للتعلم الآلي . PMLR: 2642-2651 . arXiv : 1610.09585 .
  26. ↑ رادفورد، أليك؛ ميتز، لوك؛ تشينتالا، سوميث (2016). "التعلم غير الخاضع للإشراف للتمثيل باستخدام الشبكات التوليدية التنافسية العميقة". ICLR . S2CID 11758569 . 
  27. ↑ لونغ، جوناثان؛ شيلهامر، إيفان؛ داريل، تريفور (2015). "شبكات الالتفاف الكاملة للتجزئة الدلالية" . CVF : 3431-3440 .
  28. ↑ تشانغ، هان؛ غودفيلو، إيان؛ ميتاكساس، ديميتريس؛ أودينا، أوغسطس (24 مايو 2019). "شبكات الخصومة التوليدية ذاتية الانتباه" . المؤتمر الدولي للتعلم الآلي . PMLR: 7354–7363 .
  29. ^ لارسن، أندرس بويسين ليندبو؛ سوندرباي، سورين كاي؛ لاروشيل، هوغو؛ وينتر ، أولي (11 يونيو 2016). "التشفير التلقائي وراء وحدات البكسل باستخدام مقياس التشابه المكتسب" . المؤتمر الدولي للتعلم الآلي . PMLR: 1558–1566 . أرخايف : 1512.09300 .
  30. ↑ جيانغ، ييفان؛ تشانغ، شييو؛ وانغ، تشانغيانغ (8 ديسمبر 2021). "TransGAN: يمكن لمحولين نقيين تكوين شبكة GAN قوية واحدة، ويمكن توسيع نطاقها". arXiv : 2102.07074 [ cs.CV ].
  31. ↑ جروفر، أديتيا؛ دار، مانيك؛ إرمون، ستيفانو (1 مايو 2017). "Flow-GAN: الجمع بين أقصى احتمال والتعلم التنافسي في النماذج التوليدية". arXiv : 1705.08868 [ cs.LG ].
  32. ↑ أرجوفسكي، مارتن؛ بوتو، ليون (1 يناير 2017). "نحو أساليب مبدئية لتدريب الشبكات التوليدية التنافسية". arXiv : 1701.04862 [ stat.ML ].
  33. ↑ غودفيلو، إيان ج. (1 ديسمبر 2014). "حول معايير التمييز لتقدير النماذج التوليدية". arXiv : 1412.6515 [ stat.ML ].
  34. ↑ غودفيلو، إيان (31 أغسطس 2016). "الشبكات التوليدية التنافسية (GANs)، عرض تقديمي في مختبر بيركلي للذكاء الاصطناعي" (ملف PDF) . مؤرشف (ملف PDF) من الأصل في 8 مايو 2022.
  35. ^ ليم، جاي هيون؛ يي جونغ تشول (8 مايو 2017). "GAN الهندسية". أرخايف : 1705.02894 [ stat.ML ].
  36. ↑ ماو، شودونغ؛ لي، تشينغ؛ شي، هاوران؛ لاو، ريموند واي كيه؛ وانغ، تشن؛ بول سمولي، ستيفن (2017). "شبكات الخصومة التوليدية باستخدام طريقة المربعات الصغرى" . المؤتمر الدولي لهندسة الكهرباء والإلكترونيات (IEEE) حول رؤية الحاسوب (ICCV) لعام 2017. الصفحات 2794-2802 . arXiv : 1611.04076 . doi : 10.1109/ICCV.2017.304 . ISBN  978-1-5386-1032-9.
  37. ↑ مخزني، علي رضا؛ شلينز، جوناثان؛ جايتلي، نافديب؛ جودفيلو، إيان ؛ فراي، بريندان (2016). "المشفرات التلقائية المعادية". arXiv : 1511.05644 [ cs.LG ].
  38. ↑ باربر، ديفيد؛ أغاكوف، فيليكس (9 ديسمبر 2003). "خوارزمية IM: منهج حساب التفاضل والتكامل لتعظيم المعلومات" . وقائع المؤتمر الدولي السادس عشر لأنظمة معالجة المعلومات العصبية . NIPS'03. كامبريدج، ماساتشوستس، الولايات المتحدة الأمريكية: مطبعة معهد ماساتشوستس للتكنولوجيا: 201-208 .
  39. ↑ تشين، شي؛ دوان، يان؛ هوثوفت، راين؛ شولمان، جون؛ سوتسكيفر، إيليا؛ أبيل، بيتر (2016). "InfoGAN: تعلم التمثيل القابل للتفسير بواسطة الشبكات التوليدية التنافسية التي تزيد من المعلومات" . التقدم في أنظمة معالجة المعلومات العصبية . 29. كوران أسوشيتس، إنك. arXiv : 1606.03657 .
  40. ^ دوناهو ، جيف. كراهينبول، فيليب؛ داريل ، تريفور (2016). “التعلم ميزة الخصومة”. أرخايف : 1605.09782 [ cs.LG ].
  41. ↑ دومولين، فينسنت؛ بلغازي، إسماعيل؛ بول، بن؛ ماستروبيترو، أوليفييه؛ أرجوفسكي، أليكس؛ كورفيل، آرون (2016). "الاستدلال المُتعلّم من خلال الخصومة". arXiv : 1606.00704 [ stat.ML ].
  42. ↑ شي تشن؛ يان دوان؛ رين هوثوفت؛ جون شولمان؛ إيليا سوتسكيفر ؛ بيتر أبيل (2016). "InfoGAN: تعلم التمثيل القابل للتفسير بواسطة الشبكات التوليدية التنافسية التي تزيد من المعلومات". arXiv : 1606.03657 [ cs.LG ].
  43. ↑ زيروي تشانغ؛ شوجي ليو؛ مو لي؛ مينغ تشو؛ إينهونغ تشن (أكتوبر 2018). "شبكات الخصومة التوليدية ثنائية الاتجاه للترجمة الآلية العصبية" (ملف PDF) . الصفحات 190-199 . 
  44. ↑ تشو، جون يان؛ بارك، تايسونغ؛ إيزولا، فيليب؛ إفروس، أليكسي أ. (2017). "ترجمة الصور غير المزدوجة باستخدام الشبكات التنافسية المتسقة دوريًا". الصفحات 2223-2232 . arXiv : 1703.10593 [ cs.CV ]. 
  45. ↑ إيزولا، فيليب؛ تشو، جون يان؛ تشو، تينغ هوي؛ إفروس، أليكسي أ. (2017). "ترجمة الصور باستخدام الشبكات التنافسية الشرطية". الصفحات 1125-1134 . arXiv : 1611.07004 [ cs.CV ]. 
  46. ↑ براونلي، جيسون (22 أغسطس 2019). "مقدمة مبسطة لشبكة BigGAN، الشبكة التوليدية التنافسية الكبيرة" . إتقان تعلم الآلة . تم الاسترجاع في 15 يوليو 2022 .
  47. ↑ شينغيو، تشاو؛ تشيجيان، ليو؛ جي، لين؛ جون يان، تشو؛ سونغ، هان (2020). " التوسيع التفاضلي لتدريب الشبكات التوليدية الخصومية بكفاءة البيانات" . التقدم في أنظمة معالجة المعلومات العصبية . 33. arXiv : 2006.10738 .
  48. 1 2 3 تيرو، كراس؛ ميكا، أيتالا؛ جان، هيلستن؛ سامولي، لين؛ جاكو، ليهتينن؛ تيمو، أيلا (2020). "تدريب شبكات الخصومة التوليدية ببيانات محدودة" . التقدم في أنظمة معالجة المعلومات العصبية . 33 .
  49. ↑ شاهام، تمار روت؛ ديكل، تالي؛ ميخائيلي، تومر (أكتوبر 2019). "SinGAN: تعلم نموذج توليدي من صورة طبيعية واحدة" . المؤتمر الدولي IEEE/CVF لرؤية الحاسوب (ICCV) لعام 2019. IEEE. الصفحات 4569-4579 . arXiv : 1905.01164 . doi : 10.1109/iccv.2019.00467 . ISBN  978-1-7281-4803-8. S2CID 145052179 . 
  50. ↑ كاراس، تيرو؛ لاين، سامولي؛ آيلا، تيمو (يونيو 2019). "معمارية مولد قائمة على الأسلوب لشبكات الخصومة التوليدية" . مؤتمر IEEE/CVF لعام 2019 حول رؤية الحاسوب والتعرف على الأنماط (CVPR) . IEEE. الصفحات 4396-4405 . arXiv : 1812.04948 . doi : 10.1109/cvpr.2019.00453 . ISBN  978-1-7281-3293-8. S2CID 54482423 . 
  51. ^ كراس، تيرو. لين، سامولي؛ أيتالا، ميكا؛ هيلستن، جان. ليهتينن، جاكو؛ ايلا ، تيمو (يونيو 2020). "تحليل وتحسين جودة الصورة في StyleGAN" . مؤتمر IEEE/CVF لعام 2020 حول الرؤية الحاسوبية والتعرف على الأنماط (CVPR) . IEEE. ص 8107 – 8116. أرخايف : 1912.04958 . دوى : 10.1109/cvpr42600.2020.00813 . رقم ISBN  978-1-7281-7168-5. S2CID 209202273 . 
  52. ^ تيمو، كراس، تيرو أيتالا، ميكا لين، سامولي هاركونن، إريك هيلستن، جان ليهتينن، جاكو أيلا (23 يونيو 2021). شبكات الخصومة التوليدية الخالية من الاسم المستعار . او سي ال سي 1269560084 . {{cite book}}: صيانة CS1: أسماء متعددة: قائمة المؤلفين ( رابط )
  53. ^ كراس، تيرو. أيتالا، ميكا؛ لين، سامولي؛ هاركونن، إريك؛ هيلستن، جان. ليهتينن، جاكو؛ ايلا، تيمو. "شبكات الخصومة التوليدية الخالية من الاسم المستعار (StyleGAN3)" . nvlabs.github.io . تم الاسترجاع في 16 يوليو 2022 .
  54. ^ لي ، بوني. فرانسوا لافيت، فنسنت؛ دوان، ثانج؛ بينو ، جويل (14 فبراير 2021). “تعلم تعزيز الخصومة في المجال”. أرخايف : 2102.07097 [ cs.LG ].
  55. ↑ شاوينسكي، كيفن؛ تشانغ، سي؛ تشانغ، هانتيان؛ فاولر، لوكاس؛ سانثانام، غوكولا كريشنان (1 فبراير 2017). "شبكات الخصومة التوليدية تستعيد السمات في الصور الفيزيائية الفلكية للمجرات بما يتجاوز حد فك الالتفاف" . الإشعارات الشهرية للجمعية الفلكية الملكية: رسائل . 467 (1): L110– L114. arXiv : 1702.00403 . Bibcode : 2017MNRAS.467L.110S . doi : 10.1093/mnrasl/slx008 . S2CID 7213940 . 
  56. ↑ كينكيد، كاثي. "باحثون يدربون شبكة عصبية لدراسة المادة المظلمة" . مجلة البحث والتطوير.
  57. ↑ كينكيد، كاثي (16 مايو 2019). "CosmoGAN: تدريب شبكة عصبية لدراسة المادة المظلمة" . Phys.org .
  58. ↑ "تدريب شبكة عصبية لدراسة المادة المظلمة" . ساينس ديلي . 16 مايو 2019.
  59. ↑ في الساعة 06:13، كاتيانا كواتش، 20 مايو 2019. "علماء الكون يستخدمون الشبكات العصبية لبناء خرائط المادة المظلمة بطريقة سهلة" . www.theregister.co.uk . تاريخ الاطلاع: 20 مايو 2019 .{{cite web}}: صيانة CS1: الأسماء الرقمية: قائمة المؤلفين ( رابط )
  60. ↑ مصطفى، مصطفى؛ بارد، ديبورا؛ بهيمجي، وحيد؛ لوكيتش، زاريا؛ الرفوع، رامي؛ كراتوشفيل، يان م. (6 مايو 2019). "CosmoGAN: إنشاء خرائط تقارب العدسات الضعيفة عالية الدقة باستخدام الشبكات التوليدية التنافسية" . الفيزياء الفلكية الحاسوبية وعلم الكونيات . 6 (1) 1. arXiv : 1706.02390 . Bibcode : 2019ComAC...6....1M . doi : 10.1186/s40668-019-0029-9 . ISSN 2197-7909 . S2CID 126034204 .  
  61. ↑ باغانيني، ميكيلا؛ دي أوليفيرا، لوك؛ ناخمان، بنيامين (2017). "تعلم فيزياء الجسيمات من خلال الأمثلة: شبكات الخصومة التوليدية الواعية بالموقع لتوليف الفيزياء". الحوسبة والبرمجيات للعلوم الكبرى . 1 (1): 4. arXiv : 1701.05927 . Bibcode : 2017CSBS....1....4D . doi : 10.1007/s41781-017-0004-6 . S2CID 88514467 . 
  62. ↑ باغانيني، ميكيلا؛ دي أوليفيرا، لوك؛ ناخمان، بنجامين (2018). "تسريع العلوم باستخدام الشبكات التوليدية التنافسية: تطبيق على وابلات الجسيمات ثلاثية الأبعاد في المسعرات متعددة الطبقات". رسائل المراجعة الفيزيائية . 120 (4) 042003. arXiv : 1705.02355 . Bibcode : 2018PhRvL.120d2003P . doi : 10.1103/PhysRevLett.120.042003 . PMID 29437460. S2CID 3330974 .  
  63. ↑ باغانيني، ميكايلا؛ دي أوليفيرا، لوك؛ ناخمان، بنيامين (2018). "CaloGAN: محاكاة وابلات الجسيمات ثلاثية الأبعاد عالية الطاقة في مسعرات كهرومغناطيسية متعددة الطبقات باستخدام الشبكات التوليدية التنافسية". مجلة الفيزياء D. 97 ( 1) 014021. arXiv : 1712.10321 . Bibcode : 2018PhRvD..97a4021P . doi : 10.1103/PhysRevD.97.014021 . S2CID 41265836 . 
  64. ↑ إردمان، مارتن؛ غلومبيتزا، جوناس؛ كواست، ثوربن (2019). "محاكاة دقيقة لوابلات المسعر الكهرومغناطيسي باستخدام شبكة ووترشتاين التوليدية التنافسية". الحوسبة والبرمجيات للعلوم الكبيرة . 3 (1): 4. arXiv : 1807.01954 . Bibcode : 2019CSBS....3....4E . doi : 10.1007/s41781-018-0019-7 . S2CID 54216502 . 
  65. ↑ موسيللا، باسكوالي؛ باندولفي، فرانشيسكو (2018). "محاكاة سريعة ودقيقة لكاشفات الجسيمات باستخدام الشبكات التوليدية التنافسية". الحوسبة والبرمجيات للعلوم الكبيرة . 2 (1): 8. arXiv : 1805.00850 . Bibcode : 2018CSBS....2....8M . doi : 10.1007/s41781-018-0015-y . S2CID 119474793 . 
  66. ↑ "نماذج توليدية عميقة لمحاكاة سريعة للوابل في ATLAS" . 2018.
  67. ↑ تعاون SHiP (2019). "محاكاة سريعة للميونات المنتجة في تجربة SHiP باستخدام الشبكات التوليدية التنافسية". مجلة الأجهزة . 14 (11) 11028. arXiv : 1909.04451 . Bibcode : 2019JInst..14P1028A . doi : 10.1088/1748-0221/14/11/P11028 . S2CID 202542604 . 
  68. ↑ نيستا، لودوفيكو؛ بيتس، هاينز؛ شومان، كريستوف دي كيه؛ بودي، ماتيس؛ غرينغا، تيميستوكلي؛ ماك آرت، جوناثان إف؛ أتيلي، أنطونيو (4 يونيو 2024). "تأثير التدريب التنافسي على إعادة بناء الاضطراب فائق الدقة" . مجلة Physical Review Fluids . 9 (6) 064601. arXiv : 2308.16015 . Bibcode : 2024PhRvF...9f4601N . doi : 10.1103/PhysRevFluids.9.064601 .
  69. ↑ نيستا، ل.؛ شومان، سي دي كيه؛ غرينغا، ت.؛ أتيلي، أ.؛ بيتسش، هـ. (1 يناير 2023). "دراسة قدرة التعميم لشبكة توليدية معادية لمحاكاة الدوامات الكبيرة لتدفقات التفاعل المضطربة الممزوجة مسبقًا" . وقائع معهد الاحتراق . 39 (4): 5279-5288 . Bibcode : 2023PComI..39.5279N . doi : 10.1016/j.proci.2022.07.244 . hdl : 20.500.11820/d36801a4-ead5-4379-92a4-020a509112ec . ISSN 1540-7489 . 
  70. ↑ فوكامي، كاي؛ فوكاغاتا، كوجي؛ تايرا، كونيهيكو (1 أغسطس 2020). "تقييم أساليب التعلم الآلي الخاضعة للإشراف لتدفقات الموائع". ديناميكيات الموائع النظرية والحسابية . 34 (4): 497-519 . arXiv : 2001.09618 . Bibcode : 2020ThCFD..34..497F . doi : 10.1007/s00162-020-00518-y . ISSN 1432-2250 . 
  71. ↑ زافورونكوف، أليكس (2019). "التعلم العميق يُمكّن من التحديد السريع لمثبطات كيناز DDR1 الفعّالة". مجلة Nature Biotechnology . 37 (9): 1038–1040 . doi : 10.1038/s41587-019-0224-x . PMID 31477924. S2CID 201716327 .  
  72. ↑ باربر، غريغوري. "جزيء مصمم بواسطة الذكاء الاصطناعي يُظهر خصائص "شبيهة بالمخدرات" . وايرد .
  73. ↑ مرادي، م؛ ديميريل، ح (2024). "تصنيف مرض الزهايمر باستخدام اختيار البيانات القائم على الشبكات التوليدية الخصومية التقدمية الشرطية ثلاثية الأبعاد وتحليل التمييز الخطي". معالجة الإشارات والصور والفيديو . 18 (2): 1847-1861 . doi : 10.1007/s11760-023-02878-4 .
  74. ^ بيسنتو، توماز ريبيرو فيانا؛ دي كارفاليو فيلهو، أنطونيو أوسياس؛ ماجالهايس, ديبورا ماريا فييرا (فبراير 2020). “ميزات الشبكة والنسيج الخصومة التوليدية المطبقة على الكشف التلقائي عن الجلوكوما”. الحوسبة الناعمة التطبيقية . 90 106165. دوى : 10.1016/j.asoc.2020.106165 . S2CID 214571484 . 
  75. ↑ إعادة بناء تاريخ الأباطرة الرومان: مقابلة مع دانيال فوشارت ، 16 نوفمبر 2020 ، تم الاطلاع عليها في 3 يونيو 2022
  76. ↑ msmash (14 فبراير 2019). "موقع "هذا الشخص غير موجود" يستخدم الذكاء الاصطناعي لإنشاء وجوه واقعية لكنها مرعبة . سلاش دوت . تاريخ الاطلاع: ١٦ فبراير ٢٠١٩ .
  77. ↑ دويل، مايكل (16 مايو 2019). "جون بيزلي يسكن في شارع سادل هورس درايف في إيفانسفيل. أم أنه لا يسكن؟" . كوريير آند برس.
  78. ↑ تارجيت، إد (16 مايو 2019). "كاليفورنيا تقترب من تجريم المواد الإباحية المزيفة بتقنية التزييف العميق". مجلة أعمال الكمبيوتر.
  79. ↑ ميهالسيك، كاري (4 أكتوبر 2019). "قوانين كاليفورنيا تسعى للحد من التزييف العميق في السياسة والمواد الإباحية" . cnet.com . CNET . تم الاطلاع عليه في 13 أكتوبر 2019 .
  80. ↑ نايت، ويل (7 أغسطس 2018). "وزارة الدفاع الأمريكية تُنتج أولى الأدوات لكشف التزييف العميق" . مجلة إم آي تي ​​للتكنولوجيا .
  81. ↑ فينسنت، جيمس (5 مارس 2019). "تدفق لا ينتهي من فن الذكاء الاصطناعي يُعرض في مزاد علني" . ذا فيرج . تم الاطلاع عليه في 13 يونيو 2020 .
  82. ↑ يو، جياهوي، وآخرون. " ترميم الصور التوليدي باستخدام الانتباه السياقي ". وقائع مؤتمر IEEE حول رؤية الحاسوب والتعرف على الأنماط. 2018.
  83. ↑ وونغ، سيسي (27 مايو 2019). "صعود عارضات الأزياء الخارقات بتقنية الذكاء الاصطناعي" . اتجاهات CDO .
  84. ↑ طايف، ك.؛ أوجيل، ح.؛ محمود، إ. (2020). "توليد الظلال باستخدام الشبكات التوليدية التنافسية". علوم الحاسوب - المؤتمر الدولي لعلوم الحاسوب 2020. سلسلة محاضرات في علوم الحاسوب. المجلد 12141. الصفحات 481-495 . doi : 10.1007/978-3-030-50426-7_36 . ISBN   978-3-030-50425-0. PMC 7302543 . 
  85. ↑ وي، جيري (3 يوليو 2019). "تصميم الأحذية باستخدام التعلم الآلي" . ميديوم . مؤرشف من الأصل في 30 أبريل 2020. تم الاطلاع عليه في 6 نوفمبر 2019 .
  86. ↑ غرينماير، لاري (20 يونيو 2016). "متى ستمتلك الحواسيب الحس السليم؟ اسألوا فيسبوك" . مجلة ساينتفك أمريكان . تم الاطلاع عليه في 31 يوليو 2016 .
  87. ↑ الجمال، أحمد؛ ليو، بينغتشين؛ الحسيني، محمد؛ مازوني، ماريان (2017). "CAN: شبكات الخصومة الإبداعية، توليد "الفن" من خلال تعلم الأساليب والانحراف عن معايير الأسلوب". arXiv : 1706.07068 [ cs.AI ].
  88. ↑ مازوني، ماريان؛ أحمد الجمال (21 فبراير 2019). "الفن والإبداع وإمكانات الذكاء الاصطناعي" . الفنون . 8 : 26. doi : 10.3390/arts8010026 .
  89. ↑ كوهن، غابي (25 أكتوبر 2018). "بيع عمل فني بتقنية الذكاء الاصطناعي في مزاد كريستيز مقابل 432,500 دولار" . صحيفة نيويورك تايمز .
  90. ^ تانغ، شياو؛ تشياو، يو؛ لوي، تشن التغيير؛ دونغ، تشاو؛ ليو، ييهاو؛ قو، جينجين؛ وو، شيشيانغ؛ يو، كه؛ وانغ ، شينتاو (1 سبتمبر 2018). “ESRGAN: شبكات الخصومة التوليدية المحسنة فائقة الدقة”. أرخايف : 1809.00219 [ cs.CV ].
  91. ↑ ألين، إريك فان (8 يوليو 2020). "ملحمة رعب زيلدا سيئة السمعة تستخدم الذكاء الاصطناعي لصياغة نهايتها" . يو إس غيمر . مؤرشف من الأصل في 7 نوفمبر 2022. تم الاسترجاع في 7 نوفمبر 2022 .
  92. ↑ أركيد أتاك (28 سبتمبر 2020). "بودكاست أركيد أتاك - سبتمبر (4 من 4) 2020 - أليكس هول (بن دراوند) - مقابلة" . أركيد أتاك . تم الاطلاع عليه في 7 نوفمبر 2022 .
  93. ↑ "تقنية الذكاء الاصطناعي من إنفيديا تعيد إنشاء لعبة باك مان من الصفر بمجرد مشاهدتها أثناء اللعب" . ذا فيرج . 22 مايو 2020.
  94. ↑ سيونغ ووك كيم؛ تشو، يوهاو؛ فيليون، جوناه؛ تورالبا، أنطونيو؛ فيدلر، سانيا (2020). "تعلم محاكاة البيئات الديناميكية باستخدام GameGAN". arXiv : 2005.12126 [ cs.CV ].
  95. ↑ يو، يي؛ كاناليس، سيمون (2021). "شبكة LSTM-GAN الشرطية لتوليد الألحان من الكلمات". معاملات ACM في الحوسبة متعددة الوسائط والاتصالات والتطبيقات . 17 : 1-20 . arXiv : 1908.05551 . doi : 10.1145/3424116 . ISSN 1551-6857 . S2CID 199668828 .  
  96. ↑ أنتيبوف، غريغوري؛ باكوش، معز؛ دوجيلاي، جان لوك (2017). "شيخوخة الوجه باستخدام الشبكات التوليدية التنافسية الشرطية". arXiv : 1702.01983 [ cs.CV ].
  97. ↑ "شبكة الخصومة التوليدية ثلاثية الأبعاد" . 3dgan.csail.mit.edu .
  98. ↑ أشليوبتاس، بانوس؛ ديامانتي، أولغا؛ ميتلياغكاس، يوانيس؛ غيباس، ليونيداس (2018). "تعلم التمثيلات والنماذج التوليدية لسحب النقاط ثلاثية الأبعاد". arXiv : 1707.02392 [ cs.CV ].
  99. ↑ فوندريك، كارل؛ بيرسيافاش، حامد؛ تورالبا، أنطونيو (2016). "إنشاء مقاطع فيديو باستخدام ديناميكيات المشهد" . carlvondrick.com . arXiv : 1609.02612 . Bibcode : 2016arXiv160902612V .
  100. ↑ كانغ، يوهاو؛ غاو، سونغ؛ روث، روب (2019). "نقل أنماط الخرائط متعددة المقاييس باستخدام الشبكات التوليدية التنافسية" . المجلة الدولية لرسم الخرائط . 5 ( 2-3 ): 115-141 . arXiv : 1905.02200 . Bibcode : 2019IJCar...5..115K . doi : 10.1080/23729333.2019.1615729 . S2CID 146808465 . 
  101. ↑ ويناندز، جاسبر؛ نايس، كيري؛ طومسون، جيسون؛ تشاو، هايفنغ؛ ستيفنسون، مارك (2019). "تحسين المشهد الحضري باستخدام الشبكات التوليدية التنافسية: رؤى متعلقة بالصحة والرفاهية". المدن والمجتمعات المستدامة . 49 101602. arXiv : 1905.06464 . Bibcode : 2019SusCS..4901602W . doi : 10.1016/j.scs.2019.101602 . S2CID 155100183 . 
  102. ↑ أوكونين، أنتي؛ يونا، بيري؛ روتسالو، توكا (2020). "توليد الصور بدلاً من استرجاعها" . وقائع المؤتمر الدولي الثالث والأربعين لجمعية ACM SIGIR حول البحث والتطوير في استرجاع المعلومات . الصفحات 1329-1338 . doi : 10.1145/3397271.3401129 . hdl : 10138/328471 . ISBN  978-1-4503-8016-4. S2CID 220730163 . 
  103. ↑ "يمكن للذكاء الاصطناعي أن يُرينا آثار تغير المناخ المدمرة" . مجلة إم آي تي ​​للتكنولوجيا . 16 مايو 2019.
  104. ↑ كريستيان، جون (28 مايو 2019). "ذكاء اصطناعي مذهل يخمن شكلك بناءً على صوتك" . فيوتشريزم.
  105. ↑ كولب، باتريك (23 مايو 2019). "مختبر الذكاء الاصطناعي التابع لشركة سامسونج قادر على إنشاء لقطات فيديو مزيفة من صورة شخصية واحدة" . AdWeek .
  106. ↑ محمد نافيد فكري؛ أناندا موهون غوش؛ كاتارينا غرولينغر (2020). "توليد بيانات الطاقة للتعلم الآلي باستخدام الشبكات التوليدية التنافسية المتكررة" . مجلة Energies . 13 (1): 130. doi : 10.3390/en13010130 .
  107. ↑ شميدهوبر، يورغن (1991). "إمكانية تطبيق الفضول والملل في وحدات التحكم العصبية لبناء النماذج". وقائع مؤتمر SAB'1991 . مطبعة معهد ماساتشوستس للتكنولوجيا/كتب برادفورد. الصفحات 222-227 . 
  108. ↑ شميدهوبر، يورغن (2020). "الشبكات التوليدية التنافسية هي حالات خاصة من الفضول الاصطناعي (1990) وترتبط ارتباطًا وثيقًا بتقليل إمكانية التنبؤ (1991)". الشبكات العصبية . 127 : 58-66 . arXiv : 1906.04493 . doi : 10.1016/j.neunet.2020.04.008 . PMID 32334341. S2CID 216056336 .  
  109. ↑ نيميتالو، أولي (24 فبراير 2010). "طريقة لتدريب الشبكات العصبية الاصطناعية لتوليد البيانات المفقودة ضمن سياق متغير" . أرشيف الإنترنت (آلة واي باك) . مؤرشف من الأصل في 12 مارس 2012. تم الاطلاع عليه في 22 فبراير 2019 .
  110. ↑ لي، وي؛ غاوتشي، ملفين؛ غروس، رودريش (6 يوليو 2013). "وقائع المؤتمر السنوي الخامس عشر حول الحوسبة الجينية والتطورية - GECCO '13". وقائع المؤتمر السنوي الخامس عشر حول الحوسبة الجينية والتطورية (GECCO 2013) . أمستردام، هولندا: ACM. الصفحات 223-230 . doi : 10.1145/2463372.2465801 . ISBN  978-1-4503-1963-8.
  111. ↑ غوتمان، مايكل؛ هيفارينين، آبو. "تقدير التباين الضوضائي" (ملف PDF) . المؤتمر الدولي للذكاء الاصطناعي والإحصاء .
  112. ↑ أبو خلف، مراد؛ لويس، فرانك ل.؛ هوانغ، جي (1 يوليو 2008). "البرمجة العصبية الديناميكية وألعاب المحصلة الصفرية لأنظمة التحكم المقيدة". معاملات IEEE في الشبكات العصبية . 19 (7): 1243-1252 . Bibcode : 2008ITNN...19.1243A . doi : 10.1109/TNN.2008.2000204 . S2CID 15680448 . 
  113. ↑ أبو خلف ، مراد؛ لويس، فرانك ل.؛ هوانغ، جي (1 ديسمبر 2006). "تكرارات السياسة على معادلة هاميلتون-جاكوبي-إسحاق للتحكم في التغذية الراجعة للحالة H∞ مع تشبع المدخلات". معاملات IEEE في التحكم الآلي . doi : 10.1109/TAC.2006.884959 . S2CID 1338976 . 
  114. ↑ سجادي، مهدي إس إم؛ شولكوف، برنارد؛ هيرش، مايكل (23 ديسمبر 2016). "EnhanceNet: تحسين دقة الصور الفردية من خلال توليف النسيج الآلي". arXiv : 1612.07919 [ cs.CV ].
  115. ↑ "هذا الشخص غير موجود: ولن يكون هناك أي شيء في نهاية المطاف مع الذكاء الاصطناعي" . 20 مارس 2019.
  116. ↑ "الذكاء الاصطناعي يدخل تاريخ الفن" . 28 ديسمبر 2018.
  117. ^ توم فيفرييه (17 فبراير 2019). "فضيحة الذكاء الاصطناعي" .
  118. ↑ "StyleGAN: التنفيذ الرسمي لـ TensorFlow" . 2 مارس 2019 - عبر GitHub.
  119. ↑ بايز، داني (13 فبراير 2019). "موقع This Person Does Not Exist هو أفضل موقع إلكتروني فريد من نوعه لعام 2019" . تم الاطلاع عليه بتاريخ 16 فبراير 2019 .
  120. ↑ بيشيزا، روب (15 فبراير 2019). "هذا الشخص غير موجود" . بوينغ بوينغ . تم الاسترجاع في 16 فبراير 2019 .
  121. ↑ هوريف، راني (26 ديسمبر 2018). "شبكات GAN القائمة على الأنماط - توليد وضبط وجوه اصطناعية واقعية" . Lyrn.AI. مؤرشف من الأصل في 5 نوفمبر 2020. تم الاطلاع عليه في 16 فبراير 2019 .