ديب فيك

📅 آخر تحديث: ٢٥ يوليو ٢٠٢٦
✍️ نُشر في: ٢٥ يوليو ٢٠٢٦
📷 يحتوي على 9 صور
الموسوعة الحرة

فيديو مزيف لكيم جونج أون تم إنشاؤه في عام 2020 بواسطة مجموعة المناصرة غير الحزبية RepresentUs
جزء من سلسلة عن
الذكاء الاصطناعي
الأهداف الرئيسية
النهج
التطبيقات
فلسفة
تاريخ
المصطلحات
  • ف
  • ت
  • هـ

التزييف العميق ( كلمة مركبة من " التعلم العميق " و " المزيف " [1] ) عبارة عن صور أو مقاطع فيديو أو ملفات صوتية يتم تحريرها أو إنشاؤها باستخدام أدوات الذكاء الاصطناعي، والتي قد تصور أشخاصًا حقيقيين أو غير موجودين. إنها نوع من الوسائط الاصطناعية . [2]

في حين أن فعل إنشاء محتوى مزيف ليس جديدًا، فإن تقنية التزييف العميق تستفيد بشكل فريد من الأدوات والتقنيات التكنولوجية للتعلم الآلي والذكاء الاصطناعي ، [3] [4] [5] بما في ذلك خوارزميات التعرف على الوجه والشبكات العصبية الاصطناعية مثل أجهزة الترميز التلقائية المتغيرة (VAEs) والشبكات التنافسية التوليدية (GANs). [4] [6] بدوره، يطور مجال الطب الشرعي للصور تقنيات للكشف عن الصور التي تم التلاعب بها . [7] اكتسبت تقنية التزييف العميق اهتمامًا واسع النطاق لاستخدامها المحتمل في إنشاء مواد الاعتداء الجنسي على الأطفال ومقاطع فيديو إباحية للمشاهير والإباحية الانتقامية والأخبار المزيفة والخدع والتنمر والاحتيال المالي . [8] [9] [10] [11 ]

أعرب الأكاديميون عن مخاوفهم بشأن إمكانية استخدام التزييف العميق للترويج للمعلومات المضللة وخطاب الكراهية والتدخل في الانتخابات. واستجابت صناعة تكنولوجيا المعلومات والحكومات بتوصيات للكشف عن استخدام هذه التزييفات والحد منها.

من الترفيه التقليدي إلى الألعاب ، تطورت تقنية التزييف العميق لتصبح مقنعة بشكل متزايد [12] ومتاحة للجمهور، مما يسمح بتعطيل صناعات الترفيه والإعلام . [ 13]

تاريخ

صورة للممثلة سيدني سويني تم إنشاؤها بواسطة Stable Diffusion

تم تطوير التلاعب بالصور في القرن التاسع عشر وتم تطبيقه سريعًا على الأفلام السينمائية. تحسنت التكنولوجيا بشكل مطرد خلال القرن العشرين، وبسرعة أكبر مع ظهور الفيديو الرقمي .

تم تطوير تقنية Deepfake بواسطة باحثين في المؤسسات الأكاديمية بداية من تسعينيات القرن العشرين، ثم بعد ذلك بواسطة هواة في المجتمعات عبر الإنترنت. [14] [15] وفي الآونة الأخيرة، تم اعتماد هذه الأساليب من قبل الصناعة. [16]

البحث الأكاديمي

ينقسم البحث الأكاديمي المتعلق بالتزييف العميق بين مجال الرؤية الحاسوبية ، وهو مجال فرعي من علوم الكمبيوتر، [14] والذي يطور تقنيات لإنشاء وتحديد التزييف العميق، ومناهج العلوم الإنسانية والاجتماعية التي تدرس الآثار الاجتماعية والأخلاقية والجمالية للتزييف العميق.

مناهج العلوم الاجتماعية والإنسانية في التعامل مع التزييف العميق

في دراسات السينما، توضح عمليات التزييف العميق كيف "يبرز الوجه البشري ككائن مركزي للتناقض في العصر الرقمي". [17] استخدم فنانو الفيديو عمليات التزييف العميق "لإعادة كتابة تاريخ الفيلم بشكل مرح من خلال إعادة تأهيل السينما التقليدية مع فنانين نجوم جدد". [18] يحلل عالم الأفلام كريستوفر هوليداي كيف يؤدي تبديل جنس وعرق الممثلين في مشاهد الأفلام المألوفة إلى زعزعة استقرار تصنيفات وفئات الجنس. [18] تمت مناقشة فكرة " إضفاء الطابع الغريب " على عمليات التزييف العميق أيضًا في مناقشة أوليفر م. جينجريتش للأعمال الفنية الإعلامية التي تستخدم عمليات التزييف العميق لإعادة صياغة الجنس، [19] بما في ذلك عمل الفنان البريطاني جيك إلويس زيزي: كويرينغ ذا داتاسيت ، وهو عمل فني يستخدم عمليات تزييف عميقة لملكات السحب للعب عمدًا بالجنس. كما بدأ استكشاف الإمكانات الجمالية لعمليات التزييف العميق. يلاحظ مؤرخ المسرح جون فليتشر أن العروض المبكرة للتزييف العميق تُعرض على أنها عروض، ويضعها في سياق المسرح، ويناقش "بعض التحولات النموذجية الأكثر إثارة للقلق" التي تمثلها التزييف العميق كنوع من الأداء. [20]

ناقش الفلاسفة وعلماء الإعلام أخلاقيات التزييف العميق خاصة فيما يتعلق بالمواد الإباحية. [21] تستعين عالمة الإعلام إميلي فان دير ناجل بالأبحاث في دراسات التصوير الفوتوغرافي للصور المعدلة لمناقشة أنظمة التحقق التي تسمح للنساء بالموافقة على استخدام صورهن. [22]

بعيدًا عن المواد الإباحية، صاغ الفلاسفة تقنية التزييف العميق باعتبارها "تهديدًا معرفيًا" للمعرفة وبالتالي للمجتمع. [23] هناك العديد من الاقتراحات الأخرى حول كيفية التعامل مع المخاطر التي تسببها تقنية التزييف العميق خارج نطاق المواد الإباحية، ولكن أيضًا للشركات والسياسيين وغيرهم، من "الاستغلال والترهيب والتخريب الشخصي"، [24] وهناك العديد من المناقشات العلمية حول الاستجابات القانونية والتنظيمية المحتملة في كل من الدراسات القانونية ودراسات الإعلام. [25] في دراسات علم النفس والإعلام، يناقش العلماء آثار التضليل الذي يستخدم تقنية التزييف العميق، [26] [27] والتأثير الاجتماعي لتقنية التزييف العميق. [28]

في حين تركز معظم الدراسات الأكاديمية باللغة الإنجليزية حول التزييف العميق على المخاوف الغربية بشأن التضليل والمواد الإباحية، قام عالم الأنثروبولوجيا الرقمية غابرييل دي سيتا بتحليل الاستقبال الصيني للتزييف العميق، المعروف باسم هوانليان ، والذي يُترجم إلى "تغيير الوجوه". لا يحتوي المصطلح الصيني على كلمة "مزيف" الموجودة في التزييف العميق الإنجليزي، ويزعم دي سيتا أن هذا السياق الثقافي قد يفسر سبب كون الاستجابة الصينية أكثر ارتباطًا بالاستجابات التنظيمية العملية لـ "مخاطر الاحتيال وحقوق الصورة والربح الاقتصادي والاختلالات الأخلاقية". [29]

أبحاث علوم الكمبيوتر حول التزييف العميق

كان أحد المشاريع البارزة المبكرة هو برنامج إعادة كتابة الفيديو، الذي نُشر عام 1997. عدل البرنامج لقطات فيديو موجودة لشخص يتحدث لتصوير ذلك الشخص وهو ينطق الكلمات الموجودة في مسار صوتي مختلف. [30] كان أول نظام يقوم بأتمتة هذا النوع من إعادة تنشيط الوجه بالكامل، وقد فعل ذلك باستخدام تقنيات التعلم الآلي لإنشاء اتصالات بين الأصوات التي ينتجها موضوع الفيديو وشكل وجه الموضوع. [30]

ركزت المشاريع الأكاديمية المعاصرة على إنشاء مقاطع فيديو أكثر واقعية وتحسين التقنيات. [31] [32] يعدل برنامج "Synthesizing Obama"، الذي نُشر في عام 2017، لقطات فيديو للرئيس السابق باراك أوباما لتصويره وهو ينطق بالكلمات الموجودة في مسار صوتي منفصل. [31] يسرد المشروع كمساهمة بحثية رئيسية تقنيته الواقعية لتوليف أشكال الفم من الصوت. [31] يعدل برنامج Face2Face، الذي نُشر في عام 2016، لقطات فيديو لوجه شخص لتصويره وهو يقلد تعابير وجه شخص آخر في الوقت الفعلي. [32] يسرد المشروع كمساهمة بحثية رئيسية أول طريقة لإعادة تمثيل تعابير الوجه في الوقت الفعلي باستخدام كاميرا لا تلتقط العمق، مما يجعل من الممكن إجراء التقنية باستخدام كاميرات المستهلك الشائعة. [32]

في أغسطس 2018، نشر باحثون في جامعة كاليفورنيا، بيركلي، ورقة بحثية تقدم تطبيق رقص مزيف يمكنه خلق انطباع بالقدرة على الرقص باستخدام الذكاء الاصطناعي. [33] يوسع هذا المشروع نطاق تطبيق التزييف العميق على الجسم بالكامل؛ ركزت الأعمال السابقة على الرأس أو أجزاء من الوجه. [34]

أظهر الباحثون أيضًا أن التزييف العميق يتوسع في مجالات أخرى مثل التلاعب بالصور الطبية. [35] في هذا العمل، تم توضيح كيف يمكن للمهاجم حقن سرطان الرئة أو إزالته تلقائيًا في فحص التصوير المقطعي المحوسب ثلاثي الأبعاد للمريض . كانت النتيجة مقنعة للغاية لدرجة أنها خدعت ثلاثة أخصائيي أشعة وذكاء اصطناعي متطور للكشف عن سرطان الرئة. لإثبات التهديد، نفذ المؤلفون بنجاح الهجوم على مستشفى في اختبار اختراق القبعة البيضاء . [36]

يقدم استطلاع رأي حول التزييف العميق، نُشر في مايو 2020، جدولًا زمنيًا لكيفية تقدم إنشاء التزييف العميق واكتشافه على مدار السنوات القليلة الماضية. [37] يحدد الاستطلاع أن الباحثين كانوا يركزون على حل التحديات التالية لإنشاء التزييف العميق:

  • التعميم. غالبًا ما يتم تحقيق عمليات التزييف العميق عالية الجودة من خلال التدريب على ساعات من لقطات الهدف. ويتمثل هذا التحدي في تقليل كمية بيانات التدريب والوقت اللازم لتدريب النموذج المطلوب لإنتاج صور عالية الجودة وتمكين تنفيذ النماذج المدربة على هويات جديدة (غير مرئية أثناء التدريب).
  • التدريب المزدوج. يمكن أن يؤدي تدريب نموذج مُشرف إلى إنتاج نتائج عالية الجودة، لكنه يتطلب إقران البيانات. هذه هي عملية العثور على أمثلة للمدخلات ومخرجاتها المرغوبة ليتعلم منها النموذج. يعد إقران البيانات أمرًا شاقًا وغير عملي عند التدريب على هويات متعددة وسلوكيات وجهية. تتضمن بعض الحلول التدريب الذاتي الإشراف (باستخدام إطارات من نفس الفيديو)، أو استخدام شبكات غير مقترنة مثل Cycle-GAN، أو التلاعب بتضمينات الشبكة.
  • تسرب الهوية. في هذه الحالة، يتم نقل هوية السائق (أي الممثل الذي يتحكم في الوجه في إعادة التمثيل) جزئيًا إلى الوجه الناتج. تتضمن بعض الحلول المقترحة آليات الانتباه، والتعلم من خلال عدد قليل من اللقطات، وفك الارتباط، وتحويلات الحدود، واتصالات التخطي.
  • الانسدادات. عندما يتم إعاقة جزء من الوجه بواسطة يد أو شعر أو نظارات أو أي شيء آخر، فقد تحدث آثار. الانسداد الشائع هو الفم المغلق الذي يخفي الجزء الداخلي من الفم والأسنان. تتضمن بعض الحلول تقسيم الصورة أثناء التدريب وأثناء الرسم.
  • التماسك الزمني. في مقاطع الفيديو التي تحتوي على مقاطع فيديو مزيفة، قد تحدث تشوهات مثل الوميض والاهتزاز لأن الشبكة لا تحتوي على سياق الإطارات السابقة. يقدم بعض الباحثين هذا السياق أو يستخدمون خسائر تماسك زمني جديدة للمساعدة في تحسين الواقعية. ومع تحسن التكنولوجيا، يتضاءل التداخل.

بشكل عام، من المتوقع أن يكون للتزييف العميق العديد من التأثيرات في وسائل الإعلام والمجتمع، وإنتاج وسائل الإعلام، وتمثيلات وسائل الإعلام، وجماهير وسائل الإعلام، والجنس، والقانون، والتنظيم، والسياسة. [38]

التنمية للهواة

نشأ مصطلح deepfakes في نهاية عام 2017 من مستخدم Reddit يُدعى "deepfakes". [39] شارك هو وآخرون في مجتمع Reddit r/deepfakes مقاطع فيديو مزيفة قاموا بإنشائها؛ تضمنت العديد من مقاطع الفيديو وجوه المشاهير التي تم تبديلها بأجساد الممثلين في مقاطع فيديو إباحية، [39] بينما تضمن المحتوى غير الإباحي العديد من مقاطع الفيديو مع وجه الممثل نيكولاس كيج الذي تم تبديله في أفلام مختلفة. [40]

لا تزال هناك مجتمعات أخرى على الإنترنت، بما في ذلك مجتمعات Reddit التي لا تشارك المواد الإباحية، مثل r/SFWdeepfakes (اختصار لـ "التزييف العميق الآمن للعمل")، حيث يشارك أعضاء المجتمع التزييف العميق الذي يصور المشاهير والسياسيين وغيرهم في سيناريوهات غير إباحية. [41] تستمر مجتمعات أخرى على الإنترنت في مشاركة المواد الإباحية على منصات لم تحظر المواد الإباحية المزيفة. [42]

التطوير التجاري

في يناير 2018، تم إطلاق تطبيق سطح مكتب خاص يسمى FakeApp. [43] يتيح هذا التطبيق للمستخدمين إنشاء مقاطع فيديو ومشاركتها بسهولة مع تبديل وجوههم مع بعضهم البعض. [44] اعتبارًا من عام 2019، تم استبدال FakeApp ببدائل مفتوحة المصدر مثل Faceswap، وDeepFaceLab المستند إلى سطر الأوامر، والتطبيقات المستندة إلى الويب مثل DeepfakesWeb.com [45] [46] [47]

بدأت الشركات الكبرى في استخدام التزييف العميق. [16] يمكن إنشاء مقاطع فيديو تدريبية للشركات باستخدام صور رمزية مزيفة وأصواتها، على سبيل المثال Synthesia ، التي تستخدم تقنية التزييف العميق مع الصور الرمزية لإنشاء مقاطع فيديو مخصصة. [48] أنشأ تطبيق Momo المحمول تطبيق Zao الذي يسمح للمستخدمين بتركيب وجوههم على مقاطع تلفزيونية وأفلام بصورة واحدة. [16] اعتبارًا من عام 2019، صنعت شركة الذكاء الاصطناعي اليابانية DataGrid تزييفًا عميقًا لكامل الجسم يمكن أن يخلق شخصًا من الصفر. [49]

اعتبارًا من عام 2020، توجد أيضًا مقاطع صوتية مزيفة ، وبرامج ذكاء اصطناعي قادرة على اكتشاف المقاطع الصوتية المزيفة واستنساخ الأصوات البشرية بعد 5 ثوانٍ من الاستماع. [50] [51] [52] [53] [54] [55] تم إطلاق تطبيق Impressions للمقاطع الصوتية المزيفة للجوال في مارس 2020. وكان أول تطبيق لإنشاء مقاطع فيديو مزيفة للمشاهير من الهواتف المحمولة. [56] [57]

القيامة

إن قدرة تقنية Deepfake على اختلاق رسائل وأفعال الآخرين قد تشمل الأفراد المتوفين. في 29 أكتوبر 2020، نشرت كيم كارداشيان مقطع فيديو يظهر صورة ثلاثية الأبعاد لوالدها الراحل روبرت كارداشيان من إنتاج شركة Kaleida، والتي استخدمت مزيجًا من الأداء وتتبع الحركة والمؤثرات الصوتية والمؤثرات البصرية وتقنيات DeepFake لإنشاء الوهم. [58] [59]

في عام 2020، تم إنشاء مقطع فيديو مزيف لخواكين أوليفر، أحد ضحايا إطلاق النار في باركلاند ، كجزء من حملة سلامة الأسلحة. تعاون والدا أوليفر مع منظمة Change the Ref غير الربحية وMcCann Health لإنتاج مقطع فيديو يشجع فيه أوليفر الناس على دعم تشريعات سلامة الأسلحة والسياسيين الذين يدعمونها أيضًا. [60]

في عام 2022، تم استخدام مقطع فيديو مزيف لإلفيس بريسلي في برنامج America's Got Talent 17. [ 61]

استخدم إعلان تلفزيوني مقطع فيديو مزيفًا لعضو فرقة البيتلز جون لينون ، الذي قُتل في عام 1980. [62]

التقنيات

تعتمد تقنية Deepfakes على نوع من الشبكات العصبية يسمى المشفر التلقائي . [63] وتتكون هذه من مشفر، يقلل الصورة إلى مساحة كامنة ذات أبعاد أقل ، وفك تشفير، يعيد بناء الصورة من التمثيل الكامن. [64] تستخدم تقنية Deepfakes هذه البنية من خلال وجود مشفر عالمي يشفر شخصًا في المساحة الكامنة. [ بحاجة لمصدر ] يحتوي التمثيل الكامن على ميزات رئيسية حول ملامح الوجه ووضعية الجسم. يمكن بعد ذلك فك تشفيرها باستخدام نموذج مدرب خصيصًا للهدف. هذا يعني أن المعلومات التفصيلية للهدف سيتم فرضها على ملامح الوجه والجسم الأساسية للفيديو الأصلي، والممثلة في المساحة الكامنة. [ بحاجة لمصدر ]

تتضمن ترقية شائعة لهذه الهندسة المعمارية ربط شبكة تنافسية توليدية بفك التشفير. تدرب شبكة GAN مولدًا، في هذه الحالة فك التشفير، ومميزًا في علاقة تنافسية. ينشئ المولد صورًا جديدة من التمثيل الكامن للمادة المصدرية، بينما يحاول المميز تحديد ما إذا كانت الصورة قد تم إنشاؤها أم لا. [ بحاجة لمصدر ] يتسبب هذا في قيام المولد بإنشاء صور تحاكي الواقع بشكل جيد للغاية حيث سيتم اكتشاف أي عيوب بواسطة المميز. [65] تتحسن كلتا الخوارزميتين باستمرار في لعبة محصلتها صفر . هذا يجعل من الصعب مكافحة التزييف العميق لأنها تتطور باستمرار؛ في أي وقت يتم فيه تحديد عيب، يمكن تصحيحه. [65]

التطبيقات

التمثيل

ظهرت نسخ رقمية من الممثلين المحترفين في الأفلام من قبل، ومن المتوقع أن يؤدي التقدم في تقنية التزييف العميق إلى زيادة إمكانية الوصول إلى مثل هذه النسخ وفعاليتها. [66] كان استخدام تقنية الذكاء الاصطناعي مشكلة رئيسية في إضراب نقابة ممثلي الشاشة ونقابة ممثلي التلفزيون والراديو عام 2023 ، حيث مكنت التقنيات الجديدة من إنشاء وتخزين صورة رقمية لاستخدامها بدلاً من الممثلين. [67]

حسنت ديزني تأثيراتها المرئية باستخدام تقنية تبديل الوجوه عالية الدقة. [68] حسنت ديزني تقنيتها من خلال التدريب التدريجي المبرمج لتحديد تعابير الوجه، وتنفيذ ميزة تبديل الوجه، والتكرار من أجل تثبيت وتحسين الناتج. [68] توفر تقنية التزييف العميق عالية الدقة هذه تكاليف تشغيل وإنتاج كبيرة. [69] يمكن لنموذج توليد التزييف العميق من ديزني إنتاج وسائط تم إنشاؤها بواسطة الذكاء الاصطناعي بدقة 1024 × 1024، على عكس النماذج الشائعة التي تنتج وسائط بدقة 256 × 256. [69] تسمح التكنولوجيا لشركة ديزني بإزالة الشيخوخة من الشخصيات أو إحياء الممثلين المتوفين. [70] تم استخدام تقنية مماثلة في البداية من قبل المعجبين لإدراج الوجوه بشكل غير رسمي في الوسائط الموجودة، مثل تراكب وجه هاريسون فورد الشاب على وجه هان سولو في فيلم Solo: A Star Wars Story . [71] استخدمت ديزني التزييف العميق لشخصيات الأميرة ليا وغراند موف تاركين في فيلم Rogue One . [72] [73]

استخدم الفيلم الوثائقي " مرحبًا بكم في الشيشان" لعام 2020 تقنية التزييف العميق لإخفاء هوية الأشخاص الذين تمت مقابلتهم، وذلك لحمايتهم من الانتقام. [74]

طورت وكالة الفنانين المبدعين مرفقًا لالتقاط صورة الممثل "في يوم واحد"، لتطوير نسخة رقمية من الممثل، والتي سيتم التحكم فيها من قبل الممثل أو تركته إلى جانب حقوق الشخصية الأخرى . [75]

تشمل الشركات التي استخدمت نسخًا رقمية من الممثلين المحترفين في الإعلانات شركة بوما ، ونايكي ، وبروكتر آند جامبل . [76]

سمح التزييف العميق بتصوير ديفيد بيكهام ليتمكن من النشر في حملة بأكثر من تسع لغات لزيادة الوعي بمكافحة الملاريا. [77]

فن

في مارس 2018، نشر الفنان متعدد التخصصات جوزيف أيرلي العمل الفني بالفيديو Un'emozione per sempre 2.0 (العنوان الإنجليزي: The Italian Game ). عمل الفنان بتقنية Deepfake لإنشاء ممثل ذكاء اصطناعي، وهو نسخة اصطناعية من نجمة أفلام الثمانينيات أورنيلا موتي ، يسافر عبر الزمن من عام 1978 إلى عام 2018. أشار معهد ماساتشوستس للتكنولوجيا إلى هذا العمل الفني في دراسة "الحكمة الجماعية". [78] استخدم الفنان سفر أورنيلا موتي عبر الزمن لاستكشاف الانعكاسات الجيلية، بينما كان يحقق أيضًا في أسئلة حول دور الاستفزاز في عالم الفن. [79] لتحقيق ذلك تقنيًا، استخدم أيرلي مشاهد من عارضة الأزياء كيندال جينر . استبدل البرنامج وجه جينر بوجه أورنيلا موتي المحسوب بواسطة الذكاء الاصطناعي. ونتيجة لذلك، يمتلك ممثل الذكاء الاصطناعي وجه الممثلة الإيطالية أورنيلا موتي وجسد كيندال جينر.

لقد تم استخدام تقنية التزييف العميق على نطاق واسع في السخرية أو لمحاكاة المشاهير والسياسيين. تتميز سلسلة الويب Sassy Justice لعام 2020 ، التي أنشأها تري باركر ومات ستون ، باستخدام شخصيات عامة مزيفة بشكل كبير للسخرية من الأحداث الجارية وزيادة الوعي بتقنية التزييف العميق. [80]

ابتزاز

يمكن استخدام تقنية Deepfakes لتوليد مواد ابتزاز تدين الضحية زوراً. حذر تقرير صادر عن دائرة أبحاث الكونجرس الأمريكية من إمكانية استخدام تقنية Deepfakes لابتزاز المسؤولين المنتخبين أو أولئك الذين لديهم إمكانية الوصول إلى معلومات سرية لأغراض التجسس أو التأثير . [81]

بدلاً من ذلك، نظرًا لأنه لا يمكن التمييز بشكل موثوق بين المواد المزيفة والمواد الأصلية، يمكن لضحايا الابتزاز الفعلي الآن أن يزعموا أن القطع الأثرية الحقيقية مزيفة، مما يمنحهم إمكانية إنكار معقولة. ويتمثل التأثير في إبطال مصداقية مواد الابتزاز الموجودة، مما يمحو الولاء للمبتزين ويدمر سيطرة المبتز. يمكن تسمية هذه الظاهرة "تضخم الابتزاز"، لأنها "تخفض قيمة" الابتزاز الحقيقي، مما يجعله بلا قيمة. [82] من الممكن استخدام أجهزة GPU السلعية مع برنامج برمجي صغير لتوليد محتوى الابتزاز هذا لأي عدد من الموضوعات بكميات هائلة، مما يؤدي إلى زيادة العرض من محتوى الابتزاز المزيف بلا حدود وبطريقة قابلة للتطوير بدرجة كبيرة. [83]

ترفيه

في 8 يونيو 2022، [84] تعاون دانييل إيميت، أحد المتسابقين السابقين في برنامج AGT ، مع شركة الذكاء الاصطناعي الناشئة [85] [86] Metaphysic AI، لإنشاء مقطع فيديو مزيف شديد الواقعية ليبدو وكأنه سيمون كويل . كان كويل، المعروف بانتقاده الشديد للمتسابقين، [87] على خشبة المسرح وهو يترجم أغنية " You're The Inspiration " لفرقة شيكاغو . غنى إيميت على خشبة المسرح بينما ظهرت صورة سيمون كويل على الشاشة خلفه في تزامن لا تشوبه شائبة. [88]

في 30 أغسطس 2022، قامت شركة Metaphysic AI بتقليد سيمون كويل وهوي ماندل وتيري كروز أثناء غناء الأوبرا على خشبة المسرح. [89]

في 13 سبتمبر 2022، قدمت Metaphysic AI عرضًا بنسخة اصطناعية من إلفيس بريسلي في نهائيات America's Got Talent . [90]

تم استخدام مشروع الذكاء الاصطناعي 15.ai التابع لمعهد ماساتشوستس للتكنولوجيا لإنشاء المحتوى للعديد من المعجبين على الإنترنت ، وخاصة على وسائل التواصل الاجتماعي. [91] [92] [93]

في عام 2023، دخلت فرقتا ABBA و KISS في شراكة مع Industrial Light & Magic و Pophouse Entertainment لتطوير صور رمزية مزيفة قادرة على أداء حفلات موسيقية افتراضية . [94]

الإحتيال والنصب

يستخدم المحتالون والمخادعون تقنية التزييف العميق لخداع الأشخاص في مخططات استثمارية وهمية، والاحتيال المالي ، والعملات المشفرة ، وإرسال الأموال ، واتباع التوصيات . وقد تم استخدام صور المشاهير والسياسيين في عمليات احتيال واسعة النطاق، وكذلك صور الأفراد، والتي تُستخدم في هجمات التصيد الاحتيالي . ووفقًا لمكتب تحسين الأعمال ، أصبحت عمليات الاحتيال بتقنية التزييف العميق أكثر انتشارًا. [95]

لقد أساءت التأييدات المزيفة استخدام هويات المشاهير مثل تايلور سويفت [ 96 ] [95] توم هانكس [ 97] أوبرا وينفري [ 98] وإيلون ماسك ؛ [99] ومذيعي الأخبار [100] مثل جايل كينج [97] وسالي بوندوك ؛ [101] والسياسيين مثل لي هسين لونج [102] وجيم تشالمرز . [103] [104] ظهرت مقاطع فيديو لهم في إعلانات عبر الإنترنت على YouTube و Facebook و TikTok ، الذين لديهم سياسات ضد الوسائط الاصطناعية والمُعالجة . [105] [96] [106] يشاهد ملايين الأشخاص الإعلانات التي تعرض هذه المقاطع. تمت مشاهدة حملة احتيال واحدة على Medicare أكثر من 195 مليون مرة عبر آلاف مقاطع الفيديو. [105] [107] تم استخدام Deepfakes في: توزيع هدايا وهمية لأواني الطبخ Le Creuset مقابل "رسوم شحن" دون استلام المنتجات، باستثناء الرسوم الشهرية المخفية؛ [96] حلوى إنقاص الوزن التي تكلف أكثر بكثير مما قيل؛ [98] توزيع هدايا وهمية لهاتف iPhone؛ [96] [106] ومخططات الثراء السريع الاحتيالية [99] [108] والاستثمار، [109] ومخططات العملات المشفرة . [102] [110]

تقرن العديد من الإعلانات استنساخ صوت الذكاء الاصطناعي بـ"فيديو غير سياقي للمشاهير" لمحاكاة الأصالة. يستخدم البعض الآخر مقطعًا كاملاً من أحد المشاهير قبل الانتقال إلى ممثل أو صوت مختلف. [105] قد تتضمن بعض عمليات الاحتيال عمليات تزييف عميقة في الوقت الفعلي. [106]

لقد حذر المشاهير الناس من هذه التأييدات المزيفة، وأن يكونوا أكثر يقظة ضدها. [95] [96] [98] من غير المرجح أن يرفع المشاهير دعاوى قضائية ضد كل شخص يدير عمليات احتيال مزيفة، حيث أن "العثور على مستخدمي وسائل التواصل الاجتماعي المجهولين ومقاضاتهم يتطلب موارد مكثفة"، على الرغم من أن رسائل الكف والكف الموجهة إلى شركات وسائل التواصل الاجتماعي تعمل على إزالة مقاطع الفيديو والإعلانات. [111]

تم استخدام التزييفات الصوتية العميقة كجزء من عمليات الاحتيال بالهندسة الاجتماعية ، مما يخدع الناس ليعتقدوا أنهم يتلقون تعليمات من فرد موثوق به. [112] في عام 2019، تعرض الرئيس التنفيذي لشركة طاقة مقرها المملكة المتحدة للاحتيال عبر الهاتف عندما أمره شخص بتحويل 220 ألف يورو إلى حساب مصرفي مجري، والذي ورد أنه استخدم تقنية التزييف الصوتي العميق لانتحال صوت الرئيس التنفيذي للشركة الأم للشركة. [113] [114]

اعتبارًا من عام 2023، أدى التقدم في تقنية التزييف العميق، والتي يمكنها استنساخ صوت الفرد من تسجيل مدته بضع ثوانٍ إلى دقيقة، وأدوات إنشاء نص جديدة ، إلى تمكين عمليات الاحتيال الانتحالية الآلية، واستهداف الضحايا باستخدام استنساخ رقمي مقنع لصديق أو قريب. [115]

إخفاء الهوية

يمكن استخدام التزييفات الصوتية العميقة لإخفاء الهوية الحقيقية للمستخدم. في الألعاب عبر الإنترنت ، على سبيل المثال، قد يرغب اللاعب في اختيار صوت يشبه شخصيته في اللعبة عند التحدث إلى لاعبين آخرين. يمكن لأولئك الذين يتعرضون للمضايقات ، مثل النساء والأطفال والمتحولين جنسياً، استخدام "جلود الأصوات" هذه لإخفاء جنسهم أو أعمارهم. [116]

الميمز

في عام 2020، ظهرت ميم إنترنت يستخدم تقنية التزييف العميق لإنشاء مقاطع فيديو لأشخاص يغنون جوقة أغنية "باكا ميتاي" (ばかみたい) ، وهي أغنية من لعبة ياكوزا 0 في سلسلة ألعاب الفيديو لايك أ دراجون . في السلسلة، يغني اللاعب الأغنية الحزينة في لعبة كاريوكي صغيرة . تستخدم معظم تكرارات هذا الميم مقطع فيديو من عام 2017 تم تحميله بواسطة المستخدم دوبسيرولز، الذي يقوم بمزامنة الأغنية بشفاهه ، كقالب. [117] [118]

سياسة

لقد تم استخدام تقنية Deepfakes لتزييف السياسيين المعروفين في مقاطع الفيديو.

  • في مارس 2024، خلال انتخابات الجمعية التشريعية في الهند، تم استخدام تقنية التزييف العميق على نطاق واسع من قبل المرشحين السياسيين للوصول إلى الناخبين. استخدم العديد من السياسيين التزييف العميق الناتج عن الذكاء الاصطناعي الذي أنشأته شركة هندية ناشئة The Indian Deepfaker، مؤسسها Divyendra Singh Jadoun "التزييف العميق بالذكاء الاصطناعي يشكل تهديدًا كبيرًا للانتخابات في الولايات المتحدة والهند". واشنطن بوست . ISSN  0190-8286. مؤرشف من الأصل في 20 مايو 2024 . تم الاسترجاع 22 أكتوبر 2024 .
لقد أصبح من الممكن الآن ترجمة خطاباتهم إلى لغات إقليمية متعددة، مما يسمح لهم بالتفاعل مع مجتمعات لغوية متنوعة في جميع أنحاء البلاد. وقد شكل هذا الارتفاع في استخدام التزييف العميق للحملات السياسية تحولاً كبيراً في تكتيكات الدعاية الانتخابية في الهند. [138] [139]

المواد الإباحية

في عام 2017، ظهرت صور إباحية مزيفة بشكل بارز على الإنترنت، وخاصة على موقع Reddit . [140] اعتبارًا من عام 2019، تعرض العديد من الصور المزيفة على الإنترنت صورًا إباحية لمشاهير من الإناث يتم استخدام صورهن عادةً دون موافقتهن. [141] قدر تقرير نُشر في أكتوبر 2019 بواسطة شركة الأمن السيبراني الهولندية Deeptrace أن 96٪ من جميع الصور المزيفة على الإنترنت كانت إباحية. [142] اعتبارًا من عام 2018، لفتت صورة مزيفة لـ Daisy Ridley الانتباه لأول مرة، [140] من بين أمور أخرى. [143] [144] [145] اعتبارًا من أكتوبر 2019، كانت معظم صور المزيفة على الإنترنت من الممثلين البريطانيين والأمريكيين. [141] ومع ذلك، فإن حوالي ربع الصور المزيفة من كوريا الجنوبية، وأغلبهم من نجوم البوب ​​الكوري. [141] [146]

في يونيو 2019، تم إصدار تطبيق قابل للتنزيل لنظامي التشغيل Windows و Linux يسمى DeepNude والذي استخدم الشبكات العصبية، وخاصة الشبكات التنافسية التوليدية ، لإزالة الملابس من صور النساء. كان للتطبيق إصدار مدفوع وغير مدفوع، حيث تكلف النسخة المدفوعة 50 دولارًا. [147] [148] في 27 يونيو، أزال المبدعون التطبيق وأعادوا الأموال للمستهلكين. [149]

غالبًا ما تكون المشاهير الإناث هدفًا رئيسيًا عندما يتعلق الأمر بالمواد الإباحية المزيفة. في عام 2023، ظهرت مقاطع فيديو إباحية مزيفة على الإنترنت لإيما واتسون وسكارليت جوهانسون في تطبيق لتبادل الوجوه. [150] في عام 2024، انتشرت صور إباحية مزيفة على الإنترنت لتايلور سويفت . [151]

أفادت دراسات أكاديمية أن النساء والمثليات والمثليين ومزدوجي الميل الجنسي والمتحولين جنسياً والأشخاص الملونين (وخاصة الناشطين والسياسيين وأولئك الذين يشككون في السلطة) معرضون لخطر أكبر من أن يصبحوا أهدافًا لنشر المواد الإباحية المزيفة. [152]

وسائل التواصل الاجتماعي

بدأت تقنية التزييف العميق في الظهور على منصات التواصل الاجتماعي الشهيرة، ولا سيما من خلال تطبيق Zao، وهو تطبيق صيني للتزييف العميق يسمح للمستخدمين باستبدال وجوههم بوجوه شخصيات في مشاهد من أفلام وبرامج تلفزيونية مثل Romeo + Juliet و Game of Thrones . [153] واجه التطبيق في الأصل تدقيقًا بشأن بيانات المستخدم وسياسة الخصوصية، وبعد ذلك أصدرت الشركة بيانًا زعمت فيه أنها ستراجع السياسة. [16] في يناير 2020، أعلنت فيسبوك أنها ستقدم تدابير جديدة لمواجهة ذلك على منصاتها. [154]

استشهدت دائرة أبحاث الكونجرس بأدلة غير محددة تظهر أن عملاء الاستخبارات الأجانب استخدموا مقاطع فيديو مزيفة لإنشاء حسابات على وسائل التواصل الاجتماعي بغرض تجنيد أفراد لديهم إمكانية الوصول إلى معلومات سرية . [81]

في عام 2021، تم إصدار مقاطع فيديو واقعية مزيفة للممثل توم كروز على تيك توك ، والتي انتشرت على نطاق واسع وحصدت أكثر من عشرات الملايين من المشاهدات. تضمنت مقاطع الفيديو المزيفة "نسخة طبق الأصل تم إنشاؤها بواسطة الذكاء الاصطناعي" لكروز وهو يقوم بأنشطة مختلفة مثل اللعب في ملعب الجولف، وإظهار خدعة العملة المعدنية، وعض مصاصة. قال مبتكر المقاطع، فنان المؤثرات البصرية البلجيكي كريس أومي، [155] إنه أصبح مهتمًا بالتزييف العميق لأول مرة في عام 2018 ورأى "الإمكانات الإبداعية" لها. [156] [157]

دمى الجوارب

يمكن استخدام الصور المزيفة لإنشاء دمى جورب ، أشخاص غير موجودين، نشطين على الإنترنت وفي وسائل الإعلام التقليدية. يبدو أن صورة مزيفة قد تم إنشاؤها مع أسطورة لشخص غير موجود على ما يبدو يُدعى أوليفر تايلور، الذي تم وصف هويته بأنه طالب جامعي في المملكة المتحدة. قدم شخصية أوليفر تايلور مقالات رأي في العديد من الصحف وكان نشطًا في وسائل الإعلام عبر الإنترنت يهاجم أكاديميًا قانونيًا بريطانيًا وزوجته، باعتبارهما "متعاطفين مع الإرهابيين". لفت الأكاديمي الانتباه الدولي في عام 2018 عندما رفع دعوى قضائية في إسرائيل ضد شركة NSO، وهي شركة مراقبة، نيابة عن أشخاص في المكسيك زعموا أنهم كانوا ضحايا لتقنية اختراق الهاتف الخاصة بشركة NSO . لم تتمكن رويترز من العثور إلا على سجلات ضئيلة لأوليفر تايلور ولم يكن لدى جامعته أي سجلات له. اتفق العديد من الخبراء على أن صورة الملف الشخصي مزيفة. لم تسحب العديد من الصحف المقالات المنسوبة إليه أو تزيلها من مواقعها على الإنترنت. يُخشى أن تكون مثل هذه التقنيات ساحة معركة جديدة في التضليل . [158]

كما تم نشر مجموعات من الصور المزيفة لأشخاص غير موجودين على الشبكات الاجتماعية كجزء من الدعاية الحزبية الإسرائيلية . تضمنت صفحة الفيسبوك "الربيع الصهيوني" صورًا لأشخاص غير موجودين إلى جانب "شهاداتهم" التي تزعم تفسير سبب تخليهم عن سياساتهم ذات الميول اليسارية لاحتضان السياسة اليمينية ، كما احتوت الصفحة أيضًا على أعداد كبيرة من المنشورات من رئيس وزراء إسرائيل بنيامين نتنياهو وابنه ومن مصادر يمينية إسرائيلية أخرى. يبدو أن الصور تم إنشاؤها بواسطة تقنية " تركيب الصور البشرية "، وهي برامج كمبيوتر تأخذ البيانات من صور أشخاص حقيقيين لإنتاج صورة مركبة واقعية لشخص غير موجود. في كثير من "الشهادات"، كان السبب المقدم لاحتضان اليمين السياسي هو صدمة معرفة التحريض المزعوم على العنف ضد رئيس الوزراء. ثم بثت محطات البث التلفزيوني الإسرائيلية اليمينية "شهادات" هؤلاء الأشخاص غير الموجودين بناءً على حقيقة أنه تم "مشاركتها" عبر الإنترنت. وقد بثت القنوات التلفزيونية هذه "الشهادات" على الرغم من عدم تمكنها من العثور على مثل هؤلاء الأشخاص، موضحة "لماذا يهم الأصل؟". كما احتوت ملفات تعريف مزيفة أخرى على فيسبوك - ملفات تعريف لأفراد وهميين - على مواد يُزعم أنها تحتوي على مثل هذا التحريض ضد رئيس الوزراء اليميني، وردًا على ذلك اشتكى رئيس الوزراء من وجود مؤامرة لقتله. [159] [160]

المخاوف والتدابير المضادة

على الرغم من أن الصور المزيفة كانت وفيرة منذ فترة طويلة، إلا أن تزوير الأفلام كان أكثر صعوبة، ويزيد وجود التزييف العميق من صعوبة تصنيف مقاطع الفيديو على أنها حقيقية أم لا. [119] قال باحث الذكاء الاصطناعي أليكس شامباندارد إن الناس يجب أن يعرفوا مدى سرعة إفساد الأشياء بتقنية التزييف العميق، وأن المشكلة ليست تقنية، بل هي مشكلة يجب حلها من خلال الثقة في المعلومات والصحافة. ​​[119] يذكر الأستاذ المساعد في علوم الكمبيوتر هاو لي من جامعة جنوب كاليفورنيا أن التزييف العميق الذي تم إنشاؤه للاستخدام الضار، مثل الأخبار المزيفة ، سيكون أكثر ضررًا إذا لم يتم فعل أي شيء لنشر الوعي بتقنية التزييف العميق. [161] توقع لي أن تصبح مقاطع الفيديو الأصلية والتزييف العميق غير قابلة للتمييز في غضون نصف عام، اعتبارًا من أكتوبر 2019، بسبب التقدم السريع في الذكاء الاصطناعي والرسومات الحاسوبية. [161] وصف شومان غوسيماجومدار ، أحد كبار خبراء الاحتيال في جوجل ، تقنية التزييف العميق بأنها منطقة "قلق مجتمعي" وقال إنها ستتطور حتماً إلى نقطة يمكن عندها إنشاؤها تلقائيًا، ويمكن لأي فرد استخدام هذه التكنولوجيا لإنتاج ملايين مقاطع الفيديو المزيفة العميقة. [162]

مصداقية المعلومات

إن الفخ الرئيسي هو أن البشرية قد تقع في عصر لم يعد من الممكن فيه تحديد ما إذا كان محتوى الوسيلة يتوافق مع الحقيقة. [119] [163] تعد عمليات التزييف العميق واحدة من عدد من الأدوات المستخدمة في هجوم التضليل ، وخلق الشك، وتقويض الثقة. ولديها القدرة على التدخل في الوظائف الديمقراطية في المجتمعات، مثل تحديد الأجندات الجماعية، ومناقشة القضايا، وإبلاغ القرارات، وحل المشكلات من خلال ممارسة الإرادة السياسية. [164] قد يبدأ الناس أيضًا في رفض الأحداث الحقيقية باعتبارها مزيفة. [116]

التشهير

تمتلك تقنية التزييف العميق القدرة على إلحاق الضرر بالكيانات الفردية بشكل هائل. [165] وذلك لأن تقنية التزييف العميق غالبًا ما تستهدف فردًا واحدًا، و/أو علاقاته بالآخرين على أمل إنشاء سرد قوي بما يكفي للتأثير على الرأي العام أو المعتقدات. يمكن القيام بذلك من خلال التصيد الصوتي بتقنية التزييف العميق، والذي يتلاعب بالصوت لإنشاء مكالمات هاتفية أو محادثات مزيفة. [165] طريقة أخرى لاستخدام تقنية التزييف العميق هي التعليقات الخاصة المزيفة، والتي تتلاعب بالوسائط لنقل تعليقات ضارة للأفراد. [165] لا يلزم أن تكون جودة الفيديو أو الصوت السلبي عالية إلى هذا الحد. طالما يمكن التعرف على مظهر شخص ما وأفعاله، يمكن أن تضر تقنية التزييف العميق بسمعته. [116]

في سبتمبر 2020، أعلنت شركة Microsoft أنها تعمل على تطوير أداة برمجية للكشف عن Deepfake. [166]

كشف

صوتي

يعد اكتشاف الصوت المزيف مهمة معقدة للغاية تتطلب الانتباه الدقيق لإشارة الصوت من أجل تحقيق أداء جيد. وقد ثبت أن استخدام التعلم العميق والمعالجة المسبقة لتصميم الميزات وزيادة الإخفاء فعال في تحسين الأداء. [167]

فيديو

تركز معظم الأبحاث الأكاديمية المحيطة بالتزييف العميق على اكتشاف مقاطع الفيديو المزيفة. [168] أحد الأساليب المستخدمة في اكتشاف التزييف العميق هو استخدام الخوارزميات للتعرف على الأنماط والتقاط التناقضات الدقيقة التي تنشأ في مقاطع الفيديو المزيفة. [168] على سبيل المثال، طور الباحثون أنظمة آلية تفحص مقاطع الفيديو بحثًا عن أخطاء مثل أنماط الوميض غير المنتظمة للإضاءة. [169] [14] وقد تعرض هذا النهج لانتقادات لأن اكتشاف التزييف العميق يتميز بـ " هدف متحرك " حيث يستمر إنتاج التزييف العميق في التغير والتحسن مع تحسن الخوارزميات المستخدمة في اكتشاف التزييف العميق. [168] من أجل تقييم أكثر الخوارزميات فعالية لاكتشاف التزييف العميق، استضاف تحالف من شركات التكنولوجيا الرائدة تحدي اكتشاف التزييف العميق لتسريع التكنولوجيا المستخدمة في تحديد المحتوى المتلاعب به. [170] كان النموذج الفائز في تحدي اكتشاف التزييف العميق دقيقًا بنسبة 65٪ على مجموعة الرفض المكونة من 4000 مقطع فيديو. [171] نشر فريق من معهد ماساتشوستس للتكنولوجيا ورقة بحثية في ديسمبر 2021 توضح أن البشر العاديين يتمتعون بدقة تتراوح بين 69% و72% في تحديد عينة عشوائية من 50 من هذه الفيديوهات. [172]

نشر فريق من جامعة بافالو ورقة بحثية في أكتوبر 2020 توضح أسلوبهم في استخدام انعكاسات الضوء في عيون الأشخاص الذين تم تصويرهم لاكتشاف التزييف العميق بمعدل نجاح مرتفع، حتى بدون استخدام أداة اكتشاف الذكاء الاصطناعي، على الأقل في الوقت الحالي. [173]

في حالة الأفراد الموثقين جيدًا مثل الزعماء السياسيين، تم تطوير خوارزميات للتمييز بين السمات القائمة على الهوية مثل أنماط السلوكيات الوجهية والإيمائية والصوتية واكتشاف المقلدين المزيفين. [174]

قام فريق آخر بقيادة وائل عبد المجيد من مختبر الذكاء البصري وتحليل الوسائط المتعددة (VIMAL) التابع لمعهد علوم المعلومات بجامعة جنوب كاليفورنيا بتطوير جيلين [175] [176] من أجهزة كشف التزييف العميق القائمة على الشبكات العصبية التلافيفية . استخدم الجيل الأول [175] الشبكات العصبية المتكررة لاكتشاف التناقضات المكانية والزمانية لتحديد الآثار المرئية التي خلفتها عملية إنشاء التزييف العميق. حققت الخوارزمية دقة بنسبة 96٪ على FaceForensics ++، وهو معيار التزييف العميق الوحيد واسع النطاق المتاح في ذلك الوقت. استخدم الجيل الثاني [176] شبكات عميقة من البداية إلى النهاية للتمييز بين الآثار والمعلومات الوجهية الدلالية عالية المستوى باستخدام شبكات ذات فرعين. ينشر الفرع الأول معلومات اللون بينما يقوم الفرع الآخر بقمع محتوى الوجه وتضخيم الترددات منخفضة المستوى باستخدام لابلاسيان أو غاوسي (LoG) . علاوة على ذلك، فقد تضمنت وظيفة خسارة جديدة تتعلم تمثيلًا مضغوطًا للوجوه الحقيقية، مع تشتيت التمثيلات (أي الميزات) للمقاطع المزيفة العميقة. أظهر نهج VIMAL أداءً متطورًا على معايير FaceForensics++ وCeleb-DF، وفي 16 مارس 2022 (نفس يوم الإصدار)، تم استخدامه لتحديد المقطع المزيف العميق لفولوديمير زيلينسكي خارج الصندوق دون أي إعادة تدريب أو معرفة بالخوارزمية التي تم بها إنشاء المقطع المزيف العميق. [ بحاجة لمصدر ]

تشير تقنيات أخرى إلى أنه يمكن استخدام تقنية البلوك تشين للتحقق من مصدر الوسائط. [177] على سبيل المثال، قد يتعين التحقق من مقطع فيديو من خلال السجل قبل عرضه على منصات التواصل الاجتماعي. [177] باستخدام هذه التقنية، سيتم الموافقة على مقاطع الفيديو من مصادر موثوقة فقط، مما يقلل من انتشار الوسائط المزيفة الضارة المحتملة. [177]

تم اقتراح التوقيع الرقمي لجميع مقاطع الفيديو والصور بواسطة الكاميرات وكاميرات الفيديو، بما في ذلك كاميرات الهواتف الذكية، لمكافحة التزييف العميق. [178] يسمح ذلك بتتبع كل صورة أو مقطع فيديو إلى مالكها الأصلي الذي يمكن استخدامه لملاحقة المعارضين. [178]

تتمثل إحدى الطرق السهلة لكشف مكالمات الفيديو المزيفة في مطالبة المتصل بالاستدارة جانبيًا. [179]

وقاية

يقول هنري أجدر الذي يعمل في شركة Deeptrace، وهي شركة تكتشف التسجيلات المزيفة، إن هناك عدة طرق للحماية من التسجيلات المزيفة في مكان العمل. يمكن استخدام كلمات المرور الدلالية أو الأسئلة السرية عند إجراء محادثات مهمة. يجب تحديث مصادقة الصوت وميزات الأمان البيومترية الأخرى. تثقيف الموظفين حول التسجيلات المزيفة. [116]

الخلافات

في مارس 2024، تم عرض مقطع فيديو من قصر باكنغهام ، حيث كانت كيت ميدلتون مصابة بالسرطان وكانت تخضع للعلاج الكيميائي. ومع ذلك، أثار المقطع شائعات بأن المرأة في ذلك المقطع كانت مزيفة بالذكاء الاصطناعي. [180] شكك مدير سباق جامعة كاليفورنيا في لوس أنجلوس جونثان بيركنز في إصابتها بالسرطان، وتكهن أيضًا بأنها قد تكون في حالة حرجة أو ميتة. [181]

أمثلة على الأحداث

باراك أوباما

في 17 أبريل 2018، نشر الممثل الأمريكي جوردان بيل ، وبوزفيد ، ومونكي باو برودكشنز مقطع فيديو مزيفًا لباراك أوباما على يوتيوب، والذي يصور باراك أوباما وهو يشتم دونالد ترامب ويطلق عليه الألقاب. [182] في هذا المقطع المزيف، تم تحويل صوت بيل ووجهه والتلاعب بهما ليصبحا صوت أوباما ووجهه. كان الهدف من هذا الفيديو هو تصوير العواقب الخطيرة وقوة المقاطع المزيفة، وكيف يمكن أن تجعل أي شخص يقول أي شيء.

دونالد ترامب

في 5 مايو 2019، نشر Derpfakes مقطع فيديو مزيفًا لدونالد ترامب على YouTube، استنادًا إلى مشهد كوميدي قدمه جيمي فالون في برنامج The Tonight Show . [183] ​​في المشهد الأصلي (الذي تم بثه في 4 مايو 2016)، ارتدى جيمي فالون زي دونالد ترامب وتظاهر بالمشاركة في مكالمة هاتفية مع باراك أوباما، وتحدث بطريقة جعلته يتفاخر بفوزه في الانتخابات التمهيدية في إنديانا. [183] ​​في المقطع المزيف، تحول وجه جيمي فالون إلى وجه دونالد ترامب، مع بقاء الصوت كما هو. تم إنتاج مقطع الفيديو المزيف هذا بواسطة Derpfakes بقصد كوميدي.

صورة مزيفة تم إنشاؤها بواسطة Midjourney لاعتقال دونالد ترامب [184]

في مارس 2023، ظهرت سلسلة من الصور تُظهر ضباط شرطة نيويورك وهم يقيدون ترامب. [185] تم نشر الصور، التي تم إنشاؤها باستخدام Midjourney ، في البداية على تويتر بواسطة إليوت هيجينز ولكن تمت إعادة مشاركتها لاحقًا بدون سياق، مما دفع بعض المشاهدين إلى الاعتقاد بأنها صور حقيقية. [184]

نانسي بيلوسي

في عام 2019، انتشر على نطاق واسع على وسائل التواصل الاجتماعي مقطع من خطاب نانسي بيلوسي في مركز التقدم الأمريكي (الذي ألقته في 22 مايو 2019) حيث تم إبطاء الفيديو، بالإضافة إلى تغيير درجة الصوت، ليبدو الأمر كما لو كانت في حالة سكر. يزعم المنتقدون أن هذا لم يكن تزييفًا عميقًا، بل تزييفًا سطحيًا - وهو شكل أقل تعقيدًا من التلاعب بالفيديو. [186] [187]

مارك زوكربيرج

في مايو 2019، قام فنانان بالتعاون مع شركة CannyAI بإنشاء مقطع فيديو مزيف لمؤسس فيسبوك مارك زوكربيرج يتحدث عن حصاد البيانات والتحكم فيها من مليارات الأشخاص. كان الفيديو جزءًا من معرض لتثقيف الجمهور حول مخاطر الذكاء الاصطناعي . [188] [189]

كيم جونغ أون وفلاديمير بوتين

فيديو مزيف: فلاديمير بوتن يحذر الأميركيين من التدخل في الانتخابات والانقسام السياسي المتزايد

في 29 سبتمبر 2020، تم تحميل مقاطع فيديو مزيفة للزعيم الكوري الشمالي كيم جونج أون والرئيس الروسي فلاديمير بوتن على موقع يوتيوب، والتي أنشأتها مجموعة الدفاع غير الحزبية RepresentUs . [190]

كان من المفترض أن يتم بث مقاطع كيم وبوتن المزيفة علنًا كإعلانات تجارية لنقل فكرة مفادها أن تدخل هؤلاء القادة في الانتخابات الأمريكية سيكون ضارًا بالديمقراطية في الولايات المتحدة. كما تهدف الإعلانات التجارية إلى صدمة الأمريكيين لإدراك مدى هشاشة الديمقراطية، وكيف يمكن لوسائل الإعلام والأخبار أن تؤثر بشكل كبير على مسار البلاد بغض النظر عن المصداقية. [190] ومع ذلك، في حين تضمنت الإعلانات التجارية تعليقًا ختاميًا يوضح أن اللقطات لم تكن حقيقية، إلا أنها لم تُذاع في النهاية بسبب المخاوف والحساسية بشأن كيفية رد فعل الأمريكيين. [190]

في 5 يونيو 2023، بث مصدر غير معروف مقطع فيديو مزيفًا لفلاديمير بوتن على شبكات إذاعية وتلفزيونية متعددة. في المقطع، يبدو بوتن وهو يلقي خطابًا يعلن فيه غزو روسيا ويدعو إلى التعبئة العامة للجيش. [191]

فولوديمير زيلينسكي

في 16 مارس 2022، تم تداول مقطع فيديو مزيف مدته دقيقة واحدة يصور الرئيس الأوكراني فولوديمير زيلينسكي وهو يخبر جنوده على ما يبدو بإلقاء أسلحتهم والاستسلام أثناء الغزو الروسي لأوكرانيا عام 2022 على وسائل التواصل الاجتماعي. [164] روجت وسائل التواصل الاجتماعي الروسية لهذا الفيديو، ولكن بعد فضحه، قام فيسبوك ويوتيوب بإزالته. سمح تويتر بنشر الفيديو في تغريدات حيث تم الكشف عنه على أنه مزيف، لكنه قال إنه سيتم حذفه إذا تم نشره لخداع الناس. أدخل المتسللون المعلومات المضللة في نشرة إخبارية نصية متحركة مباشرة على قناة أوكرانيا 24 التلفزيونية، وظهر الفيديو لفترة وجيزة على موقع المحطة على الإنترنت بالإضافة إلى مزاعم كاذبة بأن زيلينسكي فر من عاصمة بلاده كييف . لم يتضح على الفور من الذي أنشأ الفيديو المزيف، الذي رد عليه زيلينسكي بفيديو خاص به قائلاً: "لا نخطط لإلقاء أي أسلحة. حتى انتصارنا". [192]

اخبار الذئب

في أواخر عام 2022، بدأ دعاة مؤيدون للصين في نشر مقاطع فيديو مزيفة تزعم أنها من "وولف نيوز" تستخدم ممثلين اصطناعيين. تم تطوير هذه التكنولوجيا بواسطة شركة في لندن تسمى Synthesia، والتي تسوقها كبديل رخيص للممثلين الحقيقيين للتدريب ومقاطع الفيديو الخاصة بالموارد البشرية. [193]

البابا فرانسيس

الصورة المزيفة التي تم إنشاؤها بواسطة Midjourney للبابا فرانسيس وهو يرتدي سترة منفوخة

في مارس 2023، استخدم عامل بناء مجهول من شيكاغو موقع Midjourney لإنشاء صورة مزيفة للبابا فرانسيس مرتديًا سترة منفوخة بيضاء من Balenciaga . انتشرت الصورة على نطاق واسع، وحصلت على أكثر من عشرين مليون مشاهدة. [194] أطلق عليها الكاتب ريان بروديريك "أول حالة تضليل حقيقية على مستوى الجماهير باستخدام الذكاء الاصطناعي". [195] وصف الخبراء الذين استشارتهم مجلة Slate الصورة بأنها غير متطورة: "كان بإمكانك تصويرها على برنامج فوتوشوب قبل خمس سنوات". [196]

كير ستارمر

في أكتوبر 2023، تم إصدار مقطع صوتي مزيف لزعيم حزب العمال البريطاني كير ستارمر وهو يسيء معاملة الموظفين في اليوم الأول من مؤتمر حزب العمال. يُزعم أن المقطع عبارة عن شريط صوتي لستارمر وهو يسيء معاملة موظفيه. [197]

راشميكا ماندانا

في أوائل نوفمبر 2023، وقعت الممثلة الهندية الجنوبية الشهيرة راشميكا ماندانا فريسة لتقنية DeepFake عندما بدأ انتشار مقطع فيديو مُحوَّر لمؤثرة هندية بريطانية شهيرة، زارا باتيل، بوجه راشميكا على وسائل التواصل الاجتماعي. تزعم زارا باتيل أنها لم تشارك في إنشائه. [198]

بونغ بونغ ماركوس

في أبريل 2024، تم إصدار مقطع فيديو مزيف يسيء إلى الرئيس الفلبيني بونج بونج ماركوس . إنه عرض شرائح مصحوب بصوت مزيف لماركوس يأمر القوات المسلحة الفلبينية وقوة المهام الخاصة بالتصرف "بطريقة مناسبة" في حالة مهاجمة الصين للفلبين. تم إصدار الفيديو وسط توترات تتعلق بنزاع بحر الصين الجنوبي . [199] قال مكتب الاتصالات الرئاسية إنه لا يوجد مثل هذا التوجيه من الرئيس وقال إن ممثلًا أجنبيًا قد يكون وراء الوسائط الملفقة. [200] تم رفع تهم جنائية من قبل Kapisanan ng mga Brodkaster ng Pilipinas فيما يتعلق بالوسائط المزيفة. [201]

في 22 يوليو 2024، نشرت كلير كونتريراس، وهي مؤيدة سابقة لماركوس، مقطع فيديو لماركوس يُزعم أنه يستنشق المخدرات غير المشروعة. وقد أشارت وسائل الإعلام، التي أُطلق عليها اسم مقطع فيديو بولفورون ، إلى اتساقه مع تلميح سلف ماركوس - رودريجو دوتيرتي - إلى أن ماركوس مدمن مخدرات؛ كما عُرض الفيديو أيضًا في تجمع هاكبانج نج مايسوج الذي نظمه أشخاص متحالفون مع دوتيرتي. [202] بعد يومين، خلصت الشرطة الوطنية الفلبينية والمكتب الوطني للتحقيقات ، بناءً على نتائجهم الخاصة، إلى أن الفيديو تم إنشاؤه باستخدام الذكاء الاصطناعي؛ كما أشاروا إلى تناقضات مع الشخص الموجود في الفيديو مع ماركوس، مثل التفاصيل الموجودة على آذان الشخصين. [203]

جو بايدن

قبل الانتخابات الرئاسية الأمريكية لعام 2024 ، تم إجراء مكالمات هاتفية تحاكي صوت الرئيس الحالي جو بايدن لثني الناس عن التصويت له. تم اتهام الشخص المسؤول عن المكالمات بقمع الناخبين وانتحال شخصية مرشح. اقترحت لجنة الاتصالات الفيدرالية تغريمه بمبلغ 6 ملايين دولار أمريكي وشركة Lingo Telecom ، الشركة التي يُزعم أنها نقلت المكالمات، بمبلغ 2 مليون دولار. [204] [205]

الاستجابات

منصات التواصل الاجتماعي

تغريد

يتخذ تويتر (لاحقًا X ) تدابير فعالة للتعامل مع الوسائط المزيفة والمُعالجة على منصته. من أجل منع انتشار المعلومات المضللة، يضع تويتر إشعارًا على التغريدات التي تحتوي على وسائط مُعالجة و/أو تزييفات عميقة تشير للمشاهدين بأن الوسائط مُعالجة. [206] سيكون هناك أيضًا تحذير يظهر للمستخدمين الذين يخططون لإعادة التغريد أو الإعجاب بالتغريدة أو التفاعل معها. [206] سيعمل تويتر أيضًا على تزويد المستخدمين برابط بجوار التغريدة التي تحتوي على وسائط مُعالجة أو مُعالجة والتي ترتبط بلحظة تويتر أو مقال إخباري موثوق به حول الموضوع ذي الصلة - كإجراء فضح. [206] يتمتع تويتر أيضًا بالقدرة على إزالة أي تغريدات تحتوي على وسائط مُعالجة أو تزييفات عميقة قد تشكل ضررًا لسلامة المستخدمين. [206] من أجل تحسين اكتشاف تويتر للتزييفات العميقة والوسائط المُعالجة بشكل أفضل، طلب تويتر من المستخدمين المهتمين بالشراكة معهم العمل على حلول اكتشاف التزييف العميق لملء نموذج. [207]

"في أغسطس 2024، كتب وزراء خارجية ولايات مينيسوتا وبنسلفانيا وواشنطن وميشيغان ونيو مكسيكو خطابًا مفتوحًا إلى مالك شركة X إيلون ماسك يحثه فيه على إجراء تعديلات على مولد النص إلى الفيديو الجديد الخاص ببرنامج المحادثة بالذكاء الاصطناعي Grok ، والذي تمت إضافته في أغسطس 2024، مشيرين إلى أنه نشر معلومات مضللة عن الانتخابات. [208] [209] [210]

فيسبوك

بذلت شركة فيسبوك جهودًا لتشجيع إنشاء مقاطع فيديو مزيفة من أجل تطوير أحدث برامج الكشف عن مقاطع الفيديو المزيفة. كانت شركة فيسبوك الشريك البارز في استضافة تحدي الكشف عن مقاطع الفيديو المزيفة (DFDC)، الذي أقيم في ديسمبر 2019، لـ 2114 مشاركًا أنتجوا أكثر من 35000 نموذج. [211] تم تحليل أفضل النماذج أداءً بأعلى دقة في الكشف عن أوجه التشابه والاختلاف؛ هذه النتائج هي مجالات ذات أهمية في مزيد من البحث لتحسين وتنقيح نماذج الكشف عن مقاطع الفيديو المزيفة. [211] كما أوضحت شركة فيسبوك أن المنصة ستزيل الوسائط التي تم إنشاؤها باستخدام الذكاء الاصطناعي المستخدم لتغيير كلام الفرد. [212] ومع ذلك، فإن الوسائط التي تم تحريرها لتغيير ترتيب أو سياق الكلمات في رسالة المرء ستبقى على الموقع ولكن سيتم تصنيفها على أنها زائفة، لأنها لم يتم إنشاؤها بواسطة الذكاء الاصطناعي. [212]

رد فعل الانترنت

في 31 يناير 2018، بدأت Gfycat في إزالة جميع مقاطع الفيديو المزيفة من موقعها. [213] [214] على Reddit ، تم حظر subreddit r/deepfakes في 7 فبراير 2018، بسبب انتهاك سياسة "الإباحية غير الطوعية". [215] [216] [217] [218] [219] في نفس الشهر، صرح ممثلو Twitter أنهم سيعلقون الحسابات المشتبه في نشرها لمحتوى مزيف غير توافقي. [220] اتخذ موقع الدردشة Discord إجراءات ضد مقاطع الفيديو المزيفة في الماضي، [221] واتخذ موقفًا عامًا ضد مقاطع الفيديو المزيفة. [214] [222] في سبتمبر 2018، أضافت Google "صور إباحية اصطناعية غير طوعية" إلى قائمة الحظر الخاصة بها، مما يسمح لأي شخص بطلب حظر النتائج التي تعرض صوره العارية المزيفة. [223] [ تحقق من صيغة الاقتباس ] في فبراير 2018، صرح موقع Pornhub أنه سيحظر مقاطع الفيديو المزيفة على موقعه الإلكتروني لأنها تعتبر "محتوى غير توافقي" ينتهك شروط الخدمة الخاصة بهم. [224] كما صرحوا سابقًا لموقع Mashable أنهم سيحذفون المحتوى الذي تم وضع علامة عليه على أنه مزيف. [225] أفاد كتاب من Motherboard أن البحث عن "deepfakes" على موقع Pornhub لا يزال يعرض مقاطع فيديو مزيفة متعددة حديثة. [224]

صرحت شركة فيسبوك سابقًا أنها لن تزيل مقاطع الفيديو المزيفة من منصاتها. [226] وبدلاً من ذلك، سيتم وضع علامة على مقاطع الفيديو على أنها مزيفة من قبل جهات خارجية ثم يتم تقليل أولويتها في موجزات المستخدم. [227] تم المطالبة بهذا الرد في يونيو 2019 بعد تداول مقطع فيديو مزيف يضم مقطع فيديو يعود إلى عام 2016 لمارك زوكربيرج على فيسبوك وإنستغرام . [226]

في مايو 2022، قامت Google رسميًا بتغيير شروط الخدمة لمختبرات Jupyter Notebook الخاصة بها ، وحظرت استخدام خدمة مختبرها لغرض إنشاء مقاطع فيديو مزيفة. [228] جاء هذا بعد أيام قليلة من نشر مقال في VICE، زعم أن "معظم مقاطع الفيديو المزيفة هي صور إباحية غير موافقة" وأن الاستخدام الرئيسي لبرنامج DeepFaceLab (DFL) الشهير، "التكنولوجيا الأكثر أهمية التي تدعم الغالبية العظمى من هذا الجيل من مقاطع الفيديو المزيفة" والتي غالبًا ما كانت تستخدم بالاشتراك مع مختبرات Google، سيكون لإنشاء صور إباحية غير موافقة، من خلال الإشارة إلى حقيقة أنه من بين العديد من الأمثلة الأخرى المعروفة لتطبيقات DFL التابعة لجهات خارجية مثل مقاطع الفيديو المزيفة التي كلفت بها شركة Walt Disney ومقاطع الفيديو الموسيقية الرسمية والمسلسلات على الويب Sassy Justice من قبل مبتكري South Park ، ترتبط صفحة DFL على GitHub أيضًا بموقع الفيديو الإباحي Mr. Deepfakes ويشارك المشاركون في خادم DFL Discord أيضًا في Mr. Deepfakes . [229]

في الولايات المتحدة، كانت هناك بعض الاستجابات للمشاكل التي يفرضها التزييف العميق. في عام 2018، تم تقديم قانون حظر التزييف العميق الخبيث إلى مجلس الشيوخ الأمريكي ؛ [230] في عام 2019، تم تقديم قانون مساءلة التزييف العميق في الكونجرس الأمريكي رقم 116 من قبل ممثل الولايات المتحدة عن الدائرة الكونجرسية التاسعة في نيويورك، إيفون كلارك . [231] كما قدمت العديد من الولايات تشريعات بشأن التزييف العميق، بما في ذلك فيرجينيا، [232] وتكساس، وكاليفورنيا، ونيويورك؛ [233] وقد تم ملاحقة تهم متنوعة مثل سرقة الهوية ، والمطاردة الإلكترونية ، والانتقام الإباحي ، في حين تم حث القوانين الأكثر شمولاً. [223]

من بين الجهود التشريعية الأمريكية، في 3 أكتوبر 2019، وقع حاكم ولاية كاليفورنيا جافين نيوسوم على مشروعي قانون الجمعية رقم 602 ورقم 730. [234] [235] يوفر مشروع قانون الجمعية رقم 602 للأفراد المستهدفين بمحتوى مزيف صريح جنسيًا تم إنشاؤه دون موافقتهم سببًا للدعوى ضد منشئ المحتوى. [234] يحظر مشروع قانون الجمعية رقم 730 توزيع الوسائط الصوتية أو المرئية المزيفة الضارة التي تستهدف مرشحًا لمنصب عام في غضون 60 يومًا من انتخابه. [235] قدمت الممثلة الأمريكية إيفون كلارك مشروع قانون HR 5586: قانون مساءلة Deepfakes إلى الكونجرس الأمريكي رقم 118 في 20 سبتمبر 2023 في محاولة لحماية الأمن القومي من التهديدات التي تشكلها تقنية Deepfakes. [236] قدمت الممثلة الأمريكية ماريا سالازار مشروع قانون رقم 6943: قانون منع الاحتيال في مجال الذكاء الاصطناعي إلى الكونجرس الأمريكي رقم 118 في 10 يناير 2024، لتأسيس حقوق ملكية محددة للجسد الفردي، بما في ذلك الصوت. [237]

في نوفمبر 2019، أعلنت الصين أن مقاطع الفيديو المزيفة وغيرها من اللقطات المزيفة صناعيًا يجب أن تحمل إشعارًا واضحًا حول زيفها بدءًا من عام 2020. وقد ذكرت إدارة الفضاء الإلكتروني في الصين على موقعها على الإنترنت أن عدم الامتثال يمكن اعتباره جريمة . [ 238 ] يبدو أن الحكومة الصينية تحتفظ بالحق في مقاضاة كل من المستخدمين ومنصات الفيديو عبر الإنترنت التي تفشل في الالتزام بالقواعد. [239] أصدرت إدارة الفضاء الإلكتروني في الصين ووزارة الصناعة وتكنولوجيا المعلومات ووزارة الأمن العام بشكل مشترك أحكام إدارة خدمة معلومات الإنترنت للتوليف العميق في نوفمبر 2022. [240] دخلت أحكام التوليف العميق المحدثة في الصين (الأحكام الإدارية للتوليف العميق في خدمات المعلومات القائمة على الإنترنت) حيز التنفيذ في يناير 2023. [241]

في المملكة المتحدة، يمكن مقاضاة منتجي المواد المزيفة العميقة بتهمة التحرش، لكن إنتاج المواد المزيفة العميقة لم يكن جريمة محددة [242] حتى عام 2023، عندما صدر قانون السلامة عبر الإنترنت ، والذي جعل المواد المزيفة العميقة غير قانونية؛ تخطط المملكة المتحدة لتوسيع نطاق القانون لتجريم المواد المزيفة العميقة التي تم إنشاؤها "بقصد التسبب في ضائقة" في عام 2024. [243] [244]

في كندا، في عام 2019، أصدرت مؤسسة أمن الاتصالات تقريرًا قال إن التزييف العميق يمكن استخدامه للتدخل في السياسة الكندية، وخاصة لتشويه سمعة السياسيين والتأثير على الناخبين. [245] [246] ونتيجة لذلك، هناك طرق متعددة للمواطنين في كندا للتعامل مع التزييف العميق إذا تم استهدافهم به. [247] في فبراير 2024، تم تقديم مشروع القانون C-63 في البرلمان الكندي الرابع والأربعين من أجل سن قانون الأضرار عبر الإنترنت ، والذي من شأنه تعديل القانون الجنائي والقوانين الأخرى. تم إنهاء نسخة سابقة من مشروع القانون، C-36، بحل البرلمان الكندي الثالث والأربعين في سبتمبر 2021. [248] [249]

في الهند، لا توجد قوانين أو لوائح مباشرة بشأن الذكاء الاصطناعي أو التزييف العميق، ولكن هناك أحكام بموجب قانون العقوبات الهندي وقانون تكنولوجيا المعلومات 2000/2008، والتي يمكن النظر فيها للحصول على حلول قانونية، وسيحتوي قانون الهند الرقمية الجديد المقترح على فصل خاص بالذكاء الاصطناعي والتزييف العميق على وجه الخصوص، وفقًا لوزير الدولة راجيف شاندراسيخار. [250]

في أوروبا، يتبنى قانون الذكاء الاصطناعي لعام 2024 الصادر عن الاتحاد الأوروبي (قانون الذكاء الاصطناعي) نهجًا قائمًا على المخاطر لتنظيم أنظمة الذكاء الاصطناعي، بما في ذلك التزييف العميق. ويضع القانون فئات "المخاطر غير المقبولة" و"المخاطر العالية" و"المخاطر المحددة/المحدودة أو مخاطر الشفافية" و"المخاطر الدنيا" لتحديد مستوى الالتزامات التنظيمية لمقدمي ومستخدمي الذكاء الاصطناعي. ومع ذلك، فإن الافتقار إلى تعريفات واضحة لهذه الفئات من المخاطر في سياق التزييف العميق يخلق تحديات محتملة للتنفيذ الفعال. وقد أثار علماء القانون مخاوف بشأن تصنيف التزييف العميق المخصص للتضليل السياسي أو إنشاء صور حميمة غير متفق عليها. وهناك جدال حول ما إذا كان ينبغي اعتبار مثل هذه الاستخدامات دائمًا أنظمة ذكاء اصطناعي "عالية المخاطر"، الأمر الذي من شأنه أن يؤدي إلى متطلبات تنظيمية أكثر صرامة. [251]

في أغسطس 2024، بدأت لجنة حماية البيانات الأيرلندية (DPC) إجراءات قانونية ضد شركة X لاستخدامها غير القانوني للبيانات الشخصية لأكثر من 60 مليون مستخدم في الاتحاد الأوروبي/المنطقة الاقتصادية الأوروبية، من أجل تدريب تقنيات الذكاء الاصطناعي الخاصة بها، مثل روبوت الدردشة Grok . [252]

الرد من وكالة مشاريع البحوث الدفاعية المتقدمة (DARPA)

في عام 2016، أطلقت وكالة مشاريع الأبحاث الدفاعية المتقدمة (DARPA) برنامج Media Forensics (MediFor) الذي تم تمويله حتى عام 2020. [253] يهدف MediFor إلى اكتشاف التلاعب الرقمي تلقائيًا في الصور ومقاطع الفيديو، بما في ذلك Deepfakes . [254] [255] في صيف عام 2018، عقد MediFor حدثًا حيث تنافس الأفراد على إنشاء مقاطع فيديو ومقاطع صوتية وصور تم إنشاؤها بواسطة الذكاء الاصطناعي بالإضافة إلى أدوات آلية للكشف عن هذه التلاعبات العميقة. [256] وفقًا لبرنامج MediFor، فقد أنشأ إطارًا من ثلاث طبقات من المعلومات - النزاهة الرقمية والسلامة المادية والسلامة الدلالية - لتوليد درجة نزاهة واحدة في محاولة لتمكين الكشف الدقيق عن الوسائط التي تم التلاعب بها. [257]

في عام 2019، استضافت وكالة مشاريع الأبحاث الدفاعية المتقدمة "يوم المقترحين" لبرنامج الطب الشرعي الدلالي (SemaFor)، حيث تم دفع الباحثين لمنع الانتشار الفيروسي للوسائط التي تم التلاعب بها بواسطة الذكاء الاصطناعي. [258] كما عملت وكالة مشاريع الأبحاث الدفاعية المتقدمة وبرنامج الطب الشرعي الدلالي معًا للكشف عن الوسائط التي تم التلاعب بها بواسطة الذكاء الاصطناعي من خلال الجهود المبذولة في تدريب أجهزة الكمبيوتر على استخدام المنطق السليم. [258] بناءً على تقنيات MediFor، تستنتج خوارزميات الإسناد الخاصة بـ SemaFor ما إذا كانت الوسائط الرقمية تنشأ من منظمة أو فرد معين، بينما تحدد خوارزميات التوصيف ما إذا كانت الوسائط قد تم إنشاؤها أو التلاعب بها لأغراض ضارة. [259] في مارس 2024، نشرت SemaFor كتالوجًا تحليليًا يوفر للجمهور الوصول إلى الموارد مفتوحة المصدر التي تم تطويرها بموجب SemaFor. [260] [261]

اللجنة الدولية المعنية ببيئة المعلومات

تم إطلاق اللجنة الدولية للبيئة المعلوماتية في عام 2023 كتحالف يضم أكثر من 250 عالمًا يعملون على تطوير تدابير فعالة لمكافحة التزييف العميق وغيرها من المشاكل الناجمة عن الحوافز المنحرفة في المنظمات التي تنشر المعلومات عبر الإنترنت. [262]

  • نشر عدد منتصف ديسمبر 1986 من مجلة أنالوج قصة قصيرة بعنوان "بيكابر" لجاك وودهامز. تدور أحداث القصة حول مقاطع فيديو مُحسَّنة رقميًا أو مُولَّدة رقميًا أنتجها قراصنة ماهرون يخدمون المحامين والشخصيات السياسية عديمي الضمير. [263]
  • يصور فيلم The Running Man الذي أنتج عام 1987 وقام ببطولته أرنولد شوارزنيجر حكومة استبدادية تستخدم أجهزة الكمبيوتر لاستبدال وجوه الممثلين رقميًا بوجه الهاربين المطلوبين ليبدو الأمر وكأن الهاربين قد تم تحييدهم.
  • في فيلم الإثارة التقني " تحقيق فلسفي" عام 1992 من تأليف فيليب كير ، يستخدم "فيتجنشتاين"، الشخصية الرئيسية والقاتل المتسلسل، برنامجًا مشابهًا للتزييف العميق وبدلة الواقع الافتراضي لممارسة الجنس مع صورة رمزية لإيزادورا "جيك" جاكوفيتش، ملازم الشرطة الأنثى المكلفة بالقبض عليه. [264]
  • يصور فيلم Rising Sun لعام 1993 بطولة شون كونري ويسلي سنايبس شخصية أخرى، جينجو أساكوما، الذي يكشف أن قرص كمبيوتر قام بتغيير الهويات الشخصية رقميًا للإشارة إلى أحد المنافسين.
  • تقنية Deepfake هي جزء من حبكة المسلسل التلفزيوني The Capture لعام 2019 على قناة BBC One . يتبع المسلسل الأول الرقيب السابق في الجيش البريطاني شون إيمري، المتهم بالاعتداء على محاميه واختطافه. تم الكشف عن أن لقطات CCTV التي تم تعديلها بخبرة قد أوقعته في الفخ وضللت الشرطة التي تحقق في القضية. [265] [266] يتبع المسلسل الثاني السياسي إسحاق تورنر الذي يكتشف أن هناك عملية تزييف عميقة أخرى تشوه سمعته حتى يتم الكشف عن "التصحيح" في النهاية للجمهور.
  • في يونيو 2020، ابتكر فنان التزييف العميق على اليوتيوب Shamook مقطعًا مزيفًا عميقًا لفيلم Forrest Gump لعام 1994 من خلال استبدال وجه الممثل المحبوب Tom Hanks بوجه John Travolta . لقد ابتكر هذه القطعة باستخدام 6000 صورة ثابتة عالية الجودة لوجه John Travolta من العديد من أفلامه التي تم إصدارها في نفس وقت Forrest Gump . ثم ​​ابتكر Shamook ملف تعريف وجه بزاوية 180 درجة أدخله في برنامج التعلم الآلي (DeepFaceLabs)، إلى جانب وجه Tom Hanks من Forrest Gump . [267] يعود الفكاهة والسخرية في هذا التزييف العميق إلى عام 2007 عندما كشف جون ترافولتا أنه رفض فرصة لعب الدور الرئيسي في Forrest Gump لأنه قال نعم لفيلم Pulp Fiction بدلاً من ذلك. [268]
  • آل ديفيس ضد اتحاد كرة القدم الأميركي : يستخدم الهيكل السردي لهذا الفيلم الوثائقي لعام 2021، وهو جزء من سلسلة الأفلام الوثائقية 30 for 30 على قناة ESPN ، نسخًا مزيفة لشخصيتي الفيلم الرئيسيتين، وكلاهما متوفين - آل ديفيس ، الذي كان يمتلك فريق لاس فيجاس رايدرز خلال فترة وجود الفريق في أوكلاند ولوس أنجلوس ، وبيت روزيل ، مفوض اتحاد كرة القدم الأميركي الذي اشتبك كثيرًا مع ديفيس. [269] [270]
  • ظهرت تقنية Deepfake في "Impawster Syndrome"، الحلقة السابعة والخمسين من المسلسل الكندي Hudson & Rex ، الذي تم بثه لأول مرة في 6 يناير 2022، حيث يتم التحقيق مع أحد أعضاء فريق شرطة سانت جونز للاشتباه في السرقة والاعتداء بسبب لقطات كاميرا مراقبة مزيفة باستخدام صورته. [271]
  • باستخدام تقنية التزييف العميق في الفيديو الموسيقي الخاص به لأغنيته المنفردة لعام 2022، " The Heart Part 5 "، تحول الموسيقي كندريك لامار إلى شخصيات تشبه نيبسي هاسل ، وأوجي سيمبسون ، وكاني ويست ، من بين آخرين. [272] تم إنشاء تقنية التزييف العميق في الفيديو بواسطة Deep Voodoo، وهو استوديو يقوده تري باركر ومات ستون ، الذي أنشأ مسلسل South Park . [272]
  • كرّم ألو بلاك زميله القديم أفيتشي بعد أربع سنوات من وفاته بأداء أغنيتهما " Wake Me Up " [ 273] باللغتين الإنجليزية والإسبانية والمندرينية ، باستخدام تقنيات التزييف العميق. [274 ]
  • في يناير 2023، أصدرت قناة ITVX مسلسل Deep Fake Neighbour Wars ، والذي لعب فيه ممثلون شخصيات مشاهير مختلفة، حيث تعرضوا لصراعات سخيفة، وتم تزوير وجه المشاهير عليهم. [275]
  • في أكتوبر 2023، نشر توم هانكس صورة لشبه مزيف واضح يصوره وهو يروج لـ "بعض خطط طب الأسنان" على صفحته على إنستغرام . حذر هانكس معجبيه، "احذروا... ليس لي أي علاقة بالأمر". [97]

انظر أيضا

مراجع

  1. ^ براندون، جون (16 فبراير 2018). "أفلام إباحية مرعبة عالية التقنية: مقاطع فيديو مخيفة مزيفة آخذة في الارتفاع". فوكس نيوز . مؤرشف من الأصل في 15 يونيو 2018. تم الاسترجاع في 20 فبراير 2018 .
  2. ^ كالبوكاس، إجناس؛ كالبوكين، جوليجا (2022). التزييف العميق. سبرينغر تشام. ص 1-2. دوى :10.1007/978-3-030-93802-4. رقم ISBN 978-3-030-93801-7.
  3. ^ Juefei-Xu, Felix; Wang, Run; Huang, Yihao; Guo, Qing; Ma, Lei; Liu, Yang (1 يوليو 2022). "مواجهة التزييفات العميقة الخبيثة: المسح، وساحة المعركة، والأفق". المجلة الدولية لرؤية الكمبيوتر . 130 (7): 1678–1734. doi :10.1007/s11263-022-01606-8. ISSN  1573-1405. PMC 9066404. PMID 35528632.  مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع في 15 يوليو 2023 . 
  4. ^ ab Kietzmann, J.; Lee, LW; McCarthy, IP; Kietzmann, TC (2020). "التزييف العميق: خدعة أم حلوى؟" (PDF) . آفاق الأعمال . 63 (2): 135–146. doi :10.1016/j.bushor.2019.11.006. S2CID  213818098. مؤرشف من الأصل (PDF) في 29 ديسمبر 2022. تم الاسترجاع في 30 ديسمبر 2022 .
  5. ^ والدروب، م. ميتشل (16 مارس 2020). "الوسائط الاصطناعية: المشكلة الحقيقية مع التزييف العميق". مجلة Knowable . المراجعات السنوية. doi : 10.1146/knowable-031320-1 . مؤرشف من الأصل في 19 نوفمبر 2022. تم الاسترجاع في 19 ديسمبر 2022 .
  6. ^ شوارتز، أوسكار (12 نوفمبر 2018). "هل تعتقد أن الأخبار المزيفة سيئة؟ التزييف العميق هو المكان الذي تموت فيه الحقيقة". الجارديان . مؤرشف من الأصل في 16 يونيو 2019. تم الاسترجاع 14 نوفمبر 2018 .
  7. ^ فريد، هاني (15 سبتمبر 2019). "التحليل الجنائي للصور". المراجعة السنوية لعلوم الرؤية . 5 (1): 549-573. doi :10.1146/annurev-vision-091718-014827. ISSN  2374-4642. PMID  31525144. S2CID  263558880. مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع 20 سبتمبر 2023 .
  8. ^ بنكس، أليك (20 فبراير 2018). "ما هي مقاطع الفيديو المزيفة ولماذا مستقبل المواد الإباحية مرعب". هايسنوبيتي . مؤرشف من الأصل في 14 يوليو 2021. تم الاسترجاع 20 فبراير 2018 .
  9. ^ كريستيان، جون. "يخشى الخبراء أن تؤدي تقنية تبديل الوجوه إلى اندلاع مواجهة دولية". The Outline . مؤرشف من الأصل في 16 يناير 2020 . تم الاسترجاع في 28 فبراير 2018 .
  10. ^ روز، كيفن (4 مارس 2018). "هنا تأتي مقاطع الفيديو المزيفة أيضًا" . نيويورك تايمز . ISSN  0362-4331. مؤرشف من الأصل في 18 يونيو 2019. تم الاسترجاع 24 مارس 2018 .
  11. ^ شراير ، ماركو. ستاروف، تيمور؛ رايمر، بيرند. بورث ، داميان (أكتوبر 2019). “التعلم التنافسي لل Deepfakes في المحاسبة”. أرخايف : 1910.03810 [cs.LG].
  12. ^ كارامانسيون، كيفن ماثي (21 أبريل 2021). "الملف الديموغرافي الأكثر عرضة للتضليل". مؤتمر معهد مهندسي الكهرباء والإلكترونيات الدولي لإنترنت الأشياء والإلكترونيات والميكاترونيات (IEMTRONICS) لعام 2021. IEEE. ص. 1-7. doi :10.1109/iemtronics52119.2021.9422597. ISBN 978-1-6654-4067-7. S2CID  234499888. مؤرشف من الأصل في 10 يونيو 2024 . تم الاسترجاع 9 يونيو 2023 .
  13. ^ لالا، فيجاي؛ ميتراني، أدين؛ هارنيد، زاك. "الذكاء الاصطناعي: التزييف العميق في صناعة الترفيه". المنظمة العالمية للملكية الفكرية . مؤرشف من الأصل في 8 نوفمبر 2022. تم الاسترجاع 8 نوفمبر 2022 .
  14. ^ abc Harwell, Drew (12 June 2019). "Top AIseekers race to detect 'deepfake' videos: 'We are outgunned'" . The Washington Post . مؤرشف من الأصل في 31 أكتوبر 2019 . تم الاسترجاع في 8 نوفمبر 2019 .
  15. ^ سانشيز، جوليان (8 فبراير 2018). "بفضل الذكاء الاصطناعي، يتم ريادة مستقبل "الأخبار المزيفة" في المواد الإباحية المصنوعة منزليًا". إن بي سي نيوز . مؤرشف من الأصل في 9 نوفمبر 2019. تم الاسترجاع في 8 نوفمبر 2019 .
  16. ^ abcd Porter, Jon (2 September 2019). "تطبيق آخر مقنع لتقنية التزييف العميق ينتشر بسرعة كبيرة ويثير ردود فعل سلبية فورية بشأن الخصوصية". The Verge . مؤرشف من الأصل في 3 سبتمبر 2019 . تم الاسترجاع في 8 نوفمبر 2019 .
  17. ^ بود، ليزا؛ ليز، دومينيك؛ جولدينج، دان (29 يوليو 2021). "الوجه الرقمي والتزييف العميق على الشاشة". التقارب: المجلة الدولية للبحوث في تقنيات الوسائط الجديدة . 27 (4): 849-854. doi : 10.1177/13548565211034044 . ISSN  1354-8565. S2CID  237402465.
  18. ^ ab Holliday, Christopher (26 July 2021). "إعادة كتابة النجوم: التوترات السطحية ومشاكل النوع الاجتماعي في إنتاج الوسائط عبر الإنترنت للفيديوهات الرقمية المزيفة". Convergence: The International Journal of Research into New Media Technologies . 27 (4): 899–918. doi : 10.1177/13548565211029412 . ISSN  1354-8565. S2CID  237402548.
  19. ^ جينجريتش، أوليفر م. (5 يوليو 2021). "GENDER*UCK: إعادة صياغة فن النوع والإعلام". وقائع مؤتمر إيفا لندن 2021 (EVA 2021) . ورش عمل إلكترونية في الحوسبة. doi : 10.14236/ewic/EVA2021.25 . S2CID  236918199.
  20. ^ فليتشر، جون (2018). "التزييف العميق والذكاء الاصطناعي وبعض أنواع الديستوبيا: الوجوه الجديدة لأداء ما بعد الحقيقة عبر الإنترنت". مجلة المسرح . 70 (4): 455-471. doi :10.1353/tj.2018.0097. ISSN  1086-332X. S2CID  191988083.
  21. ^ أوهمان، كارل (1 يونيو 2020). "تقديم معضلة المنحرفين: مساهمة في نقد المواد الإباحية المزيفة". الأخلاق وتكنولوجيا المعلومات . 22 (2): 133-140. doi : 10.1007/s10676-019-09522-1 . ISSN  1572-8439. S2CID  208145457.
  22. ^ فان دير ناجل، إميلي (1 أكتوبر 2020). "التحقق من الصور: التزييف العميق والتحكم والموافقة". دراسات الإباحية . 7 (4): 424-429. doi :10.1080/23268743.2020.1741434. ISSN  2326-8743. S2CID  242891792. مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع في 9 فبراير 2022 .
  23. ^ فاليس، دون (1 ديسمبر 2021). "التهديد المعرفي للتقنيات المزيفة العميقة". الفلسفة والتكنولوجيا . 34 (4): 623-643. doi :10.1007/s13347-020-00419-2. ISSN  2210-5433. PMC 7406872. PMID 32837868  . 
  24. ^ تشيسني، روبرت؛ سيترون، دانييل كيتس (2018). "التزييف العميق: تحدٍ وشيك للخصوصية والديمقراطية والأمن القومي". مجلة SSRN الإلكترونية . doi :10.2139/ssrn.3213954. ISSN  1556-5068. مؤرشف من الأصل في 21 ديسمبر 2019. تم الاسترجاع في 9 فبراير 2022 .
  25. ^ يادلين سيجال، آية؛ أوبنهايم، يائيل (فبراير 2021). "من هو صاحب الديستوبيا على أية حال؟ التزييف العميق وتنظيم وسائل التواصل الاجتماعي". التقارب: المجلة الدولية للبحوث في تقنيات الوسائط الجديدة . 27 (1): 36-51. doi :10.1177/1354856520923963. ISSN  1354-8565. S2CID  219438536. مؤرشف من الأصل في 9 فبراير 2022. تم الاسترجاع في 9 فبراير 2022 .
  26. ^ هوانج، يوري؛ ريو، جي يون؛ جونغ، سي هون (1 مارس 2021). "تأثيرات التضليل باستخدام التزييف العميق: التأثير الوقائي لتعليم محو الأمية الإعلامية". علم النفس السيبراني والسلوك والشبكات الاجتماعية . 24 (3): 188-193. doi :10.1089/cyber.2020.0174. ISSN  2152-2715. PMID  33646021. S2CID  232078561. مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع 9 فبراير 2022 .
  27. ^ هايت، كريج (12 نوفمبر 2021). "التزييف العميق والممارسة الوثائقية في عصر المعلومات المضللة". كونتينوم . 36 (3): 393-410. doi :10.1080/10304312.2021.2003756. ISSN  1030-4312. S2CID  244092288. مؤرشف من الأصل في 9 فبراير 2022. تم الاسترجاع في 9 فبراير 2022 .
  28. ^ هانكوك، جيفري ت.؛ بيلنسون، جيريمي ن. (1 مارس 2021). "التأثير الاجتماعي للتقنيات المزيفة العميقة". علم النفس السيبراني والسلوك والشبكات الاجتماعية . 24 (3): 149-152. doi :10.1089/cyber.2021.29208.jth. ISSN  2152-2715. PMID  33760669. S2CID  232356146. مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع 9 فبراير 2022 .
  29. ^ دي سيتا، غابرييل (30 يوليو 2021). "هوانليان، أو الوجوه المتغيرة: التزييف العميق على منصات الوسائط الرقمية الصينية". التقارب: المجلة الدولية للأبحاث في تقنيات الوسائط الجديدة . 27 (4): 935-953. doi :10.1177/13548565211030185. hdl : 11250/2833613 . ISSN  1354-8565. S2CID  237402447. مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع 9 فبراير 2022 .
  30. ^ ab Bregler, Christoph; Covell, Michele; Slaney, Malcolm (1997). "إعادة كتابة الفيديو: قيادة الكلام المرئي بالصوت". وقائع المؤتمر السنوي الرابع والعشرين حول الرسومات الحاسوبية والتقنيات التفاعلية – SIGGRAPH '97 . المجلد 24. ص 353-360. doi :10.1145/258734.258880. ISBN 0897918967. S2CID  2341707. مؤرشف من الأصل في 10 يونيو 2024. استرجاع 10 يوليو 2023 .
  31. ^ abc Suwajanakorn, Supasorn; Seitz, Steven M.; Kemelmacher-Shlizerman, Ira (July 2017). "Synthesizing Obama: Learning Lip Sync from Audio". ACM Trans. Graph . 36 (4): 95:1–95:13. doi :10.1145/3072959.3073640. S2CID  207586187. مؤرشف من الأصل في 19 مايو 2020. تم الاسترجاع في 10 يوليو 2023 .
  32. ^ abc Thies, Justus; Zollhöfer, Michael; Stamminger, Marc; Theobalt, Christian; Nießner, Matthias (يونيو 2016). "Face2Face: Real-Time Face Capture and Reenactment of RGB Videos". مؤتمر معهد مهندسي الكهرباء والإلكترونيات لعام 2016 حول الرؤية الحاسوبية والتعرف على الأنماط (CVPR) . IEEE. ص. 2387–2395. arXiv : 2007.14808 . doi :10.1109/CVPR.2016.262. ISBN 9781467388511. S2CID  206593693.
  33. ^ "التزييف العميق للرقص: يمكنك الآن استخدام الذكاء الاصطناعي لتزييف حركات الرقص التي طالما أردتها". The Verge . مؤرشف من الأصل في 17 مايو 2019 . تم الاسترجاع في 27 أغسطس 2018 .
  34. ^ فاركوهار، بيتر (27 أغسطس 2018). "سيكون هناك برنامج ذكاء اصطناعي قريبًا لمساعدتك على الرقص العميق - فقط لا تسميه ديب فيك". بيزنس إنسايدر أستراليا . مؤرشف من الأصل في 10 أبريل 2019. تم الاسترجاع في 27 أغسطس 2018 .
  35. ^ ميرسكي، يسرويل؛ ماهلر، توم؛ شيليف، إيلان؛ إلوفيتشي، يوفال (2019). CT-GAN: التلاعب الخبيث بالصور الطبية ثلاثية الأبعاد باستخدام التعلم العميق. ص 461-478. arXiv : 1901.03597 . ISBN 978-1-939133-06-9. تم أرشفة من الأصل في 20 يونيو 2020 . تم استرجاعه في 18 يونيو 2020 .
  36. ^ أونيل، باتريك هاويل (3 أبريل 2019). "باحثون يستعرضون برامج خبيثة يمكنها خداع الأطباء لتشخيص السرطان بشكل خاطئ". جيزمودو . مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع 3 يونيو 2022 .
  37. ^ ميرسكي، يسرويل؛ لي، وينكي (12 مايو 2020). "إنشاء واكتشاف التزييف العميق: دراسة استقصائية". استطلاعات الحوسبة التابعة لـ ACM . arXiv : 2004.11138 . doi :10.1145/3425780. S2CID  216080410.
  38. ^ Karnouskos, Stamatis (2020). "الذكاء الاصطناعي في الوسائط الرقمية: عصر التزييف العميق" (PDF) . IEEE Transactions on Technology and Society . 1 (3): 1. doi :10.1109/TTS.2020.3001312. S2CID  221716206. مؤرشف من الأصل (PDF) في 14 يوليو 2021. تم الاسترجاع في 9 يوليو 2020 .
  39. ^ ab Cole, Samantha (24 January 2018). "نحن في ورطة حقيقية: الجميع يصنعون أفلام إباحية مزيفة تم إنشاؤها بواسطة الذكاء الاصطناعي الآن". Vice . مؤرشف من الأصل في 7 سبتمبر 2019 . تم الاسترجاع في 4 مايو 2019 .
  40. ^ هايسوم، سام (31 يناير 2018). "الناس يستخدمون تقنية تبديل الوجوه لإضافة نيكولاس كيج إلى الأفلام العشوائية وما هو عام 2018". ماشابل . مؤرشف من الأصل في 24 يوليو 2019. تم الاسترجاع 4 أبريل 2019 .
  41. ^ "r/SFWdeepfakes". Reddit . مؤرشف من الأصل في 9 أغسطس 2019 . تم الاسترجاع 12 ديسمبر 2018 .
  42. ^ هاثاواي، جاي (8 فبراير 2018). "هنا حيث ذهبت 'التزييفات العميقة'، صور المشاهير المزيفة الجديدة، بعد حظر ريديت". ديلي دوت . مؤرشف من الأصل في 6 يوليو 2019. تم الاسترجاع في 22 ديسمبر 2018 .
  43. ^ "ما هو Deepfake وكيف يتم صنعه؟". نصائح تقنية عبر الإنترنت . 23 مايو 2019. مؤرشف من الأصل في 8 نوفمبر 2019. تم الاسترجاع 8 نوفمبر 2019 .
  44. ^ روبرتسون، آدي (11 فبراير 2018). "أستخدم الذكاء الاصطناعي لمبادلة وجهي إيلون ماسك وجيف بيزوس، وأنا سيئ حقًا في ذلك". The Verge . مؤرشف من الأصل في 24 مارس 2018 . تم الاسترجاع 8 نوفمبر 2019 .
  45. ^ "Deepfakes web | أفضل تطبيق لتبادل الوجوه عبر الإنترنت". Deepfakes web . مؤرشف من الأصل في 14 يوليو 2021 . تم الاسترجاع 21 فبراير 2021 .
  46. ^ "Faceswap هو برنامج Deepfakes الرائد المجاني والمفتوح المصدر والمتعدد المنصات". 15 أكتوبر 2019. مؤرشف من الأصل في 31 مايو 2021. تم الاسترجاع 14 يوليو 2021 – عبر WordPress.
  47. ^ "DeepFaceLab هي أداة تستخدم التعلم الآلي لاستبدال الوجوه في مقاطع الفيديو. تتضمن برنامجًا ثنائيًا جاهزًا للعمل مستقلًا لأنظمة التشغيل Windows 7 و8 و10 (انظر readme.md).: iperov/DeepFaceLab". 19 يونيو 2019. مؤرشف من الأصل في 9 مايو 2019. تم الاسترجاع في 6 مارس 2019 – عبر GitHub.
  48. ^ تشاندلر، سيمون. "لماذا تعد تقنية التزييف العميق إيجابية صافية للإنسانية". فوربس . مؤرشف من الأصل في 16 نوفمبر 2020. تم الاسترجاع في 3 نوفمبر 2020 .
  49. ^ Pangburn, DJ (21 September 2019). "You've been warned: Full body deepfakes are the next step in AI-based human mimicry". Fast Company . مؤرشف من الأصل في 8 نوفمبر 2019 . تم الاسترجاع 8 نوفمبر 2019 .
  50. ^ ليونز، كيم (29 يناير 2020). "تقول لجنة التجارة الفيدرالية إن التكنولوجيا وراء التزييف الصوتي العميق تتحسن". The Verge . مؤرشف من الأصل في 30 يناير 2020 . تم الاسترجاع 8 فبراير 2020 .
  51. ^ "عينات صوتية من "نقل التعلم من التحقق من المتحدث إلى توليف النص إلى الكلام متعدد المتحدثين"". google.github.io . مؤرشف من الأصل في 14 نوفمبر 2019 . تم الاسترجاع في 8 فبراير 2020 .
  52. ^ جيا، يي؛ تشانغ، يو؛ فايس، رون J.؛ وانغ، تشيوان. شين جوناثان. رن، فاي؛ تشن، زيفنغ؛ نجوين، باتريك؛ بانغ، رومينج؛ مورينو، إجناسيو لوبيز؛ وو ، يونغوي (2 يناير 2019). “نقل التعلم من التحقق من السماعة إلى تركيب تحويل النص إلى كلام متعدد السماعات”. أرخايف : 1806.04558 [cs.CL].
  53. ^ "TUM Visual Computing: Prof. Matthias Nießner". www.niessnerlab.org . مؤرشف من الأصل في 21 فبراير 2020 . تم الاسترجاع في 8 فبراير 2020 .
  54. ^ "إعادة تحميل الصفحة بالكامل". IEEE Spectrum: أخبار التكنولوجيا والهندسة والعلوم . 11 ديسمبر 2019. مؤرشف من الأصل في 26 يونيو 2020. تم الاسترجاع 8 فبراير 2020 .
  55. ^ "المساهمة بالبيانات في أبحاث اكتشاف التزييف العميق". 24 سبتمبر 2019. مؤرشف من الأصل في 5 فبراير 2020. تم الاسترجاع 8 فبراير 2020 .
  56. ^ ثالين، ميكائيل. "يمكنك الآن تقليد نفسك وتحويل نفسك إلى شخصية مشهورة ببضع نقرات فقط". نقطة يومية . مؤرشف من الأصل في 6 أبريل 2020. تم الاسترجاع في 3 أبريل 2020 .
  57. ^ ماثيوز، زين (6 مارس 2020). "متعة أم خوف: تطبيق Deepfake يضع وجوه المشاهير في صورك الشخصية". Kool1079 . مؤرشف من الأصل في 24 مارس 2020. تم الاسترجاع 6 مارس 2020 .
  58. ^ "كاني ويست وكيم كارداشيان ووالدها: هل يجب أن نصنع صورًا ثلاثية الأبعاد للموتى؟". بي بي سي نيوز . 31 أكتوبر 2020. مؤرشف من الأصل في 15 نوفمبر 2020. تم الاسترجاع 11 نوفمبر 2020 .
  59. ^ "كاني ويست أهدى كيم كارداشيان صورة ثلاثية الأبعاد لوالدها في عيد ميلادها". themodems . 30 أكتوبر 2020. مؤرشف من الأصل في 11 نوفمبر 2020 . تم الاسترجاع 11 نوفمبر 2020 .
  60. ^ "ضحية باركلاند خواكين أوليفر يعود إلى الحياة في نداء مفجع للناخبين". adage.com . 2 أكتوبر 2020. مؤرشف من الأصل في 11 نوفمبر 2020 . تم الاسترجاع 11 نوفمبر 2020 .
  61. ^ Bowenbank, Starr (14 September 2022). "Simon Cowell Duets With Elvis in Metaphysic's Latest Deepfake 'AGT' Performance: Watch". Billboard . مؤرشف من الأصل في 15 سبتمبر 2022 . تم الاسترجاع 8 نوفمبر 2022 .
  62. ^ "John Lennon 'One Laptop per Child' Commecial". YouTube . 26 ديسمبر 2008. مؤرشف من الأصل في 9 مارس 2023 . تم الاسترجاع 9 مارس 2023 .
  63. ^ زوكوني، آلان (14 مارس 2018). "فهم التكنولوجيا وراء التزييف العميق". آلان زوكوني . مؤرشف من الأصل في 1 نوفمبر 2019. استرجاع 8 نوفمبر 2019 .
  64. ^ "ما هو Deepfake؟". مدونة - Synthesys . 3 مايو 2022. مؤرشف من الأصل في 26 يونيو 2022 . تم الاسترجاع 17 مايو 2022 .
  65. ^ "هذه الحيل الجديدة يمكنها التفوق على مقاطع الفيديو المزيفة - في الوقت الحالي". Wired . ISSN  1059-1028. مؤرشف من الأصل في 3 أكتوبر 2019 . تم الاسترجاع في 9 نوفمبر 2019 .
  66. ^ كيمب، لوك (8 يوليو 2019). "في عصر التزييف العميق، هل يمكن للممثلين الافتراضيين إخراج البشر من العمل؟". الجارديان . ISSN  0261-3077. مؤرشف من الأصل في 20 أكتوبر 2019. تم الاسترجاع في 20 أكتوبر 2019 .
  67. ^ فيرما، برانشو (21 يوليو 2023). "الاستنساخ الرقمي الذي تصنعه تقنية الذكاء الاصطناعي قد يجعل الإضافات في هوليوود قديمة الطراز". واشنطن بوست . مؤرشف من الأصل في 20 يوليو 2023. تم الاسترجاع 4 يناير 2024 .
  68. ^ "تبادل الوجوه العصبية عالي الدقة للتأثيرات المرئية | استوديوهات أبحاث ديزني". مؤرشف من الأصل في 27 نوفمبر 2020. تم الاسترجاع في 7 أكتوبر 2020 .
  69. ^ "يمكن استخدام تقنية التزييف العميق من إنتاج ديزني في الأفلام والتلفزيون". Blooloop . 21 يوليو 2020. مؤرشف من الأصل في 12 نوفمبر 2020. تم الاسترجاع 7 أكتوبر 2020 .
  70. ^ ليندلي، جون أ. (2 يوليو 2020). "ديزني تغامر بإعادة إحياء 'الممثلين الموتى' من خلال التعرف على الوجوه". تيك تايمز . مؤرشف من الأصل في 14 يوليو 2021. تم الاسترجاع 7 أكتوبر 2020 .
  71. ^ رادولوفيتش، بيترانا (17 أكتوبر 2018). "هاريسون فورد هو نجم فيلم سولو: قصة حرب النجوم بفضل تقنية التزييف العميق". بوليجون . مؤرشف من الأصل في 20 أكتوبر 2019. استرجاع 20 أكتوبر 2019 .
  72. ^ Winick, Erin. "كيف ساعد التمثيل كدمية كاري فيشر في صنع مسيرة مهنية للأميرة ليا في فيلم Rogue One". MIT Technology Review . مؤرشف من الأصل في 23 أكتوبر 2019. تم الاسترجاع في 20 أكتوبر 2019 .
  73. ^ "Deepfake Luke Skywalker is another step down a goulish CGI path". British GQ . 10 فبراير 2022. مؤرشف من الأصل في 22 مايو 2022 . تم الاسترجاع 3 يونيو 2022 .
  74. ^ Dazed (10 فبراير 2022). "هل ستعيد تقنية التزييف العميق كتابة التاريخ كما نعرفه؟". Dazed . مؤرشف من الأصل في 8 يونيو 2022 . تم الاسترجاع 3 يونيو 2022 .
  75. ^ Schwartzel, Erich (21 December 2023). "Behind the Making of My AI Digital Double". Wall Street Journal . مؤرشف من الأصل في 6 يناير 2024 . تم الاسترجاع في 4 يناير 2024 .
  76. ^ كوفي، باتريك (18 يونيو 2023). "المشاهير يستخدمون الذكاء الاصطناعي للسيطرة على صورهم الخاصة". وول ستريت جورنال . مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع 4 يناير 2024 .
  77. ^ المحررة كاتي بريسكوت، تكنولوجيا الأعمال (23 أغسطس 2024). "الرجل الذي يخلق أشخاصًا مزيفين - مثل ديفيد بيكهام الذي يتحدث تسع لغات". www.thetimes.com . تم الاسترجاع في 22 أكتوبر 2024 . {{cite web}}: |last=له اسم عام ( مساعدة )CS1 maint: multiple names: authors list (link)
  78. ^ كاترينا سيزيك، ويليام يوريتشيو، وسارة وولوزين: الحكمة الجماعية | معهد ماساتشوستس للتكنولوجيا [1] أرشيف 4 مارس 2020 على موقع واي باك مشين
  79. ^ "ANSA | Ornella Muti in cortometraggio a Firenze". 3 نوفمبر 2017. مؤرشف من الأصل في 27 فبراير 2020 . تم الاسترجاع 27 فبراير 2020 .
  80. ^ "مبدعو "ساوث بارك" يطلقون سلسلة ساخرة جديدة مفبركة تحت عنوان "ساسي جاستيس". NME . 27 أكتوبر 2020. مؤرشف من الأصل في 10 يونيو 2024 . تم الاسترجاع 7 يونيو 2022 .
  81. ^ ab Tayler, Kelley M.; Harris, Laurie A. (8 June 2021). Deep Fakes and National Security (Report). Congressional Research Service . p. 1. مؤرشف من الأصل في 14 يونيو 2022. تم الاسترجاع في 19 يوليو 2021 .
  82. ^ ليمبرج، بيتر (24 مايو 2020). "تضخم الابتزاز". CultState . مؤرشف من الأصل في 24 يناير 2021. استرجاع 18 يناير 2021 .
  83. ^ "من أجل كابي". تلغراف . 24 مايو 2020. مؤرشف من الأصل في 24 يناير 2021. اطلع عليه بتاريخ 18 يناير 2021 .
  84. ^ "كان لقضاة AGT ردود أفعال لا تقدر بثمن على تجربة أداء سيمون كويل الغنائية". الموقع الرسمي لـ NBC Insider . 8 يونيو 2022. مؤرشف من الأصل في 29 أغسطس 2022. تم الاسترجاع في 29 أغسطس 2022 .
  85. ^ مار، برنارد. "هل يمكن للذكاء الاصطناعي في عالم الميتافيرس أن يفوز ببرنامج America's Got Talent؟ (وما يعنيه ذلك بالنسبة للصناعة)". فوربس . مؤرشف من الأصل في 30 أغسطس 2022. تم الاسترجاع في 30 أغسطس 2022 .
  86. ^ موراليس، جوي (10 يونيو 2022). "التزييف العميق يصبح سائدًا: كيف سيؤثر دخول AGT إلى Metaphysic على الترفيه". MUO . مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع 29 أغسطس 2022 .
  87. ^ كارتر، ريبيكا (1 يونيو 2019). "مشاهدو BGT ينتقدون سايمون كويل بسبب تعليقه "الوقح" و"البغيض" للمتسابق". Entertainment Daily . مؤرشف من الأصل في 31 أغسطس 2022 . تم الاسترجاع 31 أغسطس 2022 .
  88. ^ سيمون كويل يغني على المسرح؟! الميتافيزيقيا ستتركك بلا كلام | AGT 2022، أرشيف من الأصل في 29 أغسطس 2022 ، تم استرجاعه في 29 أغسطس 2022
  89. ^ Segarra, Edward. "'AGT' judges Simon Cowell, Howie Mandel get 'deepfake' treatment by AI act Metaphysic: Watch here". USA TODAY . مؤرشف من الأصل في 31 أغسطس 2022 . تم الاسترجاع 31 أغسطس 2022 .
  90. ^ Bowenbank, Starr (14 September 2022). "Simon Cowell Duets With Elvis in Metaphysic's Latest Deepfake 'AGT' Performance: Watch". Billboard . مؤرشف من الأصل في 10 يونيو 2024 . تم الاسترجاع 15 سبتمبر 2022 .
  91. ^ Zwiezen, Zack (18 January 2021). "موقع ويب يتيح لك جعل GLaDOS تقول ما تريد". Kotaku . مؤرشف من الأصل في 17 يناير 2021 . تم الاسترجاع 18 يناير 2021 .
  92. ^ روبرت، ليانا (18 يناير 2021). "اجعل GLaDOS وشخصيات محبوبة أخرى من Portal يقولون أغرب الأشياء باستخدام هذا التطبيق". Game Informer . مؤرشف من الأصل في 18 يناير 2021. تم الاسترجاع في 18 يناير 2021 .
  93. ^ كلايتون، ناتالي (19 يناير 2021). "اجعل فريق عمل TF2 يرددون الميمات القديمة باستخدام أداة تحويل النص إلى كلام بالذكاء الاصطناعي". PC Gamer . مؤرشف من الأصل في 19 يناير 2021 . تم الاسترجاع في 19 يناير 2021 .
  94. ^ شيرمان، ماريا (3 ديسمبر 2023). "Kiss say farewell to live touring, become first US band to go virtual and become digital avatars". AP News . أسوشيتد برس. مؤرشف من الأصل في 1 يناير 2024 . تم الاسترجاع 4 يناير 2024 .
  95. ^ abc Cerullo, Megan (9 January 2024). "إعلانات تم إنشاؤها بواسطة الذكاء الاصطناعي باستخدام صورة تايلور سويفت تخدع المعجبين بهدايا Le Creuset المزيفة". CBS News . مؤرشف من الأصل في 10 يناير 2024 . تم الاسترجاع في 10 يناير 2024 .
  96. ^ اي بي سي دي هسو ، تيفاني ؛ لو ، ييوين (9 يناير 2024). "لا، هذا ليس أدوات طهي تايلور سويفت بيدلينج لو كريست". نيويورك تايمز . ص. ب1 . تم الاسترجاع 10 يناير 2024 .
  97. ^ abc Taylor, Derrick Bryson (2 أكتوبر 2023). "توم هانكس يحذر من إعلان طب الأسنان باستخدام نسخة الذكاء الاصطناعي منه". نيويورك تايمز . ISSN  0362-4331. مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع 12 أكتوبر 2023 .
  98. ^ abc Johnson, Kirsten (11 ديسمبر 2023). "امرأة من أريزونا تقع ضحية لعملية احتيال مزيفة باستخدام المشاهير على وسائل التواصل الاجتماعي". ABC 15 Arizona . مؤرشف من الأصل في 10 يناير 2024 . تم الاسترجاع في 10 يناير 2024 .
  99. ^ ab Kulundu, Mary (4 January 2024). "Deepfake videos of Elon Musk used in get-rich-quick scam". وكالة فرانس برس . مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع في 10 يناير 2024 .
  100. ^ إسماعيل، ليزبيت (3 يناير 2024). "PH يحتاج إلى نهج متعدد الأوجه مقابل مقاطع الفيديو "المزيفة" المستخدمة لخداع الفلبينيين". CNN الفلبين . مؤرشف من الأصل في 10 يناير 2024. تم الاسترجاع 10 يناير 2024 .
  101. ^ جيركين، توم (4 أكتوبر 2023). "MrBeast ونجوم البي بي سي يستخدمون مقاطع فيديو مزيفة". بي بي سي نيوز . مؤرشف من الأصل في 10 يونيو 2024. استرجاع 10 يناير 2024 .
  102. ^ ab Lim, Kimberly (29 December 2023). "رئيس وزراء سنغافورة لي يحذر من "التزييف العميق" المقنع للغاية "نشر معلومات مضللة" بعد ظهور مقطع فيديو مزيف له" . صحيفة ساوث تشاينا مورنينج بوست . مؤرشف من الأصل في 9 يناير 2024. تم الاسترجاع في 10 يناير 2024 .
  103. ^ تايلور، جوش (30 نوفمبر 2023). "محتال يدفع لفيسبوك 7 سنتات لكل مشاهدة لتداول فيديو مزيف لجيم تشالمرز وجينا رينهارت". الجارديان . مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع 10 يناير 2024 .
  104. ^ بالمر، جوزيف أولبريخت (14 ديسمبر 2023). "تزييف عميق لخزانة أستراليا، ومسؤولي البنك المركزي يستخدمون للترويج لعملية احتيال استثمارية". وكالة فرانس برس . مؤرشف من الأصل في 10 يناير 2024. تم الاسترجاع 10 يناير 2024 .
  105. ^ abc Koebler, Jason (9 January 2024). "إعلانات المشاهير المزيفة التي تروج لعمليات احتيال في مجال الرعاية الطبية تنتشر على نطاق واسع على YouTube". 404 Media . مؤرشف من الأصل في 10 يناير 2024 . تم الاسترجاع في 10 يناير 2024 .
  106. ^ abc Rosenblatt, Kalhan (3 أكتوبر 2023). "MrBeast يصف إعلان TikTok الذي يظهر نسخة الذكاء الاصطناعي منه بأنه "احتيال". NBC News . مؤرشف من الأصل في 10 يناير 2024 . تم الاسترجاع 10 يناير 2024 .
  107. ^ كوبلر، جيسون (25 يناير 2024). "يوتيوب يحذف 1000 مقطع فيديو لإعلانات احتيالية للذكاء الاصطناعي للمشاهير". 404 Media . مؤرشف من الأصل في 10 يونيو 2024 . تم الاسترجاع 2 فبراير 2024 .
  108. ^ بوتشي، نينو (27 نوفمبر 2023). "ديك سميث ينتقد فيسبوك بعد أن قام المحتالون بتوزيع إعلان فيديو مزيف". الجارديان . مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع 10 يناير 2024 .
  109. ^ لومس، ناتاشا (7 يوليو 2023). "مارتن لويس يحذر من أول إعلان احتيالي لفيديو مزيف متداول على فيسبوك". TechCrunch . مؤرشف من الأصل في 10 يناير 2024. تم الاسترجاع 10 يناير 2024 .
  110. ^ لوباتو، إليزابيث (3 يناير 2024). "عواقب جديدة ممتعة للتزييف العميق: المزيد من عمليات الاحتيال المقنعة في مجال التشفير". The Verge . مؤرشف من الأصل في 10 يناير 2024 . تم الاسترجاع في 10 يناير 2024 .
  111. ^ Spoto, Maia; Poritz, Isaiah (11 October 2023). "MrBeast, Tom Hanks Stung by AI Scams as Law Rushes to Keep Pace". Bloomberg Law . مؤرشف من الأصل في 10 يناير 2024 . تم الاسترجاع 10 يناير 2024 .
  112. ^ ستات، نيك (5 سبتمبر 2019). "اللصوص يستخدمون الآن تقنيات الذكاء الاصطناعي لخداع الشركات لإرسال الأموال لهم". مؤرشف من الأصل في 15 سبتمبر 2019 . تم الاسترجاع في 13 سبتمبر 2019 .
  113. ^ دامياني، جيسي. "تم استخدام صوت مزيف للاحتيال على الرئيس التنفيذي لسرقة 243000 دولار". فوربس . مؤرشف من الأصل في 14 سبتمبر 2019. تم الاسترجاع في 9 نوفمبر 2019 .
  114. ^ "Deepfakes, explained". MIT Sloan . 5 مارس 2024. مؤرشف من الأصل في 5 مارس 2024. استرجاع 6 مارس 2024 .
  115. ^ شوارتز، كريستوفر؛ رايت، ماثيو (17 مارس 2023). "التزييفات الصوتية تتواصل – إليكم ما هي وكيف تتجنب التعرض للاحتيال". المحادثة . مؤرشف من الأصل في 4 يناير 2024. تم الاسترجاع في 4 يناير 2024 .
  116. ^ abcd Somers, Meredith (21 July 2020). "Deepfakes, explained". MIT Sloan . مؤرشف من الأصل في 5 مارس 2024 . تم الاسترجاع 6 مارس 2024 .
  117. ^ C, Kim (22 أغسطس 2020). "رقصة التابوت والمزيد: ميمات الموسيقى لعام 2020 حتى الآن". Music Times . مؤرشف من الأصل في 26 يونيو 2021 . تم الاسترجاع في 26 أغسطس 2020 .
  118. ^ Sholihyn, Ilyas (7 أغسطس 2020). "شخص ما قام بتزييف سياسيين من سنغافورة لمزامنة شفاههم مع أغنية يابانية". AsiaOne . مؤرشف من الأصل في 3 سبتمبر 2020. تم الاسترجاع في 26 أغسطس 2020 .
  119. ^ abcd “Wenn Merkel plötzlich Trumps Gesicht trägt: die gefährliche Manipulation von Bildern und Videos”. أرجاور تسايتونج. 3 فبراير 2018 أرشفة من الأصلي في 13 أبريل 2019 . تم الاسترجاع في 9 أبريل 2018 .
  120. ^ جينسينج ، باتريك. “Deepfakes: Auf dem Weg in eine Alternative Realität؟”. أرشفة من الأصلي في 11 أكتوبر 2018 . تم الاسترجاع في 9 أبريل 2018 .
  121. ^ رومانو، أجا (18 أبريل 2018). "إعلان الخدمة العامة المحاكي لأوباما من جوردان بيل هو تحذير ذو حدين ضد الأخبار المزيفة". فوكس . مؤرشف من الأصل في 11 يونيو 2019. تم الاسترجاع في 10 سبتمبر 2018 .
  122. ^ سوينسون، كايل (11 يناير 2019). "محطة تلفزيونية في سياتل بثت لقطات مزورة لخطاب ترامب في المكتب البيضاوي. تم فصل الموظف". واشنطن بوست . مؤرشف من الأصل في 15 أبريل 2019. تم الاسترجاع 11 يناير 2019 .
  123. ^ أوسوليفان، دوني (4 يونيو 2019). "الكونجرس يحقق في مقاطع فيديو مزيفة بعد أن أثار مقطع فيديو لبيلوسي ضجة". سي إن إن . مؤرشف من الأصل في 29 يونيو 2019. تم الاسترجاع في 9 نوفمبر 2019 .
  124. ^ "#TellTheTruthBelgium". حركة التمرد ضد الانقراض البلجيكية . مؤرشف من الأصل في 25 أبريل 2020. استرجاع 21 أبريل 2020 .
  125. ^ Holubowicz, Gerald (15 أبريل 2020). "تمرد الانقراض يقارن التزييف العميق". Journalism.design (بالفرنسية). مؤرشف من الأصل في 29 يوليو 2020 . تم الاسترجاع 21 أبريل 2020 .
  126. ^ كارناهان، داستن (16 سبتمبر 2020). "الفيديوهات المزيفة تعزز المعتقدات الخاطئة حول الصحة العقلية لبايدن". المحادثة . مؤرشف من الأصل في 9 أبريل 2022. تم الاسترجاع 9 أبريل 2022 .
  127. ^ باركر، آشلي (7 سبتمبر 2020). "ترامب وحلفاؤه يكثفون جهودهم لنشر المعلومات المضللة والأخبار المزيفة" . صحيفة الإندبندنت . تم الاسترجاع في 9 أبريل 2022 .
  128. ^ كريستوفر، نيلش (18 فبراير 2020). "لقد رأينا للتو أول استخدام لمقاطع فيديو مزيفة في حملة انتخابية هندية". نائب . مؤرشف من الأصل في 19 فبراير 2020. تم الاسترجاع في 19 فبراير 2020 .
  129. ^ "أمابي: المخلوق الأسطوري الذي عاد إلى الظهور بعد تفشي فيروس كورونا". مجلة الإيكونوميست . 28 أبريل 2020. ISSN  0013-0613. مؤرشف من الأصل في 20 مايو 2021. تم الاسترجاع 3 يونيو 2021 .
  130. ^ روث، أندرو (22 أبريل 2021). "استهداف أعضاء البرلمان الأوروبيين بمكالمات فيديو مزيفة تحاكي المعارضة الروسية". الجارديان . مؤرشف من الأصل في 29 مارس 2022. استرجاع 29 مارس 2022 .
  131. ^ إيفانوف، ماكسيم؛ روثروك، كيفن (22 أبريل 2021). "مرحبًا، هذا ليونيد فولكوف* باستخدام مقطع فيديو مزيف وانتحال شخصية اليد اليمنى لنافالني، يخدع المخادعون الروس السياسيين والصحفيين اللاتفيين في دعوة ومقابلة تلفزيونية". ميدوزا . مؤرشف من الأصل في 29 مارس 2022. استرجاع 29 مارس 2022 .
  132. ^ "نواب هولنديون في مؤتمر عبر الفيديو مع تقليد مزيف عميق لرئيس أركان نافالني". NL Times . 24 أبريل 2021. مؤرشف من الأصل في 10 يونيو 2024 . تم الاسترجاع 29 مارس 2022 .
  133. ^ "مساعد نافالني يستهدف المشرعين الأوروبيين بفيديوهات مزيفة". صحيفة موسكو تايمز . 23 أبريل 2021. مؤرشف من الأصل في 29 مارس 2022. اطلع عليه بتاريخ 29 مارس 2022 .
  134. ^ فينسنت، جيمس (30 أبريل 2021). ""Deepfake"" الذي من المفترض أنه خدع السياسيين الأوروبيين كان مجرد نسخة طبق الأصل، كما يقول المخادعون". The Verge . مؤرشف من الأصل في 29 مارس 2022 . تم الاسترجاع في 29 مارس 2022 .
  135. ^ نوفاك، مات (8 مايو 2023). "فيديو فيروسي لكامالا هاريس وهي تتحدث بكلام غير مفهوم هو في الواقع مزيف". فوربس . مؤرشف من الأصل في 18 يوليو 2023. تم الاسترجاع 18 يوليو 2023 .
  136. ^ "PolitiFact - لم تكن كامالا هاريس تتحدث بشكل غير واضح عن اليوم أو الأمس أو الغد. هذا الفيديو معدل". Politifact . مؤرشف من الأصل في 10 يونيو 2024 . تم الاسترجاع في 18 يوليو 2023 .
  137. ^ شوهام، مات (8 يونيو 2023). "إعلان حملة دي سانتيس يظهر صورًا مزيفة للذكاء الاصطناعي لترامب وهو يعانق فوسي". هافينغتون بوست . مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع 8 يونيو 2023 .
  138. ^ كريستوفر، نيلش (مارس 2024). "الناخبون الهنود يتعرضون لقصف بملايين المقاطع المزيفة. المرشحون السياسيون يوافقون". Wired . مؤرشف من الأصل في 12 مارس 2024 . تم الاسترجاع 20 أكتوبر 2024 .
  139. ^ "ما يخبرنا به مزيف هندي عن أمن الانتخابات العالمية". بلومبرج . مؤرشف من الأصل في 1 أبريل 2024. استرجاع 20 أكتوبر 2024 .
  140. ^ ab Roettgers, Janko (21 فبراير 2018). "منتجو المواد الإباحية يعرضون مساعدة هوليوود في إزالة مقاطع الفيديو المزيفة". Variety . مؤرشف من الأصل في 10 يونيو 2019 . تم الاسترجاع 28 فبراير 2018 .
  141. ^ abc Dickson, EJ (7 أكتوبر 2019). "Deepfake Porn Is Still a Threat, Particularly for K-Pop Stars". رولينج ستون . مؤرشف من الأصل في 30 أكتوبر 2019. تم الاسترجاع 9 نوفمبر 2019 .
  142. ^ "حالة Deepfake - المشهد والتهديدات والتأثير" (PDF) . Deeptrace . 1 أكتوبر 2019. مؤرشف من الأصل (PDF) في 9 أغسطس 2020 . تم الاسترجاع في 7 يوليو 2020 .
  143. ^ جوجين، بنيامين (7 يونيو 2019). "من المواد الإباحية إلى 'صراع العروش': كيف حققت مقاطع الفيديو المزيفة والمزيفة ذات المظهر الواقعي نجاحًا كبيرًا". بيزنس إنسايدر . مؤرشف من الأصل في 8 نوفمبر 2019. تم الاسترجاع في 9 نوفمبر 2019 .
  144. ^ لي، ديف (3 فبراير 2018). "'الإباحية المزيفة' لها عواقب وخيمة". مؤرشف من الأصل في 1 ديسمبر 2019. تم الاسترجاع 9 نوفمبر 2019 .
  145. ^ كول، سامانثا (19 يونيو 2018). "حل الذكاء الاصطناعي من Gfycat لمكافحة التزييف العميق لا يعمل". Vice . مؤرشف من الأصل في 8 نوفمبر 2019 . تم الاسترجاع 9 نوفمبر 2019 .
  146. ^ زوي، فريني (24 نوفمبر 2019). "الإباحية المزيفة هنا لتبقى". Medium . مؤرشف من الأصل في 10 ديسمبر 2019 . تم الاسترجاع 10 ديسمبر 2019 .
  147. ^ كول، سامانثا؛ مايبرج، إيمانويل؛ كوبلر، جيسون (26 يونيو 2019). "هذا التطبيق المرعب يخلع ملابس أي امرأة بنقرة واحدة". نائب . مؤرشف من الأصل في 2 يوليو 2019. تم الاسترجاع 2 يوليو 2019 .
  148. ^ Cox, Joseph (9 يوليو 2019). "GitHub Removed Open Source Versions of DeepNude". Vice Media . مؤرشف من الأصل في 24 سبتمبر 2020 . تم الاسترجاع في 14 يوليو 2019 .
  149. ^ "pic.twitter.com/8uJKBQTZ0o". 27 يونيو 2019. مؤرشف من الأصل في 6 أبريل 2021 . اطلع عليه بتاريخ 3 أغسطس 2019 .
  150. ^ "مئات من الإعلانات الجنسية المزيفة التي تستخدم وجه إيما واتسون ظهرت على فيسبوك وإنستغرام في اليومين الماضيين". إن بي سي نيوز . 7 مارس 2023. مؤرشف من الأصل في 29 فبراير 2024. تم الاسترجاع 8 مارس 2024 .
  151. ^ فيليبوفيتش، جيل (31 يناير 2024). "أي شخص يمكن أن يكون ضحية لـ "التزييف العميق". ولكن هناك سبب لكون تايلور سويفت هدفًا". الغارديان . ISSN  0261-3077. مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع 8 مارس 2024 .
  152. ^ باريس، بريت (أكتوبر 2021). "تكوين التزييف: الهيئات الرقمية، وسياسة الأدلة، والوكالة". وسائل التواصل الاجتماعي + المجتمع . 7 (4). doi : 10.1177/20563051211062919 . ISSN  2056-3051.
  153. ^ دامياني، جيسي. "تطبيق التزييف الصيني Zao ينتشر بسرعة كبيرة، ويواجه انتقادات فورية بسبب سياسة بيانات المستخدم والأمان". فوربس . مؤرشف من الأصل في 14 سبتمبر 2019. تم الاسترجاع في 18 نوفمبر 2019 .
  154. ^ "قبل الانتخابات الأيرلندية والأمريكية، فيسبوك يعلن عن تدابير جديدة ضد مقاطع الفيديو "المزيفة"". Independent.ie . 7 يناير 2020. مؤرشف من الأصل في 8 يناير 2020 . تم الاسترجاع 7 يناير 2020 .
  155. ^ "كيف خطط خبير المرئيات البلجيكي كريس أومي لمقاطع الفيديو المزيفة التي يصورها توم كروز". The Statesman . 6 مارس 2021. مؤرشف من الأصل في 24 أغسطس 2022 . تم الاسترجاع 24 أغسطس 2022 .
  156. ^ ميتز، راشيل. "كيف تحول مقطع فيديو مزيف لتوم كروز على تيك توك إلى شركة ذكاء اصطناعي حقيقية للغاية". سي إن إن . مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع 17 مارس 2022 .
  157. ^ كوركوران، مارك؛ هنري، مات (23 يونيو 2021). "هذا ليس توم كروز. هذا ما أثار قلق خبراء الأمن". إيه بي سي نيوز . مؤرشف من الأصل في 28 مارس 2022. تم الاسترجاع 28 مارس 2022 .
  158. ^ رويترز، 15 يوليو/تموز 2020، استخدام تقنية Deepfake لمهاجمة زوجين ناشطين يُظهِر آفاقًا جديدة للتضليل محفوظ في 26 سبتمبر/أيلول 2020 على موقع Wayback Machine
  159. ^ مجلة 972، 12 أغسطس 2020، "يساريون من أجل بيبي؟ فضح الدعاية الكاذبة المؤيدة لنتنياهو: وفقًا لسلسلة من المنشورات على فيسبوك، فإن رئيس الوزراء الإسرائيلي يكسب أتباعًا من اليسار - باستثناء أن أيًا من الأشخاص المعنيين غير موجود" محفوظ في 14 أغسطس 2020 على موقع واي باك مشين
  160. ^ العين السابعة، 9 يونيو 2020، إباحية من خلال إنشاء مستودعات لتسليم البريد الإلكتروني من خلال وسائل الإعلام • من لندن إلى آخر ج تحديث الصور الفوتوغرافية على الإطلاق شاهد المزيد من الأبحاث والأبحاث الإسرائيلية أرشفة 18 أغسطس 2020 في آلة Wayback.
  161. ^ "قد تصل تقنية Deepfake المثالية في وقت أقرب مما هو متوقع". www.wbur.org . 2 أكتوبر 2019. مؤرشف من الأصل في 30 أكتوبر 2019 . تم الاسترجاع 9 نوفمبر 2019 .
  162. ^ Sonnemaker, Tyler. "مع استعداد منصات التواصل الاجتماعي للموجة القادمة من التزييف العميق، يتوقع "قيصر الاحتيال" السابق في Google أن الخطر الأكبر هو أن التزييف العميق سيصبح مملًا في النهاية". Business Insider . مؤرشف من الأصل في 14 أبريل 2021 . تم الاسترجاع في 14 أبريل 2021 .
  163. ^ فاكاري، كريستيان؛ تشادويك، أندرو (يناير 2020). "التزييف العميق والمعلومات المضللة: استكشاف تأثير الفيديو السياسي الاصطناعي على الخداع وعدم اليقين والثقة في الأخبار". وسائل التواصل الاجتماعي + المجتمع . 6 (1): 205630512090340. doi : 10.1177/2056305120903408 . ISSN  2056-3051. S2CID  214265502.
  164. ^ ab Pawelec, M (2022). "التزييف العميق والديمقراطية (نظرية): كيف تهدد الوسائط السمعية والبصرية الاصطناعية المستخدمة في التضليل وخطاب الكراهية الوظائف الديمقراطية الأساسية". المجتمع الرقمي: الأخلاقيات والقانون الاجتماعي وحوكمة التكنولوجيا الرقمية . 1 (2): 19. doi :10.1007/s44206-022-00010-6. PMC 9453721. PMID  36097613 . 
  165. ^ abc Bateman, Jon (2020). "Summary". Deepfakes and Synthetic Media in the Financial System : 1–2. مؤرشف من الأصل في 20 أبريل 2021 . تم الاسترجاع في 28 أكتوبر 2020 .
  166. ^ Kelion, Leo (سبتمبر 2020). "كشفت مايكروسوفت عن أداة للكشف عن التزييف العميق". BBC News . مؤرشف من الأصل في 14 أبريل 2021 . تم الاسترجاع في 15 أبريل 2021 .
  167. ^ كوهين، أرييل؛ ريمون، إنبال؛ أفلالو، إران؛ بيرموتير، حاييم هـ. (يونيو 2022). "دراسة حول زيادة البيانات في مكافحة انتحال الصوت". الاتصال الصوتي . 141 : 56-67. arXiv : 2110.10491 . doi :10.1016/j.specom.2022.04.005. S2CID  239050551.
  168. ^ abc Manke, Kara (18 June 2019). "Researchers use facial quirks to unmask 'deepfakes'". Berkeley News . مؤرشف من الأصل في 9 نوفمبر 2019 . تم الاسترجاع في 9 نوفمبر 2019 .
  169. ^ فريد، هاني (1 ديسمبر 2006). "التلاعب الرقمي: كيف نميز الحقيقي من المزيف". الأهمية . 3 (4): 162-166. doi : 10.1111/j.1740-9713.2006.00197.x . S2CID  13861938.
  170. ^ "انضم إلى تحدي اكتشاف التزييف العميق (DFDC)". deepfakedetectionchallenge.ai. مؤرشف من الأصل في 12 يناير 2020 . تم الاسترجاع 8 نوفمبر 2019 .
  171. ^ "نتائج تحدي اكتشاف التزييف العميق: مبادرة مفتوحة لتطوير الذكاء الاصطناعي". ai.facebook.com . مؤرشف من الأصل في 29 أكتوبر 2020 . تم الاسترجاع 30 سبتمبر 2022 .
  172. ^ جروه، ماثيو؛ إبستاين، زيف؛ فايرستون، تشاز؛ بيكارد، روزاليند (2022). "اكتشاف التزييف العميق بواسطة الحشود البشرية والآلات والحشود المستنيرة بالآلات". وقائع الأكاديمية الوطنية للعلوم . 119 (1). arXiv : 2105.06496 . Bibcode : 2022PNAS..11910013G. doi : 10.1073/pnas.2110013119 . PMC 8740705. PMID  34969837 . 
  173. ^ هو، شو؛ لي، يويزون؛ ليو، سيوي (12 أكتوبر 2020). "كشف الوجوه المولدة بواسطة GAN باستخدام إضاءات قرنية غير متسقة". arXiv : 2009.11924 [cs.CV].
  174. ^ Boháček, M; Farid, H (29 November 2022). "حماية قادة العالم من التزييف العميق باستخدام تعابير الوجه والإشارات والصوت". وقائع الأكاديمية الوطنية للعلوم في الولايات المتحدة الأمريكية . 119 (48): e2216035119. Bibcode :2022PNAS..11916035B. doi : 10.1073 /pnas.2216035119 . PMC 9860138. PMID  36417442. 
  175. ^ من "Google Scholar". scholar.google.com . تم الاسترجاع في 30 أبريل 2022 .
  176. ^ ab Masi, Iacopo; Killekar, Aditya; Mascarenhas, Royston Marian; Gurudatt, Shenoy Pratik; Abdalmageed, Wael (2020). Two-branch recurrent network for isoliting deepfakes in videos. Lecture Notes in Computer Science. المجلد 12352. ص 667-684. arXiv : 2008.03412 . doi :10.1007/978-3-030-58571-6_39. ISBN 978-3-030-58570-9. مؤرشف من الأصل في 10 يونيو 2024 . استرجاع 30 أبريل 2022 .
  177. ^ abc "The Blockchain Solution to Our Deepfake Problems". Wired . ISSN  1059-1028. مؤرشف من الأصل في 7 نوفمبر 2019 . تم الاسترجاع في 9 نوفمبر 2019 .
  178. ^ من تأليف Leetaru, Kalev. "لماذا لن تمنع التوقيعات الرقمية عمليات التزييف العميق ولكنها ستساعد الحكومات القمعية". فوربس . مؤرشف من الأصل في 14 أبريل 2021. تم الاسترجاع في 17 فبراير 2021 .
  179. ^ "لكشف مكالمة فيديو مزيفة، اطلب من المتصل أن يلتفت جانبيًا". ميتافيزيقيا . 8 أغسطس 2022. مؤرشف من الأصل في 26 أغسطس 2022. تم الاسترجاع 24 أغسطس 2022 .
  180. ^ "اختفاء خاتم كيت ميدلتون بشكل غامض يثير المزيد من المخاوف بشأن الذكاء الاصطناعي". MSN. 25 مارس 2024. مؤرشف من الأصل في 10 يونيو 2024. استرجاع 19 مايو 2024 .
  181. ^ صحيفة هندوستان تايمز (5 أبريل 2024). "اعتراف كيت بالسرطان مزيف"، معجب ميغان ماركل ومدير جامعة كاليفورنيا في لوس أنجلوس، جونثان بيركنز، يطرح نظرية المؤامرة. صحيفة هندوستان تايمز. مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع 19 مايو 2024 .
  182. ^ فاجان، كايلي. "فيديو انتشر على نطاق واسع يظهر أوباما وهو يصف ترامب بـ"المنخفضات" ويظهر اتجاهًا جديدًا ومزعجًا يسمى "التزييف العميق". بيزنس إنسايدر . مؤرشف من الأصل في 22 سبتمبر 2020. تم الاسترجاع في 3 نوفمبر 2020 .
  183. ^ "صعود التزييف العميق والتهديد للديمقراطية". الجارديان . مؤرشف من الأصل في 1 نوفمبر 2020 . تم الاسترجاع 3 نوفمبر 2020 .
  184. ^ "صور تم إنشاؤها بواسطة الذكاء الاصطناعي لاعتقال ترامب تنتشر على وسائل التواصل الاجتماعي". وكالة أسوشيتد برس. 21 مارس 2023. مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع 10 أكتوبر 2023 .
  185. ^ "ترامب ينشر صورة مزيفة لنفسه وهو يصلي بينما تنتشر صور الاعتقال التي تم التقاطها بالذكاء الاصطناعي على الإنترنت". The Independent . 24 مارس 2023. مؤرشف من الأصل في 28 مايو 2023. تم الاسترجاع 16 يونيو 2023 .
  186. ^ تاورز كلارك، تشارلز. "الموناليزا ونانسي بيلوسي: تداعيات التزييف العميق". فوربس . مؤرشف من الأصل في 23 نوفمبر 2020. تم الاسترجاع 7 أكتوبر 2020 .
  187. ^ "ما هو الفرق بين التزييف العميق والتزييف السطحي؟". 21 أبريل 2020. مؤرشف من الأصل في 26 يونيو 2022 . تم الاسترجاع 5 ديسمبر 2021 .
  188. ^ "معرض: إطلاق فيلم "Spectre" (بيان صحفي)". ملصقات بيل . 29 مايو 2019. مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع 15 مايو 2024 .
  189. ^ كول، سامانثا (11 يونيو 2019). "هذا الفيديو المزيف لمارك زوكربيرج يختبر سياسات فيسبوك المتعلقة بالفيديو المزيف". نائب . مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع 15 مايو 2024 .
  190. ^ abc "بوتين المزيف هنا لتحذير الأميركيين من مصيرهم المحتوم الذي فرضوه على أنفسهم". MIT Technology Review . مؤرشف من الأصل في 30 أكتوبر 2020 . تم الاسترجاع في 7 أكتوبر 2020 .
  191. ^ سون، بول (5 يونيو 2023). "بث خطاب مزيف لبوتن يدعو فيه إلى الأحكام العرفية في روسيا". نيويورك تايمز . مؤرشف من الأصل في 10 يونيو 2024. استرجاع 6 يونيو 2023 .
  192. ^ ألين، بوبي (16 مارس 2022). "يحذر الخبراء من أن مقطع فيديو مزيف لزيلينسكي قد يكون "قمة جبل الجليد" في حرب المعلومات". NPR . مؤرشف من الأصل في 29 مارس 2022 . تم الاسترجاع 17 مارس 2022 .
  193. ^ ساتاريانو، آدم؛ موزور، بول (7 فبراير 2023). "الأشخاص على الشاشة مزيفون. التضليل حقيقي". نيويورك تايمز . مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع 10 فبراير 2023 .
  194. ^ "البابا فرانسيس في Balenciaga deepfake يخدع الملايين: "مخيف بالتأكيد". نيويورك بوست . 28 مارس 2023. مؤرشف من الأصل في 10 يونيو 2024 . تم الاسترجاع 16 يونيو 2023 .
  195. ^ لو، دونا (31 مارس 2023). "التضليل والأخطاء والبابا في منفاخ: ما يمكن للذكاء الاصطناعي المتطور بسرعة أن يفعله وما لا يمكنه فعله". الجارديان . مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع 16 يونيو 2023 .
  196. ^ ميرفي، هيذر تال (29 مارس 2023). "البابا الذي يرتدي معطفًا ليس من مكان مقدس". سليت . مؤرشف من الأصل في 10 يونيو 2024. استرجاع 16 يونيو 2023 .
  197. ^ "تم إصدار تسجيل صوتي مزيف للسير كير ستارمر في اليوم الأول من مؤتمر حزب العمال". سكاي نيوز . تم استرجاعه في 29 مايو 2024 .
  198. ^ "امرأة في مقطع فيديو مزيف مع وجه راشميكا ماندانا تكسر الصمت: أنا منزعجة للغاية ومنزعجة مما يحدث". تايمز أوف إنديا . 9 نوفمبر 2023. ISSN  0971-8257. مؤرشف من الأصل في 23 نوفمبر 2023. تم الاسترجاع 23 نوفمبر 2023 .
  199. ^ كوبين، بيا (24 أبريل 2024). "Malacañang flags deepfake audio of Marcos ordering Military attack". Rappler . مؤرشف من الأصل في 10 يونيو 2024 . تم الاسترجاع 14 مايو 2024 .
  200. ^ فلوريس، هيلين (27 أبريل 2024). "ممثل أجنبي يظهر خلف مقطع صوتي مزيف للرئيس ماركوس". صحيفة ذا فلبين ستار . مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع 14 مايو 2024 .
  201. ^ أرجوسينو، فيث (14 مايو 2024). "Raps filed vs social media pages for libelous content, Marcos deepfake". Philippine Daily Inquirer . مؤرشف من الأصل في 10 يونيو 2024 . تم الاسترجاع في 14 مايو 2024 .
  202. ^ "تم تبديل الوجوه؟ كاشف التزييف العميق يصنف مقطع فيديو مزعوم لماركوس على أنه "مريب". Rappler . 23 يوليو 2024 . تم الاسترجاع في 25 يوليو 2024 .
  203. ^ "نتائج مكتب التحقيقات الوطني ومكتب التحقيقات الوطني تظهر أن مقطع الفيديو الخاص بـ "بولفورون" مزيف". صحيفة ذا فلبين ستار . 24 يوليو 2024. تم الاسترجاع في 25 يوليو 2024 .
  204. ^ شيبردسون، ديفيد (23 مايو 2024). "مستشار سياسي أمريكي متهم بإجراء مكالمات آلية لبايدن تم إنشاؤها بواسطة الذكاء الاصطناعي". رويترز .
  205. ^ "مستشار سياسي أمريكي متهم بإجراء مكالمات آلية لبايدن باستخدام الذكاء الاصطناعي". وكالة أسوشيتد برس . 23 مايو 2024. مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع 8 يونيو 2024 .
  206. ^ abcd "ساعدونا في صياغة نهجنا تجاه الوسائط المصطنعة والمُتلاعب بها". blog.twitter.com . مؤرشف من الأصل في 28 أكتوبر 2020 . تم الاسترجاع 7 أكتوبر 2020 .
  207. ^ "TechCrunch". TechCrunch . 11 نوفمبر 2019. مؤرشف من الأصل في 14 يوليو 2021 . تم الاسترجاع 7 أكتوبر 2020 .
  208. ^ خمس ولايات أمريكية تضغط على ماسك لإصلاح روبوت الدردشة الذكي بسبب معلومات مضللة عن الانتخابات تم الوصول إليه في 19 أغسطس 2024 بواسطة رويترز.
  209. ^ انتشرت صور ضارة بعد أن أطلق إيلون ماسك أداة للذكاء الاصطناعي مع عدد قليل من الحواجز الواقية واشنطن بوست تم الوصول إليها في 19 أغسطس 2024.
  210. ^ كيف أصبح إيلون ماسك وإكس أكبر موردي المعلومات المضللة عبر الإنترنت رولينج ستون تم الوصول إليه في 19 أغسطس 2024.
  211. ^ "نتائج تحدي اكتشاف التزييف العميق: مبادرة مفتوحة لتطوير الذكاء الاصطناعي". ai.facebook.com . مؤرشف من الأصل في 29 أكتوبر 2020 . تم الاسترجاع 7 أكتوبر 2020 .
  212. ^ ab Paul, Katie (4 فبراير 2020). "تويتر يضع علامة على التزييف العميق ووسائل الإعلام الخادعة الأخرى". رويترز . مؤرشف من الأصل في 10 أكتوبر 2020. تم الاسترجاع 7 أكتوبر 2020 .
  213. ^ كول، سامانثا (31 يناير 2018). "تم طرد صناع المواد الإباحية المزيفة المولدة بالذكاء الاصطناعي من مضيفهم المفضل". نائب . مؤرشف من الأصل في 1 نوفمبر 2019. تم استرجاعه في 18 نوفمبر 2019 .
  214. ^ ab Ghoshal, Abhimanyu (7 فبراير 2018). "تويتر وبورنهوب ومنصات أخرى تحظر أفلام إباحية للمشاهير تم إنشاؤها بالذكاء الاصطناعي". The Next Web . مؤرشف من الأصل في 20 ديسمبر 2019 . تم الاسترجاع في 9 نوفمبر 2019 .
  215. ^ بوم ، ماركوس (7 فبراير 2018). ""Deepfakes: الشركات التي تسعى إلى الحصول على فيديوهات إباحية رائعة". شبيجل اون لاين . أرشفة من الأصلي في 23 سبتمبر 2019 . تم الاسترجاع في 9 نوفمبر 2019 .
  216. ^ barbara.wimmer (8 فبراير 2018). "Deepfakes: Reddit löscht Forum for künstlich Genierte Fake-Pornos". Futurezone.at (باللغة الألمانية). أرشفة من الأصلي في 8 فبراير 2018 . تم الاسترجاع في 9 نوفمبر 2019 .
  217. ^ "Deepfakes: Reddit verbannt Fake-Porn". heise online (بالألمانية). 8 فبراير 2018. مؤرشف من الأصل في 10 أبريل 2019. تم الاسترجاع 9 نوفمبر 2019 .
  218. ^ "Reddit verbannt Deepfake-Pornos - derStandard.de". DER STANDARD (باللغة الألمانية النمساوية). مؤرشف من الأصل في 9 نوفمبر 2019 . تم الاسترجاع في 9 نوفمبر 2019 .
  219. ^ روبرتسون، آدي (7 فبراير 2018). "ريديت يحظر مجتمعات إباحية للذكاء الاصطناعي 'deepfakes'". ذا فيرج . مؤرشف من الأصل في 24 سبتمبر 2019. تم الاسترجاع 9 نوفمبر 2019 .
  220. ^ كول، سامانثا (6 فبراير 2018). "تويتر هو أحدث منصة لحظر المواد الإباحية المولدة بالذكاء الاصطناعي". نائب . مؤرشف من الأصل في 1 نوفمبر 2019. تم الاسترجاع 8 نوفمبر 2019 .
  221. ^ برايس، روب (27 يناير 2018). "أغلقت Discord للتو مجموعة دردشة مخصصة لمشاركة مقاطع فيديو إباحية تم تعديلها باستخدام الذكاء الاصطناعي لتشمل المشاهير". Business Insider Australia . مؤرشف من الأصل في 15 ديسمبر 2019 . تم الاسترجاع في 28 نوفمبر 2019 .
  222. ^ "تويتر يحظر المواد الإباحية المزيفة التي تم إنشاؤها بالذكاء الاصطناعي". Engadget . 20 يوليو 2019. مؤرشف من الأصل في 15 ديسمبر 2019. تم الاسترجاع 28 نوفمبر 2019 .
  223. ^ ab Harrell, Drew. "Fake-porn videos are being weaponized to harrass and humiliateate women: 'Everybody is a possible target'". The Washington Post . مؤرشف من الأصل في 2 يناير 2019 . تم الاسترجاع في 1 يناير 2019 .
  224. ^ ab Cole, Samantha (6 فبراير 2018). "Pornhub يحظر مقاطع الفيديو الإباحية المزيفة التي تم إنشاؤها بواسطة الذكاء الاصطناعي، ويقول إنها غير متفق عليها". Vice . مؤرشف من الأصل في 1 نوفمبر 2019 . تم الاسترجاع 9 نوفمبر 2019 .
  225. ^ Beres, Damon; Gilmer, Marcus (2 February 2018). "دليل على "التزييف العميق"، أحدث أزمة أخلاقية على الإنترنت". Mashable . مؤرشف من الأصل في 9 ديسمبر 2019 . تم الاسترجاع في 9 نوفمبر 2019 .
  226. ^ "لقد وعدت شركة فيسبوك بترك مقطع فيديو مزيف لمارك زوكربيرج". MIT Technology Review . مؤرشف من الأصل في 16 أكتوبر 2019 . تم الاسترجاع في 9 نوفمبر 2019 .
  227. ^ كول، سامانثا (11 يونيو 2019). "هذا الفيديو المزيف لمارك زوكربيرج يختبر سياسات فيسبوك المتعلقة بالفيديو المزيف". نائب . مؤرشف من الأصل في 12 أكتوبر 2019. تم الاسترجاع 9 نوفمبر 2019 .
  228. ^ أندرسون، مارتن (2022). حظرت جوجل تدريب Deepfakes في Colab Archived 30 مايو 2022 at the Wayback Machine ، Unite.ai، 28 مايو 2022
  229. ^ Maiberg, Emanuel (2022). It Takes 2 Clicks to Get From 'Deep Tom Cruise' to Vile Deepfake Porn Archived 30 May 2022 at the Wayback Machine , VICE, May 17, 2022
  230. ^ ساسي، بن (21 ديسمبر 2018). "S. 3805–115th Congress (2017-2018): Malicious Deep Fake Prohibition Act of 2018". www.congress.gov . مؤرشف من الأصل في 16 أكتوبر 2019 . تم الاسترجاع في 16 أكتوبر 2019 .
  231. ^ كلارك، إيفات د. (28 يونيو 2019). "HR3230 - الكونجرس 116 (2019-2020): الدفاع عن كل شخص من المظاهر الكاذبة من خلال إبقاء الاستغلال خاضعًا لقانون المساءلة لعام 2019". www.congress.gov . مؤرشف من الأصل في 17 ديسمبر 2019 . تم الاسترجاع 16 أكتوبر 2019 .
  232. ^ "الأفلام الإباحية الانتقامية المزيفة أصبحت غير قانونية الآن في فيرجينيا". TechCrunch . يوليو 2019. مؤرشف من الأصل في 14 يوليو 2021. تم الاسترجاع 16 أكتوبر 2019 .
  233. ^ Iacono Brown, Nina (15 July 2019). "Congress Wants to Solve Deepfakes by 2020. That Should Worry Us". مجلة سلايت . مؤرشف من الأصل في 16 أكتوبر 2019. تم الاسترجاع في 16 أكتوبر 2019 .
  234. ^ ab "نص مشروع القانون - AB-602 تصوير فرد يستخدم تكنولوجيا رقمية أو إلكترونية: مادة صريحة جنسيًا: سبب الدعوى". leginfo.legislature.ca.gov . مؤرشف من الأصل في 17 نوفمبر 2019 . تم الاسترجاع في 9 نوفمبر 2019 .
  235. ^ "نص مشروع القانون - انتخابات AB-730: وسائل إعلام سمعية أو بصرية خادعة". leginfo.legislature.ca.gov . مؤرشف من الأصل في 31 أكتوبر 2019. تم الاسترجاع في 9 نوفمبر 2019 .
  236. ^ HR 5586: قانون مساءلة DEEPFAKES Govtrack.US تم الوصول إليه في 15 أغسطس 2024.
  237. ^ HR 6943: لا يوجد قانون لمكافحة الاحتيال في مجال الذكاء الاصطناعي Govtrack.US تم الوصول إليه في 15 أغسطس 2024.
  238. ^ "الصين تسعى إلى استئصال الأخبار المزيفة والأخبار المزيفة العميقة بقواعد جديدة للمحتوى عبر الإنترنت". Reuters.com . رويترز . 29 نوفمبر 2019. مؤرشف من الأصل في 17 ديسمبر 2019 . تم الاسترجاع 17 ديسمبر 2019 .
  239. ^ ستات، نيك (29 نوفمبر 2019). "الصين تجعل نشر مقاطع فيديو مزيفة أو أخبار كاذبة دون الكشف عنها جريمة جنائية". The Verge . مؤرشف من الأصل في 22 ديسمبر 2019 . تم الاسترجاع 17 ديسمبر 2019 .
  240. ^ الصين تنظم تقنية التوليف العميق (Deepfake) بدءًا من عام 2023 تم الاطلاع على موجز الصين في 15 أغسطس 2024.
  241. ^ الصين: أحكام تكنولوجيا التخليق العميق تدخل حيز التنفيذ تم الوصول إليها من مكتبة الكونجرس في 15 أغسطس 2024.
  242. ^ دعوة إلى تضمين مشروع قانون "التقاط الصور من أسفل التنورة" حظرًا على المواد الإباحية "المزيفة" أرشيف 21 يونيو 2018 على موقع واي باك مشين The Guardian
  243. ^ إنشاء مقاطع فيديو مزيفة ذات محتوى جنسي صريح سيصبح جريمة جنائية تم الوصول إليه في 15 أغسطس 2024 من قبل بي بي سي.
  244. ^ إنشاء صور مزيفة ذات طابع جنسي صريح سيصبح جريمة في المملكة المتحدة (تم الوصول إليه في 15 أغسطس 2024).
  245. ^ [2] تم أرشفته في 22 نوفمبر 2019 على موقع Wayback Machine، انظر الصفحة 18
  246. ^ بوغارت، نيكول (10 سبتمبر 2019). "كيف يمكن أن تؤثر تقنية التزييف العميق على الانتخابات الكندية لعام 2019". الانتخابات الفيدرالية 2019. مؤرشف من الأصل في 27 يناير 2020. تم الاسترجاع 28 يناير 2020 .
  247. ^ "ماذا يمكن للقانون أن يفعل بشأن Deepfake". mcmillan.ca . مؤرشف من الأصل في 7 ديسمبر 2019 . تم الاسترجاع 28 يناير 2020 .
  248. ^ نظرة عامة على قانون الأضرار عبر الإنترنت في كندا TechPolicy.Press] تم الوصول إليه في 15 أغسطس 2024.
  249. ^ مشروع القانون C-63 لمجلس العموم الكندي تم الوصول إليه في 15 أغسطس 2024.
  250. ^ Venkatasubbbu, Satish (27 يونيو 2023). "كيف يتم استخدام التزييف العميق للاحتيال عليك وعلىّ؟ الاتجاهات الحالية في الكشف باستخدام الذكاء الاصطناعي واللوائح القانونية في جميع أنحاء العالم". cybermithra.in . مؤرشف من الأصل في 10 يونيو 2024 . تم الاسترجاع 3 يوليو 2023 .
  251. ^ روميرو مورينو، فيليبي (29 مارس 2024). "الذكاء الاصطناعي التوليدي والتزييف العميق: نهج حقوق الإنسان لمعالجة المحتوى الضار". المجلة الدولية للقانون والحاسبات والتكنولوجيا . 39 (2): 297-326. doi : 10.1080/13600869.2024.2324540 . hdl : 2299/20431 . ISSN  1360-0869.
  252. ^ تعرضت سيارة X التابعة لإيلون موسك لتسع شكاوى تتعلق بالخصوصية بعد الاستيلاء على بيانات المستخدمين في الاتحاد الأوروبي للتدريب Grok TechCrunch تم الوصول إليه في 19 أغسطس 2024.
  253. ^ هاتماكر، تايلور (1 مايو 2018). "داربا تمول تقنية جديدة يمكنها التعرف على مقاطع الفيديو التي تم التلاعب بها و"التزييف العميق". تيك كرانش . مؤرشف من الأصل في 8 ديسمبر 2023. تم الاسترجاع 14 أبريل 2024 .
  254. ^ هسو، جيريمي (22 يونيو 2018). "خبراء يراهنون على أول فضيحة سياسية لمقاطع الفيديو المزيفة - IEEE Spectrum". IEEE . مؤرشف من الأصل في 22 فبراير 2024 . تم الاسترجاع 14 أبريل 2024 .
  255. ^ "Media Forensics". www.darpa.mil . مؤرشف من الأصل في 29 أكتوبر 2020 . تم الاسترجاع 7 أكتوبر 2020 .
  256. ^ "الجيش الأمريكي يمول جهودًا للكشف عن مقاطع الفيديو المزيفة وغيرها من حيل الذكاء الاصطناعي". MIT Technology Review . مؤرشف من الأصل في 1 نوفمبر 2020. تم الاسترجاع في 7 أكتوبر 2020 .
  257. ^ كولينز، كونور (11 مارس 2019). "داربا تتصدى للتزييف العميق باستخدام الذكاء الاصطناعي". GovCIO Media & Research . مؤرشف من الأصل في 2 مارس 2024 . تم الاسترجاع 14 أبريل 2024 .
  258. ^ "داربا تتصدى لمشكلة التزييف العميق". Nextgov.com . 6 أغسطس 2019. مؤرشف من الأصل في 28 أكتوبر 2020 . تم الاسترجاع 7 أكتوبر 2020 .
  259. ^ سيبرت، سارة (16 سبتمبر 2021). "داربا تطلق برامج جديدة للكشف عن الوسائط المزيفة". GovCIO Media & Research . مؤرشف من الأصل في 10 يونيو 2024 . تم الاسترجاع 14 أبريل 2024 .
  260. ^ كوبر، نعومي (15 مارس 2024). "داربا تطلق محاولتين جديدتين لتعزيز الدفاعات ضد وسائل الإعلام المُتلاعب بها". مؤرشف من الأصل في 15 مارس 2024 . تم الاسترجاع 14 أبريل 2024 .
  261. ^ "Semantic Forensics - Analytic Catalog". semanticforensics.com . مؤرشف من الأصل في 18 أبريل 2024 . تم الاسترجاع 14 أبريل 2024 .
  262. ^ الأكاديميات الوطنية للعلوم والهندسة والطب (22 يونيو 2023). "قمة جائزة نوبل تغذي المبادرات لمكافحة المعلومات المضللة والمعلومات المضللة وبناء الثقة في العلوم". الأكاديميات الوطنية للعلوم والهندسة والطب . ويكي بيانات  Q124711722.{{cite journal}}: CS1 maint: multiple names: authors list (link)
  263. ^ "Picaper". قاعدة بيانات الخيال العلمي على الإنترنت . مؤرشف من الأصل في 29 يوليو 2020. تم الاسترجاع في 9 يوليو 2019 .
  264. ^ كير، فيليب (2010). تحقيق فلسفي . كتب ناشيونال جيوغرافيك. رقم ISBN 978-0143117537.
  265. ^ برنال، ناتاشا (8 أكتوبر 2019). "الحقيقة المزعجة وراء فيلم The Capture والتزييف العميق في الحياة الواقعية". صحيفة التلغراف . مؤرشف من الأصل في 14 أكتوبر 2019. تم الاسترجاع في 24 أكتوبر 2019 .
  266. ^ كراولي، بيتر (5 سبتمبر 2019). "القبض: فيلم تشويقي من إنتاج هيئة الإذاعة البريطانية عن المراقبة والتشويه والازدواجية". صحيفة آيريش تايمز . مؤرشف من الأصل في 9 سبتمبر 2019. تم الاسترجاع في 24 أكتوبر 2019 .
  267. ^ جون ترافولتا هو فورست غامب [DeepFake]. مؤرشف من الأصل في 20 أبريل 2024. استرجاع 20 أبريل 2024 – عبر www.youtube.com.
  268. ^ نوفاك، لورين (24 نوفمبر 2023). "جون ترافولتا رفض دور "فورست غامب" ونجوم آخرين اختاروا عدم لعب شخصيات شهيرة". تذكير . مؤرشف من الأصل في 10 يونيو 2024. تم الاسترجاع 20 أبريل 2024 .
  269. ^ "ESPN Films Latest 30 for 30 Documentary Al Davis vs. The NFL to Premiere February 4" (بيان صحفي). ESPN. 15 يناير 2021. مؤرشف من الأصل في 6 فبراير 2021 . تم الاسترجاع 5 فبراير 2021 .
  270. ^ سبرونغ، شلومو (1 فبراير 2021). "فيلم وثائقي على قناة ESPN بعنوان "آل ديفيس ضد اتحاد كرة القدم الأميركي" يستخدم تقنية التزييف العميق لإعادة مالك فريق رايدرز الراحل إلى الحياة". فوربس . مؤرشف من الأصل في 14 أبريل 2021. تم الاسترجاع في 4 فبراير 2021 .
  271. ^ "Hudson and Rex". مؤرشف من الأصل في 13 يناير 2022 . تم الاسترجاع 13 يناير 2022 .
  272. ^ ab Wood, Mikael (9 May 2022). "شاهد كيندريك لامار يتحول إلى أو جيه، كاني، كوبي، نيبسي هاسل في فيديو جديد". لوس أنجلوس تايمز . مؤرشف من الأصل في 30 أكتوبر 2022. تم الاسترجاع في 10 مايو 2022 .
  273. ^ Aloe Blacc - Wake Me Up (Universal Language Mix)، 20 أبريل 2022، مؤرشف من الأصل في 24 أغسطس 2022 ، تم استرجاعه في 24 أغسطس 2022
  274. ^ "شاهد ألو بلاك يؤدي أغنية "Wake Me Up" بثلاث لغات لتكريم أفيتشي باستخدام الترجمة بالذكاء الاصطناعي من Respeecher". Voicebot.ai . 5 مايو 2022. مؤرشف من الأصل في 24 أغسطس 2022 . تم الاسترجاع في 24 أغسطس 2022 .
  275. ^ ليز، دومينيك (27 يناير 2023). "حروب الجيران المزيفة العميقة: كوميديا ​​ITV تُظهر كيف يمكن للذكاء الاصطناعي أن يحول الثقافة الشعبية". المحادثة . مؤرشف من الأصل في 24 يونيو 2023. تم الاسترجاع 3 يوليو 2023 .

قراءة إضافية

  • دانييل إيمروار ، "عيونك الكاذبة: يستخدم الناس الآن الذكاء الاصطناعي لإنشاء مقاطع فيديو مزيفة لا يمكن تمييزها عن المقاطع الحقيقية. ما مدى أهمية ذلك؟"، مجلة نيويوركر ، 20 نوفمبر 2023، ص 54-59. "إذا كنا نعني بـ "التزييف العميق" مقاطع فيديو واقعية تم إنتاجها باستخدام الذكاء الاصطناعي والتي تخدع الناس بالفعل، فهي بالكاد موجودة. فالتزييف ليس عميقًا، والعميق ليس مزيفًا. [...] لا تعمل مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي، بشكل عام، في وسائل الإعلام لدينا كدليل مزور. إن دورها يشبه بشكل أفضل دور الرسوم المتحركة ، وخاصة الرسوم الإباحية." (ص 59).
  • إيمانويل بيلس، "التزييف العميق والقانون الجنائي" (باللغة اليونانية). في: هـ. ساتزجر وآخرون (المحررون)، حدود ومستقبل القانون الجنائي - مقالات تكريمًا لكريستوس ميلونوبولوس، أثينا، بي إن ساكولاس، 2024، ص 689-732.
لدى ويكيميديا ​​كومنز وسائل إعلام متعلقة بـ Deepfake .
  • ساسي، بن (19 أكتوبر/تشرين الأول 2018). "هذه التكنولوجيا الجديدة قد تدفع السياسة الأميركية إلى حالة من الفوضى". آراء. واشنطن بوست . تم الاسترجاع في 10 يوليو/تموز 2019 .
  • تحدي اكتشاف الصوت المزيف/المزيف (ASVspoof)
  • تحدي اكتشاف التزييف العميق (DFDC)
  • قائمة المراجع: محو الأمية الإعلامية في عصر التزييف العميق. إعداد الدكتور جوشوا جليك.
Retrieved from "https://en.wikipedia.org/w/index.php?title=Deepfake&oldid=1253775781"
Original text
Rate this translation
Your feedback will be used to help improve Google Translate