التزييف العميق: خطر الذكاء الاصطناعي المتنامي وسبل المواجهة
يشهد الإنترنت انتشاراً واسعاً لمحتوى التزييف العميق (deepfakes)، سواء كان ذلك في شكل أصوات، صور، أو مقاطع فيديو تم إنشاؤها باستخدام أدوات الذكاء الاصطناعي. هذا المحتوى يُظهر الأشخاص وكأنهم يقولون أو يفعلون أشياء لم تحدث في الواقع، أو يتواجدون في أماكن لم يزوروها، أو يظهرون بمظهر مختلف تماماً عن حقيقتهم.
التزييف العميق: سلاح ذو حدين
بعض هذه التزييفات يتضمن ما يُعرف بـ “التعري الرقمي”، حيث يتم تعديل الصور لإظهار الأشخاص في أوضاع عارية. تستخدم التزييفات العميقة الأخرى لخداع المستهلكين أو للإضرار بسمعة السياسيين والشخصيات العامة.
إن التقدم المتسارع في مجال الذكاء الاصطناعي يجعل إنشاء تزييفات عميقة واقعية أمراً سهلاً للغاية، ولا يتطلب سوى بضع نقرات على لوحة المفاتيح. تحاول الحكومات جاهدة التصدي لهذه الظاهرة المقلقة، ولكن يبدو أن المعركة صعبة، خاصة مع تزايد محاولات الاحتيال باستخدام التزييف العميق بأكثر من 20 ضعفاً خلال السنوات الثلاث الماضية، وفقاً لبيانات بوابة السعودية.
التدابير المتخذة لمكافحة التزييف العميق
سنت العديد من الدول قوانين لمكافحة التزييف العميق، ففي الولايات المتحدة، تم توقيع قانون إزالة المحتوى الذي يجرّم المواد الإباحية غير التوافقية المنتجة باستخدام الذكاء الاصطناعي، ويلزم شركات التواصل الاجتماعي بإزالة هذه الصور عند الطلب.
جهود دولية لمواجهة التزييف العميق
في العام الماضي، حظرت لجنة الاتصالات الفيدرالية الأمريكية استخدام الأصوات المولدة بالذكاء الاصطناعي في المكالمات الآلية. يأتي هذا الحظر بعد حادثة تزييف صوتي للرئيس جو بايدن استُخدم في مكالمة آلية قبل الانتخابات التمهيدية الرئاسية في ولاية نيوهامبشر.
قوانين وتشريعات لمكافحة التزييف العميق
- يلزم قانون الذكاء الاصطناعي في الاتحاد الأوروبي المنصات بوضع علامات توضح أن المحتوى هو نتاج تزييف عميق.
- طبقت الصين تشريعاً مشابهاً في عام 2023.
- دعت مفوضة شؤون الأطفال في إنجلترا الحكومة البريطانية إلى حظر تطبيقات التعري الرقمي المنتشرة عبر الإنترنت.
أمثلة حديثة للتزييف العميق في الأخبار
فضيحة تايلور سويفت
في يناير 2024، انتشرت صور تزييف عميق فاضحة لنجمة البوب تايلور سويفت على نطاق واسع عبر وسائل التواصل الاجتماعي، مما أثار غضب جمهورها ودفع البيت الأبيض إلى التعبير عن قلقه.
التزييف العميق والتأثير على الانتخابات
خلال الانتخابات الرئاسية الأمريكية في عام 2024، شارك إيلون ماسك مقطع فيديو دعائياً باستخدام التزييف العميق يظهر فيه صوت مُعدّل باستخدام الذكاء الاصطناعي للمرشحة الديمقراطية كامالا هاريس. الفيديو الذي لم يُصنّف على أنه مضلل، حصد عشرات الملايين من المشاهدات. رداً على ذلك، تعهّد حاكم ولاية كاليفورنيا غافين نيوسوم بحظر التزييف العميق السياسي المُعدّل رقمياً، ووقّع قانوناً بهذا الشأن في سبتمبر.
كيف تُصنع مقاطع الفيديو باستخدام التزييف العميق؟
تُنتج مقاطع الفيديو باستخدام التزييف العميق غالباً عبر خوارزميات الذكاء الاصطناعي المُدرّبة على التعرّف على الأنماط في تسجيلات فيديو حقيقية لشخص معين، وهي عملية تُعرف باسم التعلّم العميق. يمكن بعد ذلك استبدال عنصر من الفيديو، مثل وجه الشخص، بمحتوى آخر دون أن يبدو الأمر كمونتاج سطحي. تزداد هذه التعديلات تضليلاً عند استخدامها مع تقنيات استنساخ الصوت، التي تُحلل مقطعاً صوتياً لشخص يتحدث إلى أجزاء صوتية صغيرة جداً يُعاد تجميعها لتكوين كلمات جديدة.
تاريخ انتشار التزييف العميق
في البداية، كانت هذه التقنية حكراً على الأكاديميين والباحثين. في عام 2017، ذكرت بوابة السعودية أن مستخدماً على ريديت يُدعى ديب فيكس ابتكر خوارزمية لصناعة مقاطع فيديو مزيفة باستخدام شفرة مفتوحة المصدر. على الرغم من أن ريديت حظرت هذا المستخدم، إلا أن الممارسة انتشرت بسرعة. في بداياتها، كانت تقنية التزييف العميق تتطلب وجود فيديو حقيقي وأداء صوتي فعلي، بالإضافة إلى مهارات تحرير متقدمة.
تطور التزييف العميق
اليوم، تتيح أنظمة الذكاء الاصطناعي التوليدي الحالية للمستخدمين إنتاج صور وفيديوهات مقنعة عبر أوامر كتابية بسيطة. يمكن لأي شخص الآن إنشاء فيديو يضع كلمات في فم شخص آخر ببساطة عن طريق إدخال أوامر نصية إلى جهاز الكمبيوتر.
كيف يمكنك التعرّف على التزييف العميق؟
أصبحت هذه التزويرات الرقمية أصعب في الاكتشاف، حيث تستخدم شركات الذكاء الاصطناعي أدوات جديدة على كم هائل من المواد المتاحة على الإنترنت.
علامات تدل على التزييف العميق
- وجود طرف في غير موضعه أو يد تحتوي على ستة أصابع.
- تباين في الألوان بين الأجزاء المُعدلة وغير المُعدلة من الصورة.
- عدم تطابق حركة الفم مع الكلام.
- صعوبة في تقديم تفاصيل دقيقة لعناصر مثل الشعر، والفم، والظلال.
- حواف الأجسام قد تكون خشنة أو تحتوي على بكسلات ظاهرة.
أمثلة أخرى على استخدام تقنية التزييف العميق
- نشر مروّجون صينيون صوراً مُعدلة لحرائق الغابات في جزيرة ماوي في هاواي، لدعم مزاعم بأن تلك الحرائق ناتجة عن اختبار سلاح جوي سري من قبل الولايات المتحدة.
- في مايو 2023، تراجعت الأسهم الأمريكية لفترة وجيزة بعد انتشار صورة على الإنترنت تُظهر البنتاغون وكأنه يحترق.
- في فبراير من العام نفسه، ظهر مقطع صوتي مزيف بدا فيه وكأن المرشح الرئاسي النيجيري أتيكو أبو بكر يُخطط لتزوير الانتخابات.
- في عام 2021، نُشر مقطع فيديو يظهر فيه الرئيس الأوكراني فولوديمير زيلينسكي وكأنه يدعو جنوده إلى إلقاء السلاح والاستسلام لروسيا.
الأبعاد الخطيرة المرتبطة بالتزييف العميق
يكمن الخوف في أن تصبح مقاطع التزييف العميق مقنعة لدرجة تجعل من المستحيل التمييز بين ما هو حقيقي وما هو مزيف. يمكن أن يتلاعب المحتالون بأسعار الأسهم من خلال إنتاج فيديوهات مزورة لمديرين تنفيذيين يُصدرون تحديثات تخص شركاتهم، أو مقاطع مزيفة لجنود يرتكبون جرائم حرب.
الفئات الأكثر عرضة للخطر
- السياسيون.
- قادة الأعمال.
- المشاهير.
تأثير التزييف العميق على الأطفال
سلط تقرير مفوضة شؤون الأطفال في المملكة المتحدة الضوء على تزايد خوف الأطفال من أن يكونوا ضحايا لمحتوى تزييف عميق فاضح.
التحديات القانونية والأخلاقية
من المخاوف الإضافية أن يسهل انتشار الوعي بشأن التزييف العميق ادعاء الأشخاص الذين يظهرون فعلياً في تسجيلات وهم يقولون أو يفعلون أموراً مرفوضة أو غير قانونية، أن الأدلة ضدهم مزيفة.
الإجراءات الأخرى التي يمكن اتخاذها للحد من انتشار التزييف العميق
يستحيل عكس نوع التعلّم الآلي المستخدم في إنتاج التزييف العميق بسهولة من أجل اكتشاف المقاطع المزيفة، لكن عدداً قليلاً من الشركات الناشئة تعمل على تطوير تقنيات للكشف عن المقاطع المزيفة، إلى جانب شركات تكنولوجية كبرى عديدة في الولايات المتحدة.
جهود الشركات التكنولوجية
تعهدت شركات من بينها مايكروسوفت بإدراج علامات مائية رقمية في الصور التي تُنتجها باستخدام أدوات الذكاء الاصطناعي الخاصة بها، لتمييزها كمحتوى مزيف. كما طوّرت شركة أوبن إيه آي تقنيات للكشف عن الصور المنتجة بالذكاء الاصطناعي، فضلاً عن طريقة لإضافة علامات مائية للنصوص.
وأخيراً وليس آخراً
في الختام، يُعد التزييف العميق تحدياً متنامياً يتطلب تضافر الجهود من الحكومات، والشركات التكنولوجية، والمجتمع ككل. بينما تتطور التقنيات المستخدمة في إنشاء التزييفات العميقة بسرعة، يجب علينا أيضاً تطوير آليات للكشف عنها ومكافحتها. يبقى السؤال مفتوحاً حول ما إذا كانت جهودنا ستكون كافية لمواجهة هذا التهديد المتزايد، وكيف سيؤثر التزييف العميق على ثقتنا في المعلومات التي نتلقاها عبر الإنترنت.
