كشفت منصة الفيديو الجديدة “سورا” مدى قدرة الذكاء الاصطناعي على تزييف الواقع بشكل مقلق.
تُنتج المنصة المدعومة بنموذج “Sora 2” فيديوهات عالية الدقة لأشخاص حقيقيين، مثل “مارتن لوثر كينج الابن” و”مايكل جاكسون” و”براين كرانستون”، إضافة إلى شخصيات محمية بحقوق الملكية مثل “سبونج بوب” و”بيكاتشو”.
وحتى الأفراد الذين شاركوا صورهم برضاهم، وجدوا أنفسهم داخل فيديوهات مسيئة أو جنسية أو تحمل خطاب كراهية.
داخل تطبيق سورا، يعرف المستخدمون تماماً أن ما يشاهدونه غير حقيقي، لكن هذه الفيديوهات مخصَّصة للمشاركة عبر الشبكات الاجتماعية، وبمغادرتها بيئة التطبيق، تنعدم وسائل الحماية التي تُخبر الجمهور بأن ما يشاهدونه زائف تماماً.
تشير تلك العملية إلى فشل شامل لأنظمة تمييز المحتوى الحقيقي من الزائف، بما في ذلك النظام الذي تشرف عليه أوبن إيه آي نفسها، وهو معيار “C2PA” الخاص بوضع بيانات منشأ المحتوى.
(إعلان ترويجي لفيلم من إنتاج سورا ٢ يُعلن عن فيلم مزيف من إنتاج ديزني عن الهولوكوست، حصد المنشور ما يقارب ٣٠٠ ألف إعجاب في يومين فقط على إنستجرام)
يُعرف “C2PA” أيضا باسم “Content Credentials”، وهو نظام طوَّرته شركة أدوبي وشركاؤها لوضع بيانات غير مرئية ولكن قابلة للتحقق داخل الصور والفيديو والصوت عند الإنشاء أو التعديل، تحتوي على معلومات حول طبيعة المحتوى وتاريخه.
كانت أوبن إيه آي عضوا في اللجنة المشرفة على تطويرهذا النظام، كما يتضمن كل فيديو يتم توليده عبر سورا بيانات “Content Credentials” غير مرئية، لكن لا أحد يرى ذلك تقريباً.
إذ يجب على المستخدم نفسه البحث عن هذه البيانات عبر مواقع أو إضافات متصفح مخصَّصة.
كما تشترط فعالية “C2PA” أن تعتمدها كل المنصات في كل مراحل النشر، وأن يظهر للمشاهد بشكل واضح.
ورغم دعم شركات كبرى لهذا النظام مثل أوبن إيه آي، أمازون، تيك توك، ميتا، جوجل أدوبي، فإن الواقع يكشف غياباً شبه تام للوسوم التحذيرية.
وصل الأمر لاستخدام Sora 2 لإنشاء فيديوهات:
من جانبها، أفادت منصة “Reality Defender” المتخصِّصة بكشف التزييف أنها تخطَّت حماية هويات المشاهير على سورا خلال أقل من 24 ساعة على إطلاق التطبيق.
تعتمد معظم المنصات حالياً على:
يُذكر أن منصة إكس (تويتر سابقاً) كانت من مؤسسي CAI (المبادرة الداعمة لـC2PA) لكنها انسحبت بعد استحواذ ماسك بلا تفسير، فيما لم تُقدِّم جوجل وتيك توك وأمازون أي رد موثوق بشأن استخدامهم لهذا النظام من الأساس..
للإجابة على هذا السؤال، يمكن الرجوع إلى اعتراف القائمون عليه بأنفسهم، حيث يُضيف “بن كولمان” من ريالتي ديفندر قائلاً:
نظام C2PA ليس حلاً كاملاً بمفرده، ويجب دمجه بأدوات وتقنيات أخرى.
على الجانب الآخر، يحاول الباحثون تطوير تقنيات كشف إضافية تعتمد على تحليل البصمة الرقمية للفيديو دون الحاجة لبيانات مخفية، لكن النتائج ما زالت غير مثالية.
على سبيل المثال، تدعم أدوبي قوانين مثل:
وعلى الجانب الآخر، فهناك إدراك متزايد لدى صانعي القرار أنّ التزييف العميق:
أصبحت منصة سورا إذن مثالاً واضحاً على أن التزييف العميق يتطوُّر أسرع بكثير من وسائل كشفه، ومعايير مثل C2PA تساعد في توثيق الأصل، لكنها فشلت في تحذير الجمهور.
ومع مواقع ويب مليئة بالمحتوى الزائف شديد الإقناع، فإن الاعتماد على “حسن نية” الشركات التقنية لم يعد خياراً.
فيما يبدو أن الوضع قد يزداد سوءاً قبل أن يتحسن، ورغم ذلك، يتوقَّع خبراء الأمن الرقمي تقدماً ملحوظاً خلال عامين إذا تم فرض تشريعات صارمة واعتماد معايير الشفافية من قبل جميع المنصات.
المصادر:
Global Extremism
Theverge
ظهرت المقالة منصة سورا: أكبر دليل على فشل تقنيات كشف التزييف العميق أولاً على بلوك تِك.
المصدر
تُنتج المنصة المدعومة بنموذج “Sora 2” فيديوهات عالية الدقة لأشخاص حقيقيين، مثل “مارتن لوثر كينج الابن” و”مايكل جاكسون” و”براين كرانستون”، إضافة إلى شخصيات محمية بحقوق الملكية مثل “سبونج بوب” و”بيكاتشو”.
وحتى الأفراد الذين شاركوا صورهم برضاهم، وجدوا أنفسهم داخل فيديوهات مسيئة أو جنسية أو تحمل خطاب كراهية.
داخل تطبيق سورا، يعرف المستخدمون تماماً أن ما يشاهدونه غير حقيقي، لكن هذه الفيديوهات مخصَّصة للمشاركة عبر الشبكات الاجتماعية، وبمغادرتها بيئة التطبيق، تنعدم وسائل الحماية التي تُخبر الجمهور بأن ما يشاهدونه زائف تماماً.
تشير تلك العملية إلى فشل شامل لأنظمة تمييز المحتوى الحقيقي من الزائف، بما في ذلك النظام الذي تشرف عليه أوبن إيه آي نفسها، وهو معيار “C2PA” الخاص بوضع بيانات منشأ المحتوى.
(إعلان ترويجي لفيلم من إنتاج سورا ٢ يُعلن عن فيلم مزيف من إنتاج ديزني عن الهولوكوست، حصد المنشور ما يقارب ٣٠٠ ألف إعجاب في يومين فقط على إنستجرام)
ما هو معيار C2PA؟ ولماذا يفشل؟
يُعرف “C2PA” أيضا باسم “Content Credentials”، وهو نظام طوَّرته شركة أدوبي وشركاؤها لوضع بيانات غير مرئية ولكن قابلة للتحقق داخل الصور والفيديو والصوت عند الإنشاء أو التعديل، تحتوي على معلومات حول طبيعة المحتوى وتاريخه.
كانت أوبن إيه آي عضوا في اللجنة المشرفة على تطويرهذا النظام، كما يتضمن كل فيديو يتم توليده عبر سورا بيانات “Content Credentials” غير مرئية، لكن لا أحد يرى ذلك تقريباً.
إذ يجب على المستخدم نفسه البحث عن هذه البيانات عبر مواقع أو إضافات متصفح مخصَّصة.
كما تشترط فعالية “C2PA” أن تعتمدها كل المنصات في كل مراحل النشر، وأن يظهر للمشاهد بشكل واضح.
ورغم دعم شركات كبرى لهذا النظام مثل أوبن إيه آي، أمازون، تيك توك، ميتا، جوجل أدوبي، فإن الواقع يكشف غياباً شبه تام للوسوم التحذيرية.
حتى في المحتوى الواضح أنَّه مزيف، فإن:
- إنستجرام وتيك توك ويوتيوب لا يعرضون أي وسم واضح.
- يمكن حذف البيانات بسهولة عند إعادة رفع الفيديو.
- لن يقوم المستخدم العادي بفتح أدوات تحليل البيانات ليعرف الحقيقة.
سورا: مصنع تزييف عميق بلا رقابة
وصل الأمر لاستخدام Sora 2 لإنشاء فيديوهات:
- تفجيرات وحوادث أمنية وهمية.
- أطفال في مناطق حرب.
- عنف وعنصرية وعداء اجتماعي.
من جانبها، أفادت منصة “Reality Defender” المتخصِّصة بكشف التزييف أنها تخطَّت حماية هويات المشاهير على سورا خلال أقل من 24 ساعة على إطلاق التطبيق.
إذن ما دور المنصات الاجتماعية؟
تعتمد معظم المنصات حالياً على:
- بلاغات المستخدمين.
- ملاحظات المجتمع كما في منصة إكس.
- وسوم صغيرة مبهمة (في حال ظهرت أصلاً)
يُذكر أن منصة إكس (تويتر سابقاً) كانت من مؤسسي CAI (المبادرة الداعمة لـC2PA) لكنها انسحبت بعد استحواذ ماسك بلا تفسير، فيما لم تُقدِّم جوجل وتيك توك وأمازون أي رد موثوق بشأن استخدامهم لهذا النظام من الأساس..
لماذا لا يكفي نظام “C2PA” وحده؟
للإجابة على هذا السؤال، يمكن الرجوع إلى اعتراف القائمون عليه بأنفسهم، حيث يُضيف “بن كولمان” من ريالتي ديفندر قائلاً:
نظام C2PA ليس حلاً كاملاً بمفرده، ويجب دمجه بأدوات وتقنيات أخرى.
| نقطة الضعف | |
القدرة على التخلص من البيانات | منصات عديدة تحذف البيانات عند التحميل |
| عدم وجود وسم واضح للمشاهد | كل شيء يحدث في الخلفية دون إخطار المستخدم |
| الحاجة إلى تكامل صناعي كامل | غائب حالياً |
سباق غير متكافئ |
[td]
[/td]
تفاصيل المشكلة
[td]
تطور التلاعب بشكل أسرع من محاولات كشفه
[/td]على الجانب الآخر، يحاول الباحثون تطوير تقنيات كشف إضافية تعتمد على تحليل البصمة الرقمية للفيديو دون الحاجة لبيانات مخفية، لكن النتائج ما زالت غير مثالية.
حلول مقترحة: تشريعات ومساءلة حقيقية
على سبيل المثال، تدعم أدوبي قوانين مثل:
- FAIR Act: حماية الأفراد من انتحال هويتهم وملامحهم.
- PADRA: منع إساءة استخدام النسخ الرقمية.
- No Fakes Act: حظر استخدام الوجه أو الصوت دون إذن.
وعلى الجانب الآخر، فهناك إدراك متزايد لدى صانعي القرار أنّ التزييف العميق:
- خطر يهدد الأفراد.
- أداة محتملة للدعاية السياسية.
- سلاح تشهيري يطال كل فئات المجتمع.
أصبحت منصة سورا إذن مثالاً واضحاً على أن التزييف العميق يتطوُّر أسرع بكثير من وسائل كشفه، ومعايير مثل C2PA تساعد في توثيق الأصل، لكنها فشلت في تحذير الجمهور.
ومع مواقع ويب مليئة بالمحتوى الزائف شديد الإقناع، فإن الاعتماد على “حسن نية” الشركات التقنية لم يعد خياراً.
فيما يبدو أن الوضع قد يزداد سوءاً قبل أن يتحسن، ورغم ذلك، يتوقَّع خبراء الأمن الرقمي تقدماً ملحوظاً خلال عامين إذا تم فرض تشريعات صارمة واعتماد معايير الشفافية من قبل جميع المنصات.
المصادر:
Global Extremism
Theverge
ظهرت المقالة منصة سورا: أكبر دليل على فشل تقنيات كشف التزييف العميق أولاً على بلوك تِك.
المصدر
مواضيع مشابهة
اخر المواضيع