تحذيرات من الإعلام الرقمي: التزييف العميق يهدد الانتخابات بخداع يصل إلى 99%

المحتوى المزيف وتأثير تقنيات الذكاء الاصطناعي في العراق

حذر مركز الإعلام الرقمي DMC من ارتفاع ظاهرة المحتوى المزيف الناتج عن تقنيات الذكاء الاصطناعي في العراق، مشدداً على أهمية توخي الحذر في استخدام أدوات كشف التزييف العميق، حيث لا تزال تواجه العديد من التحديات التي قد تؤثر على كفاءتها في البيئة الرقمية المتطورة.

خداع أدوات الكشف وضرورة التحري

أكد المركز في بيانه أن الدراسات والأبحاث العملية أثبتت إمكانية خداع أدوات الكشف عن المحتوى المزيف، من خلال استخدام تقنيات تُعرف بـ “الهجمات العدائية”. حيث يتطلب الأمر إدخال تغييرات دقيقة لا تستطيع العين البشرية رصدها، لكنها كافية لتغيير نتائج عمليات الفحص. وقد تمكن باحثون من بعض الجامعات المعروفة من تحقيق معدلات خداع تتخطى 99% في بعض السيناريوهات.

وأثنى المركز على جهود هيأة الإعلام والاتصالات في تنظيم الفضاء الرقمي في العراق، خاصة في ما يتعلق بمواجهة الحسابات المزيفة والمعلومات المضللة. وأكد أن تعزيز الرقابة الرقمية وفق الأطر القانونية يُعتبر خطوة أساسية للحد من الفوضى الرقمية، وذلك في أوقات الأزمات التي يمر بها البلد.

تم تسليط الضوء على أن انتشار المحتوى المزيف على وسائل التواصل الاجتماعي يهدف إلى التأثير على آراء الناس وتشويه الحقائق. كما لوحظت مقاطع فيديو وصور مزيفة تم تداولها بغرض التضليل والتأثير على الأحداث السياسية والاجتماعية في العراق.

وأضاف المركز أن هناك سباقاً تقنياً دائراً بين من يحققون المحتوى المزيف ومن يسعون لكشفه. فعند تطوير أدوات الكشف لتقنيات جديدة، يقوم مطورو أنظمة التزييف بتحسين أدواتهم لتجاوز هذه التقنيات.

من جهة أخرى، تعد محدودية بيانات التدريب من أبرز الأمور التي تقلل من كفاءة أدوات الكشف. إذ إن هذه الأدوات غالباً ما تُدرب على بيانات غير متنوعة، مما يؤثر على أدائها في التعامل مع حالات جديدة وغير مدربة عليها. وقد أظهرت دراسات أن دقة العديد من الكواشف في سيناريوهات واقعية لا تتجاوز 69%.

كما أشار المركز إلى أن بعض أساليب الخداع لا تتطلب تقنيات معقدة، بل يمكن تنفيذها من خلال تعديلات بسيطة مثل إضافة ضوضاء خلفية أو تسجيل صوت مزيف، مما يشوش أدوات التحليل الصوتي أو البصري.

في ختام بيانه، شدد المركز على أن مكافحة التزييف العميق لا يمكن أن تعتمد فقط على التكنولوجيا. بل يجب تعزيز التفكير النقدي والتعليم الإعلامي والتحقق الدقيق من المصادر، لضمان عدم تعرض الجمهور لضرر نتيجة هذا النوع من التضليل.