في ظل التقدم السريع لتكنولوجيا الذكاء الاصطناعي، أصبحت قضية حماية الأطفال من الاستخدامات الضارة أمراً حيوياً. في المملكة المتحدة، دعت مفوضة شئون الطفل إلى اتخاذ إجراءات فورية لمواجهة انتشار تطبيقات تستخدم الذكاء الاصطناعي لإنشاء صور عارية مزيفة، مما يهدد خصوصية وأمان الفتيات والشباب. هذه التطبيقات، المعروفة بـ”التعري العميق”، أدت إلى انتشار الخوف بين الأطفال، حيث أبلغت العديد من الفتيات عن توقفهن عن مشاركة صورهن على وسائل التواصل الاجتماعي خوفاً من الاستغلال. رغم أن إنتاج مواد الاعتداء الجنسي على الأطفال محظور قانونا، إلا أن هذه التطبيقات لا تزال متاحة وغير محظورة، مما يتطلب تدخلاً فورياً من الحكومة لفرض قيود صارمة.
حظر تطبيقات الذكاء الاصطناعي للصور العارية المزيفة
مع تزايد انتشار هذه التطبيقات على المنصات الرئيسية مثل محركات البحث ومتاجر التطبيقات، أكدت مفوضة شئون الطفل، راشيل دي سوزا، أنها تستهدف الفتيات والشابات بشكل أساسي، حيث تعمل معظمها فقط على أجساد النساء. قالت دي سوزا إن الأطفال يعبرون عن مخاوفهم الشديدة من أن يتم استخدام هذه التقنية للتلاعب بهم، سواء من قبل غرباء أو أقران في المدرسة. وفقاً لها، لا يوجد أي سبب مشروع لوجود مثل هذه التطبيقات، خاصة أنها مرتبطة بآثار نفسية خطيرة مثل الأفكار الانتحارية واضطراب ما بعد الصدمة. في تقريرها الجديد، شددت على ضرورة حظر شامل لأي تطبيقات تستخدم الذكاء الاصطناعي لإنتاج صور أو مقاطع فيديو جنسية مزيفة، مع فرض مسؤوليات قانونية على مطوري التطبيقات لتقييم المخاطر على الأطفال وإزالة المحتويات الضارة من الإنترنت.
منع تطبيقات AI للصور المزيفة وآثارها على الشباب
بالإضافة إلى الحظر، يجب على الحكومة الاعتراف بالتزييف العميق كشكل من أشكال العنف ضد النساء والفتيات، وفقاً لدعوات دي سوزا. هذا النهج يهدف إلى حماية الشباب من الاستغلال الرقمي، حيث أن هذه التطبيقات تسهل إنشاء محتوى يمكن مشاركته دون موافقة، مما يعزز من الانتهاكات الجنسية. في الواقع، أعلنت المملكة المتحدة بالفعل عن خطوات مثل إدخال جرائم جنائية جديدة لمعاقبة إنتاج أو مشاركة المقاطع الفيديوية الجنسيّة المزيفة، بالإضافة إلى تجريم التقاط صور حميمة دون إذن. ومع ذلك، يركز التقرير على الآثار المباشرة على الأطفال، حيث أشار إلى آراء الشباب الذين يطالبون بإجراءات أكثر صرامة. على سبيل المثال، فتاة في سن 16 عاماً أعربت عن معرفتها المسبقة بأن هذه التقنية ستُساء استخدامها، مشيرة إلى أنها لن تكون مفيدة بل ستكون أداة للإساءة. هذه الدعوات تأتي في سياق أوسع لتعزيز الأمان الرقمي، حيث يمكن للحظر أن يقلل من انتشار المحتويات الضارة ويحمي الأجيال الشابة من الضرر النفسي والاجتماعي. بالنظر إلى انتشار الذكاء الاصطناعي، يجب أن تشمل الإجراءات المستقبلية تطويراً لأنظمة الرقابة الفعالة، مثل آليات الإبلاغ السريع وتعليم الأطفال على التعامل مع المخاطر الرقمية. في نهاية المطاف، يمثل هذا الحظر خطوة أساسية نحو مجتمع رقمي أكثر أماناً، حيث يتم وضع حقوق الأطفال في المقام الأول أمام الابتكار التكنولوجي.
تعليقات