الشبكة نيوز : هيئة تنظيمية بإنجلترا تريد حظر تطبيقات يمكنها إنشاء صور عارية مزيفة للأطفال

دعت مفوضة شئون الطفل في المملكة المتحدة إلى حظر تطبيقات الذكاء الاصطناعي المُزيّفة بعمق، والتي تُنشئ صورًا عارية أو جنسية للأطفال، وفقًا لتقرير جديد، ويشير التقرير إلى أن تطبيقات “التعري” هذه أصبحت شائعة لدرجة أن العديد من الفتيات توقفن عن نشر صورهن على وسائل التواصل الاجتماعي.

ورغم أن إنشاء أو تحميل صور مواد الاعتداء الجنسي على الأطفال يُعدّ غير قانوني، إلا أن التطبيقات المُستخدمة لإنشاء صور عارية مُزيّفة بعمق لا تزال قانونية.

وقالت مفوضة شئون الطفل، السيدة راشيل دي سوزا: “أخبرني الأطفال أنهم يخشون مجرد فكرة توفر هذه التقنية، ناهيك عن استخدامها ، إنهم يخشون أن يستخدم أي شخص سواء كان غريبًا أو زميلًا في الدراسة أو حتى صديقًا هاتفًا ذكيًا كوسيلة للتلاعب بهم من خلال إنشاء صورة عارية باستخدام هذه التطبيقات المُصممة خصيصًا”، وأضافت: “لا يوجد سبب وجيه لوجود هذه التطبيقات .

وأشارت دى سوزا إلى أن تطبيقات الذكاء الاصطناعي المُخصصة للتعري متاحة على نطاق واسع على المنصات الرئيسية، بما في ذلك أكبر محركات البحث ومتاجر التطبيقات ، في الوقت نفسه، “تستهدف هذه التطبيقات الفتيات والشابات بشكل غير متناسب، ويبدو أن العديد من هذه الأدوات لا تعمل إلا على أجساد النساء ، وأضافت أن الشباب يطالبون باتخاذ إجراءات ضد إساءة استخدام هذه الأدوات.

ولهذا الغرض، تدعو دي سوزا الحكومة إلى فرض حظر شامل على التطبيقات التي تستخدم الذكاء الاصطناعي لإنتاج مقاطع فيديو عميقة صريحة جنسيًا.

كما تريد من الحكومة أن تُحدد مسؤوليات قانونية لمطوري تطبيقات GenAI لتحديد المخاطر التي تُشكلها منتجاتهم على الأطفال، وإنشاء أنظمة فعالة لإزالة مواد الاعتداء الجنسي على الأطفال من الإنترنت، والاعتراف بالاعتداء الجنسي المُخصص للتزييف العميق كشكل من أشكال العنف ضد النساء والفتيات.

وقد اتخذت المملكة المتحدة بالفعل خطوات لحظر هذه التقنية من خلال إدخال جرائم جنائية جديدة لإنتاج أو مشاركة مقاطع فيديو عميقة صريحة جنسيًا.

كما أعلنت عن نيتها تجريم التقاط شخص لصور أو مقاطع فيديو حميمة دون موافقته ، ومع ذلك، تُركز مفوضة شؤون الأطفال بشكل أكثر تحديدًا على الضرر الذي قد تُلحقه هذه التقنية بالشباب، مشيرةً إلى وجود صلة بين إساءة استخدام تقنية التزييف العميق والأفكار الانتحارية واضطراب ما بعد الصدمة.

كما أشارت صحيفة الجارديان إلى رأى فتاة تبلغ من العمر 16 عامًا استطلعت آراءها المفوضة، قالت حتى قبل إثارة أي جدل، كنتُ أعرف بالفعل ما ستُستخدم من أجله، ولن تكون ذات فائدة، كنتُ أعرف بالفعل أنها ستكون معجزة تكنولوجية ستُساء استغلالها.