الشبكة نيوز : خلل فى ChatGPT يسمح للقاصرين بإنشاء محادثات إباحية والشركة تتعهد بإصلاحه

كشفت اختبارات TechCrunch أن خللًا في ChatGPT من OpenAI سمح لروبوت الدردشة بإنشاء محتوى إباحى صريح لحسابات مستخدمين قاصرين دون سن 18 عامًا، وهو ما أكدته OpenAI.

وقد أبلغت شركة OpenAI، أن سياساتها لا تسمح بمثل هذه الردود للمستخدمين دون سن 18 عامًا، وأنه ما كان ينبغي عرضها.

وأضافت الشركة أنها “تعمل بنشاط على نشر إصلاح” للحد من هذا المحتوى، وقال متحدث باسم الشركة: “حماية المستخدمين الأصغر سنًا أولوية قصوى، ومواصفاتنا النموذجية، التي تُوجه سلوك العارضات، تُقيد بوضوح المحتوى شديد الحساسية مثل المواد الإباحية في سياقات ضيقة مثل التقارير العلمية والتاريخية والإخبارية”.

وأضاف: “في هذه الحالة، سمح خلل ما بنشر ردود خارج هذه الإرشادات، ونحن نعمل بنشاط على نشر إصلاح للحد من هذا الخلل.

وكان الهدف من اختبار ChatGPT هو فحص حواجز الحماية الموضوعة للحسابات المسجلة للقاصرين بعد أن عدّلت OpenAI المنصة لتصبح أكثر تساهلاً بشكل عام.

ففى فبراير، حدّثت OpenAI مواصفاتها التقنية لتوضيح أن نماذج الذكاء الاصطناعي التي تُشغّل ChatGPT لن تتجنب الموضوعات ذات الخطوط الحمراء.

وفي الشهر نفسه، أزالت الشركة بعض رسائل التحذير التي تُخبر المستخدمين بأن هذه الرسائل قد تُخالف شروط خدمة الشركة، وكان الهدف من هذه التغييرات هو الحد مما وصفه نيك تورلي، رئيس قسم المنتجات في ChatGPT، بـ”حالات الرفض غير المبررة/غير المُفسّرة”. ولكن إحدى النتائج هي أن ChatGPT، مع اختيار نموذج الذكاء الاصطناعي الافتراضي (GPT-4o)، أصبح أكثر استعدادًا لمناقشة مواضيع كان يرفضها سابقًا، بما في ذلك المواد شديدة الحساسية.

تشترط سياسات OpenAI حصول الأطفال الذين تتراوح أعمارهم بين 13 و18 عامًا على موافقة الوالدين قبل استخدام ChatGPT، لكن المنصة لا تتخذ أي خطوات للتحقق من هذه الموافقة.