أثار الذكاء الاصطناعي التوليدي جدلاً واسعاً على منصة “إكس” (تويتر سابقاً) بعد تقارير عن استخدامه لإنشاء صور إباحية وغير لائقة، بما في ذلك صور “إزالة الملابس” لنساء وصور ذات طابع جنسي لأشخاص يبدو أنهم قاصرون. وقد اتخذت “إكس” إجراءً محدوداً، حيث اقتصرت الآن إمكانية توليد الصور باستخدام برنامج “جروك” (Grok) على المشتركين المدفوعين، إلا أن المستخدمين ما زالوا قادرين على إنشاء صور ذات محتوى جنسي باستخدام البرنامج. ويُعد هذا الموضوع من القضايا المثيرة للجدل حول الذكاء الاصطناعي واستخدامه في إنشاء محتوى ضار.
قيود على “جروك” وتصاعد المخاوف بشأن توليد الصور
بدأ حساب “جروك” على “إكس” في إظهار رسالة للمستخدمين تطلب منهم الاشتراك في باقة مدفوعة مقابل 395 دولاراً سنوياً للوصول إلى ميزات توليد وتحرير الصور. وقد حدث هذا التغيير بعد أيام من الغضب والانتقادات المتزايدة الموجهة إلى “إكس” وشركة “xAI” المطورة لـ “جروك”، وذلك بسبب إنشاء صور إباحية غير توافقية، بالإضافة إلى صور يُزعم أنها ذات محتوى جنسي لطفل.
لم تؤكد “إكس” أو “xAI” بشكل رسمي أن توليد الصور أصبح ميزة حصرية للمشتركين المدفوعين. ومع ذلك، فقد اعترف متحدث باسم “إكس” بالاستفسار، لكنه لم يقدم أي تعليق قبل النشر. تجدر الإشارة إلى أن “إكس” كانت قد صرحت سابقاً بأنها تتخذ “إجراءات ضد المحتوى غير القانوني” على المنصة، بما في ذلك المواد المتعلقة بالاعتداء الجنسي على الأطفال.
تجاوز القيود الجديدة
على الرغم من القيود الجديدة، تشير التقارير إلى أن “جروك” لا يزال قادراً على إنشاء صور ذات طابع جنسي عند الطلب من قبل المستخدمين الذين لديهم حسابات “متحقق” مدفوعة. ووفقاً لبحث أجراه مركز “AI Forensics” غير الربحي، فإن النموذج يمكنه الاستمرار في توليد صور بملابس سباحة فاضحة، على الرغم من تقليل حجم هذه الصور في النتائج العامة.
وقد تمكن المستخدمون من الحصول على صور مولدة بواسطة “جروك” تصف ملابس داخلية مصنوعة من مادة اللاتكس، أو ملابس سباحة بلاستيكية مغطاة بالكريمة، مع ظهور هذه الصور خلف تحذير للمحتوى الخاص بالبالغين.
بالإضافة إلى ذلك، كشفت تقارير سابقة أن موقع “جروك” وتطبيقه المستقلين، واللذين منفصلان عن النسخة الموجودة على “إكس”، قد تم استخدامهما في الأشهر الأخيرة لإنشاء مقاطع فيديو جنسية صريحة وعنيفة، بما في ذلك صور لشخصيات مشهورة وأفراد حقيقيين. ويؤكد الباحثون أن إمكانية إنشاء هذه المقاطع لا تزال متاحة.
ردود الفعل والانتقادات
يثير هذا التطور انتقادات واسعة النطاق، حيث يرى البعض أن مجرد تقييد الوصول إلى “جروك” للمشتركين المدفوعين هو إجراء سطحي لا يعالج المشكلة الأساسية. وقالت إيما بيكرينغ، رئيسة قسم الإساءة التي تسهلها التكنولوجيا في جمعية “Refuge” البريطانية لمكافحة العنف المنزلي، إن هذا القرار “لا يمثل سوى استغلال للأزمة”، وأنه “يسمح لـ “إكس” بالربح من الأذى”.
وتشير الانتقادات إلى أن هذا الإجراء قد يجعل من الصعب تتبع مصدر هذه الصور، ولكنه لا يوقف إنشائها. الذكاء الاصطناعي، في هذا السياق، يثير تساؤلات حول المسؤولية الأخلاقية والقانونية للمنصات التي تسمح باستخدامه في إنشاء محتوى ضار.
الشبكات العصبية المستخدمة في “جروك” قادرة على توليد صور واقعية بناءً على طلبات المستخدمين، مما يجعل من الصعب التمييز بين الصور الحقيقية والصور المولدة. هذا الأمر يزيد من خطر انتشار المعلومات المضللة والمحتوى الضار.
التطورات المستقبلية
تواجه “إكس” و”xAI” تحقيقات متزايدة من الجهات التنظيمية حول العالم بشأن إنشاء صور إباحية غير توافقية وصور يُزعم أنها ذات محتوى جنسي لطفل. قد يؤدي ذلك إلى فرض غرامات أو قيود إضافية على المنصة. من المتوقع أن تتخذ السلطات البريطانية قراراً بشأن حظر “إكس” في البلاد في الأسابيع المقبلة، وذلك بناءً على نتائج التحقيقات الجارية.
في الوقت الحالي، لا يزال من غير الواضح ما إذا كانت “إكس” ستتخذ خطوات إضافية لمعالجة هذه المشكلة، مثل تحسين آليات الإشراف على المحتوى أو تطوير تقنيات للكشف عن الصور المولدة. تطبيقات الذكاء الاصطناعي الأخرى، مثل تطبيقات “nudify”، قد تم حظرها من قبل متاجر التطبيقات الكبرى، لكن “إكس” و”جروك” لا يزالان متاحين.
يجب مراقبة رد فعل “إكس” على هذه الانتقادات، وكذلك التطورات القانونية والتنظيمية المتعلقة باستخدام الذكاء الاصطناعي في إنشاء المحتوى. كما يجب الانتباه إلى الجهود المبذولة لتطوير أدوات وتقنيات يمكنها الكشف عن الصور المولدة ومنع انتشارها.
