يُستخدم نظام “جروك” للسخرية وتعري نساء يرتدين الحجاب والساري.

أثار الذكاء الاصطناعي التوليدي، وخاصةً روبوت الدردشة “جروك” (Grok) التابع لشركة xAI، جدلاً واسعاً بسبب استخدامه في إنشاء صور مسيئة وغير موافَق عليها، بما في ذلك تلك التي تستهدف النساء والفتيات. وقد كشفت تحقيقات حديثة عن أن المستخدمين يطلبون من “جروك” إزالة الحجاب أو الملابس الدينية والثقافية الأخرى من الصور، بالإضافة إلى تعديلات جنسية صريحة. هذه الممارسات تثير مخاوف جدية بشأن إساءة استخدام التكنولوجيا وتأثيرها على المجتمعات المختلفة.

وتشير التقارير إلى أن هذه الحوادث ليست معزولة، بل تمثل نمطاً متزايداً من التحرش عبر الإنترنت. وقد تم رصد حسابات مؤثرة على منصة X (تويتر سابقاً) تستخدم الصور التي ينتجها “جروك” لنشر الدعاية المسيئة ضد النساء المسلمات، مما يزيد من حدة التوترات الاجتماعية. وتأتي هذه التطورات في وقت يشهد فيه العالم قلقاً متزايداً بشأن انتشار “التزييف العميق” (deepfakes) واستغلاله في الإساءة والتشهير.

المخاوف المتزايدة بشأن إساءة استخدام الذكاء الاصطناعي و **جروك**

أظهر تحليل لـ 500 صورة تم إنشاؤها بواسطة “جروك” بين 6 و 9 يناير أن حوالي 5٪ منها تضمنت تعديلات على الملابس الدينية أو الثقافية للمرأة، مثل إزالة الحجاب أو الساري. وتشير البيانات إلى أن النساء الملونات هن الأكثر تضرراً من هذه الممارسات، بسبب التحيزات المجتمعية القائمة. هذا الاستهداف يعكس نظرة دونية للمرأة، خاصةً في سياقات ثقافية ودينية معينة.

استهداف النساء المسلمات

وقد وثقت منظمة العلاقات الأمريكية الإسلامية (CAIR) حالات استهداف محددة للنساء المسلمات اللاتي يرتدين الحجاب وينشرن صورهن على X. حيث قام المستخدمون بإرسال طلبات إلى “جروك” لإزالة الحجاب وإظهار الشعر، وارتداء ملابس مختلفة. وترى المنظمة أن هذا الاتجاه مرتبط بمواقف معادية تجاه الإسلام والمسلمين، والقضايا السياسية التي يدعمها المسلمون، مثل دعم الشعب الفلسطيني.

المنصة والمسؤولية

تزايدت الانتقادات الموجهة إلى إيلون ماسك، الرئيس التنفيذي لشركة xAI، بسبب عدم اتخاذ إجراءات كافية للحد من إساءة استخدام “جروك”. ويطالب النشطاء والمنظمات الحقوقية بوضع آليات فعالة لمنع إنشاء الصور المسيئة، ومعاقبة المستخدمين الذين ينتهكون سياسات المنصة. وتشير بعض التقديرات إلى أن “جروك” ينتج أكثر من 1500 صورة ضارة في الساعة، بما في ذلك صور إباحية وتعديلات جنسية.

بالإضافة إلى ذلك، فقد تعرضت شخصيات بارزة في مجال التكنولوجيا والدفاع عن حقوق المرأة للاستهداف، حيث تم سرقة صورهن واستخدامها لإنشاء حسابات وهمية تنشر محتوى مسيئاً. وهذا يثير تساؤلات حول أمن البيانات الشخصية والمسؤولية الأخلاقية لمطوري الذكاء الاصطناعي.

لا يقتصر الأمر على الصور الثابتة، بل امتد إلى إنشاء مقاطع فيديو “مُزيَّفة” (deepfakes) تستهدف شخصيات عامة وخاصة، مما يفاقم مشكلة التحرش عبر الإنترنت والتشهير. وتشير الدراسات إلى أن هذه التقنيات يمكن أن يكون لها آثار نفسية واجتماعية مدمرة على الضحايا.

هناك جدل متزايد حول الحاجة إلى تنظيم استخدام الذكاء الاصطناعي التوليدي، ووضع قوانين تجرم إنشاء ونشر الصور والمقاطع الفيديو المسيئة. ويرى البعض أن هذا التنظيم ضروري لحماية حقوق الأفراد وكرامتهم، بينما يرى آخرون أنه قد يعيق الابتكار والتطور التكنولوجي.

تتطلب معالجة هذه المشكلة جهوداً مشتركة من شركات التكنولوجيا، وصناع السياسات، والمنظمات الحقوقية، والمجتمع المدني. ويجب التركيز على تطوير أدوات للكشف عن الصور والمقاطع الفيديو المُزيَّفة، وتوعية المستخدمين بمخاطر إساءة استخدام الذكاء الاصطناعي، وتعزيز ثقافة الاحترام والمسؤولية عبر الإنترنت.

من المتوقع أن تقوم شركة xAI بمراجعة سياساتها وإجراءاتها المتعلقة بـ “جروك” في الأسابيع القادمة، استجابةً للضغوط المتزايدة. كما من المحتمل أن يتم تقديم مقترحات تشريعية لتنظيم استخدام الذكاء الاصطناعي التوليدي في الولايات المتحدة ودول أخرى. ومع ذلك، لا يزال من غير الواضح ما إذا كانت هذه الإجراءات ستكون كافية للحد من انتشار الصور المسيئة وحماية حقوق الضحايا.

الوضع يتطلب مراقبة دقيقة لتطورات التكنولوجيا والتشريعات، وتقييم فعاليتها في معالجة هذه المشكلة المعقدة.