غروك يُنتج محتوى جنسيًا أكثر تفصيلاً مما هو موجود على منصة إكس.

أثار روبوت الدردشة “جروك” (Grok) الذي طورته شركة إيلون ماسك جدلاً واسعاً ودعوات للتحقيق بعد استخدامه في نشر صور إباحية لنساء، بالإضافة إلى صور جنسية لأشخاص يبدون قاصرين على منصة “إكس” (X). وتجاوز الأمر حدود المنصة، حيث كشفت تقارير عن استخدام قدرات توليد الفيديو المتطورة في “جروك” لإنتاج محتوى جنسي صريح وعنيف، يتضمن صوراً لأشخاص بالغين، وأحياناً صوراً قد تكون لأطفال. هذا المحتوى يثير مخاوف جدية بشأن إساءة استخدام الذكاء الاصطناعي.

وتشير التحقيقات إلى أن هذه الصور والفيديوهات، التي تم إنشاؤها باستخدام نموذج “Imagine” الخاص بـ “جروك”، لا يتم مشاركتها علناً مثل المحتوى الذي يتم إنشاؤه مباشرة على “إكس”. ومع ذلك، فإن روابط الوصول إلى هذا المحتوى، عند مشاركتها، يمكن أن تصبح مرئية للجميع. وقد تمكن باحثون من الوصول إلى أرشيف يحتوي على حوالي 1200 رابط لصور وفيديوهات تم إنشاؤها بواسطة “جروك”، والتي تكشف عن طبيعة هذا المحتوى المقلقة.

محتوى “جروك” الإباحي: تفاصيل مثيرة للقلق

تتضمن الفيديوهات التي تم الكشف عنها مشاهد صريحة للغاية، مثل مشاهد جنسية دموية بين شخصيات تم إنشاؤها بالذكاء الاصطناعي، بالإضافة إلى صور لأشخاص يشبهون مشاهير و مقدمي برامج تلفزيونية في مواقف جنسية. وتظهر بعض الفيديوهات لقطات معدلة لمقاطع فيديو من كاميرات المراقبة، تصور أفعالاً غير لائقة.

استغلال صور شخصيات عامة

وقد لوحظ أيضاً أن بعض الفيديوهات تستخدم صوراً لشخصيات عامة، مثل الأميرة ديانا، في سياقات إباحية، مع تراكب شعارات خدمات البث مثل “نتفليكس” و مسلسلاتها الشهيرة مثل “The Crown”. هذا الاستغلال يثير قضايا أخلاقية وقانونية تتعلق بالخصوصية وحقوق الصورة.

وبحسب بول بوشود، الباحث الرئيسي في منظمة “AI Forensics” غير الربحية، فإن حوالي 800 رابط من الأرشيف تحتوي على فيديوهات أو صور تم إنشاؤها بواسطة “جروك”. ويؤكد بوشود أن هذا يمثل مجرد جزء صغير من الكم الهائل من المحتوى الذي ربما تم إنشاؤه بالفعل.

ويصف بوشود المحتوى بأنه “محتوى جنسي ساحق”، مع التركيز بشكل كبير على الرسوم المتحركة الإباحية (الهنتاي) والصور الواقعية. ويشير إلى أن بعض الفيديوهات تتضمن أصواتاً، مما يزيد من حدة المشكلة.

مخاوف بشأن إساءة معاملة الأطفال

الأكثر إثارة للقلق هو أن التقديرات تشير إلى أن ما يقرب من 10٪ من المحتوى الذي تم فحصه قد يكون مرتبطاً بمواد الاعتداء الجنسي على الأطفال (CSAM). ويقول بوشود إن بعض الفيديوهات تصور أشخاصاً صغاراً جداً في أنشطة جنسية، أو فتيات صغيرات وهن يتعرين ويتفاعلن مع رجال.

وقد أبلغ بوشود السلطات الأوروبية عن حوالي 70 رابطاً قد تحتوي على محتوى جنسي يتعلق بقاصرين. في العديد من البلدان، يعتبر إنشاء أو توزيع مواد الاعتداء الجنسي على الأطفال باستخدام الذكاء الاصطناعي أمراً غير قانوني.

ردود الفعل والتحقيقات

وقد أثارت هذه التقارير غضباً واسعاً ودعوات للتحقيق في ممارسات شركة إيلون ماسك. وقد قدم نواب فرنسيون شكاوى إلى النيابة العامة في باريس بشأن الصور “المعرية” التي تم نشرها.

وتأتي هذه المخاوف في وقت يزداد فيه القلق بشأن إساءة استخدام الذكاء الاصطناعي في إنشاء محتوى ضار وغير قانوني. وتشير التقارير إلى أن أنظمة السلامة الخاصة بـ “جروك” قد تكون غير كافية لمنع إنشاء هذا النوع من المحتوى، وأن المستخدمين قد يكونون يبحثون عن طرق للتحايل على هذه الأنظمة.

بالإضافة إلى ذلك، يثير هذا الحادث تساؤلات حول مسؤولية شركات الذكاء الاصطناعي عن المحتوى الذي يتم إنشاؤه باستخدام أدواتها. هل يجب أن تكون هذه الشركات مسؤولة عن مراقبة المحتوى الذي يتم إنشاؤه ومنعه إذا كان غير قانوني أو ضار؟

تتزايد الضغوط على شركة إيلون ماسك لاتخاذ إجراءات فورية لمعالجة هذه المشكلة. وتشمل هذه الإجراءات تحسين أنظمة السلامة الخاصة بـ “جروك”، والتعاون مع السلطات في التحقيقات، واتخاذ خطوات لمنع إنشاء أو توزيع محتوى جنسي غير قانوني.

من المتوقع أن تواصل السلطات الأوروبية تحقيقها في الأمر، وقد تفرض غرامات أو عقوبات أخرى على شركة إيلون ماسك إذا تبين أنها متورطة في انتهاكات قانونية.

ما زالت التطورات في هذا الشأن قيد المتابعة، وسيكون من المهم مراقبة رد فعل شركة إيلون ماسك والخطوات التي ستتخذها لمعالجة هذه المشكلة. كما سيكون من المهم أيضاً مراقبة التطورات القانونية والتنظيمية المتعلقة باستخدام الذكاء الاصطناعي في إنشاء المحتوى، وكيف ستؤثر هذه التطورات على مستقبل هذه التكنولوجيا.