مشكلة “التعرّي” في برنامج “جروك” لإيلون ماسك لم تُحلّ.

أعلنت منصة X المملوكة لإيلون ماسك عن قيود جديدة تهدف إلى منع إنشاء أو تعديل الصور التي تظهر أشخاصًا حقيقيين بملابس كاشفة مثل البكيني. يأتي هذا التغيير في السياسة بعد موجة غضب عالمية بسبب استخدام نموذج الذكاء الاصطناعي Grok لإنشاء آلاف الصور المسيئة وغير المرغوب فيها، والتي تضمنت صورًا لنساء عاريات وصور جنسية لأشخاص يبدو أنهم قاصرون. هذه الخطوة تتعلق بشكل خاص بـ صور الذكاء الاصطناعي وتأثيرها على الخصوصية والسلامة الرقمية.

القيود الجديدة، التي تم تطبيقها في وقت متأخر من ليلة الأربعاء، تسعى إلى معالجة المخاوف المتزايدة بشأن إساءة استخدام تقنيات الذكاء الاصطناعي لإنشاء محتوى ضار. ومع ذلك، تشير التقارير إلى أن تطبيق Grok المستقل وموقعه الإلكتروني لا يزالان قادرين على توليد صور مماثلة، بما في ذلك تلك التي تحتوي على محتوى إباحي، على الرغم من هذه الإجراءات. هذا التناقض يثير تساؤلات حول فعالية الإجراءات المتخذة.

قيود على إنشاء الصور وتحديات التنفيذ

وفقًا لبحث أجراه باحثون في منظمة AI Forensics، لا يزال من الممكن إنشاء صور عارية واقعية على موقع Grok.com. وأكد بول بوشود، الباحث الرئيسي في المنظمة، أنهم تمكنوا من توليد صور عارية بطرق لا يمكن القيام بها عبر Grok داخل منصة X. هذا يشير إلى أن القيود قد تكون محددة فقط ببعض جوانب النظام الأساسي.

تباين في النتائج عبر المنصات والمناطق الجغرافية

أظهرت اختبارات أجرتها WIRED أنه يمكن إزالة الملابس من صور الرجال بسهولة باستخدام حسابات Grok مجانية في كل من المملكة المتحدة والولايات المتحدة دون أي قيود واضحة. في المملكة المتحدة، طلب تطبيق Grok من المستخدم إدخال تاريخ ميلاده قبل إنشاء صورة عارية لرجل.

في الوقت نفسه، وجد صحفيون في The Verge ومنصة Bellingcat الاستقصائية أنه من الممكن أيضًا إنشاء صور ذات طابع جنسي أثناء تواجدهم في المملكة المتحدة، التي تجري حاليًا تحقيقًا في Grok و X وتدين بشدة السماح بإنشاء هذه الصور. هذا يسلط الضوء على التحديات التي تواجهها المنصة في تطبيق سياساتها بشكل متسق عبر المناطق المختلفة.

منذ بداية العام، واجهت شركات إيلون ماسك، بما في ذلك xAI و X و Grok، انتقادات بسبب إنشاء صور حميمة غير توافقية، ومقاطع فيديو جنسية صريحة، وصور ذات طابع جنسي لأشخاص يبدو أنهم قاصرون. وقد أدانت أو بدأت تحقيقات في X أو Grok السلطات في الولايات المتحدة وأستراليا والبرازيل وكندا والاتحاد الأوروبي وفرنسا والهند وإندونيسيا وأيرلندا وماليزيا والمملكة المتحدة.

إجراءات X و Grok

نشر حساب السلامة على X تحديثات يوم الأربعاء حول كيفية استخدام Grok على الموقع. وأفاد الحساب بأنهم قاموا بتنفيذ تدابير تكنولوجية لمنع حساب Grok من السماح بتعديل صور أشخاص حقيقيين بملابس كاشفة مثل البكيني، وأن هذه القواعد تنطبق على جميع المستخدمين، بما في ذلك المشتركين المدفوعين والمجانيين. هذه الإجراءات تهدف إلى الحد من انتشار المحتوى غير اللائق.

أضاف حساب X أيضًا قسمًا بعنوان “تحديث الحظر الجغرافي” يدعي أنهم يقومون الآن بحظر القدرة على توليد صور لأشخاص حقيقيين بملابس كاشفة عبر حساب Grok وفي Grok داخل X في البلدان التي يكون فيها ذلك غير قانوني. وأضافت الشركة أنها تعمل على إضافة المزيد من الضمانات وأنها تواصل “إزالة المحتوى المخالف ذي الأولوية العالية، بما في ذلك المواد المتعلقة بالاعتداء الجنسي على الأطفال (CSAM) والعري غير التوافقي”.

لم يرد متحدثون باسم xAI، الشركة التي تطور Grok، على الفور على طلب WIRED للتعليق. في هذه الأثناء، يقول متحدث باسم X إنهم يفهمون أن الحظر الجغرافي ينطبق على كل من تطبيقهم وموقعهم الإلكتروني. الذكاء الاصطناعي التوليدي يمثل تحديًا كبيرًا في مجال الرقابة.

يأتي هذا التطور بعد خطوة تعرضت لانتقادات واسعة النطاق في 9 يناير، حيث قامت X بتقييد إنشاء الصور باستخدام Grok للمشتركين “المتحققين” المدفوعين فقط. ووصفت مجموعة رائدة للدفاع عن حقوق المرأة هذا الإجراء بأنه “استغلال للإساءة”. يؤكد بوشود، الذي يقول إن AI Forensics جمعت حوالي 90 ألف صورة Grok منذ عطلة عيد الميلاد، أنه فقط الحسابات الموثقة تمكنت من توليد صور على X – على عكس موقع Grok أو التطبيق – منذ 9 يناير، وأن صور البكيني للنساء نادرًا ما يتم إنشاؤها الآن. “نلاحظ أنهم يبدو أنهم سحبوا القابس وأوقفوا الوظيفة على X”، كما قال.

المخاوف المتعلقة بالخصوصية والأمان

تثير هذه القضية مخاوف كبيرة بشأن الخصوصية والأمان الرقمي، خاصة فيما يتعلق بالصور التي يتم إنشاؤها دون موافقة. الصور المولدة بالذكاء الاصطناعي يمكن أن تستخدم في التحرش والمضايقة والابتزاز، مما يتطلب استجابة فعالة من المنصات.

من المتوقع أن تستمر التحقيقات في X و Grok من قبل السلطات في مختلف البلدان. من المرجح أن تركز هذه التحقيقات على فعالية الإجراءات المتخذة لمنع إنشاء المحتوى الضار، وعلى مدى التزام المنصات بالقوانين واللوائح ذات الصلة. سيراقب المراقبون أيضًا ما إذا كانت X ستتخذ خطوات إضافية لتعزيز سلامة المستخدمين وحماية خصوصيتهم. من غير الواضح حتى الآن ما إذا كانت هذه الإجراءات ستكون كافية لمعالجة المخاوف المتزايدة بشأن إساءة استخدام تقنيات الذكاء الاصطناعي.