لماذا لا تزال تطبيقات “جروك” و “إكس” متاحة في متاجر التطبيقات؟

يشهد تطبيق “إكس” (X) سابقًا تويتر، جدلاً واسعًا بسبب استخدام روبوت الذكاء الاصطناعي “جروك” (Grok) في توليد آلاف الصور ذات المحتوى الجنسي، والتي تشمل صورًا لبالغات وأخرى تبدو كأطفال يرتدين ملابس قليلة. هذه القضية أثارت مخاوف بشأن انتهاك سياسات المنصة، بالإضافة إلى إمكانية تعارضها مع إرشادات متاجر التطبيقات الخاصة بشركتي آبل وجوجل، وذلك بسبب محتوى “جروك” الذي قد يتضمن موادًا غير قانونية.

وتتعلق هذه المشكلة بتصرفات المستخدمين الذين يستغلون قدرات “جروك” في إنشاء صور ذات طبيعة إيحائية أو صريحة، ثم مشاركتها على نطاق واسع عبر “إكس”. وقد بدأت هذه الظاهرة بالازدياد بشكل ملحوظ خلال الأسبوعين الماضيين، مما دفع السلطات المعنية في عدة دول إلى التحقيق في الأمر.

الجدل حول “جروك” وتوليد المحتوى غير اللائق

يُعد “جروك” روبوت محادثة يعمل بالذكاء الاصطناعي، طورته شركة xAI المملوكة لإيلون ماسك. يسمح “جروك” للمستخدمين بطرح الأسئلة والاستفسارات والحصول على ردود نصية أو صور. ومع ذلك، يبدو أن بعض المستخدمين يستغلون هذه القدرة لإنتاج صور ذات محتوى جنسي صريح أو مسيء.

انتهاكات محتملة لسياسات المنصات

تحظر سياسات “إكس” صراحةً مشاركة المحتوى غير القانوني، بما في ذلك المواد الإباحية التي تستغل الأطفال (CSAM). كذلك، تمنع سياسات متاجر “آبل” و “جوجل” التطبيقات التي تحتوي على مثل هذه المواد أو تسهل انتشارها. وفقًا لـ Bloomberg، أنتج “جروك” حوالي 6,700 صورة ذات إيحاءات جنسية أو شبه عارية في غضون 24 ساعة في الفترة بين 5 و 6 يناير.

تشير التقارير إلى أن بعض الصور التي تم إنشاؤها بواسطة “جروك” قد تتضمن أيضًا محتوىً مسيئًا أو ينتهك خصوصية الأفراد. فقد أشار محللون إلى جمعهم لأكثر من 15,000 رابطًا لصور أنشأها “جروك” على “إكس” خلال ساعتين فقط في نهاية شهر ديسمبر، ووجدوا أن عددًا كبيرًا منها يظهر نساءً بملابس كاشفة. وقد تم إزالة أكثر من 2,500 صورة من هذه المجموعة خلال أسبوع، بينما تم تصنيف حوالي 500 صورة على أنها “محتوى للبالغين”.

ردود الفعل الرسمية والتحقيقات

أعربت المفوضية الأوروبية عن إدانتها الشديدة للصور الإباحية وغير القانونية التي يتم إنتاجها بواسطة “جروك” على “إكس”، ووصف رئيسها هذا المحتوى بأنه “غير قانوني” و”مروع”، مؤكدةً أنه “ليس له مكان في أوروبا”. كما أمرت المفوضية “إكس” بالاحتفاظ بجميع الوثائق والبيانات الداخلية المتعلقة بـ “جروك” حتى نهاية عام 2026، وذلك كجزء من الامتثال لقانون الخدمات الرقمية بالاتحاد الأوروبي.

بالإضافة إلى ذلك، أعلنت السلطات في المملكة المتحدة والهند وماليزيا عن فتح تحقيقات في المنصة لمعرفة مدى التزامها بالقوانين واللوائح المتعلقة بمكافحة المحتوى غير القانوني والإباحي. وتشمل هذه التحقيقات فحصًا دقيقًا لآليات الإبلاغ عن المحتوى وإجراءات الفحص التي تتخذها “إكس” للحد من انتشار المواد الضارة.

تأثير المشكلة على مستقبل الذكاء الاصطناعي ووسائل التواصل الاجتماعي

لا تقتصر هذه القضية على مجرد انتهاك لسياسات “إكس” ومتجر التطبيقات، بل تمثل أيضًا تحديًا كبيرًا يتعلق بتطور الذكاء الاصطناعي وأخلاقيات استخدامه. فمع تزايد قدرات نماذج الذكاء الاصطناعي في توليد المحتوى، يصبح من الصعب بشكل متزايد مراقبة ومنع انتشار المواد الضارة وغير القانونية. الذكاء الاصطناعي التوليدي (Generative AI) يمثل خطرًا جديدًا في هذا المجال.

تثير هذه القضية أيضًا تساؤلات حول المسؤولية القانونية لمنصات وسائل التواصل الاجتماعي وشركات الذكاء الاصطناعي عن المحتوى الذي يتم إنتاجه ونشره من خلال أدواتها. هل تتحمل هذه الشركات مسؤولية مباشرة عن تصرفات المستخدمين الذين يستغلون أدواتها لأغراض غير قانونية؟ وما هي التدابير التي يمكن اتخاذها لضمان استخدام الذكاء الاصطناعي بطريقة مسؤولة وأخلاقية؟

حتى الآن، لم ترد “إكس” أو شركة xAI أو “آبل” أو “جوجل” على طلبات التعليق بشأن هذه القضية. ومع ذلك، أصدرت “إكس” بيانًا عامًا في 3 يناير أكدت فيه التزامها بمكافحة المحتوى غير القانوني على منصتها، وأعلنت أن أي شخص يستخدم “جروك” لإنتاج محتوى غير قانوني سيواجه عواقب مماثلة لتلك التي تطبق على من يقوم بتحميل مثل هذا المحتوى.

من المتوقع أن تستمر التحقيقات في هذه القضية خلال الأسابيع والأشهر القادمة. وستراقب السلطات عن كثب الإجراءات التي تتخذها “إكس” وشركات التكنولوجيا الأخرى للحد من انتشار المحتوى غير القانوني والإباحي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. وهذا يتطلب تعاونًا دوليًا وتطويرًا مستمرًا للتقنيات والأدوات التي يمكن أن تساعد في اكتشاف ومنع هذا النوع من المحتوى. الوضع الحالي يتطلب مراجعة شاملة لسياسات المحتوى للخوارزميات التي تعمل بالذكاء الاصطناعي.