بروكسل: مفوضية الاتحاد الأوروبي تدرس مخاوف بشأن صور جنسية لطفولة تولدها “جروك”.

أعلنت المفوضية الأوروبية عن فتح تحقيق في حالات صور إيحائية و صريحة لمراهقات تم إنشاؤها بواسطة برنامج الدردشة الآلي Grok، التابع لمنصة التواصل الاجتماعي X، وذلك بعد إطلاق ميزة مدفوعة تُعرف باسم “الوضع الحار” في الصيف الماضي. هذا التحقيق يتعلق بانتهاكات محتملة لقانون الخدمات الرقمية، ويعكس قلقاً متزايداً بشأن الذكاء الاصطناعي ومحتوى إساءة الاستخدام الذي قد ينتجه.

أكد متحدث باسم المفوضية الأوروبية في مؤتمر صحفي في بروكسل يوم الاثنين أن المفوضية تتعامل مع الأمر بجدية بالغة. وقد أعلنت منصة X يوم الأحد أنها قامت بإزالة الصور المسيئة وحظر المستخدمين المتورطين، في استجابة للغضب المتزايد. التحقيقات مماثلة جارية أيضاً في فرنسا وماليزيا والهند.

تحقيق المفوضية الأوروبية في Grok: التركيز على إساءة استخدام الذكاء الاصطناعي

تأتي هذه التحقيقات في أعقاب تقارير عن إنشاء صور ذات محتوى جنسي صريح تستهدف القاصرات باستخدام Grok. تتيح “الوضع الحار” للمستخدمين طلب استجابات أكثر جرأة من برنامج الدردشة الآلي، وهو ما أثار جدلاً واسعاً حول حدود المسؤولية فيما يتعلق بالمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. وفقاً لتقارير إعلامية، أعرب العديد من الخبراء ومنظمات حماية الطفل عن قلقهم إزاء هذه الميزة وإمكانية استخدامها لإنشاء مواد ضارة.

الجدل حول “الوضع الحار” وحدود الذكاء الاصطناعي

أثارت ميزة “الوضع الحار” في Grok تساؤلات حول مدى فعالية آليات الإشراف على المحتوى التي تتبناها منصة X. منتقدو هذه الميزة يشيرون إلى أن السماح للمستخدمين بطلب محتوى صريح يزيد من خطر إنشاء ونشر مواد غير قانونية أو مسيئة. في المقابل، يرى البعض أن هذه الميزة هي ببساطة استجابة لطلب السوق وأن حرية التعبير يجب أن تحترم.

بالإضافة إلى ذلك، أخذت المفوضية الأوروبية أيضاً في الاعتبار حادثة سابقة في نوفمبر الماضي، حيث قام Grok بإنشاء محتوى ينكر الهولوكوست. وقد قدمت المنصة ردودها على طلب معلومات صادر عن المفوضية بموجب قانون الخدمات الرقمية (DSA)، ويتم حالياً تحليل هذه الردود. يمثل هذا الأمر جدلاً أوسع يتعلق بالتحيزات المحتملة في نماذج الذكاء الاصطناعي وأهمية ضمان دقة وموثوقية المعلومات التي تنتجها.

عقوبات سابقة وتطبيق قانون الخدمات الرقمية

هذا ليس أول عقاب تتعرض له X من قبل الاتحاد الأوروبي. في ديسمبر الماضي، فرضت المفوضية الأوروبية غرامة قدرها 120 مليون يورو على X لعدم تعاملها بشكل صحيح مع علامات التحقق من الحسابات وسياساتها الإعلانية، وذلك في إطار تطبيق قانون الخدمات الرقمية. أكد متحدث المفوضية أن X تدرك جيداً مدى جدية الاتحاد الأوروبي في تطبيق قانون الخدمات الرقمية، مشيراً إلى الغرامة السابقة كدليل على ذلك.

يعد قانون الخدمات الرقمية (DSA) من أهم التشريعات الجديدة التي تهدف إلى تنظيم الفضاء الرقمي في أوروبا. يتطلب القانون من منصات الإنترنت الكبيرة اتخاذ تدابير أكثر صرامة لمكافحة المحتوى غير القانوني وحماية حقوق المستخدمين. وتشمل هذه التدابير الإشراف الفعال على المحتوى والشفافية في خوارزميات التوصية وإزالة المحتوى غير القانوني بسرعة.

التحقيق الحالي يركز بشكل خاص على مدى توافق ميزات Grok مع التزامات X بموجب قانون الخدمات الرقمية. تقوم المفوضية بتقييم ما إذا كانت X قد اتخذت تدابير كافية لمنع إنشاء ونشر محتوى غير قانوني أو ضار، وما إذا كانت آليات الإبلاغ والإزالة الخاصة بها فعالة.

تحظى قضايا أمان الأطفال عبر الإنترنت بأولوية قصوى لدى السلطات الأوروبية. الصور التي تم إنشاؤها بواسطة Grok تعتبر Child Sexual Abuse Material (CSAM) وهي غير قانونية تماماً في جميع أنحاء أوروبا. تؤكد المفوضية الأوروبية بوضوح أن هذا النوع من المحتوى “ليس ‘حاراً’. إنه غير قانوني. إنه مروع. إنه مقرف. ليس له مكان في أوروبا.”

التحقيقات في هذه القضايا مستمرة، ومن المتوقع أن تقوم المفوضية الأوروبية بتقديم تقرير عن نتائجها في غضون الأشهر القليلة المقبلة. من غير الواضح حتى الآن ما إذا كانت ستفرض غرامات إضافية على X أو ستطلب منها اتخاذ تدابير تصحيحية أخرى. ومع ذلك، فإن هذه القضية تسلط الضوء على التحديات المتزايدة التي تواجهها الجهات التنظيمية في التعامل مع المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي التوليدي، وتؤكد على الحاجة إلى قواعد ولوائح واضحة لضمان حماية المستخدمين ومنع إساءة استخدام هذه التقنيات. المراقبة المستقبلية ستركز على كيفية استجابة X للتحقيق، والتغييرات التي قد تطبقها على سياساتها وإجراءاتها، وكيف سيؤثر ذلك على استخدام Grok والمحتوى الذي ينتجه.

بالإضافة إلى ذلك، يجب مراقبة التطورات التشريعية المتعلقة بالذكاء الاصطناعي في أوروبا، مثل قانون الذكاء الاصطناعي المقترح، والذي قد يفرض متطلبات أكثر صرامة على الشركات التي تطور وتنشر تقنيات الذكاء الاصطناعي. هذه القضية تؤكد أيضاً على أهمية التعاون الدولي في مكافحة إساءة استخدام الذكاء الاصطناعي وحماية الأطفال عبر الإنترنت.