مجلس الرقابة ينتقد اعتدال ميتا الآلي في الحرب بين إسرائيل وحماس

اليوم، أصدر مجلس مراقبة ميتا أول قرار طارئ بشأن الإشراف على المحتوى على فيسبوك، بسبب الصراع بين إسرائيل وحماس.

تتمحور الحالتان حول قطعتين من المحتوى منشورتين على فيسبوك وإنستغرام: إحداهما تصور آثار غارة على مستشفى الشفاء في غزة والأخرى تظهر اختطاف رهينة إسرائيلية، وقد قامت الشركة بإزالتهما في البداية ثم بعد ذلك. تمت استعادته بمجرد أن يتولى مجلس الإدارة هذه الحالات. تمت إزالة فيديو الاختطاف لانتهاكه سياسة ميتا، التي تم إنشاؤها في أعقاب هجمات حماس في 7 أكتوبر، المتمثلة في عدم إظهار وجوه الرهائن، بالإضافة إلى سياسات الشركة طويلة الأمد حول إزالة المحتوى المتعلق بـ “المنظمات والأفراد الخطرين”. ” تمت إزالة المنشور من مستشفى الشفاء لانتهاكه سياسات الشركة المتعلقة بالصور العنيفة.

في الأحكام، أيد مجلس الرقابة قرارات ميتا بإعادة كلا الجزئين من المحتوى، لكنه استهدف بعض ممارسات الشركة الأخرى، لا سيما الأنظمة الآلية التي تستخدمها للعثور على المحتوى الذي ينتهك قواعدها وإزالته. للكشف عن المحتوى الذي يحض على الكراهية، أو المحتوى الذي يحرض على العنف، تستخدم منصات وسائل التواصل الاجتماعي “المصنفات”، وهي نماذج التعلم الآلي التي يمكنها الإبلاغ عن المنشورات التي تنتهك سياساتها أو إزالتها. تشكل هذه النماذج مكونًا أساسيًا للعديد من أنظمة الإشراف على المحتوى، خاصة وأن هناك قدرًا كبيرًا من المحتوى لا يمكن للإنسان اتخاذ قرار بشأن كل مشاركة على حدة.

وقال مايكل ماكونيل، الرئيس المشارك لمجلس الرقابة، لمجلة WIRED: “لقد أوصينا بصفتنا مجلس إدارة بخطوات معينة، بما في ذلك إنشاء مركز بروتوكول الأزمات، في القرارات السابقة”. “ستبقى الأتمتة. لكن أملي هو توفير التدخل البشري بشكل استراتيجي في النقاط التي ترتكب فيها الأنظمة الآلية الأخطاء في أغلب الأحيان، والتي لها أهمية خاصة بسبب الاهتمام العام المتزايد والمعلومات المحيطة بالصراعات.

تمت إزالة مقطعي الفيديو بسبب التغييرات التي تم إجراؤها على هذه الأنظمة الآلية لجعلها أكثر حساسية لأي محتوى يخرج من إسرائيل وغزة قد ينتهك سياسات ميتا. وهذا يعني أن الأنظمة كانت أكثر عرضة لإزالة المحتوى عن طريق الخطأ والذي كان ينبغي أن يظل موجودًا. ويمكن أن يكون لهذه القرارات آثار في العالم الحقيقي.

“يعتقد (مجلس الرقابة) أن المخاوف المتعلقة بالسلامة لا تبرر الخطأ في إزالة المحتوى المصور الذي يهدف إلى زيادة الوعي أو إدانة جرائم الحرب المحتملة أو الجرائم ضد الإنسانية أو الانتهاكات الجسيمة لحقوق الإنسان”. مذكرات حكم الشفاء. “ومثل هذه القيود يمكن أن تعيق حتى المعلومات الضرورية لسلامة الأشخاص الموجودين على الأرض في تلك الصراعات.” تتمثل سياسة ميتا الحالية في الاحتفاظ بالمحتوى الذي قد يُظهر جرائم حرب أو جرائم ضد الإنسانية لمدة عام واحد، على الرغم من أن مجلس الإدارة يقول إن ميتا بصدد تحديث أنظمة التوثيق الخاصة بها.

وكتب ميتا في منشور على مدونة الشركة: “إننا نرحب بقرار مجلس الرقابة اليوم بشأن هذه القضية”. “إن التعبير والسلامة مهمان بالنسبة لنا وللأشخاص الذين يستخدمون خدماتنا.”