فيسبوك يخبرنا بأننا نخرق القواعد، ولكن لا أحد يحدّد لنا هذه القواعد.

لم يكن خلط خوارزميات فيسبوك بين ثالث أقدس موقع في الإسلام وجماعة كتائب شهداء الأقصى أول الأخطاء ولا آخرها، حيث تُظهر وثائق الشركة الداخلية أن المشاكل أكثر منهجية بكثير من مجرد أخطاء بسيطة قليلة. ويتساءل خبراء لسانيات هل يمكن في مواجهة 30 لهجة عربية، مثلا، تحديد أين يبدأ الإرهاب وأين ينتهي؟

إيزابيل ديبر وفارس أكرم

دبي – مع احتدام حرب غزة وتصاعد التوترات في جميع أنحاء الشرق الأوسط في مايو الماضي حظر إنستغرام لفترة وجيزة هاشتاغ المسجد الأقصى، الذي كان نقطة مهمة في النزاع.

واعتذر موقع فيسبوك، الذي يملك إنستغرام، في وقت لاحق موضحا أن خوارزمياته خلطت بين ثالث أقدس موقع في الإسلام وجماعة كتائب شهداء الأقصى، وهي جناح مسلح لحركة فتح.

وكان هذا بالنسبة إلى العديد من المستخدمين الناطقين بالعربية مجرد أحدث مثال قوي على تكميم عملاق وسائل التواصل الاجتماعي للخطاب السياسي في المنطقة. وتعد اللغة العربية من أكثر اللغات شيوعا على منصات فيسبوك، وتصدر الشركة اعتذارات عامة متكررة بعد عمليات إزالة محتوى فاشلة مماثلة.

فرنسيس هوغن: فيسبوك فهم عمق الإخفاقات ولم يفعل شيئا حيال ذلك

إخفاقات متتالية

تُظهر وثائق الشركة الداخلية من مديرة المنتجات السابقة في فيسبوك التي تحولت إلى مبلغة عن المخالفات، فرانسيس هوغن، أن المشاكل أكثر منهجية بكثير من مجرد أخطاء بسيطة قليلة، وأن فيسبوك قد فهم عمق هذه الإخفاقات لسنوات بينما لم يفعل شيئا يذكر حيالها.

ولا تقتصر مثل هذه الأخطاء على اللغة العربية؛ فقد كشفت الملفات أنه في بعض المناطق الأكثر تقلبا في العالم ينتشر المحتوى الإرهابي وخطاب الكراهية لأن الشركة لا تزال تفتقر إلى الوسطاء الذين يتحدثون اللغات المحلية ويفهمون السياقات الثقافية. وفشلت منصاتها في تطوير حلول ذكاء اصطناعي يمكنها اكتشاف المحتوى الضار بلغات مختلفة.

سمحت هذه الثغرات للغة التحريضية بالازدهار على المنصة في بلدان مثل أفغانستان وميانمار، بينما يقمع فيسبوك الكلام العادي في سوريا والأراضي الفلسطينية، مع فرض حظر شامل على الكلمات الشائعة.

وقالت إليزا كامبل، وهي مديرة برنامج سايبر في معهد الشرق الأوسط، إن “المشكلة الأساسية هي أن المنصة لم تُبن لتتوسط يوما ما في الخطاب السياسي لكل شخص في العالم. ولكن الاعتدال هو مشروع يفتقر إلى الموارد بشكل محير، خاصة مع مقدار الأهمية السياسية والموارد التي يمتلكها فيسبوك”.

تستند هذه القصة، إلى جانب القصص الأخرى التي نُشرت مؤخرا، إلى تصريحات هوغن للجنة الأوراق المالية والبورصات، والتي نقحها فريقها القانوني قبل تقديمها إلى الكونغرس أيضا. وراجعت المؤسسات الإخبارية النسخ المنقحة التي تلقاها الكونغرس. ويُذكر أن تقارير مماثلة من صحيفة وول ستريت جورنال استندت إلى نفس الوثائق.

وقال متحدث باسم فيسبوك إنه على مدار العامين الماضيين استثمرت الشركة في تعيين المزيد من الموظفين ذوي الخبرة المحلية لتعزيز قدرتها على المراجعة في جميع أنحاء العالم.

ولكن عندما تعلق الأمر بتعديل المحتوى العربي قالت الشركة “لا يزال أمامنا المزيد من العمل للقيام به… نجري بحثا لفهم هذا التعقيد بشكل أفضل وتحديد كيفية معالجته”.

فيسبوك يعتمد بشكل مفرط على مرشحات الذكاء الاصطناعي مما يؤدي إلى الكثير من الإنذارات الكاذبة وردود فعل قاسية
فيسبوك يعتمد بشكل مفرط على مرشحات الذكاء الاصطناعي مما يؤدي إلى الكثير من الإنذارات الكاذبة وردود فعل قاسية

وأقرت الشركة في تقاريرها الداخلية بأنها فشلت في وقف انتشار خطاب الكراهية الذي يستهدف الأقلية المسلمة من الروهينغا في ميانمار، حيث ارتبطت المعلومات المضللة على موقع فيسبوك مرارا وتكرارا بالعنف العرقي والديني.

ودفع اضطهاد الروهينغا -الذي وصفته الولايات المتحدة بأنه تطهير عرقي- فيسبوك إلى التعهد علنا في 2018 بأنه سوف يجند 100 متحدث بلغة ميانمار الأصلية لمراقبة منصاته. لكن الشركة لم تكشف أبدا عن عدد المشرفين على المحتوى الذين عينتهم في النهاية أو كشفت عن أي من اللهجات العديدة في البلاد التي تغطيها.

وعلى الرغم من وعود فيسبوك العامة والعديد من التقارير الداخلية المتعلقة بهذه المشاكل قالت مجموعة الحقوق غلوبال ويتنس إن خوارزمية توصية الشركة استمرت في تضخيم الدعاية العسكرية وغيرها من المحتويات التي تنتهك سياسات الشركة في ميانمار بعد الانقلاب العسكري في فبراير.

وفي الهند تُظهر الوثائق موظفي فيسبوك يناقشون في مارس الماضي ما إذا كان بإمكانهم تضييق الخناق على “ترويج الخوف والروايات المعادية للمسلمين” التي تبثها منظمة قومية متطرفة تابعة لرئيس الوزراء ناريندرا مودي على منصتها.

اللغة العربية تشكل تحديات لأنظمة فيسبوك الآلية حيث يكافح الجميع من أجل فهم لهجات كل بلد ومنطقة

ولاحظت الشركة في إحدى الوثائق أن المستخدمين المرتبطين بحزب مودي قد أنشأوا حسابات متعددة لزيادة انتشار المحتوى المعادي للإسلام. ووجد البحث أن الكثير من هذا المحتوى “لم يبلغ عنه ولم يتخذ إجراء ضده”، لأن فيسبوك يفتقر إلى المشرفين والمرشحات الآلية التي لديها معرفة باللغتين الهندية والبنغالية.

وتشكل اللغة العربية تحديات خاصة لأنظمة فيسبوك الآلية والمشرفين البشر، حيث يكافح كل منهم من أجل فهم اللهجات المنطوقة الفريدة لكل بلد ومنطقة، مع مفرداتها المتشكّلة من عوامل تاريخية وسياقات ثقافية مختلفة.

وتشمل اللغة العربية العامية المغربية، على سبيل المثال الكلمات الفرنسية والبربرية. وتشمل العربية المصرية من ناحية أخرى بعض المصطلحات التركية. وتوجد لهجات أخرى أقرب إلى النسخة “الرسمية” الموجودة في القرآن. ولا يمكن للعرب نفسهم فهم كل هذه اللهجات في بعض الحالات، ولا توجد طريقة معيارية لكتابة العامية العربية.

وطور موقع فيسبوك لأول مرة عددا هائلا من المتابعين في الشرق الأوسط خلال انتفاضات الربيع العربي في 2011، ورأى المستخدمون في المنصة فرصة نادرة للتعبير الحر ومصدرا مهما للأخبار في منطقة تمارس فيها الحكومات الاستبدادية ضوابط صارمة على كليهما. لكن هذه السمعة تغيرت في السنوات الأخيرة.

وحذفت الشركة حسابات العشرات من الصحافيين والنشطاء الفلسطينيين. واختفت أرشيفات الحرب الأهلية السورية. وأصبحت المفردات اليومية محظورة على المتحدثين باللغة العربية، وهي ثالثة أكثر اللغات شيوعا على فيسبوك حيث يستخدمها الملايين من الأشخاص في العالم.

تكتيكات فاشلة

 الأخطاء المتكررة تخلق استنزافا هائلا للموار
الأخطاء المتكررة تخلق استنزافا هائلا للموار

بالنسبة إلى حسن اصليح، الصحافي البارز في قطاع غزة المحاصر، كانت الرسالة الأولى ضربة هائلة. وجاء في إشعار الشركة “عطّل حسابك نهائيا بسبب انتهاك معايير مجتمع فيسبوك”. وكان ذلك في ذروة حرب غزة الدموية 2014، بعد سنوات من تصنيف منشوراته الإخبارية حول العنف بين إسرائيل وحماس على أنها انتهاكات للمحتوى.

وفقد كل شيء جمعه على مدى ست سنوات في غضون لحظات: الذكريات الشخصية، وقصص حياة الناس في غزة، وصور الغارات الجوية الإسرائيلية التي تقصف القطاع، بالإضافة إلى 200 ألف متابع. ولم تكن أحدث عملية إزالة لصفحته على فيسبوك العام الماضي بمثابة صدمة؛ حيث كانت هذه هي المرة السابعة عشرة التي يجب أن يبدأ فيها من الصفر.

وحاول أن يكون أذكى. وتعلم، مثل العديد من الفلسطينيين، تجنب كلمات “شهيد” و”أسير”، إلى جانب الإشارات إلى الاحتلال العسكري الإسرائيلي. ويضيف رموزا أو مسافات بين كل حرف إذا ذكر الجماعات المسلحة.

واتخذ المستخدمون الآخرون في المنطقة نهجا ذكيا بشكل متزايد لخداع خوارزميات فيسبوك، مستخدمين نصا عربيا عمره قرون ويفتقر إلى النقاط والعلامات التي تساعد القراء على التمييز بين الأحرف المتطابقة. ووفقا للوثائق الداخلية فإن أسلوب الكتابة -الذي كان شائعا قبل أن يتعمّم تعلم اللغة العربية إثر انتشار الإسلام- قد تحايل على الرقابة المفروضة على خطاب الكراهية في فيسبوك وإنستغرام.

حسام زملط: إذا كتمتم أصوات الناس فستكون البدائل أسوء

لكن تكتيكات الصحافي لم تنجح. ويعتقد أن فيسبوك قد حظره لمجرد قيامه بعمله. ويشمل عمله كمراسل في غزة نشر صور لمتظاهرين فلسطينيين مصابين على الحدود الإسرائيلية، وأمهات يبكين على توابيت أبنائهن، وتصريحات من حركة حماس التي تحكم قطاع غزة. وبالنسبة إلى الشركة يُعد النقد، وحتى الإشارات البسيطة إلى المجموعات المدرجة في قائمة “الأفراد والمنظمات الخطرة”، من الأسباب الموجبة لحذف الصفحات.

وورد في إحدى الوثائق “كنا نفرض بشكل غير صحيح محتوى مكافحة الإرهاب باللغة العربية”، إن النظام الحالي “يحد من مشاركة المستخدمين في الخطاب السياسي، مما يعيق حقهم في حرية التعبير”.

تشمل القائمة السوداء على فيسبوك حركة حماس في غزة وكذلك حزب الله الذي يشغل مقاعد في البرلمان اللبناني، إلى جانب العديد من الجماعات الأخرى التي تمثل قطاعات واسعة من الناس والأراضي في جميع أنحاء الشرق الأوسط -وفق ما تظهره الوثائق الداخلية- مما أدى إلى ما اعتبره موظفو فيسبوك في الوثائق تصورات رقابية واسعة الانتشار.

وقالت مي المهدي -وهي موظفة سابقة في فيسبوك عملت على تعديل المحتوى العربي حتى 2017- “إذا نشرت عن نشاط متشدد دون إدانة واضحة لما يحدث، فسنعاملك كما لو أنك دعمته”.

وقال فيسبوك في رد على أسئلة من وكالة أسوشيتد برس إنه يستشير خبراء مستقلين لتطوير سياسات الاعتدال الخاصة به ويذهب إلى أبعد الحدود للتأكد من أنهم محايدون في الدين أو المنطقة أو النظرة السياسية أو الأيديولوجية. وأضاف “نحن نعلم أن أنظمتنا ليست مثالية”. وأدت الثغرات وانحيازات الشركة اللغوية إلى تصور واسع الانتشار مفاده أن مراجعيها يميلون إلى صالح الحكومات وضد الأقليات.

ويقول الموظفون السابقون في فيسبوك أيضا إن الحكومات المختلفة تمارس ضغوطا على الشركة، وتهدد اللوائح والغرامات. وتعدّ إسرائيل، المصدر المربح لعائدات الإعلانات على فيسبوك، الدولة الوحيدة في الشرق الأوسط التي يدير فيها فيسبوك مكتبا وطنيا. وكان مدير السياسة العامة فيه عمل مستشارا لرئيس الوزراء اليميني السابق بنيامين نتنياهو. وتراقب أجهزة الأمن الإسرائيلية فيسبوك وتُمطره بالآلاف من الأوامر التي تدعوه إلى حذف حسابات ومنشورات فلسطينية خلال قمع الاحتجاجات.

قال أشرف زيتون -الرئيس السابق لسياسة منطقة الشرق الأوسط وشمال أفريقيا في فيسبوك، والذي غادر في 2017- “إنهم يغمرون نظامنا، ويتغلبون عليه تماما. وهذا يجبر النظام على ارتكاب أخطاء لصالح إسرائيل. لم يكن لدى أي مكان آخر في المنطقة مثل هذا الفهم العميق لكيفية عمل فيسبوك”.

وقال فيسبوك في بيان إنه يتلقى طلبات إزالة من الحكومات لا تختلف عن تلك الواردة من المنظمات الحقوقية أو أعضاء المجتمعات، على الرغم من أنه قد يقيد الوصول إلى المحتوى بناءً على القوانين المحلية. وأضاف “أي اقتراح يزعم أننا نزيل المحتوى فقط تحت ضغط من الحكومة الإسرائيلية هو اقتراح غير دقيق على الإطلاق”.

ما هي القواعد؟

فيسيوك في عين العاصفة
فيسيوك في عين العاصفة

واشتكى الصحافيون والنشطاء السوريون الذين يغطون أخبار المعارضة في البلاد من الرقابة، حيث تقوم الجيوش الإلكترونية التي تدعم الرئيس بشار الأسد بالإبلاغ عن المحتوى المعارض لإزالته.

وقال رائد الذي عمل مراسلا في مركز حلب الإعلامي -وهو مجموعة من النشطاء المناهضين للحكومة- “يخبرنا فيسبوك دائما بأننا نخرق القواعد، لكن لا أحد يحدد لنا هذه القواعد”، ولم يذكر سوى اسمه الأول خوفا من الانتقام.

وعندما تعلق الأمر بالنظر في إساءة معاملة عاملات المنازل في الشرق الأوسط، أقرت وثائق فيسبوك الداخلية بأن المهندسين يركزون بشكل أساسي على المنشورات والرسائل المكتوبة باللغة الإنجليزية.

تحولت صوفي زهانغ من موظفة في فيسبوك إلى مبلغة عن المخالفات وعملت في الشركة لما يقرب من ثلاث سنوات قبل طردها العام الماضي، وقالت إن المتعاقدين في مكتب فيسبوك في أيرلندا اشتكوا لها من أنهم مضطرون إلى الاعتماد على مترجم غوغل لأن الشركة لم تخصص لهم المحتوى باللغات التي يعرفونها.

ويستعين موقع فيسبوك بمعظم عمليات تعديل المحتوى للشركات العملاقة التي تجند العمال في أماكن بعيدة، من الدار البيضاء في المغرب إلى إسن في ألمانيا. ولا ترعى الشركات تأشيرات العمل للفرق العربية، مما يقصر المجموعة على الموظفين المحليين. وتقول إحدى الوثائق إنهم غالبا ما يضيعون في ترجمة 30 لهجة عربية مختلفة، حيث يشيرون إلى المنشورات العربية غير المسيئة على أنها محتوى إرهابي بنسبة 77 في المئة.

ويحتل العراق المرتبة الأولى في المنطقة من حيث الحجم المبلغ عنه لخطاب الكراهية على فيسبوك. وقالت إحدى الوثائق إن فهم اللهجة العراقية بين المراجعين ضعيف جدا. ووصف اللغويون نظام فيسبوك بأنه معيب بالنسبة إلى منطقة بها تنوع كبير في اللهجات العامية التي ينقلها المتحدثون العرب بطرق مختلفة.

القائمة السوداء لفيسبوك تشمل حركة حماس في غزة وحزب الله في لبنان، إلى جانب العديد من الجماعات الأخرى

وعلى الرغم من هذه المشاكل يقف الوسطاء في الخطوط الأمامية، ما يجعل فيسبوك وسيطا قويا للتعبير السياسي في منطقة مضطربة.وقالت إنعام الوير، أستاذة اللسانيات العربية في جامعة إسكس، “إن الصورة النمطية التي تفيد بأن اللغة العربية كيان واحد هي مشكلة كبيرة”، مشيرة إلى “الاختلافات الهائلة” في اللغة ليس فقط بين البلدان وإنما أيضا بين الطبقة والجنس والدين والعرق.

وعلى الرغم من أن الوثائق الواردة من هوغن ترجع إلى ما قبل حرب غزة، إلا أن حلقات من ذلك الصراع الذي دام 11 يوما تُظهر مدى ضآلة ما أُنجز لمعالجة المشكلات التي أُبْلِغ عنها في تقارير فيسبوك الداخلية الخاصة.

وأفاد موقع فيسبوك في الوثائق الداخلية بأنه أخطأ في ما يقرب من نصف جميع طلبات الإزالة باللغة العربية المقدمة للاستئناف. وقال إن الأخطاء المتكررة “تخلق استنزافا هائلا للموارد”.

كما شددت وثائق فيسبوك الداخلية على الحاجة إلى “تعزيز” الخوارزميات، وتجنيد المزيد من الوسطاء العرب من البلدان الأقل تمثيلا، وحصرهم في الأماكن التي يتمتعون فيها بخبرة اللهجة المناسبة.

وقال التقرير إنه “مع حجم قاعدة المستخدمين العرب والخطورة المحتملة للضرر خارج الإنترنت… من المؤكد أنه يجب تخصيص المزيد من الموارد لمهمة تحسين الأنظمة العربية”. لكن الشركة أعربت عن أسفها لأنه “لا توجد استراتيجية واحدة واضحة”.

وفي نفس الوقت يشعر الكثيرون في جميع أنحاء الشرق الأوسط بالقلق من أن مخاطر إخفاقات فيسبوك عالية بشكل استثنائي، مع احتمال توسيع عدم المساواة التي طال أمدها وخفض النشاط المدني وتأجيج العنف في المنطقة.

وقال المبعوث الفلسطيني إلى المملكة المتحدة حسام زملط، الذي ناقش مؤخرا منع المحتوى العربي مع مسؤولي فيسبوك في لندن، “قلنا لفيسبوك: هل تريد أن ينقل الأشخاص تجاربهم على المنصات الاجتماعية، أم تريد إسكاتهم؟ إذا كتمتم أصوات الناس فستكون البدائل أسوأ”.

'
%d مدونون معجبون بهذه: