إشراف تويتر: القضايا الرئيسية، السياسات، والتقنيات

كيف يمكننا التنقل في فضاء رقمي يروج لحرية التعبير بينما يحتاج أيضًا إلى حماية مستخدميه من الأذى؟ هذا السؤال يكمن في قلب النقاش المستمر حول إدارة المحتوى على X (سابقًا تويتر)، وهو منصة أصبحت ساحة مركزية للنقاش العالمي والنقاش السياسي والانتشار السريع للمعلومات. التحدي في تحقيق هذا التوازن أصبح أكثر تعقيدًا من أي وقت مضى، مشكلًا بالتقنيات المتطورة والسياسات المتغيرة والأحداث الواقعية التي تختبر حدود الحوكمة عبر الإنترنت.

الإطار المتغير للإشراف على X

في خطوة كبيرة بعد توقف دام عامين، أصدرت X تقريراً عن الشفافية في سبتمبر 2024، مما أتاح لمحة عن ممارسات الإشراف الحالية لديه. تكشف البيانات عن اتجاه محير: بينما تضاعفت تقارير المستخدمين عن المحتوى الضار، لم تواكب إجراءات تطبيق المنصة ذلك.

في النصف الأول من عام 2024، أبلغ المستخدمون عن أكثر من 224 مليون حساب وتغريدة، بزيادة مذهلة بنسبة 1830% مقارنة بـ 11.6 مليون تبليغ في أواخر عام 2021. على الرغم من هذا الارتفاع، زاد عدد تعليق الحسابات بنسبة 300% فقط، من 1.3 مليون إلى 5.3 مليون. يشير هذا الاختلاف إلى تحول جوهري في كيفية تحديد X وانتهاكاته السياسة.

تتضح التغييرات أكثر من خلال سياسات المنصة المتطورة. تحت القيادة الجديدة، أُعيد تنظيم القواعد المتعلقة بمعلومات مضللة عن COVID-19 ولم تُعد التصرفات مثل ذكر النوع الخاطئ أو استخدام الأسماء القديمة تُصنف كخطاب كراهية. هذا التعريف الجديد له تأثير مباشر على مقاييس التنفيذ. على سبيل المثال:

• التصرف الكاره: انخفضت التعليقات بسبب التصرف الكاره بشكل كبير لتصل فقط إلى 2361 حسابًا، مقارنة بـ 104,565 في النصف الثاني من 2021.

• سلامة الأطفال: من بين أكثر من 8.9 مليون منشور أبلغ عن مشاكل تتعلق بسلامة الأطفال، أزالت X 14,571 فقط.

هذه الطريقة الجديدة، كما توضح في تقرير مكثف من 15 صفحة، يتناقض بشكل حاد مع الإفصاحات الشاملة السابقة من 50 صفحة. يشير هذا إلى نظام يتعامل مع حجم هائل من التقارير بينما يعمل بموجب مجموعة قواعد معدلة وربما أكثر تراخيًا.

آليات التعليق: كيف تقرر X؟

لفهم من يتم تعليقه ولماذا، يجب النظر إلى ما وراء الإحصاءات إلى السلوكيات الأساسية. البحث في ديناميكيات الإشراف خلال الأحداث الجيوسياسية الكبرى، مثل الغزو الروسي لأوكرانيا 2022 والانتخابات الرئاسية الفرنسية، يوفر رؤى مهمة في أنماط التشغيل الخاصة بالمنصة.

حددت الدراسات التي تحلل أكثر من 270 مليون تغريدة اتجاهات واضحة في إنشاء الحسابات وتعليقها خلال فترات النقاشات المثيرة للجدل عالية الحجم. خلال هذه الفترات، هناك ارتفاع ملحوظ في إنشاء الحسابات المشبوهة، يتم تعليق الكثير منها بعد وقت قصير من ظهورها.

الحسابات الجديدة مقابل القديمة: موقف استباقي

إحدى أهم النتائج هي أن تويتر يبدو أكثر استباقية في تعليق الحسابات التي تم إنشاؤها حديثًا مقارنة بالحسابات القديمة والمستقرة. يتم تعليق العديد من الحسابات الضارة في غضون أيام قليلة من إنشائها، مما يشير إلى أن عمر الحساب هو عامل رئيسي في أنظمة الكشف الخاصة بالمنصة. المدة التي يسودها الحساب المعلق غالبًا ما تعتمد على مستوى نشاطه؛ قد يتم الإشارة إلى الحسابات الجديدة الفرط في النشاط وإزالتها بسرعة أكبر، في حين يمكن للحسابات الأقدم التي تمارس سلوكًا مشابهًا أن تبقى لفترة أطول.

يُرجح أن يكون هذا النهج الاستباقي تجاه الحسابات الجديدة استراتيجية لمكافحة السلوك غير الأصيل المنسق، مثل شبكات الروبوت وحملات السخام، التي غالبًا ما تعتمد على الحسابات التي تم إنشاؤها حديثًا لتضخيم رسائلها قبل اكتشافها.

السلوكيات التي تدفع إلى التعليق

الحسابات المعلقة، سواء كانت جديدة أو قديمة، تميل إلى إظهار أنماط سلوكية معينة تميزها عن المستخدمين العاديين. وتشمل هذه:

• الاستخدام المفرط للردود والذكر: بدلاً من إنشاء محتوى أصلي، غالبًا ما تغمر هذه الحسابات ردود المستخدمين الشرعيين بالسخام أو التحرش أو الدعاية.

• التغريد بإفراط: يميل المستخدمون المعلقون إلى التغريد بمعدل أعلى بكثير من المستخدمين النشطين، مما يشير إلى سلوك آلي أو مهووس. الوقت المتوسط بين التغريدات لمستخدم معلق هو أقل بكثير.

• مشاركة المحتوى الضار: يكشف تحليل نوعي أن الحسابات المعلقة أكثر عرضة بكثير لمشاركة المحتوى المصنف كسخام أو ضار (بما في ذلك خطاب الكراهية، اللغة المسيئة، والاعتداء) من الحسابات النشطة.

خلال الانتخابات الفرنسية 2022، على سبيل المثال، كانت الحسابات المعلقة أكثر احتمالًا لتضخيم الوسوم المثيرة للانقسام مثل توتسوفماكرون (أي شخص ماعدا ماكرون). وبالمثل، خلال المرحلة الأولية من النزاع الأوكراني، وُجد أن العديد من الحسابات المعلقة تقوم بدفع السخام المرتبط بالعملات المشفرة. تظهر هذه الأنماط أن التعليق غالبًا ما يرتبط بإعتداء واضح على المنصة يُقصد منه التلاعب بالمحادثات أو استغلال انتباه المستخدمين.

ملاحظة حول شفافية البيانات

يواجه الباحثون تحديات كبيرة في دراسة الإشراف. لا تكشف المنصات مثل X عن الوقت المحدد أو السبب المحدد لتعليق الحساب. غالبًا ما يجب على المحللين استخدام البدائل، مثل آخر نشاط مرئي للحساب، لتقدير وقت إزالته. علاوة على ذلك، فإن وقف الوصول إلى واجهات برمجة التطبيقات المجانية للباحثين جعل من الصعب مراقبة هذه الاتجاهات وتحليلها بشكل مستقل، مما أثار القلق بشأن مسؤولية المنصة.

صعود الإشراف بواسطة الذكاء الاصطناعي: سيف ذو حدين؟

في صلب استراتيجية الإشراف في X يزداد الاعتماد على الذكاء الاصطناعي. تقول المنصة إنها تستخدم "مزيجًا من التعلم الآلي والمراجعة البشرية"، حيث تقوم أنظمة الذكاء الاصطناعي إما باتخاذ إجراءات مباشرة أو الإبلاغ عن محتويات للمراجعين البشريين. بينما هذا النهج ضروري للتعامل مع حجم المحتوى الهائل، إلا أنه مليء بالتحديات ومعضلات أخلاقية.

أظهرت أنظمة الإشراف بواسطة الذكاء الاصطناعي منذ فترة طويلة أنها غير كاملة. غالبًا ما تكافح مع الفروق الدقيقة في اللغة البشرية، مما يؤدي إلى أخطاء كبيرة:

• انعدام الرؤية السياقية: غالبًا ما يفشل الذكاء الاصطناعي في فهم السخرية أو الهجاء أو اللغة المُشفرة التي تستخدمها المجتمعات المهمشة، مما يؤدي إلى إيجابيات زائفة حيث يتم الإبلاغ عن محتويات بريئة على أنها ضارة.

• التحيز في مجموعات البيانات: يتم تدريب العديد من الخوارزميات على مجموعات بيانات تأتي بشكل أساسي من الشمال العالمي، مما قد يؤدي إلى قلة حساسية ثقافية ولغوية. مذكّرة من مركز الديمقراطية والتكنولوجيا تسلط الضوء على كيف يؤدي هذا إلى ضعف دقة الإشراف باللهجات مثل العربية المغاربية.

• أداء غير متسق: دراسة من عام 2021 أجرتها جامعة أكسفورد ومعهد آلان تورينج اختبرت عدة نماذج لكشف خطاب الكراهية بواسطة الذكاء الاصطناعي ووجدت فجوات كبيرة في الأداء. بعض النماذج، مثل API تصور من Google، تميل إلى الإبلاغ المفرط عن محتوى غير كاره بوضوح، في حين لم تكتشف أخرى حالات واضحة لخطاب الكراهية.

قد تفسر هذه القيود الانخفاض الحاد في الإجراءات ضد خطاب الكراهية على X، حيث يكافح الذكاء الاصطناعي لتحديد النطاق الكامل للخطاب الضار. العواقب حقيقية، كما يظهر عندما قام فيسبوك بخطأ في حجب الإعلانات من الشركات الصغيرة في 2020 أو قام بوسم منشورات من متحف أوشفيتز بانتهاك معايير المجتمع في 2024. الاعتماد المفرط على الذكاء الاصطناعي لا يقل عن فوات القبض على الفاعلين الخبيثين ولكنه أيضًا يهدد بكبت التعبير المشروع، خصوصًا من المجتمعات التي تواجه فرض الرقابة عمومًا.

الحبل الأخلاقي المشدود للأتمتة

هل يمكننا الوثوق في الآلات لاتخاذ أحكام أخلاقية بشأن التواصل البشري؟ بينما تقوم المنصات بزيادة تشغيل الإشراف، فإنها تخاطر بتضخيم التحيزات القائمة واتخاذ قرارات مبهمة تؤثر على حرية التعبير. يدعو خبراء من معهد AI Now إلى مساءلة أكبر، وحث المنصات على تبني معايير أخلاقية وزيادة الشفافية حول أنظمتها للذكاء الاصطناعي. هذا أمر حاسم بشكل خاص حيث تشكل هذه القرارات المؤتمتة الخطاب العام حول الأحداث الرئيسية مثل الانتخابات.

بينما التحديات في الإشراف الرقمي ضخمة، إلا أن القطاعات التكنولوجية الأخرى تظهر كيف يمكن نشر الأنظمة الذكية بنتائج يمكن التنبؤ بها ومفيدة أكثر. في مجال الطاقة المتجددة، على سبيل المثال، تسخر شركات مثل Les Nouveaux Installateurs التكنولوجيا ليس لتصفية المحتوى الضبابي ولكن لتحقيق تحسين ملموس. حلولهم الذكية، بما في ذلك الإدارة الذكية لإنتاج الألواح الشمسية، الشحن الذكي للسيارات الكهربية، واستخدام المضخات الحرارية المحسن، تمكّن المستخدمين من التحكم في استهلاك طاقتهم بكفاءة. يتم تحقيق هذا من خلال بيانات واضحة، مراقبة موثوقة عن بُعد، وتكنولوجيا تقدم نتائج ملموسة وإيجابية — تفاوت واضح مع العالم الغامض والخاطئ غالبًا لإشراف محتوى الذكاء الاصطناعي.

العواقب الواقعية: عندما يفيض الكلام عبر الإنترنت

النقاش حول الإشراف ليس مجرد نقاش أكاديمي؛ له عواقب حقيقية وليست نظرية. حالة حديثة في المملكة المتحدة تبرز الفجوة الخطيرة بين سياسة المنصة والسلامة العامة. إثر شغب بعد مغذى بشكل كبير بمعلومات مضللة عبر وسائل التواصل الاجتماعي، تم مقاضاة امرأة لنشرها على X دعا إلى "إشعال النار في جميع الفنادق المليئة بالغير الشرعيين."

إبعاد جماعي الآن، أشعلوا النار في جميع الفنادق المليئة بالغير الشرعيين لمن أريد، بينما أنتم في ذلك خذوا الحكومة الخائنة والسياسيين معهم. أشعر بالغثيان أن أعرف ما ستواجهه هذه العائلات الآن. إذا جعلني هذا عنصريًا فليكن.

فيما بعد، أقر المستخدم بالذنب لتحريضه على الكراهية العنصرية. ومع ذلك، عندما أبلغ عن منشورها إلى X، قررت المنصة أنه لا ينتهك قواعدهم. يوضح هذا الحادث بوضوح سيناريو حيث يعتبر المحتوى غير قانوني من قبل محكمة قانونية مقبولاً في منصة التواصل الاجتماعي، مما يثير أسئلة حرجة حول المسؤولية المؤسسية وتعريف "حرية التعبير". هل من العدل أن تسمح المنصة بمنشورات تحث على العنف والكراهية مباشرة؟

هذا ليس ظاهرة منعزلة. تكررت تكرار الروايات الضارة والمثيرة للانقسام هو موضوع متكرر. الهدف من الجهات الخبيثة غالبًا ليس الانخراط في نقاش بناء بل التخريب ومضايقة وتلوث نظام المعلومات. من خلال استهداف المستخدمين الشرعيين بكميات كبيرة من الردود والذكر، تنجح هذه الحسابات المعلقة في حقن السخام والدعاية والمحتوى المسيء في المحادثات العادية، مما يفسد تجربة المستخدم وربما يقود النظارة المتفرجين إلى التطرف.

التحدي أمام منصات مثل X هائل. عليهم التنقل في تعقيدات القوانين العالمية والمعايير الثقافية والتوتر الدائم بين تعزيز المحادثة المفتوحة ومنع منصاتهم من أن تصبح موجهات للأذى. تشير الاتجاهات الحالية إلى أن التركيز الأكبر على الذكاء الاصطناعي والنهج الأكثر عدم التدخل في بعض أنواع الكلام يشكل بيئة متساهلة للسلوك الخبيث. بدون مزيج أكثر فعالية وشفافية من المراقبة البشرية والأدوات التكنولوجية، من المرجح أن تتسع الفجوة بين الخطاب عبر الإنترنت والأذى الواقعي.

في النهاية، سيعتمد تأثير الإشراف على X والمنصات الاجتماعية الأخرى على التزامها بالشفافية والمساءلة وفهم دقيق بأن حرية التعبير لا تعني الحرية من النتائج. بينما تستمر هذه المنصات في تشكيل مجتمعنا، ستكون المعايير التي تحددها والتقنيات التي توظفها لها تأثير دائم على قدرتنا الجماعية على التواصل بأمان وبناء.

الأسئلة الشائعة

ما الفرق الرئيسي في كيفية تعليق الحسابات الجديدة مقابل القديمة على X؟

تشير الأبحاث إلى أن X (سابقًا تويتر) أكثر استباقية في تعليق الحسابات التي تم إنشاؤها حديثًا مقارنة بالقديمة. يتم تعليق العديد من الحسابات الجديدة التي تشارك في تصرفات سخامية أو ضارة في غضون أيام من إنشائها، مما يشير إلى أن عمر الحساب هو ميزة رئيسية في أنظمة الكشف التلقائية التابع للمنصة. قد تستمر الحسابات القديمة التي تمارس سلوكًا مشابهاً لفترة أطول قبل أن تواجه التعليق.

لماذا يعد الإشراف بالذكاء الاصطناعي حلاً غير كامل؟

رغم أن الإشراف بالذكاء الاصطناعي ضروري للتعامل مع النطاق الهائل للمحتوى، إلا أنه يعاني من عدة عيوب رئيسية. يصعب عليه فهم التلميحات والسخرية والسياق الثقافي، مما يؤدي إلى إيجابيات زائفة (الإبلاغ عن محتوى غير ضار) وسلبيات زائفة (فقدان خطاب الكراهية الفعلي). يمكن أن ترث نماذج الذكاء الاصطناعي التحيزات من بيانات تدريبهم، مما يؤثر بشكل غير متناسب على المجتمعات المهمشة. يمكن أن يؤدي ذلك إلى تنفيذ غير متسق وغير عادل لقواعد المنصة.

هل تغيرت سياسات الإشراف في X مؤخرًا؟

نعم، منذ استحواذ إيلون ماسك، شهدت سياسات الإشراف في X تغييرات كبيرة. تم التراجع عن قواعد المنصة ضد معلومات مضللة عن COVID-19 ولم يعد يتم تصنيف الخطأ في تحديد النوع أو استخدام الأسماء القديمة كخطاب كراهية. ونتيجة لذلك، انخفض بشكل حاد عدد التعليقات بسبب السلوك الكاره حتى مع تزايد تقارير المستخدمين عن مثل هذا المحتوى. كما أصبحت الشركة أقل شفافية، مع تقارير أقصر ووصول مقيد إلى البيانات للباحثين.

ما أنواع المحتوى والسلوك التي تؤدي إلى تعليقها؟

تشمل السلوكيات الأساسية التي تؤدي إلى تعليق الحساب السخام والنشاط غير الأصيل المنسق ومشاركة المحتوى الضار. ويتجلى ذلك غالبًا في استخدام مفرط للردود والذكر لاستهداف مستخدمين آخرين، والتغريد بتردد غير عادي، ونشر محتوى ضمن فئات مثل خطاب الكراهية، التحرش، التحريض على العنف، وترويج الاحتيالات (مثل الاحتيال العملات المشفرة).