فيسبوك كشف عن ملايين المشاركات المسيئه والحسابات المزيفه الموجوده علي منصته وهذه هي المره الاولي التي تعلن فيها الشركه عن ارقام توضح حجم الجهود المبذوله لفرض قواعدها علي المستخدمين. ويقوم فيسبوك بتطوير ادوات ذكاء اصطناعي لدعم عمل مراقبيها البالغ عددهم 15 الف شخص، والذين يراقبون كل ما يتم نشره ويتعاملون معه علي الفور. واشار التقرير الي ان البرنامج الاصطناعي مازال يعاني حتي يتمكن من تحديد او التعرف علي بعض انواع الانتهاكات فيسبوك يطرد مهندسا بعد اتهامه بالتجسس علي النساء ماذا يعرف عنك فيسبوك ولماذا يرسل لك اعلانات بعينها؟ علي سبيل المثال، تعرفت الخوارزميات علي 38 في المائه فقط من المشاركات المحدده علي انها تحض علي الكراهيه خلال هذه الفتره، ما يعني ان هناك 62 في المائه من هذه المشاركات كشفها المستخدمون انفسهم وابلغوا عنها الاداره. لكن علي النقيض من ذلك، قالت الشركه ان ادواتها اكتشفت 99.5 في المائه من الدعايه التي كانت مخصصه لدعم تنظيم الدوله الاسلاميه وتنظيم القاعده والجماعات المتشدده الاخري التابعه لها، وكان هناك 0.5 في المائه فقط اكتشفها الجمهور. وتكشف الارقام ايضا ان موقع فيسبوك يعتقد ان المستخدمين ربما تعرضوا لمشاهد العنف والتعري للبالغين عبر خدمته، بصوره اكبر خلال الاشهر الثلاثه الاولي من العام الجاري مقارنه بالاشهر الثلاثه السابقه. فيسبوك تقول ان موقعها سيكون "فضاء معاديا للارهابيين" لكنها قالت انها لم تطور طريقه للحكم علي ما اذا كان هذا ينطبق ايضا علي خطاب الكراهيه والدعايه الارهابيه. وعلق جاي روزين، رئيس اداره المنتجات في فيسبوك علي هذا قائلا :"في الوقت الذي نتعرف فيه علي الطريقه الصحيحه للقيام بذلك، سنقوم بتحسين المنهجيه". فضيحه اختراق بيانات فيسبوك طالت 87 مليون مستخدم ارتفاع عنيف قسم فيسبوك المحتوي المحظور الي عده فئات: العنف المصور تعري البالغين والمحتوي الجنسي الرسائل غير المرغوب فيها خطاب الكراهيه حسابات مزيفه وبالنسبه للفئه الاخيره، تقدر الشركه ان عدد الحسابات المزيفه يتراوح بين 3 و4 في المائه من جميع المستخدمين النشطين علي موقع فيسبوك، وقالت انها اوقفت 583 مليون حساب مزيف في الفتره بين يناير/كانون الثاني وحتي مارس/اذار. فيسبوك تطرح اداه تتيح للمستخدم التحكم في خصوصيه بياناته وتشير الارقام الي ان العنف المصور ارتفع بشكل كبير، كما توضح ان مزيجا من تقنيه الكشف الافضل عن هذه الحسابات وكذلك التصعيد في الصراع السوري، ربما تفسر اسباب زياده رصد وكذلك انشاء الحسابات المزيفه. وازالت اداره فيسبوك 1.9 مليون قطعه من المحتوي المتطرف بين يناير/ كانون الثاني ومارس/اذار، بزياده بلغت 73 في المائه عن الربع السابق. وهذا من شانه ان يكون امرا مبشرا للحكومات، ولا سيما في الولايات المتحده وبريطانيا، والتي دعت الشركه الي وقف انتشار مواد ومشاركات بعض المجموعات المتطرفه مثل تنظيم الدوله. وقالت براندي نونكي، من مركز بيركيلي لابحاث تكنولوجيا المعلومات في مصلحه المجتمع بجامعه كاليفورنيا :"انها تتخذ الخطوات الصحيحه لتحديد ما هو الخطاب المحمي وغير المحمي علي منصتها بوضوح". لكنها اضافت ان :"الفيسبوك ما زالت امامه مهمه كبيره وثقيله". "التصريح بالمثليه" يظهر تعقيد هذه الوظيفه عند التفكير في الحديث الذي يحض علي الكراهيه، وهي فئه يصعب التحكم فيها بطريقه اليه . وقد عالجت الشركه 2.5 مليون نموذج في الفتره الاخيره، بزياده 56 في المائه عن الاشهر من اكتوبر/تشرين الاول الي ديسمبر/كانون الاول 2017. وشارك المشرفون البشريون في التعامل مع الجزء الاكبر من هذه المنشورات، ولكنهم واجهوا مشاكل في تحديد ما يجب ان يبقي وما يجب حذفه. وقال اليكس شولتز، رئيس قسم تحليلات البيانات بفيسبوك :"هناك فارق بسيط ، هناك سياق لا تستطيع التكنولوجيا القيام به بعد". واضاف :"في هذه الحالات، نحن نميل كثيرا الي فريق المراجعه لدينا، والذي يتخذ قرارا نهائيا بشان ما يجب فعله." وللتدليل علي ذلك، قال شولتز ان الكلمات التي تكون اهانه اذا ما استخدمت كجزء من هجوم كراهيه ضد المثليين يكون لها معني مختلف عندما يستخدمها المثليون انفسهم. لذا، فان حذف جميع المشاركات من خلال تحديد مصطلح معين سيكون خيارا خاطئا. لكنه سال :"كيف يمكن التعرف علي انني مثلي الجنس اذا كنت تراجع ملفي الشخصي؟" ويجيب :"بالنسبه لي، انا وضعت هذا في الجزء العلوي من ملف التعريف، لقد تحدثت علنا، وانا مثلي منفتح جدا". "لكن هذا لا ينطبق علي الجميع، ولا يمكننا معرفه ذلك. هذه مشكله صعبه للغايه." عينات مذهله في محاوله لاكتشاف ما قد يكون قد فاتها، راجعت الشبكه الاجتماعيه عينات عشوائيه. استغرق الامر عددا غير محدد من المشاركات التي تمت مشاهدتها علي فيسبوك، ووضعت الاداره ملاحظات علي مدي انتهاك المحتوي لسياساتها. وكانت النتائج مثيره للقلق. ووفقا للعينه، فان ما يصل الي 27 مشاركه من بين كل 10 الاف مشاركه احتوت علي شكل من اشكال العنف المصور. ونظرا لان هناك 1.5 مليار مستخدم يومي لخدمه فيسبوك فان هذا الرقم يعني ان عشرات الملايين من المشاركات العنيفه لا يمكن مراجعتها كل يوم. وبنفس التقنيه تم اكتشاف ما بين 7 الي 9 مشاركات تحتوي علي مشاهد تعر او محتوي جنسي من بين كل 10 الاف مشاركه. وقال شولتز ان "كميه المواد المتعلقه بالارهاب صغيره للغايه" بحيث لا يمكن اخذ عينات منها بهذه الطريقه. وعن خطاب الكراهيه ، قال ان الشركه تفتقر الي ايه "بيانات موثوق بها" عن الحجم الكلي. وتابع :"لا يمكننا حاليا قياس مدي انتشار انتهاكات خطاب الكراهيه علي فيسبوك، لاننا حين نطالب ممثلينا بالذهاب والبحث، في ما اذا كان هذا الكلام يحض علي الكراهيه، فانه يكون من الصعب جدا تسجيل ذلك". واوضح :"نحن نرتكب اخطاء ونحاول ان نكون افضل في قياس ما يتم نشره." دوتي لوكس، هاجمت فيسبوك لفشله في التعامل مع قضايا الكراهيه والارهاب "ليس عذرا" فيسبوك يدشن خدمه للمواعده لكن دوتي لوكس، منظمه حفلات في سان فرانسيسكو، والتي تقود حملات ضد فشل فيسبوك في مكافحه استهداف الاقليات، اكدت ان "الصعوبه ليست عذرا". وقالت :"لا يمكنني التعاطف مع كون هذا امر صعب حقا، لانه ليس بجديد حقا". وعلقت علي ما يقوم به فيسبوك :"لقد وجدوا الوقت لاصدار تطبيقات المواعده ويجدون الوقت لارفاق حسابي المصرفي، لكنهم لا يجدون الوقت لمعرفه حقيقه مستخدميهم." وقالت لوكس، التي وصفت نفسها لي بانها ، ان "الاعتماد علي تقارير الشرطه حول خطاب الكراهيه كان معيبا من الاساس، لانه يمكن اساءه استخدامه لاسكات الاخرين". وتابعت :"انت فقط تعطي الناس اصحاب النوايا الخبيثه القدره علي التصرف بشكل ضار". جيش المشرفين ويبقي فيسبوك خائفا من تكوين فريق المشرفين البشري. وقالت الشركه انها حاولت التاكد من ان العاملين في الولايات المتحده تعاملوا مع حوادث استفادوا خلالها من فهم الثقافه الامريكيه، وبالمثل بالنسبه للحوادث في بلدان اخري. لكن السيده لوكس تشعر ان الشركه بحاجه الي ان تكون اكثر انفتاحا. وقالت :"اذا كنت توظف اشخاصا غير موجودين في دوائر اجتماعيه معينه او ثقافات مختلفه، فلن يكونوا فاعلين". "انها فقط ستؤدي الي استمراريه نفس القضيه الي الابد."
قالت اداره فيسبوك انها حذفت او وضعت تحذيرات علي حوالي 29 مليون مشاركه في الموقع خرقت القواعد المتعلقه بحظر ترويج خطاب الكراهيه او العنف المصور والارهاب والجنس، خلال الاشهر الثلاثه الاولي من العام الجاري.