علماء يشعرون بالقلق ازاء مستقبل الذكاء الاصطناعي تخيل انك في عام 2022، وانت تركب سيارتك ذاتيه القياده في احدي الرحلات المعتاده عبر المدينه، ثم اقتربت السياره من لافته التوقف التي مرت بها السياره مئات المرات من قبل، ولكن هذه المره، لم تتوقف، بل انطلقت مسرعه. ربما لا تلاحظ اي تغيير في اللافته، ولكن السياره تراها مختلفه تماما عن لافتات التوقف الاخري. فمنذ دقائق، وضع احد المحتالين خلسه ملصقا صغيرا علي اللافته، لا يمكن ان يلاحظه البشر، ولكن التكنولوجيا لا يمكن ان تتجاهله. ما حدث في هذه الحاله هو ان هذا الملصق الصغير جعل اللافته تبدو واضحه للسياره وكانها شيء مختلف تماما عن لافته التوقف. ربما قد تجد هذا الامر بعيد الاحتمال، ولكن الكثير من الابحاث اثبتت ان الذكاء الاصطناعي يسهل خداعه بنفس الطريقه، بحيث يري الاشياء بصوره تختلف كليا عن تلك التي يراها بها البشر. وفي ظل هيمنه الخوارزميات، التي يمكن للالات التعلم منها، علي طرقنا واداره اموالنا وانظمه الرعايه الصحيه، يامل علماء الكمبيوتر ان يتوصلوا الي وسائل تمكنهم من حمايه الخوارزميات من الهجمات المتوقعه من هذا النوع، قبل ان يحاول شخص ما خداعها بالفعل. يقول دانييل لود، الاستاذ المساعد بقسم علوم الكمبيوتر والمعلومات بجامعه اوريغون: "يشعر العاملون في مجال التعلم الالي والذكاء الاصطناعي بالقلق حيال عمليات الاحتيال بسبب زياده الاعتماد علي هذه الخوارزميات". ويضيف لوود: "يمكن ان تصل الي بريدك الالكتروني الرسائل المزعجه غير المرغوب فيها او تتعرض بعض رسائل بريدك للحجب، لكن هذا ليس نهايه العالم. واذا كنت تعتمد كليا علي نظام الرؤيه في السيارات ذاتيه القياده لمعرفه المكان الذي تتجه اليه وتفادي الاصطدام باي شيء، فان المخاطر ستكون اعلي." ويرجع السبب في تعطل الاله الذكيه او تعرضها للقرصنه، الي الطريقه المختلفه التي تري بها خوارزميات التعلم الالي العالم من حولها. ومن هنا قد تري الاله حيوان الباندا في صوره قرد الغيبون، او تبدو لها الحافله المدرسيه في صوره نعامه. وقد ابرز باحثون من فرنسا وسويسرا في احدي التجارب كيف ادي هذا التشويش في الرؤيه الي عجز الكمبيوتر عن التمييز بين السنجاب والثعلب او كوب القهوه وحيوان المكاو. ولكن كيف يحدث هذا الالتباس؟ فكر في الطريقه التي يتعلم بها الطفل الارقام، فالطفل يجب ان ينظر الي كل رقم علي حده، حتي يتعرف علي خصائصه المحدده،. وعندما يري الطفل المزيد من الامثله، يتعرف سريعا علي ارقام جديده، مهما اختلف الخط. وبهذه الطريقه ايضا تتعلم خوارزميات التعلم الالي كيفيه تمييز الاشياء الموجوده في العالم، اذ يغذي العلماء احد اجهزه الكمبيوتر بالاف الامثله عن اي شيء يريد العلماء ان يرصده الكمبيوتر، وكل مثال منها يحمل علامه مميزه في المعتاد. وبعد ان تفحص الاله البيانات وتفرز الارقام، فانها تتعرف علي السمات التي تساعدها في الاجابه، وسرعان ما تتمكن من تمييز الرقم بمجرد النظر اليه بدقه عاليه. تغلغل الذكاء الاصطناعي في كل جوانب حياتنا اليوميه ولم يعد بامكاننا الاستغناء عنه، بدايه من السيارات ذاتيه القياده ووصولا الي الاجهزه المنزليه التي تعمل ذاتيا ويمكن القول ان الاطفال واجهزه الكمبيوتر يتعلمان بنفس الطريقه كيفيه التعرف علي طائفه كبيره من الاشياء، بدءا من الارقام والقطط والقوارب، ووصولا الي الوجوه البشريه. ولكن علي عكس الطفل، لا ينتبه الكمبيوتر الي التفاصيل عاليه الدقه، مثل اذن القطه او شكل الزاويه المميز للرقم اربعه، لانه لا ينظر الي الصوره ككل. لكن الكمبيوتر ينظر الي كل بيكسل من الصوره علي حده ويحاول ان يجد اسرع طريقه لتمييز كل بيكسل عن الاخر. ولهذا، عند ادخال تغييرات دقيقه جدا كما حدث في لافته التوقف، ينخدع الكمبيوتر ويخيل اليه ان لافته التوقف هي شيء مختلف تماما. واجريت ابحاث مشابهه في "مختبر الذكاء الاضطناعي المتطور" بجامعه وايومنغ وجامعه كورنيل، عرض فيها الباحثون عددا كبيرا من وسائل الخداع البصري علي الذكاء الاصطناعي. وعلي الرغم من ان البشر لم يتكمنوا من تمييز هذه الصور ذات التاثيرات البصريه ذات الالوان والاشكال المبهمه، فان الكمبيوتر استطاع ان يميزها بسرعه ولكنها بدت له في صوره بنادق او ثعابين. وهذا يدل علي ان الذكاء الاصطناعي قد ينظر الي الشيء ثم يجيب اجابه لا تمت بصله لحقيقتها. ويقول يفجيني فوروبيتشيك، الاستاذ المساعد بقسم هندسه وعلوم الكمبيوتر بجامعه فاندربيلت: "علينا ان نتوقع ان كل خوارزم له نقطه ضعف تجعله عرضه للوقوع في الخطا. فنحن نعيش في عالم معقد متعدد الابعاد، ولا تركز الخوارزميات، بسبب طبيعتها، الا علي جزء صغير نسبيا منه". ويؤكد فويوبيكيك انه في حاله وجود نقاط ضعف في الخوارزميات، سيحاول البعض استغلالها، وربما تكون قد استغلت بالفعل. وهذا يذكرنا بمرشحات الرسائل الالكترونيه المزعجه غير المرغوبه، وهي البرامج التي تستبعد اي رسائل تبدو مشبوهه، وقد يحاول مرسلو هذا النوع من الرسائل تجاوز المرشحات من خلال تغيير بعض الحروف في الكلمات التي تتكرر في الرسائل المشبوهه او باضافه مجموعه من الكلمات التي ترد عاده في الرسائل العاديه مثل كلمات "يسعدني" او "انا"، او "بالطبع"، او التغطيه علي الكلمات التي تظهر عاده في الرسائل الشاذه، مثل "لقد فزت بكذا" او "جهاز محمول" او "يمكنك المطالبه بكذا". وبخلاف الاحتيال بوضع ملصق علي لافته التوقف، وهو تصور طرحه خبراء في هذا المجال، فانه من الممكن للمهاجمين تسريب بيانات اباحيه من دون ان تكتشفها المرشحات التي تمنع دخول المعلومات غير الامنه، او يحاول اخرون زياده الارقام علي احد الشيكات المصرفيه، او ربما يحاول قراصنه ادخال تغييرات طفيفه علي شفره البرمجيات الخبيثه لتخترق وسائل حمايه المعلومات الرقميه. وقد يتمكن المهاجمون من اختلاق بيانات معاديه تمكنهم من خداع خوارزم التعلم الالي، اذا استطاع ان يحصل علي نسخه من هذه الخوارزميات. لكن هذا قد يحدث من دون اللجوء لهذه الطريقه، فقد يعزز المخترقون من هجومهم عبر محاولات عديده، فيرسل صيغا مختلفه من الرساله الالكترونيه او الصوره او غير ذلك، حتي تنجح احدي هذه الصيغ في خداع الخوارزميات. ومع مرور الوقت، قد يستخدم هذا الامر في ابتكار نموذج جديد من الخوارزميات يعرف جيده نوعيه البيانات التي يبحث عنها اصحاب النوايا الحسنه، وكيفيه انتاج بيانات تمكنه من خداعها. السيارات ذاتيه القياده واجهزه الروبوت التي تجري العلميات الجراحيه تحيط بها الكثير من المخاطر، فاي خطا طفيف ترتكبه الالات الحديثه سيسبب الكثير من المشاكل ويقول باتريك ماكدانييل، استاذ هندسه وعلوم الكمبيوتر بجامعه بنسلفانيا: "يحاول الناس التحايل علي انظمه التعلم الالي منذ نشاتها. واذا انتشر استخدام هذه الاساليب، فاننا قد لا نستطيع اكتشافها". بالاضافه الي المحتالين الذين يتحينون الفرص لخداع المستخدم، قد يحاول البعض الكشف عن البيانات السريه للمستخدم او انتحال شخصيه اخري للافلات من رقابه الوسائل التكنولوجيه الحديثه الصارمه. ويقول لود: "اذا كنت معارضا سياسيا تعيش في دوله يحكمها نظام قمعي، واردت ان تزاول انشطتك السياسيه من دون ان تستهدف، فان القدره علي تفادي تقنيات الرقابه الاليه القائمه علي خوارزميات التعلم الالي قد يكون وسيله ايجابيه." وفي مشروع نشر في اكتوبر/تشرين الاول صمم الباحثون في جامعه "كارنيغي ميلون" اطار نظاره خصيصا لخداع نظام التعرف علي الوجوه، وبالاستعانه بهذا الاطار، لم يتمكن الكمبيوتر من تمييز وجه الممثله ريث ويذرسبون عن وجه الممثل راسيل كرو. ولكن هذه التقنيه ربما تفيد من يحاول بشتي الطرق ان يتفادي رقابه السلطه الحاكمه. ويقول لود: "السبيل الوحيد لتفادي خداع الخوارزميات هو بناء نموذج مثالي لا يخطا ابدا". المشكله اننا حتي لو توصلنا الي ذكاء اصطناعي يفوق الانسان مهاره وذكاء، فسنواجه المزيد من الحالات الملتبسه التي لم يكشف احد غموضها بعد. وتمتاز خوارزميات التعلم الالي بدقتها المتناهيه، فقد استطاع احد البرامج ان يتعرف علي 99 في المئه من المقاعد المختلفه، وهذا افضل بالطبع من برنامج اخر يتعرف علي الاشياء بدقه ست مرات من بين عشره مرات. لكن بعض الخبراء يرون انه يجب قياس قدره الخوارزم علي التصدي للهجوم، وكلما زادت قدرته علي المقاومه، اعتبر افضل من غيره. وثمه حل اخر وهو ان يختبر المتخصصون البرامج بانفسهم، وذلك من خلال محاكاه هجمات افتراضيه في المختبر استنادا الي توقعاتهم لسلوك المحتال، ثم عرضها علي خوارزم التعلم الالي، وهذا قد يساعدهم الخوارزم علي اكتساب قدره اكبر علي الصمود امام الهجمات في المستقبل، ولكن شريطه ان تتطابق الهجمات التي اجريت في المعمل مع نوعيه الهجمات التي يتعرض لها في الحقيقه. ويقترح ماكدانييل ان يكون البشر جزءا من الحلول دائما، كلما كان ذلك ممكنا، ليتحققوا من صحه تخمينات الخوارزميات. ويجري الاستعانه بفريق بشري في بعض اجهزه المساعده الذكيه، مثل المساعد الافتراضي "ام" الذي اطلقته شركه فيسبوك، حيث يراجع افراد الفريق اجابات المساعد "ام" ويعدلونها اذا لزم الامر. ويحبذ البعض وجود البشر في التطبيقات الحساسه لخوارزميات التعلم الالي. ويضيف ماكدانييل: "تعد انظمه التعلم الالي وسيله للاستدلال بناء علي التجارب السابقه، ولكن علينا ان نتعامل بفطنه وعقلانيه مع المعلومات التي ندخلها الي هذه الانظمه والمعلومات والتنبؤات التي تخرجها لنا. فلا يجب ان نعتبرها من المسلمات التي لا تقبل الجدل". يمكنك قراءه الموضوع الاصلي علي موقعBBC Future.
لا يزال امام الالات شوط طويل لترقي الي مستوي البشر في التعلم من الخبرات السابقه، وهذا الامر يمثل مخاطر محتمله لا تقتصر علي الخصوصيه والامن فحسب، بل تتعداهما الي امور اخري.