هذا سيناريو خيالي، لكنه يسلط الضوء علي عيوب حقيقيه في انظمه الذكاء الاصطناعي بشكلها الحالي. وقد شهدت السنوات القليله الماضيه امثله كثيره لاخطاء وقعت فيها الاله، حيث رات وسمعت خلافا للواقع. مع حدوث "تشويش" يعرقل انظمه التعرف لديها، تصاب الاله بحاله من "الهذيان". وفي السيناريو الاسوا، يمكن ان تبلغ خطوره "الهذيان" حد المثل السابق، كان لا تعي اشاره التوقف رغم كونها باديه للعيان. هذه الظاهره الغريبه تحدث بسبب ما يطلق عليه العاملون بمجال الذكاء الاصطناعي "النماذج المعاكسه" او علي نحو اكثر بساطه "الاحداث الغريبه". ويقول انيش اتالي، خبير الكمبيوتر بمعهد ماساتشوستس للتكنولوجيا في كامبريدج، ان "الامر يحدث بسبب مدخلات من المفترض ان تستقبلها الشبكه بطريقه معينه، غير ان امرا غير متوقع يطرا علي اليه التعرف". بعض الملصقات الصغيره علي اشاره التوقف تلك كفيله بالتشويش علي نظام التعرف البصري للكمبيوتر رغم ان العين البشريه لا تخطئها هلاوس بصريه وحتي الان، تركزت جهود الخبراء علي انظمه التعرف البصري. وقد اظهر اتالي امكانيه التلاعب بصوره قطه مثلا، وهو ما لا تخطئه العين البشريه، بحيث تراها الاله نوعا من الخضروات عبر ما يعرف بالشبكات العصبيه الصناعيه، والتي تعتمد علي اسلوب تعلم الي عبر انظمه حسابيه تمثل عصب الذكاء الاصطناعي الحالي. وتستخدم انظمه التعرف البصري تلك في الهواتف الذكيه للتعرف علي صور الاصدقاء تلقائيا وتحديد عناصر في الصوره. وفي الاونه الاخيره، حول اتالي وزملاؤه انتباههم الي الاجسام، حيث تمكن الفريق، عبر تغيير ملمس ولون بعضها، من خداع الذكاء الاصطناعي فراها بشكل مغاير لحقيقتها تماما. ومن الامثله علي هذا رؤيه كره بيسبول علي انها قدح من القهوه، او مجسم سلحفاه باعتباره بندقيه. وتوصل الفريق الي 200 مثال لمجسمات اخطا الكمبيوتر في التعرف عليها، وهو ما يثير قلقا حقيقيا مع دخول تطبيقات اليه الي بيوتنا وتسيير طائرات ذاتيه القياده في سمائنا ومركبات ذاتيه القياده في شوارعنا. يقول اتالي ان الامر اكتشف في البدايه بدافع الفضول وحب الاستطلاع، لكن سرعان ما اثير القلق بشان امن وسلامه تلك الانظمه علي البشر، ومنها علي سبيل المثال السيارات ذاتيه القياده التي دخلت الان حيز التجارب الميدانيه، معتمده علي شبكات معقده للتعلم لمساعدتها علي التعرف علي محيطها والسير علي الطرق. لكن باحثين تمكنوا العام الماضي من عرض حالات اخطات فيها "شبكات عصبيه صناعيه" للذكاء الاصطناعي في قراءه علامات التوقف باعتبارها علامات للحد الاقصي للسرعه، وذلك بمجرد وضع ملصقات صغيره علي العلامه. قد يخطئ الذكاء الاصطناعي فيري سلحفاه مثلا علي انها بندقيه، وهو ما قد يحمل تبعات خطيره حال تطبيقه في الواقع هلاوس سمعيه وهناك اشكال اخري للتعلم الالي، بخلاف التعرف البصري، معرضه ايضا لظواهر غريبه. يقول نيكولاس كارليني، الخبير باداره فريق "غوغل براين" القائم علي تطوير الالات الذكيه، انه "في كافه المجالات، بدءا من تصنيف الصور مرورا بالتعرف التلقائي علي الكلام ووصولا الي الترجمه، يمكن التشويش علي الشبكات العصبيه الصناعيه لتخطئ في تصنيف المدخلات"، ويشير الي ان اضافه بعض المدخلات الصوتيه في الخلفيه قد تؤدي الي ان تقرا الاله عبارات صوتيه بشكل خاطئ. وبالنسبه لكارليني، فان تلك "النماذج المعاكسه" تثبت قطعا ان التعلم الالي "لم يصل لمستوي القدره البشريه حتي في ابسط المهام". فهم اعمق وتحاكي الشبكات العصبيه الصناعيه بشكل ما الطريقه التي يتعامل بها المخ البشري مع المعلومات البصريه، واسلوب تعلمه منها. فمثلا يدرك الطفل الصغير ما هي "القطه" بالتعرف مرارا علي هذا الكائن، حتي يبدا في ملاحظه انماط معينه فيدرك ان جسما له اربعه ارجل وفراء ناعم واذنان مدببتان وعينان مسحوبتان وذيل طويل مشعر هو "قطه". ويحدث ذلك من خلال متتاليات من الخلايا العصبيه بالجزء البصري من القشره الدماغيه للطفل تطلق نبضاتها العصبيه ازاء تفاصيل بصريه من خطوط افقيه وراسيه، وهو ما يمكن الطفل من تكوين "صوره" عصبيه للعالم والتعلم منها. ويحدث الامر نفسه في حاله الشبكات العصبيه الصناعيه المستخدمه في التعلم الالي، اذ تمر البيانات تباعا عبر خلايا صناعيه حتي تبدا الشبكه - بعد التدرب علي مئات بل الاف الامثله للشيء ذاته - في رصد انماط تمكنها من توقع ما تراه. وتعتمد الانظمه الاكثر تعقيدا من تلك الاليه، او ما يعرف بالتعلم العميق، علي تمرير البيانات بمتتاليات اكثر. بادخال تغيير بسيط علي الملمس خدع باحثون الاله بجعلها تري مجسما لكره بيسبول علي انها قدح من القهوه ورغم معرفه خبراء الكمبيوتر بكيفيه عمل الشبكات الصناعيه، فانهم لا يعرفون بالضروره ادق تفاصيل معالجه تلك الشبكات للبيانات. ويقول اتالي "لا نفهم حاليا تلك الشبكات بما يكفي لتفسير الظواهر المعاكسه ولا كيفيه علاجها". ويقول الكسندر مادري، احد خبراء الكمبيوتر بمعهد ماساتشوستس للتكنولوجيا، ان "اطر التعلم الالي لدينا تهدف بالاساس للوصول الي 'متوسط' اداء جيد". وللتغلب علي تلك المشكله، قد يلزم تدريب الشبكات الصناعيه علي نماذج اصعب للهدف حتي تصبح اكثر قدره علي التعرف علي الشاذ منها. ورغم ذلك، يظل بالامكان تغيير مظهر صوره او مجسم ما للتشويش علي الاله. ولكي تصل اليه تصنيف الصور للنجاح المطلوب، يجب ان تصل لمستوي الادراك البشري لاوجه التشابه، فتدرك ان رسما بسيطا يرسمه طفل لقطه، وصوره ملتقطه لقطه، وقطه حقيقيه؛ هي جميعا تعبر عن الشيء نفسه. ورغم التطور الضخم الذي حققته الشبكات الاليه للتعلم العميق، فانها لا ترقي لقدره المخ البشري من حيث تصنيف الامور وادراك البيئه المحيطه والتعامل مع الامور غير المتوقعه. ولتطوير الات ذكيه تكلف بمهام ناجحه في الواقع، يلزم العوده مجددا للمخ البشري لتحقيق فهم افضل لكيفيه عمله. ادراك العلاقات ورغم ان الشبكات العصبيه الصناعيه تستوحي عملها من القشره الدماغيه للانسان، مازال هناك فارق ضخم بين الاثنين، اذ ان المخ البشري لا يتعرف فحسب علي الملامح البصريه كالاطر والمجسمات، بل يقوم ايضا بتشفير للعلاقات التي تربط تلك الملامح بعضها ببعض، فيدرك ان اطارا ما هو جزء من شيء اكبر، وهو ما يجعلنا ندرك مغزي ما نراه. ويقول سايمون سترينغر، الذي يعمل بمؤسسه اوكسفورد لعلم الاعصاب النظري والذكاء الاصطناعي، اننا حين ننظر الي قطه نري كافه الملامح التي تتكون منها القطه والعلاقات التي تربطها. وهذا الترابط بين المعلومات هو ما يجعلنا ندرك العالم من حولنا، لكن تلك الخاصيه الاساسيه غير موجوده في الجيل الحالي من شبكات الذكاء الاصطناعي. ندرك بسهوله ان ما نسمعه موسيقي، لكن يمكن التلاعب في المدخلات فتفسر الاله الموسيقي علي انها حديث كلامي وقد اغفل القائمون علي تصميم اطر الذكاء الاصطناعي خصائص عده للخلايا العصبيه البيولوجيه رغبه منهم في التبسيط. وقد بدات عيوب ذلك تتضح. وتتواصل الخلايا العصبيه للانسان فيما بينها عبر تاخير نقل النبضات، وتتنوع من حيث معدل نقلها للمعلومات بين سريع وبطيء. وكثير من الخلايا العصبيه يطلق نبضاته اعتمادا علي توقيت ما يتلقاه بدوره من نبضات. ويقول جيفري باورز، عالم الاعصاب بجامعه بريستول والباحث في اوجه النشاط المخي التي تفتقر اليها الشبكات العصبيه الصناعيه حاليا، ان "الشبكات الصناعيه تعتمد علي توحيد خلاياها، لكن خلايا المخ تتعدد في اشكالها، وهو ما يدفعني للاعتقاد بانه لابد ان لذلك صله وظيفيه وثيقه". ومن الاختلافات الاخري انه بينما تعتمد الشبكات العصبيه الصناعيه علي انتقال الاشارات عبر متواليات في اتجاه واحد، فان الخلايا العصبيه بالقشره المخيه تنقل الاشارات من اعلي الي اسفل كما تنقلها بالاتجاه الاخر، اي من اسفل الي اعلي، حسبما يقول سترينغر الذي يعمل في مختبره علي تطوير محاكاه بالكمبيوتر للمخ البشري من اجل الوصول الي فهم افضل لكيفيه عمله. ويتعاون الفريق العلمي لسترينغر مع مختبر لعلوم الدفاع والتقنيات بانجلترا لتطوير الجيل القادم من الشبكات العصبيه الصناعيه التي يمكن تطبيقها عسكريا، كرصد الدبابات المعاديه بكاميرات ذكيه تثبت بمسيرات ذاتيه. ويهدف سترينغر للوصول بذكاء الاله الي ذكاء فئران التجارب في غضون عشرين عاما، ويقول ان الوصول الي الذكاء البشري قد يستغرق وقتا اطول من ذلك بكثير. ومن جهته، يقول مادري "لقد اتضح ان المخ البشري يختلف كثيرا عن طريقه عمل نماذج التعلم الالي العميق الحاليه"، وان الارتقاء لمستوي المخ البشري سيتطلب امدا غير معروف. وحتي ذاك الوقت، علينا الا نولي ثقه عمياء للذكاء الاصطناعي والسيارات ذاتيه القياده التي ستصبح اكثر انتشارا في المستقبل - فالاله ايضا معرضه للاصابه ب"الهذيان". يمكنك قراءه الموضوع الاصلي علي موقع BBC Future ----------------------------------------------------- يمكنكم استلام اشعارات باهم الموضوعات بعد تحميل احدث نسخه من تطبيق بي بي سي عربي علي هاتفكم المحمول.
قد يلحظ الراكب اشاره التوقف ويصاب بالهلع عندما تسرع السياره التي يجلس بداخلها بدلا من التوقف. يفتح الراكب فمه ليصرخ في السائق ويطالبه بالتوقف فورا. حينها، وهو يري قطارا مسرعا يقترب منه، يتذكر انه لا يوجد سائق علي الاطلاق. وبسرعه 125 ميلا في الساعه، يدهس القطار السياره ذاتيه القياده وياتي عليها وعلي من فيها.