سؤالان سعت الي الاجابه عليهما حلقه البث الرقمي لهذا الاسبوع، من برنامج Tech Tent علي خدمه بي بي سي العالميه. "ما هي اعراض مرض الشلل الرعاش؟" اذا كنت من المستخدمين الذين يعيشون في المملكه المتحده، الذين يطرحون هذا السؤال علي الاجهزه الصوتيه التفاعليه، التي تنتجها شركه امازون، فربما تاتيك الاجابه الان من هيئه الخدمات الصحيه الوطنيه، وذلك بفضل شراكه جديده بين العملاق التكنولوجي والهيئه الصحيه. في الواقع، فان بحثا بسيطا علي شبكه الانترنت يعطي الاولويه للمعلومات المفيده والدقيقه. قد لا يبدو الامر مثيرا للجدل، لكن الكثير من الناس اثار علي الفور مخاوف، من عمل هيئه الخدمات الصحيه الوطنيه مع عملاق تكنولوجي مثل امازون. تقول سيلكي كارلو من منظمه "بيغ براذار ووتش": "ما يقلقني هو ان هيئه الخدمات الصحيه الوطنيه سعت الي شراكه مع امازون، ما يبدو تشجيعا منها للناس علي اعطاء معلومات صحيه خاصه، لشركه تستفيد من بيانات الاشخاص". وتؤكد شركه امازون انها لن تتيح البيانات الصحيه لاطراف ثالثه، او تستخدم اي اسئله صحيه يتم طرحها لاستهداف العملاء باعلانات. لكن سيلكي غير مقتنعه. وتتساءل: "كيف سيكون بمقدورهم التمييز، بين الاشخاص الذين يبحثون عن الكتب والموسيقي، والاشخاص الذين يبحثون عن معلومات حول مشاكلهم الصحيه؟" وتقول: "اذا كان هذا يعني ان امازون تنوي انشاء قاعده بيانات منفصله حول مشاكل الناس الصحيه، فهذا اكثر مدعاه للقلق". جوده عاليه لكن وليام تونستول بيدوي - الذي طورت شركته البرمجيات التي اصبحت فيما بعد Amazon Alexa، وهي انظمه مساعد شخصي افتراضي يقوم علي الذكاء الاصطناعي - يتبني وجهه نظر مختلفه. لم يعد وليام مرتبطا بامازون، لكنه يقول ان الناس يسالون الاسئله الصحيه لـ Alexa منذ سنوات، ويحصلون علي اجابات جيده. ويضيف: "هذه الشراكه تعني ان المعلومات ستكون عاليه الجوده، يقودها طبيب من هيئه الخدمات الصحيه، الامر الذي ربما لم يكن متاحا في السابق". ويقول وليام انه من المشروع ان تثار مخاوف بشان كيفيه استخدام البيانات الصحيه، لكن المخاوف نفسها تنطبق علي كل محرك بحث نستخدمه لطرح اسئله مشابهه. ومع تحقيق الذكاء الاصطناعي والانظمه ذاتيه التشغيل تقدما سريعا، تبرز مشكلتان اخريان. في بعض الاحيان، لا يعلم العلماء او المختصون، الذين يشغلون اجهزه الذكاء الاصطناعي، تماما ما يحدث داخل انظمه الصندوق الاسود. وفي بعض الاحيان، لا يدرك مستخدمو التكنولوجيا ان الالات تتخذ القرارات دون تدخل بشري. ويطلق الباحثون في مركز "ضمان التشغيل الذاتي"، التابع لجامعه يورك البريطانيه، علي هذه الظاهره اسم "التشغيل الذاتي العرضي". ويعطي البروفيسور جون مكديرميد، مدير المركز، مثالا علي ذلك بالبرنامج الذي القي عليه اللوم، في حادثي تحطم طائرتين من طراز بوينغ 737 ماكس. ويقول: "لتجنب الاضطرار الي اعاده تدريب الطيارين، قررت شركه بوينغ الا تخبرهم عن نظام التشغيل، ظنا منها انه سيعمل تلقائيا في الخلفيه. في جوهر الامر، لم يكونوا بحاجه الي معرفته". ويقول انه مع البرامج المهمه، من الضروري ان يفهم المشغلون - الطيارون في هذه الحاله - ما يحدث وان يكون بمقدورهم استعاده السيطره علي نظام التشغيل الذاتي حال الضروره. وتقول زميلته، الدكتوره انا ماكينتوش، ان هناك مشكله اوسع في فهم ما يجري داخل جميع انواع انظمه الذكاء الاصطناعي المعقده. وتضيف: "ان القدره علي تفسير القرارات، التي تتخذها تلك الانظمه، تختلف كثيرا عن اجراء محادثه مع انسان، ربما كان قد اتخذ تلك القرارات في السابق". وتابعت: "لا نفهم في كثير من الحالات كيف تتخذ تلك القرارات." وتلعب الاجهزه الذكيه دورا متزايدا في كل شيء، بدءا من الرعايه الصحيه الي السلامه الجويه، لكنها تجلب معها معضلات اخلاقيه جديده.
هل يصح ان تطرح اسئله حساسه حول صحتك، علي جهاز صوتي تفاعلي؟ وهل من المهم ان يفهم من يشغلون اجهزه الذكاء الاصطناعي كيفيه عملها؟