Machine ethics
মেশিন এথিক্স (বা মেশিন নৈতিকতা, গণনামূলক নৈতিকতা, বা গণনামূলক নৈতিকতা) কৃত্রিম বুদ্ধিমত্তার নৈতিকতার একটি অংশ যা কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে এমন মানবসৃষ্ট যন্ত্রগুলির নৈতিক আচরণ যুক্ত বা নিশ্চিত করার সাথে সম্পর্কিত, অন্যথায় কৃত্রিম বুদ্ধিমান এজেন্ট হিসাবে পরিচিত। যন্ত্র নীতিশাস্ত্র প্রকৌশল ও প্রযুক্তি সম্পর্কিত অন্যান্য নৈতিক ক্ষেত্রগুলির থেকে আলাদা। মেশিন নীতিশাস্ত্রকে কম্পিউটার নীতিশাস্ত্রের সাথে বিভ্রান্ত করা উচিত নয়, যা মানুষের কম্পিউটার ব্যবহারের উপর দৃষ্টি নিবদ্ধ করে। এটিকে প্রযুক্তির দর্শন থেকে আলাদা করা উচিত, যা প্রযুক্তির বৃহত্তর সামাজিক প্রভাবের সঙ্গে সম্পর্কিত। একবিংশ শতাব্দীর আগে যন্ত্রের নৈতিকতা মূলত বিজ্ঞান কল্পকাহিনী সাহিত্যের বিষয় ছিল, মূলত কম্পিউটিং এবং কৃত্রিম বুদ্ধিমত্তার (এআই) সীমাবদ্ধতার কারণে। যদিও "মেশিন এথিক্স"-এর সংজ্ঞাটি তখন থেকে বিকশিত হয়েছে, মিচেল ওয়ালড্রপ 1987 সালে এআই ম্যাগাজিনের নিবন্ধ "এ কোয়েশ্চেন অফ রেসপনসিবিলিটি"-তে এই শব্দটি তৈরি করেছিলেনঃ "তবে, উপরের আলোচনা থেকে একটি বিষয় স্পষ্ট যে বুদ্ধিমান মেশিনগুলি মূল্যবোধ, অনুমান এবং উদ্দেশ্যগুলিকে মূর্ত করে তুলবে, তাদের প্রোগ্রামাররা সচেতনভাবে তাদের উদ্দেশ্য করে বা না করে। সুতরাং, কম্পিউটার এবং রোবটগুলি যত বেশি বুদ্ধিমান হয়ে উঠছে, ততই এই অন্তর্নির্মিত মানগুলি কী সে সম্পর্কে আমাদের যত্ন সহকারে এবং স্পষ্টভাবে চিন্তা করা আবশ্যক হয়ে উঠেছে। সম্ভবত আমাদের যা প্রয়োজন তা হল, আসলে, আসিমভের রোবোটিক্সের তিনটি আইনের চেতনায় মেশিন নীতিশাস্ত্রের একটি তত্ত্ব এবং অনুশীলন। 2004 সালে, এজেন্ট অর্গানাইজেশনসঃ থিওরি অ্যান্ড প্র্যাকটিস সম্পর্কিত এএএআই কর্মশালায় মেশিন নীতিশাস্ত্রের দিকে উপস্থাপন করা হয়েছিল যেখানে মেশিন নীতিশাস্ত্রের তাত্ত্বিক ভিত্তি স্থাপন করা হয়েছিল। এটি ছিল মেশিন এথিক্সের উপর এ. এ. এ. আই ফল 2005 সিম্পোজিয়ামে যেখানে গবেষকরা স্বায়ত্তশাসিত ব্যবস্থায় একটি নৈতিক মাত্রা বাস্তবায়নের বিষয়ে বিবেচনা করার জন্য প্রথমবার মিলিত হন। এই নতুন ক্ষেত্রের বিভিন্ন দৃষ্টিভঙ্গি সংগৃহীত সংস্করণ "মেশিন এথিক্স"-এ পাওয়া যায় যা মেশিন এথিক্সের উপর এএএআই ফল 2005 সিম্পোজিয়াম থেকে উদ্ভূত। 2007 সালে, এআই ম্যাগাজিনে মেশিন এথিক্সঃ ক্রিয়েটিং অ্যান এথিকাল ইন্টেলিজেন্ট এজেন্ট, একটি নিবন্ধ যা মেশিন নীতিশাস্ত্রের গুরুত্ব, নৈতিক নীতিগুলিকে স্পষ্টভাবে প্রতিনিধিত্ব করে এমন মেশিনের প্রয়োজনীয়তা এবং মেশিন নীতিশাস্ত্রের উপর কাজ করা ব্যক্তিদের মুখোমুখি হওয়া চ্যালেঞ্জগুলি নিয়ে আলোচনা করেছে। এটি আরও দেখিয়েছে যে, অন্তত একটি সীমিত ক্ষেত্রে, একটি যন্ত্রের পক্ষে নৈতিক বিচারের উদাহরণ থেকে একটি নৈতিক নীতি বিমূর্ত করা এবং সেই নীতিটি তার নিজস্ব আচরণকে গাইড করার জন্য ব্যবহার করা সম্ভব। 2009 সালে, অক্সফোর্ড ইউনিভার্সিটি প্রেস মোরাল মেশিনস, টিচিং রোবটস রাইট ফ্রম রংস প্রকাশ করে, যা "কৃত্রিম নৈতিক এজেন্ট তৈরির চ্যালেঞ্জ পরীক্ষা করার জন্য প্রথম বই, মানুষের সিদ্ধান্ত গ্রহণ এবং নৈতিকতার প্রকৃতি গভীরভাবে তদন্ত করে" হিসাবে বিজ্ঞাপন দেয়। এটি প্রায় 450টি উৎস উদ্ধৃত করেছে, যার মধ্যে প্রায় 100টি যান্ত্রিক নৈতিকতার প্রধান প্রশ্নগুলিকে সম্বোধন করেছে। 2011 সালে, কেমব্রিজ ইউনিভার্সিটি প্রেস মাইকেল এবং সুসান লেই অ্যান্ডারসন দ্বারা সম্পাদিত মেশিন নীতিশাস্ত্র সম্পর্কে প্রবন্ধের একটি সংগ্রহ প্রকাশ করে, যিনি 2006 সালে এই বিষয়ে আই. ই. ই. ই ইন্টেলিজেন্ট সিস্টেমের একটি বিশেষ সংখ্যাও সম্পাদনা করেছিলেন। এই সংগ্রহে মেশিনে নৈতিক নীতি যুক্ত করার চ্যালেঞ্জ রয়েছে। 2014 সালে, ইউএস অফিস অফ নেভাল রিসার্চ ঘোষণা করে যে এটি স্বায়ত্তশাসিত রোবটগুলির ক্ষেত্রে প্রয়োগ করা মেশিন নীতিশাস্ত্রের প্রশ্নগুলি অধ্যয়নের জন্য বিশ্ববিদ্যালয়ের গবেষকদের পাঁচ বছরের মধ্যে 7.5 মিলিয়ন ডলার অনুদান বিতরণ করবে, এবং নিক বস্ট্রোমের সুপার ইন্টেলিজেন্সঃ পাথস, ডেঞ্জার্স, স্ট্র্যাটেজিস, যা মেশিন নীতিশাস্ত্রকে "মানবতার সবচেয়ে বেশি সম্মুখীন হয়েছে" হিসাবে উত্থাপন করেছে, নিউইয়র্ক টাইমসের সর্বাধিক বিক্রিত বিজ্ঞান বইয়ের তালিকায় পৌঁছেছে। 2016 সালে ইউরোপীয় সংসদ একটি গবেষণাপত্র প্রকাশ করে, (22 পৃষ্ঠার পিডিএফ), যাতে কমিশনকে রোবটের আইনি মর্যাদার বিষয়টি নিয়ে আলোচনা করতে উৎসাহিত করা হয়, যা সংবাদমাধ্যমে আরও সংক্ষেপে বর্ণনা করা হয়েছে। এই গবেষণাপত্রে রোবটের আইনি দায়বদ্ধতা সম্পর্কিত বিভাগগুলি অন্তর্ভুক্ত ছিল, যেখানে দায়বদ্ধতাগুলি রোবটের স্বায়ত্তশাসনের স্তরের আনুপাতিক বলে যুক্তি দেওয়া হয়েছিল। গবেষণাপত্রটি এআই রোবট দ্বারা প্রতিস্থাপিত হতে পারে এমন চাকরির সংখ্যা নিয়েও প্রশ্ন তুলেছে। 2019 সালে প্রোসিডিংস অফ দ্য আই. ই. ই. ই মেশিন এথিক্সঃ দ্য ডিজাইন অ্যান্ড গভর্নেন্স অফ এথিকাল এ. আই অ্যান্ড অটোনোমাস সিস্টেমস-এর উপর একটি বিশেষ সংখ্যা প্রকাশ করে, যা সম্পাদনা করেন অ্যালান উইনফিল্ড, ক্যাটিনা মাইকেল, জেরেমি পিট এবং ভেনেসা এভার্স। "ইস্যুতে অন্তর্নিহিত নৈতিক এজেন্টদের বর্ণনা করা কাগজপত্র অন্তর্ভুক্ত রয়েছে, যেখানে মেশিনগুলি অনৈতিক ফলাফল এড়ানোর জন্য ডিজাইন করা হয়েছে, সেইসাথে স্পষ্ট নৈতিক এজেন্ট, বা মেশিন যা হয় এনকোড করে বা নৈতিকতা শেখে এবং সেই নৈতিকতার উপর ভিত্তি করে কর্ম নির্ধারণ করে।" সংজ্ঞা জেমস এইচ. মুর, কম্পিউটার নীতিশাস্ত্রের ক্ষেত্রে অগ্রণী তাত্ত্বিকদের মধ্যে একজন, চার ধরনের নৈতিক রোবটকে সংজ্ঞায়িত করেছেন। কৃত্রিম বুদ্ধিমত্তার দর্শন, মনের দর্শন, বিজ্ঞানের দর্শন এবং যুক্তি অধ্যয়নের একজন বিস্তৃত গবেষক হিসাবে, মুর মেশিনগুলিকে নৈতিক প্রভাব এজেন্ট, অন্তর্নিহিত নৈতিক এজেন্ট, স্পষ্ট নৈতিক এজেন্ট বা সম্পূর্ণ নৈতিক এজেন্ট হিসাবে সংজ্ঞায়িত করেছেন। একটি যন্ত্র একাধিক ধরনের এজেন্ট হতে পারে। নৈতিক প্রভাব এজেন্টঃ এগুলি এমন মেশিন সিস্টেম যা একটি নৈতিক প্রভাব বহন করে, তা সে ইচ্ছা করুক বা না করুক। একই সময়ে, এই এজেন্টদের অনৈতিক কাজ করার সম্ভাবনা রয়েছে। মুর দার্শনিক নেলসন গুডম্যানের নামে নামকরণ করা 'গুডম্যান এজেন্ট' নামে একটি অনুমানমূলক উদাহরণ দিয়েছেন। গুডম্যান এজেন্ট তারিখের তুলনা করে কিন্তু সহস্রাব্দের বাগ রয়েছে। এই বাগটি প্রোগ্রামারদের দ্বারা উদ্ভূত হয়েছিল যারা বছরের শেষ দুটি অঙ্কের সাথে তারিখগুলি উপস্থাপন করেছিল। সুতরাং 2000-এর পরে যে কোনও তারিখকে বিংশ শতাব্দীর শেষের দিকের তুলনায় বিভ্রান্তিকরভাবে পূর্ববর্তী হিসাবে বিবেচনা করা হবে। এইভাবে গুডম্যান এজেন্ট 2000 সালের আগে একটি নৈতিক প্রভাব এজেন্ট এবং তারপরে একটি অনৈতিক প্রভাব এজেন্ট ছিল। অন্তর্নিহিত নৈতিক এজেন্টঃ মানব নিরাপত্তার বিবেচনার জন্য, এই এজেন্টদের একটি ব্যর্থ-নিরাপদ বা অন্তর্নির্মিত গুণাবলীর জন্য প্রোগ্রাম করা হয়। এগুলি সম্পূর্ণরূপে নৈতিক প্রকৃতির নয়, বরং অনৈতিক ফলাফল এড়ানোর জন্য পরিকল্পিত। স্পষ্ট নৈতিক এজেন্টঃ এগুলি এমন মেশিন যা পরিস্থিতি প্রক্রিয়াকরণ এবং নৈতিক সিদ্ধান্তের উপর কাজ করতে সক্ষম। যেসব যন্ত্রের নৈতিকভাবে কাজ করার জন্য অ্যালগরিদম রয়েছে। পূর্ণ নৈতিক এজেন্টঃ এই যন্ত্রগুলি নৈতিক সিদ্ধান্ত নিতে সক্ষম হওয়ার ক্ষেত্রে স্পষ্ট নৈতিক এজেন্টের অনুরূপ। যাইহোক, এগুলিতে মানুষের অধিবিদ্যামূলক বৈশিষ্ট্যও রয়েছে। (অর্থাৎ। স্বাধীন ইচ্ছা, চেতনা এবং ইচ্ছাকৃততা রয়েছে) (কৃত্রিম ব্যবস্থা এবং নৈতিক দায়িত্ব দেখুন।) কিছু পণ্ডিত, যেমন দার্শনিক নিক বস্ট্রম এবং এআই গবেষক স্টুয়ার্ট রাসেল যুক্তি দেন যে যদি এআই সাধারণ বুদ্ধিমত্তায় মানবতাকে ছাড়িয়ে যায় এবং "অতি বুদ্ধিমান" হয়ে যায়, তবে এই নতুন অতি বুদ্ধিমত্তা শক্তিশালী এবং নিয়ন্ত্রণ করা কঠিন হয়ে উঠতে পারেঃ ঠিক যেমন পর্বত গরিলার ভাগ্য মানুষের সদিচ্ছার উপর নির্ভর করে, তেমনি মানবতার ভাগ্য ভবিষ্যতের মেশিন অতি বুদ্ধিমত্তার ক্রিয়াকলাপের উপর নির্ভর করতে পারে। তাদের নিজ নিজ বই সুপার ইন্টেলিজেন্স অ্যান্ড হিউম্যান কম্প্যাটিবল-এ উভয় পণ্ডিতই দাবি করেছেন যে এআই-এর ভবিষ্যৎ সম্পর্কে অনেক অনিশ্চয়তা থাকলেও মানবতার জন্য ঝুঁকি বর্তমান সময়ে উল্লেখযোগ্য পদক্ষেপের যোগ্যতার জন্য যথেষ্ট। এটি এআই নিয়ন্ত্রণ সমস্যাটি উপস্থাপন করেঃ কীভাবে একটি বুদ্ধিমান এজেন্ট তৈরি করা যায় যা তার নির্মাতাদের সহায়তা করবে, যখন অসাবধানতাবশত একটি সুপার ইন্টেলিজেন্স তৈরি করা এড়ানো যা তার নির্মাতাদের ক্ষতি করবে। "প্রথমবার" নিয়ন্ত্রণের নকশা তৈরি না করার বিপদ হল যে, একটি সুপার ইন্টেলিজেন্স তার পরিবেশের উপর ক্ষমতা দখল করতে এবং মানুষকে এটি বন্ধ করতে বাধা দিতে সক্ষম হতে পারে। সম্ভাব্য এআই নিয়ন্ত্রণ কৌশলগুলির মধ্যে রয়েছে "সক্ষমতা নিয়ন্ত্রণ" (বিশ্বকে প্রভাবিত করার জন্য একটি এআই-এর ক্ষমতাকে সীমাবদ্ধ করা) এবং "অনুপ্রেরণামূলক নিয়ন্ত্রণ" (এমন একটি এআই তৈরির একটি উপায় যার লক্ষ্যগুলি মানব বা সর্বোত্তম মূল্যবোধের সাথে সামঞ্জস্যপূর্ণ)। ফিউচার অফ হিউম্যানিটি ইনস্টিটিউট, মেশিন ইন্টেলিজেন্স রিসার্চ ইনস্টিটিউট, সেন্টার ফর হিউম্যান-কমপ্যাটিবল আর্টিফিশিয়াল ইন্টেলিজেন্স এবং ফিউচার অফ লাইফ ইনস্টিটিউট সহ বেশ কয়েকটি সংস্থা এআই নিয়ন্ত্রণ সমস্যা নিয়ে গবেষণা করছে। অ্যালগরিদম এবং প্রশিক্ষণ এআই দৃষ্টান্তগুলি নিয়ে বিতর্ক হয়েছে, বিশেষত তাদের কার্যকারিতা এবং পক্ষপাতের ক্ষেত্রে। নিক বস্ট্রম এবং এলিয়েজার ইউডকোভস্কি নিউরাল নেটওয়ার্ক এবং জেনেটিক অ্যালগরিদমের উপর সিদ্ধান্ত গাছের (যেমন আইডি3) পক্ষে যুক্তি দিয়েছেন যে সিদ্ধান্ত গাছগুলি স্বচ্ছতা এবং পূর্বাভাসের আধুনিক সামাজিক নিয়মগুলি মেনে চলে (যেমন। স্থির দৃষ্টিতে তাকান)। এর বিপরীতে, ক্রিস সান্টোস-ল্যাং নিউরাল নেটওয়ার্ক এবং জেনেটিক অ্যালগরিদমের পক্ষে যুক্তি দিয়েছিলেন যে যে কোনও বয়সের নিয়মগুলিকে অবশ্যই পরিবর্তনের অনুমতি দিতে হবে এবং এই নির্দিষ্ট নিয়মগুলিকে সম্পূর্ণরূপে সন্তুষ্ট করতে প্রাকৃতিক ব্যর্থতা মানুষকে অপরাধী "হ্যাকারদের" জন্য মেশিনের তুলনায় কম ঝুঁকিপূর্ণ করে তুলতে প্রয়োজনীয়। 2009 সালে, সুইজারল্যান্ডের লুসানের ইকোল পলিটেকনিক ফেডেরালের ল্যাবরেটরি অফ ইন্টেলিজেন্ট সিস্টেমের একটি পরীক্ষায়, এআই রোবটগুলিকে একে অপরের সাথে সহযোগিতা করার জন্য প্রোগ্রাম করা হয়েছিল এবং বিষাক্ত সম্পদ এড়ানোর পাশাপাশি একটি উপকারী সম্পদ অনুসন্ধানের লক্ষ্য নিয়ে কাজ করা হয়েছিল। পরীক্ষার সময়, রোবটগুলিকে গোষ্ঠীতে বিভক্ত করা হয়েছিল এবং সফল সদস্যদের ডিজিটাল জেনেটিক কোড পরবর্তী প্রজন্মের জন্য ব্যবহার করা হয়েছিল, এক ধরনের অ্যালগরিদম যা জেনেটিক অ্যালগরিদম নামে পরিচিত। এআই-তে পরপর 50টি প্রজন্মের পর, একটি গোষ্ঠীর সদস্যরা কীভাবে উপকারী সম্পদকে বিষাক্ত সম্পদ থেকে আলাদা করা যায় তা আবিষ্কার করেন। রোবটগুলি তখন অন্যান্য রোবটের কাছ থেকে উপকারী সম্পদ সংগ্রহ করার প্রয়াসে একে অপরকে মিথ্যা বলতে শিখেছিল। একই পরীক্ষায়, একই এআই রোবটগুলি নিঃস্বার্থ আচরণ করতে শিখেছিল এবং অন্যান্য রোবটগুলিকে বিপদের ইঙ্গিত দিয়েছিল এবং অন্যান্য রোবটগুলিকে বাঁচানোর জন্য মূল্যে মারাও গিয়েছিল। এই পরীক্ষার প্রভাবগুলি যান্ত্রিক নীতিশাস্ত্রবিদদের দ্বারা চ্যালেঞ্জ করা হয়েছে। ইকোল পলিটেকনিক ফেডেরাল পরীক্ষায়, রোবটগুলির লক্ষ্যগুলি "টার্মিনাল" হিসাবে প্রোগ্রাম করা হয়েছিল। এর বিপরীতে, মানুষের উদ্দেশ্যগুলির সাধারণত কখনও শেষ না হওয়া শিক্ষার প্রয়োজন হয়। 2009 সালে, শিক্ষাবিদ এবং প্রযুক্তিগত বিশেষজ্ঞরা রোবট এবং কম্পিউটারের সম্ভাব্য প্রভাব এবং তারা স্বয়ংসম্পূর্ণ হতে পারে এবং তাদের নিজস্ব সিদ্ধান্ত নিতে সক্ষম হতে পারে এমন অনুমানমূলক সম্ভাবনার প্রভাব নিয়ে আলোচনা করার জন্য একটি সম্মেলনে অংশ নিয়েছিলেন। কম্পিউটার এবং রোবটগুলি যে কোনও স্তরের স্বায়ত্তশাসন অর্জন করতে সক্ষম হতে পারে এবং সম্ভাব্য কোনও হুমকি বা বিপদ সৃষ্টি করতে তারা এই ধরনের ক্ষমতাগুলি কতটা ব্যবহার করতে পারে তা নিয়ে তারা আলোচনা করেছেন। তারা উল্লেখ করেছেন যে কিছু যন্ত্র আধা-স্বায়ত্তশাসনের বিভিন্ন রূপ অর্জন করেছে, যার মধ্যে রয়েছে তাদের নিজস্ব শক্তির উৎস খুঁজে বের করতে সক্ষম হওয়া এবং অস্ত্র দিয়ে আক্রমণ করার জন্য স্বাধীনভাবে লক্ষ্য নির্বাচন করতে সক্ষম হওয়া। তারা আরও উল্লেখ করেছে যে কিছু কম্পিউটার ভাইরাস নির্মূল এড়াতে পারে এবং "তেলাপোকা বুদ্ধিমত্তা" অর্জন করেছে। তারা উল্লেখ করেছেন যে বিজ্ঞান-কথাসাহিত্যে বর্ণিত আত্ম-সচেতনতা সম্ভবত অসম্ভব, তবে অন্যান্য সম্ভাব্য বিপদ এবং সমস্যা ছিল। কিছু বিশেষজ্ঞ এবং শিক্ষাবিদ সামরিক যুদ্ধের জন্য রোবটের ব্যবহার নিয়ে প্রশ্ন তুলেছেন, বিশেষ করে যখন এই ধরনের রোবটকে কিছু মাত্রায় স্বায়ত্তশাসিত কাজ দেওয়া হয়। মার্কিন নৌবাহিনী একটি প্রতিবেদনে অর্থায়ন করেছে যা ইঙ্গিত দেয় যে সামরিক রোবটগুলি আরও জটিল হয়ে ওঠার সাথে সাথে তাদের স্বায়ত্তশাসিত সিদ্ধান্ত নেওয়ার দক্ষতার প্রভাবের দিকে আরও বেশি মনোযোগ দেওয়া উচিত। অ্যাসোসিয়েশন ফর দ্য অ্যাডভান্সমেন্ট অফ আর্টিফিশিয়াল ইন্টেলিজেন্সের সভাপতি এই বিষয়টি দেখার জন্য একটি গবেষণা শুরু করেছেন। তারা ভাষা অধিগ্রহণ যন্ত্রের মতো প্রোগ্রামগুলির দিকে ইঙ্গিত করে যা মানুষের মিথস্ক্রিয়া অনুকরণ করতে পারে। সমাজের সঙ্গে কৃত্রিম সাধারণ বুদ্ধিমত্তার সংহতকরণ কৃত্রিম সাধারণ বুদ্ধিমত্তাকে (উপরে বর্ণিত সম্পূর্ণ নৈতিক প্রতিনিধি) বিদ্যমান আইনি ও সামাজিক কাঠামোর সঙ্গে একীভূত করার পদ্ধতি নিয়ে প্রাথমিক কাজ করা হয়েছে। পন্থা তাদের আইনি অবস্থান এবং অধিকারের বিবেচনার উপর দৃষ্টি নিবদ্ধ করেছে। মেশিন লার্নিং পক্ষপাত বিগ ডেটা এবং মেশিন লার্নিং অ্যালগরিদমগুলি অনলাইন বিজ্ঞাপন, ক্রেডিট রেটিং এবং ফৌজদারি সাজা সহ অসংখ্য শিল্পের মধ্যে জনপ্রিয় হয়ে উঠেছে, আরও উদ্দেশ্যমূলক, ডেটা-চালিত ফলাফল প্রদানের প্রতিশ্রুতি সহ, তবে সামাজিক বৈষম্য এবং বৈষম্য স্থায়ী করার সম্ভাব্য উৎস হিসাবে চিহ্নিত করা হয়েছে। 2015 সালের একটি সমীক্ষায় দেখা গেছে যে গুগলের অ্যাডসেন্স মহিলাদের উচ্চ আয়ের চাকরির বিজ্ঞাপন দেখানোর সম্ভাবনা কম। আরেকটি সমীক্ষায় দেখা গেছে যে অ্যামাজনের একই দিনের ডেলিভারি পরিষেবা ইচ্ছাকৃতভাবে কালো পাড়ায় অনুপলব্ধ করা হয়েছিল। গুগল এবং অ্যামাজন উভয়ই এই ফলাফলগুলিকে একটি একক সমস্যার জন্য পৃথক করতে পারেনি, তবে পরিবর্তে ব্যাখ্যা করেছে যে ফলাফলগুলি তাদের ব্যবহৃত ব্ল্যাক বক্স অ্যালগরিদমের ফলাফল ছিল। মার্কিন যুক্তরাষ্ট্রের বিচার ব্যবস্থা আরও ন্যায্য হওয়ার এবং ইতিমধ্যে উচ্চ কারাবাসের হার হ্রাস করার প্রয়াসে জামিনে এবং সাজা দেওয়ার বিষয়ে সিদ্ধান্ত নেওয়ার সময় পরিমাণগত ঝুঁকি মূল্যায়ন সফ্টওয়্যার ব্যবহার করা শুরু করেছে। এই সরঞ্জামগুলি অন্যান্য বৈশিষ্ট্যের মধ্যে একজন আসামীর অপরাধমূলক ইতিহাস বিশ্লেষণ করে। ফ্লোরিডার ব্রোয়ার্ড কাউন্টিতে গ্রেপ্তার হওয়া 7,000 জনের একটি সমীক্ষায়, কাউন্টির ঝুঁকি মূল্যায়ন স্কোরিং সিস্টেম ব্যবহার করে অপরাধ করার পূর্বাভাস দেওয়া ব্যক্তিদের মধ্যে মাত্র 20 শতাংশ অপরাধ করতে এগিয়ে যায়। 2016 সালের প্রোপাবলিকার একটি প্রতিবেদনে সর্বাধিক ব্যবহৃত সরঞ্জামগুলির মধ্যে একটি, নর্থপয়েন্ট কম্পাস সিস্টেম দ্বারা গণনা করা পুনরাবৃত্তিমূলক ঝুঁকি স্কোর বিশ্লেষণ করা হয়েছে এবং দুই বছরেরও বেশি সময় ধরে ফলাফলের দিকে নজর দেওয়া হয়েছে। প্রতিবেদনে দেখা গেছে যে উচ্চ ঝুঁকিপূর্ণ বলে বিবেচিতদের মধ্যে মাত্র 61 শতাংশ সেই সময়ের মধ্যে অতিরিক্ত অপরাধ করেছে। প্রতিবেদনে আরও বলা হয়েছে যে আফ্রিকান-আমেরিকান আসামীদের তাদের সাদা আসামীদের তুলনায় উচ্চ-ঝুঁকিপূর্ণ স্কোর দেওয়ার সম্ভাবনা অনেক বেশি ছিল। কৃত্রিম বুদ্ধিমত্তার জন্য আংশিক আইনি ক্ষমতার তত্ত্বের অধীনে অ্যালগরিদম নিজেই সম্ভাব্য বৈষম্যমূলক অভিপ্রায় সহ বেশ কয়েকটি কারণের কারণে আইনত, এই ধরনের প্রাক-বিচার ঝুঁকি মূল্যায়নগুলি বর্ণের ভিত্তিতে সমান সুরক্ষা অধিকার লঙ্ঘন করে বলে যুক্তি দেওয়া হয়েছে। 2016 সালে, ওবামা প্রশাসনের বিগ ডেটা ওয়ার্কিং গ্রুপ-বিভিন্ন বিগ-ডেটা নিয়ন্ত্রক কাঠামোর তত্ত্বাবধায়ক-"স্বয়ংক্রিয় সিদ্ধান্তগুলিতে বৈষম্যের এনকোডিংয়ের সম্ভাবনা" যুক্তি দিয়ে এবং ক্রেডিট স্কোরিংয়ের মতো অ্যাপ্লিকেশনগুলির জন্য "নকশা দ্বারা সমান সুযোগ" আহ্বান করে প্রতিবেদন প্রকাশ করেছে। প্রতিবেদনগুলি নীতিনির্ধারক, নাগরিক এবং শিক্ষাবিদদের মধ্যে একইভাবে আলোচনাকে উৎসাহিত করে, তবে স্বীকার করে যে অ্যালগরিদমিক সিস্টেমে পক্ষপাত এবং বৈষম্যের এনকোডিংয়ের জন্য এটির কোনও সম্ভাব্য সমাধান নেই। নৈতিক কাঠামো এবং অনুশীলন অনুশীলন 2018 সালের মার্চ মাসে, মানবাধিকারের উপর মেশিন লার্নিংয়ের প্রভাব নিয়ে ক্রমবর্ধমান উদ্বেগের সমাধানের প্রয়াসে, ওয়ার্ল্ড ইকোনমিক ফোরাম এবং গ্লোবাল ফিউচার কাউন্সিল অন হিউম্যান রাইটস মেশিন লার্নিংয়ে বৈষম্যমূলক ফলাফলগুলি কীভাবে সর্বোত্তমভাবে প্রতিরোধ করা যায় সে সম্পর্কে বিস্তারিত সুপারিশ সহ একটি শ্বেতপত্র প্রকাশ করেছে। বিশ্ব অর্থনৈতিক ফোরাম মেশিন লার্নিংয়ে বৈষম্যমূলক ফলাফল মোকাবেলা এবং প্রতিরোধে সহায়তা করার জন্য মানবাধিকারের জাতিসংঘের গাইডিং নীতিগুলির উপর ভিত্তি করে চারটি সুপারিশ তৈরি করেছে। ওয়ার্ল্ড ইকোনমিক ফোরামের সুপারিশগুলি নিম্নরূপঃ সক্রিয় অন্তর্ভুক্তিঃ মেশিন লার্নিং অ্যাপ্লিকেশনগুলির বিকাশ ও নকশাকে অবশ্যই সক্রিয়ভাবে ইনপুটের বৈচিত্র্য, বিশেষত এআই সিস্টেমের আউটপুট দ্বারা প্রভাবিত নির্দিষ্ট জনগোষ্ঠীর নিয়ম ও মূল্যবোধের সন্ধান করতে হবে ন্যায্যতাঃ মেশিন লার্নিং সিস্টেমগুলির ধারণা, বিকাশ এবং বাস্তবায়নের সাথে জড়িত ব্যক্তিদের বিবেচনা করা উচিত যে তাদের প্রসঙ্গ এবং প্রয়োগের ক্ষেত্রে ন্যায্যতার কোন সংজ্ঞাটি সবচেয়ে বেশি প্রযোজ্য, এবং মেশিন লার্নিং সিস্টেমের স্থাপত্য এবং এর মূল্যায়ন মেট্রিক্সের ক্ষেত্রে এটিকে অগ্রাধিকার দেওয়া উচিত বোঝার অধিকারঃ সিদ্ধান্ত গ্রহণে মেশিন লার্নিং সিস্টেমগুলির সম্পৃক্ততা যা ব্যক্তিগত অধিকারকে প্রভাবিত করে তা অবশ্যই প্রকাশ করতে হবে এবং সিস্টেমগুলিকে অবশ্যই তাদের সিদ্ধান্ত গ্রহণের একটি ব্যাখ্যা প্রদান করতে সক্ষম হতে হবে যা শেষ ব্যবহারকারীদের কাছে বোধগম্য এবং একটি উপযুক্ত মানব কর্তৃপক্ষ দ্বারা পর্যালোচনাযোগ্য। যেখানে এটি অসম্ভব এবং অধিকার ঝুঁকির মধ্যে রয়েছে, মেশিন লার্নিং প্রযুক্তির নকশা, স্থাপনার এবং নিয়ন্ত্রণের নেতাদের অবশ্যই প্রশ্ন করতে হবে যে এটি ব্যবহার করা উচিত কিনা অ্যাক্সেস টু রিড্রেসঃ মেশিন লার্নিং সিস্টেমের নেতারা, ডিজাইনার এবং বিকাশকারীরা তাদের সিস্টেমের সম্ভাব্য নেতিবাচক মানবাধিকার প্রভাবগুলি সনাক্ত করার জন্য দায়বদ্ধ। তাদের অবশ্যই বৈষম্যমূলক প্রভাব দ্বারা ক্ষতিগ্রস্তদের জন্য প্রতিকারের দৃশ্যমান পথ তৈরি করতে হবে এবং যে কোনও বৈষম্যমূলক ফলাফলের সময়োপযোগী প্রতিকারের জন্য প্রক্রিয়া প্রতিষ্ঠা করতে হবে। 2020 সালের জানুয়ারিতে, হার্ভার্ড বিশ্ববিদ্যালয়ের বার্কম্যান ক্লেইন সেন্টার ফর ইন্টারনেট অ্যান্ড সোসাইটি এআই-এর জন্য 36টি বিশিষ্ট নীতির একটি মেটা-স্টাডি প্রকাশ করেছে, যা আটটি মূল বিষয় চিহ্নিত করেছেঃ গোপনীয়তা, জবাবদিহিতা, সুরক্ষা এবং সুরক্ষা, স্বচ্ছতা এবং ব্যাখ্যাযোগ্যতা, ন্যায্যতা এবং বৈষম্যহীনতা, প্রযুক্তির মানব নিয়ন্ত্রণ, পেশাদার দায়িত্ব এবং মানবিক মূল্যবোধের প্রচার। 2019 সালে জুরিখের সুইস ফেডারেল ইনস্টিটিউট অফ টেকনোলজির গবেষকরা অনুরূপ একটি মেটা-স্টাডি পরিচালনা করেছিলেন। পন্থা নীতিশাস্ত্রকে গণনাযোগ্য বা অন্তত আনুষ্ঠানিক করার জন্য বেশ কয়েকটি প্রচেষ্টা করা হয়েছে। যদিও আইজাক আসিমভের রোবোটিক্সের তিনটি আইন সাধারণত একটি কৃত্রিম নৈতিক এজেন্টের জন্য উপযুক্ত বলে মনে করা হয় না, তবে কান্টের শ্রেণীবদ্ধ আবশ্যক ব্যবহার করা যেতে পারে কিনা তা অধ্যয়ন করা হয়েছে। যাইহোক, এটি উল্লেখ করা হয়েছে যে মানবিক মূল্য কিছু দিক থেকে খুব জটিল। এই অসুবিধাকে স্পষ্টভাবে অতিক্রম করার একটি উপায় হল কোনও পদ্ধতির মাধ্যমে সরাসরি মানুষের কাছ থেকে মানবিক মূল্যবোধ গ্রহণ করা, উদাহরণস্বরূপ সেগুলি শেখা। আরেকটি পদ্ধতি হল পূর্ববর্তী অনুরূপ পরিস্থিতির উপর বর্তমান নৈতিক বিবেচনার ভিত্তি স্থাপন করা। একে ক্যাসুইস্ট্রি বলা হয় এবং এটি ইন্টারনেটে গবেষণার মাধ্যমে প্রয়োগ করা যেতে পারে। অতীতের লক্ষ লক্ষ সিদ্ধান্তের মধ্যে ঐকমত্য একটি নতুন সিদ্ধান্তের দিকে পরিচালিত করবে যা গণতন্ত্র নির্ভর। অধ্যাপক ব্রুস এম. ম্যাকলারেন ক্যাজুইস্ট্রির একটি প্রাথমিক (1990-এর দশকের মাঝামাঝি) গণনামূলক মডেল তৈরি করেছিলেন, বিশেষত সিরোকো নামে একটি প্রোগ্রাম যা এআই এবং কেস-বেস যুক্তি কৌশলগুলির সাথে নির্মিত যা নৈতিক দ্বিধা পুনরুদ্ধার এবং বিশ্লেষণ করে। তবে, এই দৃষ্টিভঙ্গি এমন সিদ্ধান্তের দিকে পরিচালিত করতে পারে যা সমাজে প্রদর্শিত পক্ষপাতিত্ব এবং অনৈতিক আচরণকে প্রতিফলিত করে। এই পদ্ধতির নেতিবাচক প্রভাবগুলি মাইক্রোসফ্টের টে (বট)-তে দেখা যায়, যেখানে চ্যাটারবট টুইটার ব্যবহারকারীদের পাঠানো বর্ণবাদী এবং যৌন অভিযুক্ত বার্তাগুলির পুনরাবৃত্তি করতে শিখেছে। একটি চিন্তার পরীক্ষা পাঠকের কাছে নিজেকে উপস্থাপন করার সীমাহীন ক্ষমতা সহ একটি জিনি গোলেমের উপর দৃষ্টি নিবদ্ধ করে। এই জিনি ঘোষণা করে যে এটি 50 বছরের মধ্যে ফিরে আসবে এবং দাবি করে যে এটি একটি নির্দিষ্ট নৈতিকতার সেট সরবরাহ করা হবে যার উপর এটি অবিলম্বে কাজ করবে। এই পরীক্ষার উদ্দেশ্য হল কম্পিউটারগুলি বুঝতে পারে এমন নৈতিকতার সম্পূর্ণ সেটকে কীভাবে সর্বোত্তমভাবে পরিচালনা করা যায় সে সম্পর্কে একটি বক্তৃতা শুরু করা। কল্পকাহিনীতে বিজ্ঞান কথাসাহিত্যে, চলচ্চিত্র এবং উপন্যাসগুলি রোবট এবং মেশিনে সংবেদনশীলতার ধারণা নিয়ে খেলেছে। নিল ব্লমক্যাম্পের চাপি (2015) একজনের চেতনাকে কম্পিউটারে স্থানান্তর করতে সক্ষম হওয়ার একটি দৃশ্যপট তৈরি করেছে। অ্যালেক্স গারল্যান্ডের এক্স মেশিনা (2014) চলচ্চিত্রটি টুরিং টেস্টের একটি বৈচিত্র্যের মধ্য দিয়ে কৃত্রিম বুদ্ধিমত্তাযুক্ত একটি অ্যান্ড্রয়েড অনুসরণ করে, একটি মেশিনে পরিচালিত একটি পরীক্ষা যাতে দেখা যায় যে এর আচরণটি মানুষের থেকে আলাদা করা যায় কিনা। দ্য টার্মিনেটর (1984) এবং দ্য ম্যাট্রিক্স (1999)-এর মতো কাজগুলি মেশিনগুলি তাদের মানব মাস্টারদের চালু করার ধারণাটি অন্তর্ভুক্ত করে (কৃত্রিম বুদ্ধিমত্তা দেখুন)। আইজাক আসিমভ 1950-এর দশকে আই, রোবোটে বিষয়টি বিবেচনা করেছিলেন। তাঁর সম্পাদক জন ডব্লিউ ক্যাম্পবেল জুনিয়রের অনুরোধে, তিনি কৃত্রিমভাবে বুদ্ধিমান সিস্টেমগুলি পরিচালনা করার জন্য রোবোটিক্সের তিনটি আইন প্রস্তাব করেছিলেন। তাঁর বেশিরভাগ কাজই তাঁর তিনটি আইনের সীমানা পরীক্ষা করতে ব্যয় করা হয়েছিল যাতে দেখা যায় যে সেগুলি কোথায় ভেঙে যাবে, বা সেগুলি কোথায় বৈপরীত্যপূর্ণ বা অপ্রত্যাশিত আচরণ তৈরি করবে। তাঁর কাজ থেকে জানা যায় যে, কোনও নির্দিষ্ট আইনের সেটই সমস্ত সম্ভাব্য পরিস্থিতির যথেষ্ট পূর্বাভাস দিতে পারে না। ফিলিপ কে ডিকের উপন্যাস ডু অ্যান্ড্রয়েডস ড্রিম অফ ইলেকট্রিক শিপ? (1968), তিনি মানুষ হওয়ার অর্থ কী তা আবিষ্কার করেন। তাঁর পোস্ট-অ্যাপোক্যালিপটিক দৃশ্যে, তিনি প্রশ্ন করেছিলেন যে সহানুভূতি সম্পূর্ণরূপে একটি মানবিক বৈশিষ্ট্য কিনা। তাঁর গল্পটি বিজ্ঞান কল্পকাহিনী চলচ্চিত্র ব্লেড রানার (1982)-এর ভিত্তি। সম্পর্কিত ক্ষেত্রগুলি প্রভাবশালী কম্পিউটিং আনুষ্ঠানিক নীতিশাস্ত্র মনের গণনামূলক তত্ত্ব কম্পিউটার নীতিশাস্ত্র কৃত্রিম বুদ্ধিমত্তার নৈতিক মনোবিজ্ঞান কৃত্রিম বুদ্ধিমত্তার দর্শন মনের দর্শন আরও দেখুন কৃত্রিম বুদ্ধিমত্তা এআই নিরাপত্তা এআই টেকওভার কল্পকাহিনীতে কৃত্রিম বুদ্ধিমত্তা বন্ধুত্বপূর্ণ কৃত্রিম বুদ্ধিমত্তা স্বয়ংক্রিয় চিকিৎসা সিদ্ধান্ত-সমর্থন গুগল গাড়ি সামরিক রোবট মেশিন ইন্টেলিজেন্স রিসার্চ ইনস্টিটিউট রোবট নীতিশাস্ত্র মহাকাশ আইন স্ব-প্রতিলিপি মহাকাশযান ওয়াটসন প্রকল্প চিকিৎসা সিদ্ধান্ত স্বয়ংক্রিয় করার জন্য-সমর্থন টে (বট) নোট বাহ্যিক লিঙ্ক মেশিন নীতিশাস্ত্র, মেশিন নীতিশাস্ত্রের উপর আন্তঃবিষয়ক প্রকল্প। মেশিন এথিক্স পডকাস্ট, পডকাস্ট মেশিন এথিক্স, এআই এবং প্রযুক্তিগত নৈতিকতা নিয়ে আলোচনা করে। তথ্যসূত্র ওয়ালাচ, ওয়েন্ডেল; অ্যালেন, কলিন (নভেম্বর 2008)। নৈতিক যন্ত্রঃ রোবটকে সঠিক থেকে ভুল শিক্ষা দেওয়া। মার্কিন যুক্তরাষ্ট্রঃ অক্সফোর্ড ইউনিভার্সিটি প্রেস। অ্যান্ডারসন, মাইকেল; অ্যান্ডারসন, সুসান লেই, সংস্করণ (জুলাই 2011)। যান্ত্রিক নৈতিকতা। কেমব্রিজ ইউনিভার্সিটি প্রেস। স্টর্স হল, জে। (মে 30,2007)। এআই-এর বাইরেঃ মেশিন প্রমিথিউস বইগুলির বিবেক তৈরি করা। মুর, জে। (2006)। যান্ত্রিক নীতিশাস্ত্রের প্রকৃতি, গুরুত্ব এবং অসুবিধা। আই. ই. ই. ই ইন্টেলিজেন্ট সিস্টেমস, 21 (4), পৃ. <আই. ডি. 1>। অ্যান্ডারসন, এম. এবং অ্যান্ডারসন, এস. (2007)। একটি নৈতিক বুদ্ধিমান প্রতিনিধি তৈরি করা। এআই ম্যাগাজিন, খণ্ড 28 (4)। আরও পড়ুন হ্যাগেনডর্ফ, থিলো (2021)। মানব এবং যান্ত্রিক আচরণের সংযোগঃ উপকারী যান্ত্রিক শিক্ষার জন্য প্রশিক্ষণের তথ্যের গুণমান মূল্যায়নের জন্য একটি নতুন পদ্ধতি। মন এবং যন্ত্র,। অ্যান্ডারসন, মাইকেল; অ্যান্ডারসন, সুসান লেই, সংস্করণ (জুলাই/আগস্ট 2006)। "মেশিন এথিক্সের উপর বিশেষ সংখ্যা"। আই. ই. ই. ই ইন্টেলিজেন্ট সিস্টেম 21 (4): 10-63। বেন্ডেল, অলিভার (ডিসেম্বর 11,2013)। প্রাণী এবং যান্ত্রিক নীতিশাস্ত্রের মধ্যে সম্পর্ক সম্পর্কে বিবেচনা। এআই এবং সোসাইটি। ড্যাব্রিঙ্গার, গেরহার্ড, এড। (2010)। "মানহীন ব্যবস্থার নৈতিক ও আইনি দিক। সাক্ষাৎকার "। অস্ট্রিয়ার প্রতিরক্ষা ও ক্রীড়া মন্ত্রক, ভিয়েনা 2010,। গার্ডনার, এ। (1987)। আইনি যুক্তির একটি কৃত্রিম পদ্ধতি। কেমব্রিজ, এমএঃ এমআইটি প্রেস। জর্জেস, টি. এম. (2003)। ডিজিটাল সোলঃ ইন্টেলিজেন্ট মেশিন এবং মানব মূল্যবোধ। কেমব্রিজ, এমএঃ ওয়েস্টভিউ প্রেস। গায়ক, পি. ডব্লিউ। (ডিসেম্বর 29,2009)। ওয়্যার্ড ফর ওয়ারঃ দ্য রোবোটিক্স রেভোলিউশন অ্যান্ড কনফ্লিক্ট ইন দ্য একবিংশ সেঞ্চুরিঃ পেঙ্গুইন। উইনফিল্ড, এ., মাইকেল, কে., পিট, জে. এবং এভার্স, ভি. (মার্চ 2019)। মেশিন এথিক্সঃ দ্য ডিজাইন অ্যান্ড গভর্নেন্স অফ এথিকাল এআই অ্যান্ড অটোনোমাস সিস্টেমস-এর বিশেষ সংখ্যা। আই. ই. ই. ই-এর কার্যক্রম। 107 (3): 501-615, আর্গুমেন্ট টেকনোলজি কম্পিউটিং অ্যান্ড সোসাইটি এথিক্স অফ সায়েন্স অ্যান্ড টেকনোলজি ফিলোসফি অফ আর্টিফিশিয়াল ইন্টেলিজেন্স