Machine ethics
ಯಂತ್ರ ನೀತಿಶಾಸ್ತ್ರವು (ಅಥವಾ ಯಂತ್ರ ನೈತಿಕತೆ, ಕಂಪ್ಯೂಟೇಶನಲ್ ನೈತಿಕತೆ, ಅಥವಾ ಕಂಪ್ಯೂಟೇಶನಲ್ ನೈತಿಕತೆ) ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯನ್ನು ಬಳಸುವ ಮಾನವ ನಿರ್ಮಿತ ಯಂತ್ರಗಳ ನೈತಿಕ ನಡವಳಿಕೆಗಳನ್ನು ಸೇರಿಸುವ ಅಥವಾ ಖಾತ್ರಿಪಡಿಸುವ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ನೈತಿಕತೆಯ ಒಂದು ಭಾಗವಾಗಿದೆ, ಇದನ್ನು ಕೃತಕ ಬುದ್ಧಿವಂತ ಏಜೆಂಟ್ಗಳು ಎಂದು ಕರೆಯಲಾಗುತ್ತದೆ. ಯಂತ್ರ ನೀತಿಶಾಸ್ತ್ರವು ಎಂಜಿನಿಯರಿಂಗ್ ಮತ್ತು ತಂತ್ರಜ್ಞಾನಕ್ಕೆ ಸಂಬಂಧಿಸಿದ ಇತರ ನೈತಿಕ ಕ್ಷೇತ್ರಗಳಿಗಿಂತ ಭಿನ್ನವಾಗಿದೆ. ಯಂತ್ರ ನೀತಿಶಾಸ್ತ್ರವನ್ನು ಗಣಕಯಂತ್ರದ ನೈತಿಕತೆಯೊಂದಿಗೆ ಗೊಂದಲಗೊಳಿಸಬಾರದು, ಇದು ಗಣಕಯಂತ್ರಗಳ ಮಾನವ ಬಳಕೆಯ ಮೇಲೆ ಕೇಂದ್ರೀಕರಿಸುತ್ತದೆ. ಇದನ್ನು ತಂತ್ರಜ್ಞಾನದ ತತ್ವಶಾಸ್ತ್ರದಿಂದ ಪ್ರತ್ಯೇಕಿಸಬೇಕು, ಇದು ತಂತ್ರಜ್ಞಾನದ ದೊಡ್ಡ ಸಾಮಾಜಿಕ ಪರಿಣಾಮಗಳಿಗೆ ಸಂಬಂಧಿಸಿದೆ. 21ನೇ ಶತಮಾನಕ್ಕೆ ಮೊದಲು ಯಂತ್ರಗಳ ನೈತಿಕತೆಯು ಹೆಚ್ಚಾಗಿ ವೈಜ್ಞಾನಿಕ ಕಾಲ್ಪನಿಕ ಸಾಹಿತ್ಯದ ವಿಷಯವಾಗಿತ್ತು, ಮುಖ್ಯವಾಗಿ ಕಂಪ್ಯೂಟಿಂಗ್ ಮತ್ತು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ (ಎಐ) ಮಿತಿಗಳಿಂದಾಗಿ. "ಮೆಷಿನ್ ಎಥಿಕ್ಸ್" ನ ವ್ಯಾಖ್ಯಾನವು ಅಂದಿನಿಂದ ವಿಕಸನಗೊಂಡಿದ್ದರೂ, ಈ ಪದವನ್ನು 1987ರ ಎಐ ನಿಯತಕಾಲಿಕೆಯ ಲೇಖನ "ಎ ಕ್ವಶ್ಚನ್ ಆಫ್ ರೆಸ್ಪಾನ್ಸಿಬಿಲಿಟಿ" ಯಲ್ಲಿ ಮಿಚೆಲ್ ವಾಲ್ಡ್ರಾಪ್ ಅವರು ಸೃಷ್ಟಿಸಿದರುಃ "ಆದಾಗ್ಯೂ, ಮೇಲಿನ ಚರ್ಚೆಯಿಂದ ಸ್ಪಷ್ಟವಾದ ಒಂದು ವಿಷಯವೆಂದರೆ ಬುದ್ಧಿವಂತ ಯಂತ್ರಗಳು ಮೌಲ್ಯಗಳು, ಊಹೆಗಳು ಮತ್ತು ಉದ್ದೇಶಗಳನ್ನು ಒಳಗೊಂಡಿರುತ್ತವೆ, ಅವುಗಳ ಪ್ರೋಗ್ರಾಮರ್ಗಳು ಪ್ರಜ್ಞಾಪೂರ್ವಕವಾಗಿ ಅವುಗಳನ್ನು ಉದ್ದೇಶಿಸುತ್ತಾರೋ ಇಲ್ಲವೋ ಎಂಬುದು. ಹೀಗಾಗಿ, ಕಂಪ್ಯೂಟರ್ಗಳು ಮತ್ತು ರೋಬೋಟ್ಗಳು ಹೆಚ್ಚು ಹೆಚ್ಚು ಬುದ್ಧಿವಂತರಾಗುತ್ತಿದ್ದಂತೆ, ಆ ಅಂತರ್ನಿರ್ಮಿತ ಮೌಲ್ಯಗಳು ಯಾವುವು ಎಂಬುದರ ಬಗ್ಗೆ ನಾವು ಎಚ್ಚರಿಕೆಯಿಂದ ಮತ್ತು ಸ್ಪಷ್ಟವಾಗಿ ಯೋಚಿಸುವುದು ಕಡ್ಡಾಯವಾಗುತ್ತದೆ. ಬಹುಶಃ ನಮಗೆ ಬೇಕಾಗಿರುವುದು, ವಾಸ್ತವವಾಗಿ, ಅಸಿಮೋವ್ ಅವರ ರೊಬೊಟಿಕ್ಸ್ನ ಮೂರು ನಿಯಮಗಳ ಸ್ಫೂರ್ತಿಯಲ್ಲಿ ಯಂತ್ರ ನೀತಿಶಾಸ್ತ್ರದ ಸಿದ್ಧಾಂತ ಮತ್ತು ಅಭ್ಯಾಸವಾಗಿದೆ ". 2004ರಲ್ಲಿ, ಏಜೆಂಟ್ ಆರ್ಗನೈಸೇಷನ್ಸ್ಃ ಥಿಯರಿ ಅಂಡ್ ಪ್ರಾಕ್ಟೀಸ್ ಕುರಿತ ಎಎಎಐ ಕಾರ್ಯಾಗಾರದಲ್ಲಿ ಟುವರ್ಡ್ಸ್ ಮೆಷಿನ್ ಎಥಿಕ್ಸ್ ಅನ್ನು ಪ್ರಸ್ತುತಪಡಿಸಲಾಯಿತು, ಇದರಲ್ಲಿ ಯಂತ್ರ ನೀತಿಶಾಸ್ತ್ರಕ್ಕೆ ಸೈದ್ಧಾಂತಿಕ ಅಡಿಪಾಯಗಳನ್ನು ಹಾಕಲಾಯಿತು. ಯಂತ್ರ ನೀತಿಶಾಸ್ತ್ರದ ಕುರಿತಾದ ಎಎಎಐ ಫಾಲ್ 2005 ವಿಚಾರ ಸಂಕಿರಣದಲ್ಲಿ, ಸ್ವಾಯತ್ತ ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿ ನೈತಿಕ ಆಯಾಮವನ್ನು ಅನುಷ್ಠಾನಗೊಳಿಸುವುದನ್ನು ಪರಿಗಣಿಸಲು ಸಂಶೋಧಕರು ಮೊದಲ ಬಾರಿಗೆ ಭೇಟಿಯಾದರು. ಈ ಹೊಸ ಕ್ಷೇತ್ರದ ವಿವಿಧ ದೃಷ್ಟಿಕೋನಗಳನ್ನು ಸಂಗ್ರಹಿಸಿದ ಆವೃತ್ತಿ "ಮೆಷಿನ್ ಎಥಿಕ್ಸ್" ನಲ್ಲಿ ಕಾಣಬಹುದು, ಇದು ಮೆಷಿನ್ ಎಥಿಕ್ಸ್ ಕುರಿತ ಎಎಎಐ ಫಾಲ್ 2005 ಸಿಂಪೋಸಿಯಂನಿಂದ ಉದ್ಭವಿಸಿದೆ. 2007ರಲ್ಲಿ, AI ನಿಯತಕಾಲಿಕವು ಮೆಷಿನ್ ಎಥಿಕ್ಸ್ಃ ಕ್ರಿಯೇಟಿಂಗ್ ಆನ್ ಎಥಿಕಲ್ ಇಂಟೆಲಿಜೆಂಟ್ ಏಜೆಂಟ್ ಅನ್ನು ಒಳಗೊಂಡಿತ್ತು, ಇದು ಯಂತ್ರ ನೈತಿಕತೆಯ ಪ್ರಾಮುಖ್ಯತೆ, ನೈತಿಕ ತತ್ವಗಳನ್ನು ಸ್ಪಷ್ಟವಾಗಿ ಪ್ರತಿನಿಧಿಸುವ ಯಂತ್ರಗಳ ಅಗತ್ಯತೆ ಮತ್ತು ಯಂತ್ರ ನೈತಿಕತೆಯ ಮೇಲೆ ಕೆಲಸ ಮಾಡುವವರು ಎದುರಿಸುತ್ತಿರುವ ಸವಾಲುಗಳನ್ನು ಚರ್ಚಿಸುವ ಒಂದು ಲೇಖನವಾಗಿದೆ. ಕನಿಷ್ಠ ಒಂದು ಸೀಮಿತ ಕ್ಷೇತ್ರದಲ್ಲಿ, ಒಂದು ಯಂತ್ರವು ನೈತಿಕ ತೀರ್ಪುಗಳ ಉದಾಹರಣೆಗಳಿಂದ ನೈತಿಕ ತತ್ವವನ್ನು ಅಮೂರ್ತಗೊಳಿಸಲು ಮತ್ತು ತನ್ನದೇ ಆದ ನಡವಳಿಕೆಗೆ ಮಾರ್ಗದರ್ಶನ ನೀಡಲು ಆ ತತ್ವವನ್ನು ಬಳಸಲು ಸಾಧ್ಯವಿದೆ ಎಂದು ಅದು ತೋರಿಸಿಕೊಟ್ಟಿತು. 2009ರಲ್ಲಿ, ಆಕ್ಸ್ಫರ್ಡ್ ಯೂನಿವರ್ಸಿಟಿ ಪ್ರೆಸ್ ಮೋರಲ್ ಮೆಷೀನ್ಸ್, ಟೀಚಿಂಗ್ ರೋಬೋಟ್ಸ್ ರೈಟ್ ಫ್ರಮ್ ರಾಂಗ್ ಅನ್ನು ಪ್ರಕಟಿಸಿತು, ಇದು "ಮಾನವ ನಿರ್ಧಾರ ತೆಗೆದುಕೊಳ್ಳುವ ಮತ್ತು ನೈತಿಕತೆಯ ಸ್ವರೂಪವನ್ನು ಆಳವಾಗಿ ಪರಿಶೀಲಿಸುವ, ಕೃತಕ ನೈತಿಕ ಏಜೆಂಟ್ಗಳನ್ನು ನಿರ್ಮಿಸುವ ಸವಾಲನ್ನು ಪರಿಶೀಲಿಸಿದ ಮೊದಲ ಪುಸ್ತಕ" ಎಂದು ಜಾಹೀರಾತು ನೀಡಿತು. ಇದು ಸುಮಾರು 450 ಮೂಲಗಳನ್ನು ಉಲ್ಲೇಖಿಸಿದೆ, ಅವುಗಳಲ್ಲಿ ಸುಮಾರು 100 ಯಂತ್ರ ನೀತಿಶಾಸ್ತ್ರದ ಪ್ರಮುಖ ಪ್ರಶ್ನೆಗಳನ್ನು ಉದ್ದೇಶಿಸಿವೆ. 2011 ರಲ್ಲಿ, ಕೇಂಬ್ರಿಡ್ಜ್ ಯೂನಿವರ್ಸಿಟಿ ಪ್ರೆಸ್ ಮೈಕೆಲ್ ಮತ್ತು ಸುಸಾನ್ ಲೇ ಆಂಡರ್ಸನ್ ಸಂಪಾದಿಸಿದ ಯಂತ್ರ ನೈತಿಕತೆಯ ಬಗ್ಗೆ ಪ್ರಬಂಧಗಳ ಸಂಗ್ರಹವನ್ನು ಪ್ರಕಟಿಸಿತು, ಅವರು 2006 ರಲ್ಲಿ ಈ ವಿಷಯದ ಬಗ್ಗೆ ಐ. ಇ. ಇ. ಇ ಇಂಟೆಲಿಜೆಂಟ್ ಸಿಸ್ಟಮ್ಸ್ನ ವಿಶೇಷ ಸಂಚಿಕೆಯನ್ನು ಸಹ ಸಂಪಾದಿಸಿದರು. ಈ ಸಂಗ್ರಹವು ಯಂತ್ರಗಳಿಗೆ ನೈತಿಕ ತತ್ವಗಳನ್ನು ಸೇರಿಸುವ ಸವಾಲುಗಳನ್ನು ಒಳಗೊಂಡಿದೆ. 2014 ರಲ್ಲಿ, ಯು. ಎಸ್. ಆಫೀಸ್ ಆಫ್ ನೇವಲ್ ರಿಸರ್ಚ್ ಸ್ವಾಯತ್ತ ರೋಬೋಟ್ಗಳಿಗೆ ಅನ್ವಯಿಸಿದಂತೆ ಯಂತ್ರ ನೈತಿಕತೆಯ ಪ್ರಶ್ನೆಗಳನ್ನು ಅಧ್ಯಯನ ಮಾಡಲು ವಿಶ್ವವಿದ್ಯಾನಿಲಯದ ಸಂಶೋಧಕರಿಗೆ ಐದು ವರ್ಷಗಳಲ್ಲಿ $7.5 ಮಿಲಿಯನ್ ಅನುದಾನವನ್ನು ವಿತರಿಸುವುದಾಗಿ ಘೋಷಿಸಿತು, ಮತ್ತು ನಿಕ್ ಬೋಸ್ಟ್ರಾಮ್ನ ಸೂಪರಿಂಟೆಲಿಜೆನ್ಸ್ಃ ಪಾಥ್ಸ್, ಡೇಂಜರ್ಸ್, ಸ್ಟ್ರಾಟಜೀಸ್, ಇದು ಯಂತ್ರ ನೈತಿಕತೆಯನ್ನು "ಮಾನವಕುಲವು ಇದುವರೆಗೆ ಎದುರಿಸಿದ ಅತ್ಯಂತ ಹೆಚ್ಚು important.issue" ಎಂದು ಏರಿಸಿತು, ಇದು ನ್ಯೂಯಾರ್ಕ್ ಟೈಮ್ಸ್ನ ಅತ್ಯುತ್ತಮ ಮಾರಾಟವಾದ ವಿಜ್ಞಾನ ಪುಸ್ತಕಗಳ ಪಟ್ಟಿಯಲ್ಲಿ #17 ಅನ್ನು ತಲುಪಿತು. 2016 ರಲ್ಲಿ ಯುರೋಪಿಯನ್ ಪಾರ್ಲಿಮೆಂಟ್ ಒಂದು ಕಾಗದವನ್ನು ಪ್ರಕಟಿಸಿತು, (22-ಪುಟಗಳ ಪಿಡಿಎಫ್), ರೋಬೋಟ್ಗಳ ಕಾನೂನು ಸ್ಥಾನಮಾನದ ಸಮಸ್ಯೆಯನ್ನು ಪರಿಹರಿಸಲು ಆಯೋಗವನ್ನು ಪ್ರೋತ್ಸಾಹಿಸಲು, ಪತ್ರಿಕೆಗಳಲ್ಲಿ ಹೆಚ್ಚು ಸಂಕ್ಷಿಪ್ತವಾಗಿ ವಿವರಿಸಲಾಗಿದೆ. ಈ ಲೇಖನವು ರೋಬೋಟ್ಗಳ ಕಾನೂನುಬದ್ಧ ಹೊಣೆಗಾರಿಕೆಗಳಿಗೆ ಸಂಬಂಧಿಸಿದ ವಿಭಾಗಗಳನ್ನು ಒಳಗೊಂಡಿತ್ತು, ಇದರಲ್ಲಿ ಹೊಣೆಗಾರಿಕೆಗಳು ರೋಬೋಟ್ಗಳ ಸ್ವಾಯತ್ತತೆಯ ಮಟ್ಟಕ್ಕೆ ಅನುಪಾತದಲ್ಲಿವೆ ಎಂದು ವಾದಿಸಲಾಗಿದೆ. ಎಐ ರೋಬೋಟ್ಗಳಿಂದ ಬದಲಾಯಿಸಬಹುದಾದ ಉದ್ಯೋಗಗಳ ಸಂಖ್ಯೆಯನ್ನು ಸಹ ಪತ್ರಿಕೆ ಪ್ರಶ್ನಿಸಿದೆ. ಅಲನ್ ವಿನ್ಫೀಲ್ಡ್, ಕಟಿನಾ ಮೈಕೆಲ್, ಜೆರೆಮಿ ಪಿಟ್ ಮತ್ತು ವನೆಸ್ಸಾ ಎವರ್ಸ್ ಅವರು ಸಂಪಾದಿಸಿದ ಮೆಷಿನ್ ಎಥಿಕ್ಸ್ಃ ದಿ ಡಿಸೈನ್ ಅಂಡ್ ಗವರ್ನೆನ್ಸ್ ಆಫ್ ಎಥಿಕಲ್ ಎಐ ಅಂಡ್ ಆಟೋನೋಮಸ್ ಸಿಸ್ಟಮ್ಸ್ ಎಂಬ ವಿಶೇಷ ಸಂಚಿಕೆಯನ್ನು 2019ರಲ್ಲಿ ಪ್ರೊಸೀಡಿಂಗ್ಸ್ ಆಫ್ ದಿ ಐ. ಇ. ಇ. ಇ. ಪ್ರಕಟಿಸಿತು. "ಈ ಸಂಚಿಕೆಯು ಅನೈತಿಕ ಫಲಿತಾಂಶಗಳನ್ನು ತಪ್ಪಿಸಲು ಯಂತ್ರಗಳನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿರುವ ಸೂಚ್ಯ ನೈತಿಕ ಏಜೆಂಟ್ಗಳನ್ನು ವಿವರಿಸುವ ಪ್ರಬಂಧಗಳನ್ನು ಒಳಗೊಂಡಿದೆ, ಜೊತೆಗೆ ಸ್ಪಷ್ಟ ನೈತಿಕ ಏಜೆಂಟ್ಗಳು ಅಥವಾ ನೈತಿಕತೆಯನ್ನು ಎನ್ಕೋಡ್ ಮಾಡುವ ಅಥವಾ ಕಲಿಯುವ ಮತ್ತು ಆ ನೈತಿಕತೆಯ ಆಧಾರದ ಮೇಲೆ ಕ್ರಮಗಳನ್ನು ನಿರ್ಧರಿಸುವ ಯಂತ್ರಗಳನ್ನು ಒಳಗೊಂಡಿದೆ". ವ್ಯಾಖ್ಯಾನಗಳು ಕಂಪ್ಯೂಟರ್ ನೀತಿಶಾಸ್ತ್ರ ಕ್ಷೇತ್ರದಲ್ಲಿ ಪ್ರವರ್ತಕ ಸಿದ್ಧಾಂತಕಾರರಲ್ಲಿ ಒಬ್ಬರಾದ ಜೇಮ್ಸ್ ಎಚ್. ಮೂರ್ ಅವರು ನಾಲ್ಕು ರೀತಿಯ ನೈತಿಕ ರೋಬೋಟ್ಗಳನ್ನು ವ್ಯಾಖ್ಯಾನಿಸುತ್ತಾರೆ. ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ತತ್ವಶಾಸ್ತ್ರ, ಮನಸ್ಸಿನ ತತ್ವಶಾಸ್ತ್ರ, ವಿಜ್ಞಾನದ ತತ್ವಶಾಸ್ತ್ರ ಮತ್ತು ತರ್ಕಶಾಸ್ತ್ರದ ಅಧ್ಯಯನಗಳ ಮೇಲೆ ವ್ಯಾಪಕವಾದ ಸಂಶೋಧಕರಾಗಿ, ಮೂರ್ ಯಂತ್ರಗಳನ್ನು ನೈತಿಕ ಪ್ರಭಾವದ ಏಜೆಂಟ್ಗಳು, ಸೂಚ್ಯ ನೈತಿಕ ಏಜೆಂಟ್ಗಳು, ಸ್ಪಷ್ಟ ನೈತಿಕ ಏಜೆಂಟ್ಗಳು ಅಥವಾ ಸಂಪೂರ್ಣ ನೈತಿಕ ಏಜೆಂಟ್ಗಳು ಎಂದು ವ್ಯಾಖ್ಯಾನಿಸಿದ್ದಾರೆ. ಒಂದು ಯಂತ್ರವು ಒಂದಕ್ಕಿಂತ ಹೆಚ್ಚು ರೀತಿಯ ಏಜೆಂಟ್ ಆಗಿರಬಹುದು. ನೈತಿಕ ಪ್ರಭಾವದ ಏಜೆಂಟ್ಃ ಇವು ಉದ್ದೇಶವಿರಲಿ ಅಥವಾ ಇಲ್ಲದಿರಲಿ ನೈತಿಕ ಪರಿಣಾಮವನ್ನು ಬೀರುವ ಯಂತ್ರ ವ್ಯವಸ್ಥೆಗಳಾಗಿವೆ. ಅದೇ ಸಮಯದಲ್ಲಿ, ಈ ಏಜೆಂಟ್ಗಳು ಅನೈತಿಕವಾಗಿ ವರ್ತಿಸುವ ಸಾಮರ್ಥ್ಯವನ್ನು ಹೊಂದಿರುತ್ತಾರೆ. ತತ್ವಜ್ಞಾನಿ ನೆಲ್ಸನ್ ಗುಡ್ಮ್ಯಾನ್ನ ಹೆಸರನ್ನು ಇಡಲಾದ 'ಗುಡ್ಮ್ಯಾನ್ ಏಜೆಂಟ್' ಎಂಬ ಕಾಲ್ಪನಿಕ ಉದಾಹರಣೆಯನ್ನು ಮೂರ್ ನೀಡುತ್ತಾರೆ. ಗುಡ್ಮ್ಯಾನ್ ಏಜೆಂಟ್ ದಿನಾಂಕಗಳನ್ನು ಹೋಲಿಸುತ್ತದೆ ಆದರೆ ಸಹಸ್ರಮಾನದ ದೋಷವನ್ನು ಹೊಂದಿದೆ. ವರ್ಷದ ಕೊನೆಯ ಎರಡು ಅಂಕಿಗಳನ್ನು ಮಾತ್ರ ಹೊಂದಿರುವ ದಿನಾಂಕಗಳನ್ನು ಪ್ರತಿನಿಧಿಸುವ ಪ್ರೋಗ್ರಾಮರ್ಗಳಿಂದ ಈ ದೋಷವು ಉಂಟಾಗಿದೆ. ಆದ್ದರಿಂದ 2000ನೇ ಇಸವಿಯನ್ನು ಮೀರಿದ ಯಾವುದೇ ದಿನಾಂಕಗಳನ್ನು ಇಪ್ಪತ್ತನೇ ಶತಮಾನದ ಅಂತ್ಯಕ್ಕಿಂತಲೂ ಹಿಂದಿನದು ಎಂದು ತಪ್ಪಾಗಿ ಪರಿಗಣಿಸಲಾಗುತ್ತದೆ. ಹೀಗಾಗಿ ಗುಡ್ಮ್ಯಾನ್ ಏಜೆಂಟ್ 2000ಕ್ಕಿಂತ ಮೊದಲು ನೈತಿಕ ಪ್ರಭಾವದ ಏಜೆಂಟ್ ಆಗಿದ್ದರು ಮತ್ತು ನಂತರ ಅನೈತಿಕ ಪ್ರಭಾವದ ಏಜೆಂಟ್ ಆಗಿದ್ದರು. ಸೂಚ್ಯ ನೈತಿಕ ಏಜೆಂಟ್ಗಳುಃ ಮಾನವ ಸುರಕ್ಷತೆಯ ಪರಿಗಣನೆಗಾಗಿ, ಈ ಏಜೆಂಟ್ಗಳನ್ನು ವಿಫಲ-ಸುರಕ್ಷಿತ ಅಥವಾ ಅಂತರ್ನಿರ್ಮಿತ ಸದ್ಗುಣವನ್ನು ಹೊಂದಲು ಪ್ರೋಗ್ರಾಮ್ ಮಾಡಲಾಗಿದೆ. ಅವು ಸಂಪೂರ್ಣವಾಗಿ ನೈತಿಕ ಸ್ವರೂಪದ್ದಲ್ಲ, ಬದಲಿಗೆ ಅನೈತಿಕ ಫಲಿತಾಂಶಗಳನ್ನು ತಪ್ಪಿಸಲು ಯೋಜಿಸಲಾಗಿದೆ. ಸ್ಪಷ್ಟ ನೈತಿಕ ಏಜೆಂಟ್ಗಳುಃ ಇವು ಸನ್ನಿವೇಶಗಳನ್ನು ಸಂಸ್ಕರಿಸುವ ಮತ್ತು ನೈತಿಕ ನಿರ್ಧಾರಗಳ ಮೇಲೆ ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಸಾಮರ್ಥ್ಯವನ್ನು ಹೊಂದಿರುವ ಯಂತ್ರಗಳಾಗಿವೆ. ನೈತಿಕವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಕ್ರಮಾವಳಿಗಳನ್ನು ಹೊಂದಿರುವ ಯಂತ್ರಗಳು. ಪೂರ್ಣ ನೈತಿಕ ಏಜೆಂಟ್ಗಳುಃ ಈ ಯಂತ್ರಗಳು ನೈತಿಕ ನಿರ್ಧಾರಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳುವಲ್ಲಿ ಸ್ಪಷ್ಟವಾದ ನೈತಿಕ ಏಜೆಂಟ್ಗಳನ್ನು ಹೋಲುತ್ತವೆ. ಆದಾಗ್ಯೂ, ಅವು ಮಾನವನ ಆಧ್ಯಾತ್ಮಿಕ ಲಕ್ಷಣಗಳನ್ನು ಸಹ ಹೊಂದಿವೆ. (ಅಂದರೆ. ಸ್ವತಂತ್ರ ಇಚ್ಛೆ, ಪ್ರಜ್ಞೆ ಮತ್ತು ಉದ್ದೇಶವನ್ನು ಹೊಂದಿರಿ) (ಕೃತಕ ವ್ಯವಸ್ಥೆಗಳು ಮತ್ತು ನೈತಿಕ ಜವಾಬ್ದಾರಿಯನ್ನು ನೋಡಿ.) ತತ್ವಜ್ಞಾನಿ ನಿಕ್ ಬೋಸ್ಟ್ರಾಮ್ ಮತ್ತು ಎಐ ಸಂಶೋಧಕ ಸ್ಟುವರ್ಟ್ ರಸ್ಸೆಲ್ ಅವರಂತಹ ಕೆಲವು ವಿದ್ವಾಂಸರು, ಎಐ ಸಾಮಾನ್ಯ ಬುದ್ಧಿವಂತಿಕೆಯಲ್ಲಿ ಮಾನವೀಯತೆಯನ್ನು ಮೀರಿಸಿದರೆ ಮತ್ತು "ಸೂಪರ್ ಇಂಟೆಲಿಜೆನ್ಸ್" ಆಗಿದ್ದರೆ, ಈ ಹೊಸ ಸೂಪರ್ ಇಂಟೆಲಿಜೆನ್ಸ್ ಶಕ್ತಿಯುತವಾಗಬಹುದು ಮತ್ತು ನಿಯಂತ್ರಿಸಲು ಕಷ್ಟವಾಗಬಹುದು ಎಂದು ವಾದಿಸುತ್ತಾರೆಃ ಪರ್ವತ ಗೊರಿಲ್ಲಾದ ಭವಿಷ್ಯವು ಮಾನವನ ಸದ್ಭಾವನೆಯ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿರುವಂತೆಯೇ, ಮಾನವೀಯತೆಯ ಭವಿಷ್ಯವು ಭವಿಷ್ಯದ ಯಂತ್ರ ಸೂಪರ್ ಇಂಟೆಲಿಜೆನ್ಸ್ನ ಕ್ರಿಯೆಗಳ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿರುತ್ತದೆ. ಸೂಪರ್ ಇಂಟೆಲಿಜೆನ್ಸ್ ಮತ್ತು ಹ್ಯೂಮನ್ ಕಾಂಪ್ಯಾಟಿಬಲ್ ಎಂಬ ತಮ್ಮ ತಮ್ಮ ಪುಸ್ತಕಗಳಲ್ಲಿ, ಇಬ್ಬರೂ ವಿದ್ವಾಂಸರು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಭವಿಷ್ಯದ ಬಗ್ಗೆ ಹೆಚ್ಚಿನ ಅನಿಶ್ಚಿತತೆ ಇದ್ದರೂ, ಮಾನವೀಯತೆಗೆ ಅಪಾಯವು ಪ್ರಸ್ತುತದಲ್ಲಿ ಗಮನಾರ್ಹ ಕ್ರಮಕ್ಕೆ ಅರ್ಹವಾಗಿದೆ ಎಂದು ಪ್ರತಿಪಾದಿಸುತ್ತಾರೆ. ಇದು AI ನಿಯಂತ್ರಣ ಸಮಸ್ಯೆಯನ್ನು ಪ್ರಸ್ತುತಪಡಿಸುತ್ತದೆಃ ಅದರ ಸೃಷ್ಟಿಕರ್ತರಿಗೆ ಸಹಾಯ ಮಾಡುವ ಬುದ್ಧಿವಂತ ಏಜೆಂಟ್ ಅನ್ನು ಹೇಗೆ ನಿರ್ಮಿಸುವುದು, ಆದರೆ ಅದರ ಸೃಷ್ಟಿಕರ್ತರಿಗೆ ಹಾನಿಯುಂಟುಮಾಡುವ ಸೂಪರ್ ಇಂಟೆಲಿಜೆನ್ಸ್ ಅನ್ನು ಅಜಾಗರೂಕತೆಯಿಂದ ನಿರ್ಮಿಸುವುದನ್ನು ತಪ್ಪಿಸುವುದು. "ಮೊದಲ ಬಾರಿಗೆ" ನಿಯಂತ್ರಣವನ್ನು ಸರಿಯಾಗಿ ವಿನ್ಯಾಸಗೊಳಿಸದಿರುವ ಅಪಾಯವೆಂದರೆ, ಸೂಪರ್ ಇಂಟೆಲಿಜೆನ್ಸ್ ತನ್ನ ಪರಿಸರದ ಮೇಲೆ ಅಧಿಕಾರವನ್ನು ವಶಪಡಿಸಿಕೊಳ್ಳಲು ಮತ್ತು ಮನುಷ್ಯರು ಅದನ್ನು ಮುಚ್ಚುವುದನ್ನು ತಡೆಯಲು ಸಾಧ್ಯವಾಗುತ್ತದೆ. ಸಂಭಾವ್ಯ AI ನಿಯಂತ್ರಣ ಕಾರ್ಯತಂತ್ರಗಳಲ್ಲಿ "ಸಾಮರ್ಥ್ಯ ನಿಯಂತ್ರಣ" (ಪ್ರಪಂಚದ ಮೇಲೆ ಪ್ರಭಾವ ಬೀರುವ AI ಸಾಮರ್ಥ್ಯವನ್ನು ಸೀಮಿತಗೊಳಿಸುವುದು) ಮತ್ತು "ಪ್ರೇರಕ ನಿಯಂತ್ರಣ" (ಮಾನವ ಅಥವಾ ಅತ್ಯುತ್ತಮ ಮೌಲ್ಯಗಳೊಂದಿಗೆ ಹೊಂದಿಕೆಯಾಗುವ ಗುರಿಗಳನ್ನು ಹೊಂದಿರುವ AI ಅನ್ನು ನಿರ್ಮಿಸುವ ಒಂದು ಮಾರ್ಗ) ಸೇರಿವೆ. ಫ್ಯೂಚರ್ ಆಫ್ ಹ್ಯುಮಾನಿಟಿ ಇನ್ಸ್ಟಿಟ್ಯೂಟ್, ಮೆಷಿನ್ ಇಂಟೆಲಿಜೆನ್ಸ್ ರಿಸರ್ಚ್ ಇನ್ಸ್ಟಿಟ್ಯೂಟ್, ಸೆಂಟರ್ ಫಾರ್ ಹ್ಯೂಮನ್-ಕಾಂಪ್ಯಾಟಿಬಲ್ ಆರ್ಟಿಫಿಶಿಯಲ್ ಇಂಟೆಲಿಜೆನ್ಸ್ ಮತ್ತು ಫ್ಯೂಚರ್ ಆಫ್ ಲೈಫ್ ಇನ್ಸ್ಟಿಟ್ಯೂಟ್ ಸೇರಿದಂತೆ ಎಐ ನಿಯಂತ್ರಣ ಸಮಸ್ಯೆಯನ್ನು ಸಂಶೋಧಿಸುವ ಹಲವಾರು ಸಂಸ್ಥೆಗಳಿವೆ. ಅಲ್ಗಾರಿದಮ್ಗಳು ಮತ್ತು ತರಬೇತಿ AI ಮಾದರಿಗಳನ್ನು ಚರ್ಚಿಸಲಾಗಿದೆ, ವಿಶೇಷವಾಗಿ ಅವುಗಳ ಪರಿಣಾಮಕಾರಿತ್ವ ಮತ್ತು ಪಕ್ಷಪಾತಕ್ಕೆ ಸಂಬಂಧಿಸಿದಂತೆ. ನಿರ್ಧಾರದ ಮರಗಳು ಪಾರದರ್ಶಕತೆ ಮತ್ತು ಮುನ್ಸೂಚನೆಯ ಆಧುನಿಕ ಸಾಮಾಜಿಕ ಮಾನದಂಡಗಳನ್ನು ಪಾಲಿಸುತ್ತವೆ ಎಂಬ ಆಧಾರದ ಮೇಲೆ ನಿಕ್ ಬೋಸ್ಟ್ರಾಮ್ ಮತ್ತು ಎಲಿಯೆಜರ್ ಯುಡ್ಕೋವ್ಸ್ಕಿ ಅವರು ನರ ಜಾಲಗಳು ಮತ್ತು ಆನುವಂಶಿಕ ಕ್ರಮಾವಳಿಗಳ ಮೇಲೆ ನಿರ್ಧಾರದ ಮರಗಳ (ಐಡಿ 3 ನಂತಹ) ಪರವಾಗಿ ವಾದಿಸಿದ್ದಾರೆ (ಉದಾ. ದಿಟ್ಟಿಸಿ ನೋಡಿ). ಇದಕ್ಕೆ ತದ್ವಿರುದ್ಧವಾಗಿ, ಕ್ರಿಸ್ ಸ್ಯಾಂಟೋಸ್-ಲ್ಯಾಂಗ್ ನರ ಜಾಲಗಳು ಮತ್ತು ಆನುವಂಶಿಕ ಕ್ರಮಾವಳಿಗಳ ಪರವಾಗಿ ವಾದಿಸಿದರು, ಯಾವುದೇ ವಯಸ್ಸಿನ ಮಾನದಂಡಗಳನ್ನು ಬದಲಾಯಿಸಲು ಅವಕಾಶ ನೀಡಬೇಕು ಮತ್ತು ಈ ನಿರ್ದಿಷ್ಟ ಮಾನದಂಡಗಳನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ಪೂರೈಸುವಲ್ಲಿ ನೈಸರ್ಗಿಕ ವೈಫಲ್ಯವು ಮನುಷ್ಯರನ್ನು ಯಂತ್ರಗಳಿಗಿಂತ ಕಡಿಮೆ ದುರ್ಬಲವಾಗಿಸುವಲ್ಲಿ ಅತ್ಯಗತ್ಯವಾಗಿದೆ. 2009ರಲ್ಲಿ, ಸ್ವಿಟ್ಜರ್ಲೆಂಡ್ನ ಲೌಸಾನ್ನಲ್ಲಿರುವ ಎಕೋಲ್ ಪಾಲಿಟೆಕ್ನಿಕ್ ಫೆಡರಲ್ನಲ್ಲಿರುವ ಲ್ಯಾಬೊರೇಟರಿ ಆಫ್ ಇಂಟೆಲಿಜೆಂಟ್ ಸಿಸ್ಟಮ್ಸ್ನಲ್ಲಿನ ಪ್ರಯೋಗವೊಂದರಲ್ಲಿ, AI ರೋಬೋಟ್ಗಳನ್ನು ಪರಸ್ಪರ ಸಹಕರಿಸಲು ಪ್ರೋಗ್ರಾಮ್ ಮಾಡಲಾಯಿತು ಮತ್ತು ವಿಷಕಾರಿ ಸಂಪನ್ಮೂಲವನ್ನು ತಪ್ಪಿಸುವಾಗ ಪ್ರಯೋಜನಕಾರಿ ಸಂಪನ್ಮೂಲವನ್ನು ಹುಡುಕುವ ಗುರಿಯನ್ನು ವಹಿಸಲಾಯಿತು. ಪ್ರಯೋಗದ ಸಮಯದಲ್ಲಿ, ರೋಬೋಟ್ಗಳನ್ನು ಕುಲಗಳಾಗಿ ವರ್ಗೀಕರಿಸಲಾಯಿತು ಮತ್ತು ಯಶಸ್ವಿ ಸದಸ್ಯರ ಡಿಜಿಟಲ್ ಜೆನೆಟಿಕ್ ಕೋಡ್ ಅನ್ನು ಮುಂದಿನ ಪೀಳಿಗೆಗೆ ಬಳಸಲಾಯಿತು, ಇದು ಜೆನೆಟಿಕ್ ಅಲ್ಗಾರಿದಮ್ ಎಂದು ಕರೆಯಲ್ಪಡುವ ಅಲ್ಗಾರಿದಮ್ನ ಒಂದು ವಿಧವಾಗಿದೆ. ಎಐಯಲ್ಲಿ ಸತತ 50 ತಲೆಮಾರುಗಳ ನಂತರ, ಒಂದು ಕುಲದ ಸದಸ್ಯರು ಪ್ರಯೋಜನಕಾರಿ ಸಂಪನ್ಮೂಲವನ್ನು ವಿಷಕಾರಿ ಸಂಪನ್ಮೂಲದಿಂದ ಹೇಗೆ ಪ್ರತ್ಯೇಕಿಸಬೇಕು ಎಂಬುದನ್ನು ಕಂಡುಹಿಡಿದರು. ರೋಬೋಟ್ಗಳು ನಂತರ ಇತರ ರೋಬೋಟ್ಗಳಿಂದ ಪ್ರಯೋಜನಕಾರಿ ಸಂಪನ್ಮೂಲವನ್ನು ಸಂಗ್ರಹಿಸುವ ಪ್ರಯತ್ನದಲ್ಲಿ ಪರಸ್ಪರ ಸುಳ್ಳು ಹೇಳಲು ಕಲಿತವು. ಅದೇ ಪ್ರಯೋಗದಲ್ಲಿ, ಅದೇ AI ರೋಬೋಟ್ಗಳು ನಿಸ್ವಾರ್ಥವಾಗಿ ವರ್ತಿಸಲು ಕಲಿತವು ಮತ್ತು ಇತರ ರೋಬೋಟ್ಗಳಿಗೆ ಅಪಾಯವನ್ನು ಸೂಚಿಸಿದವು ಮತ್ತು ಇತರ ರೋಬೋಟ್ಗಳನ್ನು ಉಳಿಸುವ ವೆಚ್ಚದಲ್ಲಿ ಸಾವನ್ನಪ್ಪಿದವು. ಈ ಪ್ರಯೋಗದ ಪರಿಣಾಮಗಳನ್ನು ಯಂತ್ರ ನೀತಿಶಾಸ್ತ್ರಜ್ಞರು ಪ್ರಶ್ನಿಸಿದ್ದಾರೆ. ಎಕೋಲ್ ಪಾಲಿಟೆಕ್ನಿಕ್ ಫೆಡರಲ್ ಪ್ರಯೋಗದಲ್ಲಿ, ರೋಬೋಟ್ಗಳ ಗುರಿಗಳನ್ನು "ಟರ್ಮಿನಲ್" ಎಂದು ಪ್ರೋಗ್ರಾಮ್ ಮಾಡಲಾಗಿದೆ. ಇದಕ್ಕೆ ವ್ಯತಿರಿಕ್ತವಾಗಿ, ಮಾನವನ ಉದ್ದೇಶಗಳು ಸಾಮಾನ್ಯವಾಗಿ ಅಂತ್ಯವಿಲ್ಲದ ಕಲಿಕೆಯ ಅಗತ್ಯವನ್ನು ಹೊಂದಿರುತ್ತವೆ. ಸ್ವಾಯತ್ತ ಶಸ್ತ್ರಾಸ್ತ್ರ ವ್ಯವಸ್ಥೆಗಳು 2009 ರಲ್ಲಿ, ರೋಬೋಟ್ಗಳು ಮತ್ತು ಕಂಪ್ಯೂಟರ್ಗಳ ಸಂಭಾವ್ಯ ಪರಿಣಾಮ ಮತ್ತು ಅವು ಸ್ವಾವಲಂಬಿಯಾಗಬಹುದು ಮತ್ತು ತಮ್ಮದೇ ಆದ ನಿರ್ಧಾರಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳಲು ಸಮರ್ಥವಾಗಬಹುದು ಎಂಬ ಊಹಾತ್ಮಕ ಸಾಧ್ಯತೆಯ ಪರಿಣಾಮವನ್ನು ಚರ್ಚಿಸಲು ಶಿಕ್ಷಣ ತಜ್ಞರು ಮತ್ತು ತಾಂತ್ರಿಕ ತಜ್ಞರು ಸಮ್ಮೇಳನದಲ್ಲಿ ಭಾಗವಹಿಸಿದ್ದರು. ಕಂಪ್ಯೂಟರ್ಗಳು ಮತ್ತು ರೋಬೋಟ್ಗಳು ಯಾವುದೇ ಮಟ್ಟದ ಸ್ವಾಯತ್ತತೆಯನ್ನು ಪಡೆಯುವ ಸಾಧ್ಯತೆ ಮತ್ತು ವ್ಯಾಪ್ತಿಯನ್ನು ಮತ್ತು ಯಾವುದೇ ಬೆದರಿಕೆ ಅಥವಾ ಅಪಾಯವನ್ನು ಉಂಟುಮಾಡಲು ಅಂತಹ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಅವರು ಯಾವ ಮಟ್ಟಕ್ಕೆ ಬಳಸಬಹುದು ಎಂಬುದರ ಬಗ್ಗೆ ಅವರು ಚರ್ಚಿಸಿದರು. ಕೆಲವು ಯಂತ್ರಗಳು ತಮ್ಮದೇ ಆದ ವಿದ್ಯುತ್ ಮೂಲಗಳನ್ನು ಕಂಡುಹಿಡಿಯಲು ಮತ್ತು ಶಸ್ತ್ರಾಸ್ತ್ರಗಳಿಂದ ದಾಳಿ ಮಾಡಲು ಸ್ವತಂತ್ರವಾಗಿ ಗುರಿಗಳನ್ನು ಆಯ್ಕೆ ಮಾಡಲು ಸಾಧ್ಯವಾಗುವುದು ಸೇರಿದಂತೆ ವಿವಿಧ ರೀತಿಯ ಅರೆ-ಸ್ವಾಯತ್ತತೆಯನ್ನು ಪಡೆದುಕೊಂಡಿವೆ ಎಂದು ಅವರು ಗಮನಿಸಿದರು. ಕೆಲವು ಕಂಪ್ಯೂಟರ್ ವೈರಸ್ಗಳು ನಿರ್ಮೂಲನೆಯನ್ನು ತಪ್ಪಿಸಬಹುದು ಮತ್ತು "ಜಿರಳೆ ಬುದ್ಧಿವಂತಿಕೆ" ಯನ್ನು ಸಾಧಿಸಿವೆ ಎಂದು ಅವರು ಗಮನಿಸಿದರು. ವಿಜ್ಞಾನ-ಕಾದಂಬರಿಯಲ್ಲಿ ಚಿತ್ರಿಸಿದಂತೆ ಸ್ವಯಂ-ಅರಿವು ಬಹುಶಃ ಅಸಂಭವವಾಗಿದೆ, ಆದರೆ ಇತರ ಸಂಭಾವ್ಯ ಅಪಾಯಗಳು ಮತ್ತು ಅಪಾಯಗಳಿವೆ ಎಂದು ಅವರು ಗಮನಿಸಿದರು. ಕೆಲವು ತಜ್ಞರು ಮತ್ತು ಶಿಕ್ಷಣ ತಜ್ಞರು ಮಿಲಿಟರಿ ಯುದ್ಧಕ್ಕಾಗಿ ರೋಬೋಟ್ಗಳ ಬಳಕೆಯನ್ನು ಪ್ರಶ್ನಿಸಿದ್ದಾರೆ, ವಿಶೇಷವಾಗಿ ಅಂತಹ ರೋಬೋಟ್ಗಳಿಗೆ ಸ್ವಲ್ಪ ಮಟ್ಟಿಗೆ ಸ್ವಾಯತ್ತ ಕಾರ್ಯಗಳನ್ನು ನೀಡಿದಾಗ. ಮಿಲಿಟರಿ ರೋಬೋಟ್ಗಳು ಹೆಚ್ಚು ಸಂಕೀರ್ಣವಾಗುತ್ತಿದ್ದಂತೆ, ಸ್ವಾಯತ್ತ ನಿರ್ಧಾರಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳುವ ಅವುಗಳ ಸಾಮರ್ಥ್ಯದ ಪರಿಣಾಮಗಳ ಬಗ್ಗೆ ಹೆಚ್ಚಿನ ಗಮನ ಹರಿಸಬೇಕು ಎಂದು ಸೂಚಿಸುವ ವರದಿಯೊಂದಕ್ಕೆ ಯು. ಎಸ್. ನೌಕಾಪಡೆಯು ಧನಸಹಾಯ ನೀಡಿದೆ. ಅಸೋಸಿಯೇಷನ್ ಫಾರ್ ದಿ ಅಡ್ವಾನ್ಸ್ಮೆಂಟ್ ಆಫ್ ಆರ್ಟಿಫಿಶಿಯಲ್ ಇಂಟೆಲಿಜೆನ್ಸ್ನ ಅಧ್ಯಕ್ಷರು ಈ ವಿಷಯವನ್ನು ಪರಿಶೀಲಿಸಲು ಅಧ್ಯಯನವನ್ನು ನಿಯೋಜಿಸಿದ್ದಾರೆ. ಅವರು ಮಾನವ ಸಂವಹನವನ್ನು ಅನುಕರಿಸುವ ಭಾಷಾ ಸ್ವಾಧೀನ ಸಾಧನದಂತಹ ಕಾರ್ಯಕ್ರಮಗಳನ್ನು ಸೂಚಿಸುತ್ತಾರೆ. ಸಮಾಜದೊಂದಿಗೆ ಕೃತಕ ಸಾಮಾನ್ಯ ಬುದ್ಧಿವಂತಿಕೆಯ ಏಕೀಕರಣ ಅಸ್ತಿತ್ವದಲ್ಲಿರುವ ಕಾನೂನು ಮತ್ತು ಸಾಮಾಜಿಕ ಚೌಕಟ್ಟುಗಳೊಂದಿಗೆ ಕೃತಕ ಸಾಮಾನ್ಯ ಬುದ್ಧಿವಂತಿಕೆಗಳನ್ನು (ಮೇಲೆ ವ್ಯಾಖ್ಯಾನಿಸಿದಂತೆ ಸಂಪೂರ್ಣ ನೈತಿಕ ಏಜೆಂಟ್ಗಳು) ಸಂಯೋಜಿಸುವ ವಿಧಾನಗಳ ಮೇಲೆ ಪ್ರಾಥಮಿಕ ಕಾರ್ಯವನ್ನು ನಡೆಸಲಾಗಿದೆ. ವಿಧಾನಗಳು ತಮ್ಮ ಕಾನೂನು ಸ್ಥಿತಿ ಮತ್ತು ಹಕ್ಕುಗಳನ್ನು ಪರಿಗಣಿಸುವುದರ ಮೇಲೆ ಕೇಂದ್ರೀಕರಿಸಿವೆ. ದೊಡ್ಡ ದತ್ತಾಂಶ ಮತ್ತು ಯಂತ್ರ ಕಲಿಕೆಯ ಕ್ರಮಾವಳಿಗಳು ಆನ್ಲೈನ್ ಜಾಹೀರಾತು, ಕ್ರೆಡಿಟ್ ರೇಟಿಂಗ್ಗಳು ಮತ್ತು ಕ್ರಿಮಿನಲ್ ಶಿಕ್ಷೆ ಸೇರಿದಂತೆ ಹಲವಾರು ಕೈಗಾರಿಕೆಗಳಲ್ಲಿ ಜನಪ್ರಿಯವಾಗಿವೆ, ಹೆಚ್ಚು ವಸ್ತುನಿಷ್ಠ, ದತ್ತಾಂಶ-ಚಾಲಿತ ಫಲಿತಾಂಶಗಳನ್ನು ಒದಗಿಸುವ ಭರವಸೆಯೊಂದಿಗೆ, ಆದರೆ ಸಾಮಾಜಿಕ ಅಸಮಾನತೆಗಳು ಮತ್ತು ತಾರತಮ್ಯವನ್ನು ಶಾಶ್ವತಗೊಳಿಸುವ ಸಂಭಾವ್ಯ ಮೂಲವೆಂದು ಗುರುತಿಸಲಾಗಿದೆ. ಗೂಗಲ್ನ ಆಡ್ಸೆನ್ಸ್ನಿಂದ ಹೆಚ್ಚಿನ ಆದಾಯದ ಉದ್ಯೋಗ ಜಾಹೀರಾತುಗಳನ್ನು ಮಹಿಳೆಯರು ತೋರಿಸುವ ಸಾಧ್ಯತೆ ಕಡಿಮೆ ಎಂದು 2015ರ ಅಧ್ಯಯನವು ಕಂಡುಹಿಡಿದಿದೆ. ಮತ್ತೊಂದು ಅಧ್ಯಯನವು ಅಮೆಜಾನ್ನ ಒಂದೇ ದಿನದ ವಿತರಣಾ ಸೇವೆಯನ್ನು ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ಕಪ್ಪು ನೆರೆಹೊರೆಯಲ್ಲಿ ಲಭ್ಯವಿಲ್ಲ ಎಂದು ಕಂಡುಹಿಡಿದಿದೆ. ಗೂಗಲ್ ಮತ್ತು ಅಮೆಜಾನ್ ಎರಡಕ್ಕೂ ಈ ಫಲಿತಾಂಶಗಳನ್ನು ಒಂದೇ ಸಮಸ್ಯೆಯಿಂದ ಪ್ರತ್ಯೇಕಿಸಲು ಸಾಧ್ಯವಾಗಲಿಲ್ಲ, ಆದರೆ ಫಲಿತಾಂಶಗಳು ಅವರು ಬಳಸಿದ ಕಪ್ಪು ಪೆಟ್ಟಿಗೆ ಕ್ರಮಾವಳಿಗಳ ಫಲಿತಾಂಶವಾಗಿದೆ ಎಂದು ವಿವರಿಸಿದರು. ಯುನೈಟೆಡ್ ಸ್ಟೇಟ್ಸ್ನ ನ್ಯಾಯಾಂಗ ವ್ಯವಸ್ಥೆಯು ಹೆಚ್ಚು ನ್ಯಾಯಯುತವಾಗಿರಲು ಮತ್ತು ಈಗಾಗಲೇ ಹೆಚ್ಚಿನ ಜೈಲು ಶಿಕ್ಷೆಯನ್ನು ಕಡಿಮೆ ಮಾಡುವ ಪ್ರಯತ್ನದಲ್ಲಿ ಜನರನ್ನು ಜಾಮೀನಿನ ಮೇಲೆ ಬಿಡುಗಡೆ ಮಾಡಲು ಮತ್ತು ಶಿಕ್ಷೆಗೆ ಸಂಬಂಧಿಸಿದ ನಿರ್ಧಾರಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳುವಾಗ ಪರಿಮಾಣಾತ್ಮಕ ಅಪಾಯ ಮೌಲ್ಯಮಾಪನ ತಂತ್ರಾಂಶವನ್ನು ಬಳಸಲು ಪ್ರಾರಂಭಿಸಿದೆ. ಈ ಸಾಧನಗಳು ಇತರ ಗುಣಲಕ್ಷಣಗಳ ನಡುವೆ ಪ್ರತಿವಾದಿಯ ಅಪರಾಧದ ಇತಿಹಾಸವನ್ನು ವಿಶ್ಲೇಷಿಸುತ್ತವೆ. ಫ್ಲೋರಿಡಾದ ಬ್ರೋವರ್ಡ್ ಕೌಂಟಿಯಲ್ಲಿ ಬಂಧಿಸಲಾದ 7,000 ಜನರ ಅಧ್ಯಯನದಲ್ಲಿ, ಕೌಂಟಿಯ ಅಪಾಯ ಮೌಲ್ಯಮಾಪನ ಸ್ಕೋರಿಂಗ್ ವ್ಯವಸ್ಥೆಯನ್ನು ಬಳಸಿಕೊಂಡು ಅಪರಾಧವನ್ನು ಮಾಡುವುದಾಗಿ ಊಹಿಸಿದ ವ್ಯಕ್ತಿಗಳಲ್ಲಿ ಕೇವಲ 20 ಪ್ರತಿಶತದಷ್ಟು ಜನರು ಅಪರಾಧವನ್ನು ಮಾಡಲು ಮುಂದಾದರು. 2016 ರ ಪ್ರೊಪಬ್ಲಿಕಾ ವರದಿಯು ಸಾಮಾನ್ಯವಾಗಿ ಬಳಸುವ ಸಾಧನಗಳಲ್ಲಿ ಒಂದಾದ ನಾರ್ತ್ಪಾಯಿಂಟ್ ಕಾಂಪಾಸ್ ವ್ಯವಸ್ಥೆಯಿಂದ ಲೆಕ್ಕ ಹಾಕಲಾದ ಮರುಕಳಿಸುವಿಕೆಯ ಅಪಾಯದ ಅಂಕಗಳನ್ನು ವಿಶ್ಲೇಷಿಸಿದೆ ಮತ್ತು ಎರಡು ವರ್ಷಗಳ ಫಲಿತಾಂಶಗಳನ್ನು ನೋಡಿದೆ. ಹೆಚ್ಚಿನ ಅಪಾಯವೆಂದು ಪರಿಗಣಿಸಲ್ಪಟ್ಟವರಲ್ಲಿ ಕೇವಲ ಶೇಕಡಾ 61ರಷ್ಟು ಜನರು ಮಾತ್ರ ಆ ಅವಧಿಯಲ್ಲಿ ಹೆಚ್ಚುವರಿ ಅಪರಾಧಗಳನ್ನು ಮಾಡಿದ್ದಾರೆ ಎಂದು ವರದಿಯು ಕಂಡುಹಿಡಿದಿದೆ. ಆಫ್ರಿಕನ್-ಅಮೆರಿಕನ್ ಪ್ರತಿವಾದಿಗಳಿಗೆ ಅವರ ಬಿಳಿ ಪ್ರತಿವಾದಿ ಸಹವರ್ತಿಗಳಿಗೆ ಹೋಲಿಸಿದರೆ ಹೆಚ್ಚಿನ ಅಪಾಯದ ಅಂಕಗಳನ್ನು ನೀಡುವ ಸಾಧ್ಯತೆಯಿದೆ ಎಂದು ವರದಿಯು ಫ್ಲ್ಯಾಗ್ ಮಾಡಿದೆ. ಕಾನೂನುಬದ್ಧವಾಗಿ, ಕೃತಕ ಬುದ್ಧಿವಂತಿಕೆಗಾಗಿ ಭಾಗಶಃ ಕಾನೂನು ಸಾಮರ್ಥ್ಯದ ಸಿದ್ಧಾಂತದ ಅಡಿಯಲ್ಲಿ ಅಲ್ಗಾರಿದಮ್ನಿಂದಲೇ ಸಂಭವನೀಯ ತಾರತಮ್ಯದ ಉದ್ದೇಶ ಸೇರಿದಂತೆ ಹಲವಾರು ಅಂಶಗಳಿಂದಾಗಿ, ಅಂತಹ ಪೂರ್ವ-ವಿಚಾರಣೆಯ ಅಪಾಯದ ಮೌಲ್ಯಮಾಪನಗಳು ಜನಾಂಗದ ಆಧಾರದ ಮೇಲೆ ಸಮಾನ ಸಂರಕ್ಷಣಾ ಹಕ್ಕುಗಳನ್ನು ಉಲ್ಲಂಘಿಸುತ್ತವೆ ಎಂದು ವಾದಿಸಲಾಗಿದೆ. 2016 ರಲ್ಲಿ, ಒಬಾಮಾ ಆಡಳಿತದ ಬಿಗ್ ಡೇಟಾ ವರ್ಕಿಂಗ್ ಗ್ರೂಪ್-ವಿವಿಧ ದೊಡ್ಡ-ದತ್ತಾಂಶ ನಿಯಂತ್ರಕ ಚೌಕಟ್ಟುಗಳ ಮೇಲ್ವಿಚಾರಕ-"ಸ್ವಯಂಚಾಲಿತ ನಿರ್ಧಾರಗಳಲ್ಲಿ ತಾರತಮ್ಯವನ್ನು ಎನ್ಕೋಡಿಂಗ್ ಮಾಡುವ ಸಾಮರ್ಥ್ಯ" ಮತ್ತು ಕ್ರೆಡಿಟ್ ಸ್ಕೋರಿಂಗ್ ನಂತಹ ಅಪ್ಲಿಕೇಶನ್ಗಳಿಗೆ "ವಿನ್ಯಾಸದ ಮೂಲಕ ಸಮಾನ ಅವಕಾಶ" ಎಂದು ವಾದಿಸುವ ವರದಿಗಳನ್ನು ಬಿಡುಗಡೆ ಮಾಡಿತು. ವರದಿಗಳು ನೀತಿ ನಿರೂಪಕರು, ನಾಗರಿಕರು ಮತ್ತು ಶಿಕ್ಷಣ ತಜ್ಞರ ನಡುವೆ ಸಂವಾದವನ್ನು ಉತ್ತೇಜಿಸುತ್ತವೆ, ಆದರೆ ಪೂರ್ವಗ್ರಹ ಮತ್ತು ತಾರತಮ್ಯವನ್ನು ಕ್ರಮಾವಳಿ ವ್ಯವಸ್ಥೆಗಳಾಗಿ ಎನ್ಕೋಡಿಂಗ್ ಮಾಡಲು ಇದು ಸಂಭಾವ್ಯ ಪರಿಹಾರವನ್ನು ಹೊಂದಿಲ್ಲ ಎಂದು ಗುರುತಿಸುತ್ತದೆ. ನೈತಿಕ ಚೌಕಟ್ಟುಗಳು ಮತ್ತು ಅಭ್ಯಾಸಗಳು ಮಾರ್ಚ್ 2018 ರಲ್ಲಿ, ಮಾನವ ಹಕ್ಕುಗಳ ಮೇಲೆ ಯಂತ್ರ ಕಲಿಕೆಯ ಪ್ರಭಾವದ ಬಗ್ಗೆ ಹೆಚ್ಚುತ್ತಿರುವ ಕಳವಳಗಳನ್ನು ಪರಿಹರಿಸುವ ಪ್ರಯತ್ನದಲ್ಲಿ, ವಿಶ್ವ ಆರ್ಥಿಕ ವೇದಿಕೆ ಮತ್ತು ಮಾನವ ಹಕ್ಕುಗಳ ಜಾಗತಿಕ ಭವಿಷ್ಯದ ಮಂಡಳಿಯು ಯಂತ್ರ ಕಲಿಕೆಯಲ್ಲಿ ತಾರತಮ್ಯದ ಫಲಿತಾಂಶಗಳನ್ನು ಹೇಗೆ ತಡೆಯುವುದು ಎಂಬುದರ ಕುರಿತು ವಿವರವಾದ ಶಿಫಾರಸುಗಳೊಂದಿಗೆ ಶ್ವೇತಪತ್ರವನ್ನು ಪ್ರಕಟಿಸಿತು. ಯಂತ್ರ ಕಲಿಕೆಯಲ್ಲಿ ತಾರತಮ್ಯದ ಫಲಿತಾಂಶಗಳನ್ನು ಪರಿಹರಿಸಲು ಮತ್ತು ತಡೆಯಲು ವಿಶ್ವ ಆರ್ಥಿಕ ವೇದಿಕೆಯು ವಿಶ್ವಸಂಸ್ಥೆಯ ಮಾನವ ಹಕ್ಕುಗಳ ಮಾರ್ಗದರ್ಶಿ ತತ್ವಗಳ ಆಧಾರದ ಮೇಲೆ ನಾಲ್ಕು ಶಿಫಾರಸುಗಳನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸಿದೆ. ವಿಶ್ವ ಆರ್ಥಿಕ ವೇದಿಕೆಯ ಶಿಫಾರಸುಗಳು ಈ ಕೆಳಗಿನಂತಿವೆಃ ಸಕ್ರಿಯ ಒಳಗೊಳ್ಳುವಿಕೆಃ ಯಂತ್ರ ಕಲಿಕಾ ಅನ್ವಯಗಳ ಅಭಿವೃದ್ಧಿ ಮತ್ತು ವಿನ್ಯಾಸವು, ವಿಶೇಷವಾಗಿ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ವ್ಯವಸ್ಥೆಗಳ ಉತ್ಪಾದನೆಯಿಂದ ಪ್ರಭಾವಿತರಾದ ನಿರ್ದಿಷ್ಟ ಜನಸಂಖ್ಯೆಯ ಮಾನದಂಡಗಳು ಮತ್ತು ಮೌಲ್ಯಗಳ ವೈವಿಧ್ಯತೆಯನ್ನು ಸಕ್ರಿಯವಾಗಿ ಹುಡುಕಬೇಕು. ನ್ಯಾಯೋಚಿತತೆಃ ಯಂತ್ರ ಕಲಿಕಾ ವ್ಯವಸ್ಥೆಗಳ ಪರಿಕಲ್ಪನೆ, ಅಭಿವೃದ್ಧಿ ಮತ್ತು ಅನುಷ್ಠಾನದಲ್ಲಿ ತೊಡಗಿರುವ ಜನರು ತಮ್ಮ ಸಂದರ್ಭ ಮತ್ತು ಅನ್ವಯಕ್ಕೆ ನ್ಯಾಯೋಚಿತತೆಯ ಯಾವ ವ್ಯಾಖ್ಯಾನವು ಉತ್ತಮವಾಗಿ ಅನ್ವಯಿಸುತ್ತದೆ ಎಂಬುದನ್ನು ಪರಿಗಣಿಸಬೇಕು ಮತ್ತು ಯಂತ್ರ ಕಲಿಕಾ ವ್ಯವಸ್ಥೆಯ ರಚನೆ ಮತ್ತು ಅದರ ಮೌಲ್ಯಮಾಪನ ಮಾಪನಗಳಲ್ಲಿ ಅದಕ್ಕೆ ಆದ್ಯತೆ ನೀಡಬೇಕು. ತಿಳುವಳಿಕೆಯ ಹಕ್ಕುಃ ವೈಯಕ್ತಿಕ ಹಕ್ಕುಗಳ ಮೇಲೆ ಪರಿಣಾಮ ಬೀರುವ ನಿರ್ಧಾರ ತೆಗೆದುಕೊಳ್ಳುವಲ್ಲಿ ಯಂತ್ರ ಕಲಿಕಾ ವ್ಯವಸ್ಥೆಗಳ ಪಾಲ್ಗೊಳ್ಳುವಿಕೆಯನ್ನು ಬಹಿರಂಗಪಡಿಸಬೇಕು ಮತ್ತು ಅಂತಿಮ ಬಳಕೆದಾರರಿಗೆ ಅರ್ಥವಾಗುವ ಮತ್ತು ಸಮರ್ಥ ಮಾನವ ಪ್ರಾಧಿಕಾರದಿಂದ ಪರಿಶೀಲಿಸಬಹುದಾದ ಅವರ ನಿರ್ಧಾರ ತೆಗೆದುಕೊಳ್ಳುವಿಕೆಯ ವಿವರಣೆಯನ್ನು ಒದಗಿಸಲು ವ್ಯವಸ್ಥೆಗಳು ಸಮರ್ಥವಾಗಿರಬೇಕು. ಇದು ಅಸಾಧ್ಯವಾದಾಗ ಮತ್ತು ಹಕ್ಕುಗಳು ಅಪಾಯದಲ್ಲಿರುವಾಗ, ಯಂತ್ರ ಕಲಿಕಾ ತಂತ್ರಜ್ಞಾನದ ವಿನ್ಯಾಸ, ನಿಯೋಜನೆ ಮತ್ತು ನಿಯಂತ್ರಣದ ನಾಯಕರು ಅದನ್ನು ಬಳಸಬೇಕೇ ಅಥವಾ ಬೇಡವೇ ಎಂದು ಪ್ರಶ್ನಿಸಬೇಕು. ಪರಿಹಾರಕ್ಕೆ ಪ್ರವೇಶಃ ಯಂತ್ರ ಕಲಿಕಾ ವ್ಯವಸ್ಥೆಗಳ ನಾಯಕರು, ವಿನ್ಯಾಸಕರು ಮತ್ತು ಅಭಿವರ್ಧಕರು ತಮ್ಮ ವ್ಯವಸ್ಥೆಗಳ ಸಂಭಾವ್ಯ ನಕಾರಾತ್ಮಕ ಮಾನವ ಹಕ್ಕುಗಳ ಪರಿಣಾಮಗಳನ್ನು ಗುರುತಿಸುವ ಜವಾಬ್ದಾರಿಯನ್ನು ಹೊಂದಿರುತ್ತಾರೆ. ಅವರು ವಿಭಿನ್ನ ಪರಿಣಾಮಗಳಿಂದ ಬಾಧಿತರಾದವರಿಗೆ ಪರಿಹಾರಕ್ಕಾಗಿ ಗೋಚರ ಮಾರ್ಗಗಳನ್ನು ರೂಪಿಸಬೇಕು ಮತ್ತು ಯಾವುದೇ ತಾರತಮ್ಯದ ಫಲಿತಾಂಶಗಳ ಸಮಯೋಚಿತ ಪರಿಹಾರಕ್ಕಾಗಿ ಪ್ರಕ್ರಿಯೆಗಳನ್ನು ಸ್ಥಾಪಿಸಬೇಕು. ಜನವರಿ 2020 ರಲ್ಲಿ, ಹಾರ್ವರ್ಡ್ ವಿಶ್ವವಿದ್ಯಾನಿಲಯದ ಬರ್ಕ್ಮನ್ ಕ್ಲೈನ್ ಸೆಂಟರ್ ಫಾರ್ ಇಂಟರ್ನೆಟ್ ಅಂಡ್ ಸೊಸೈಟಿಯು ಎಐಗಾಗಿ 36 ಪ್ರಮುಖ ತತ್ವಗಳ ಮೆಟಾ-ಅಧ್ಯಯನವನ್ನು ಪ್ರಕಟಿಸಿತು, ಇದರಲ್ಲಿ ಎಂಟು ಪ್ರಮುಖ ವಿಷಯಗಳನ್ನು ಗುರುತಿಸಲಾಗಿದೆಃ ಗೌಪ್ಯತೆ, ಹೊಣೆಗಾರಿಕೆ, ಸುರಕ್ಷತೆ ಮತ್ತು ಭದ್ರತೆ, ಪಾರದರ್ಶಕತೆ ಮತ್ತು ವಿವರಣೆ, ನ್ಯಾಯಸಮ್ಮತತೆ ಮತ್ತು ತಾರತಮ್ಯರಹಿತತೆ, ತಂತ್ರಜ್ಞಾನದ ಮಾನವ ನಿಯಂತ್ರಣ, ವೃತ್ತಿಪರ ಜವಾಬ್ದಾರಿ ಮತ್ತು ಮಾನವ ಮೌಲ್ಯಗಳ ಪ್ರಚಾರ. 2019ರಲ್ಲಿ ಜ್ಯೂರಿಚ್ನಲ್ಲಿರುವ ಸ್ವಿಸ್ ಫೆಡರಲ್ ಇನ್ಸ್ಟಿಟ್ಯೂಟ್ ಆಫ್ ಟೆಕ್ನಾಲಜಿಯ ಸಂಶೋಧಕರು ಇದೇ ರೀತಿಯ ಮೆಟಾ-ಅಧ್ಯಯನವನ್ನು ನಡೆಸಿದ್ದರು. ನೀತಿಗಳನ್ನು ಗಣನೀಯವಾಗಿಸಲು ಅಥವಾ ಕನಿಷ್ಠ ಔಪಚಾರಿಕವಾಗಿಸಲು ಹಲವಾರು ಪ್ರಯತ್ನಗಳು ನಡೆದಿವೆ. ಐಸಾಕ್ ಅಸಿಮೋವ್ ಅವರ ರೊಬೊಟಿಕ್ಸ್ನ ಮೂರು ನಿಯಮಗಳನ್ನು ಸಾಮಾನ್ಯವಾಗಿ ಕೃತಕ ನೈತಿಕ ಏಜೆಂಟ್ಗೆ ಸೂಕ್ತವೆಂದು ಪರಿಗಣಿಸಲಾಗಿಲ್ಲವಾದರೂ, ಕಾಂಟ್ನ ವರ್ಗೀಕರಣದ ಕಡ್ಡಾಯವನ್ನು ಬಳಸಬಹುದೇ ಎಂದು ಅಧ್ಯಯನ ಮಾಡಲಾಗಿದೆ. ಆದಾಗ್ಯೂ, ಮಾನವ ಮೌಲ್ಯವು ಕೆಲವು ಅಂಶಗಳಲ್ಲಿ ಬಹಳ ಸಂಕೀರ್ಣವಾಗಿದೆ ಎಂದು ಸೂಚಿಸಲಾಗಿದೆ. ಈ ಕಷ್ಟವನ್ನು ಸ್ಪಷ್ಟವಾಗಿ ಜಯಿಸುವ ಒಂದು ಮಾರ್ಗವೆಂದರೆ ಮಾನವ ಮೌಲ್ಯಗಳನ್ನು ಮನುಷ್ಯರಿಂದ ನೇರವಾಗಿ ಕೆಲವು ಕಾರ್ಯವಿಧಾನಗಳ ಮೂಲಕ ಪಡೆಯುವುದು, ಉದಾಹರಣೆಗೆ ಅವುಗಳನ್ನು ಕಲಿಯುವ ಮೂಲಕ. ಹಿಂದಿನ ರೀತಿಯ ಪರಿಸ್ಥಿತಿಗಳ ಮೇಲೆ ಪ್ರಸ್ತುತ ನೈತಿಕ ಪರಿಗಣನೆಗಳನ್ನು ಆಧರಿಸುವುದು ಮತ್ತೊಂದು ವಿಧಾನವಾಗಿದೆ. ಇದನ್ನು ಕ್ಯಾಶುಯಿಸ್ಟ್ರಿ ಎಂದು ಕರೆಯಲಾಗುತ್ತದೆ ಮತ್ತು ಇದನ್ನು ಅಂತರ್ಜಾಲದಲ್ಲಿ ಸಂಶೋಧನೆಯ ಮೂಲಕ ಕಾರ್ಯಗತಗೊಳಿಸಬಹುದು. ಹಿಂದಿನ ಲಕ್ಷಾಂತರ ನಿರ್ಧಾರಗಳ ಒಮ್ಮತವು ಪ್ರಜಾಪ್ರಭುತ್ವವನ್ನು ಅವಲಂಬಿಸಿರುವ ಹೊಸ ನಿರ್ಧಾರಕ್ಕೆ ಕಾರಣವಾಗುತ್ತದೆ. ಪ್ರೊಫೆಸರ್ ಬ್ರೂಸ್ ಎಮ್. ಮೆಕ್ಲಾರೆನ್ ಅವರು ಆರಂಭಿಕ (1990 ರ ದಶಕದ ಮಧ್ಯಭಾಗದಲ್ಲಿ) ಗಣನೆಯ ಮಾದರಿಯನ್ನು ನಿರ್ಮಿಸಿದರು, ನಿರ್ದಿಷ್ಟವಾಗಿ AI ಮತ್ತು ಕೇಸ್-ಬೇಸ್ ತಾರ್ಕಿಕ ತಂತ್ರಗಳೊಂದಿಗೆ ನಿರ್ಮಿಸಲಾದ ಸಿರೋಕೊ ಎಂಬ ಪ್ರೋಗ್ರಾಂ ನೈತಿಕ ಸಂದಿಗ್ಧತೆಗಳನ್ನು ಮರುಪಡೆಯುತ್ತದೆ ಮತ್ತು ವಿಶ್ಲೇಷಿಸುತ್ತದೆ. ಆದಾಗ್ಯೂ, ಈ ವಿಧಾನವು ಸಮಾಜದಲ್ಲಿ ಪ್ರದರ್ಶಿಸಲಾದ ಪಕ್ಷಪಾತ ಮತ್ತು ಅನೈತಿಕ ನಡವಳಿಕೆಗಳನ್ನು ಪ್ರತಿಬಿಂಬಿಸುವ ನಿರ್ಧಾರಗಳಿಗೆ ಕಾರಣವಾಗಬಹುದು. ಈ ವಿಧಾನದ ನಕಾರಾತ್ಮಕ ಪರಿಣಾಮಗಳನ್ನು ಮೈಕ್ರೋಸಾಫ್ಟ್ನ ಟೇ (ಬೋಟ್) ನಲ್ಲಿ ಕಾಣಬಹುದು, ಅಲ್ಲಿ ಟ್ವಿಟರ್ ಬಳಕೆದಾರರು ಕಳುಹಿಸಿದ ಜನಾಂಗೀಯ ಮತ್ತು ಲೈಂಗಿಕ ಆರೋಪದ ಸಂದೇಶಗಳನ್ನು ಪುನರಾವರ್ತಿಸಲು ಚಾಟರ್ಬೋಟ್ ಕಲಿತರು. ಒಂದು ಚಿಂತನೆಯ ಪ್ರಯೋಗವು ಜೀನಿ ಗೋಲೆಮ್ನ ಮೇಲೆ ಕೇಂದ್ರೀಕರಿಸುತ್ತದೆ, ಅದು ಅನಿಯಮಿತ ಶಕ್ತಿಗಳನ್ನು ಓದುಗರಿಗೆ ಪ್ರಸ್ತುತಪಡಿಸುತ್ತದೆ. ಈ ಜಿನೀ ಇದು 50 ವರ್ಷಗಳಲ್ಲಿ ಮರಳುತ್ತದೆ ಎಂದು ಘೋಷಿಸುತ್ತದೆ ಮತ್ತು ಅದು ತಕ್ಷಣವೇ ಕಾರ್ಯನಿರ್ವಹಿಸುವ ನಿರ್ದಿಷ್ಟ ನೈತಿಕತೆಯನ್ನು ಒದಗಿಸಬೇಕೆಂದು ಒತ್ತಾಯಿಸುತ್ತದೆ. ಈ ಪ್ರಯೋಗದ ಉದ್ದೇಶವು ಕಂಪ್ಯೂಟರ್ಗಳು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಬಹುದಾದ ಸಂಪೂರ್ಣ ನೈತಿಕತೆಯನ್ನು ವ್ಯಾಖ್ಯಾನಿಸುವುದನ್ನು ಹೇಗೆ ಉತ್ತಮವಾಗಿ ನಿರ್ವಹಿಸಬೇಕು ಎಂಬುದರ ಕುರಿತು ಪ್ರವಚನವನ್ನು ಪ್ರಾರಂಭಿಸುವುದು. ವೈಜ್ಞಾನಿಕ ಕಾದಂಬರಿಯಲ್ಲಿ, ಚಲನಚಿತ್ರಗಳು ಮತ್ತು ಕಾದಂಬರಿಗಳು ರೋಬೋಟ್ಗಳು ಮತ್ತು ಯಂತ್ರಗಳಲ್ಲಿನ ಸಂವೇದನೆಯ ಕಲ್ಪನೆಯೊಂದಿಗೆ ಆಡಿವೆ. ನೀಲ್ ಬ್ಲೊಮ್ಕಾಂಪ್ನ ಚಾಪ್ಪಿ (2015) ಒಬ್ಬರ ಪ್ರಜ್ಞೆಯನ್ನು ಕಂಪ್ಯೂಟರ್ಗೆ ವರ್ಗಾಯಿಸಲು ಸಾಧ್ಯವಾಗುವ ಸನ್ನಿವೇಶವನ್ನು ಜಾರಿಗೆ ತಂದಿತು. ಅಲೆಕ್ಸ್ ಗಾರ್ಲ್ಯಾಂಡ್ ಅವರ ಎಕ್ಸ್ ಮೆಷಿನಾ (2014) ಚಲನಚಿತ್ರವು ಟ್ಯೂರಿಂಗ್ ಟೆಸ್ಟ್ನ ರೂಪಾಂತರಕ್ಕೆ ಒಳಗಾದ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯನ್ನು ಹೊಂದಿರುವ ಆಂಡ್ರಾಯ್ಡ್ ಅನ್ನು ಅನುಸರಿಸಿತು, ಇದು ಮಾನವನ ನಡವಳಿಕೆಯಿಂದ ಅದರ ನಡವಳಿಕೆಯನ್ನು ಪ್ರತ್ಯೇಕಿಸಬಹುದೇ ಎಂದು ನೋಡಲು ಯಂತ್ರಕ್ಕೆ ನೀಡಲಾದ ಪರೀಕ್ಷೆಯಾಗಿದೆ. ದಿ ಟರ್ಮಿನೇಟರ್ (1984) ಮತ್ತು ದಿ ಮ್ಯಾಟ್ರಿಕ್ಸ್ (1999) ನಂತಹ ಕೃತಿಗಳು ತಮ್ಮ ಮಾನವ ಗುರುಗಳನ್ನು ತಿರುಗಿಸುವ ಯಂತ್ರಗಳ ಪರಿಕಲ್ಪನೆಯನ್ನು ಒಳಗೊಂಡಿವೆ (ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯನ್ನು ನೋಡಿ). ಐಸಾಕ್ ಅಸಿಮೋವ್ 1950ರ ದಶಕದಲ್ಲಿ ಐ, ರೋಬೋಟ್ನಲ್ಲಿ ಈ ವಿಷಯವನ್ನು ಪರಿಗಣಿಸಿದ್ದರು. ಅವರ ಸಂಪಾದಕ ಜಾನ್ ಡಬ್ಲ್ಯೂ. ಕ್ಯಾಂಪ್ಬೆಲ್ ಜೂನಿಯರ್ ಅವರ ಒತ್ತಾಯದ ಮೇರೆಗೆ, ಅವರು ಕೃತಕವಾಗಿ ಬುದ್ಧಿವಂತ ವ್ಯವಸ್ಥೆಗಳನ್ನು ನಿಯಂತ್ರಿಸಲು ರೊಬೊಟಿಕ್ಸ್ನ ಮೂರು ನಿಯಮಗಳನ್ನು ಪ್ರಸ್ತಾಪಿಸಿದರು. ಅವರ ಹೆಚ್ಚಿನ ಕೆಲಸವನ್ನು ನಂತರ ಅವರ ಮೂರು ನಿಯಮಗಳ ಗಡಿಗಳನ್ನು ಪರೀಕ್ಷಿಸಲು ಖರ್ಚು ಮಾಡಲಾಯಿತು, ಅವು ಎಲ್ಲಿ ಮುರಿಯುತ್ತವೆ ಅಥವಾ ಅವು ಎಲ್ಲಿ ವಿರೋಧಾಭಾಸದ ಅಥವಾ ಅನಿರೀಕ್ಷಿತ ನಡವಳಿಕೆಯನ್ನು ಸೃಷ್ಟಿಸುತ್ತವೆ ಎಂಬುದನ್ನು ನೋಡಲು. ಯಾವುದೇ ಸ್ಥಿರ ಕಾನೂನುಗಳು ಎಲ್ಲಾ ಸಂಭವನೀಯ ಸಂದರ್ಭಗಳನ್ನು ಸಾಕಷ್ಟು ನಿರೀಕ್ಷಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ ಎಂದು ಅವರ ಕೃತಿಯು ಸೂಚಿಸುತ್ತದೆ. ಫಿಲಿಪ್ ಕೆ. ಡಿಕ್ ಅವರ ಕಾದಂಬರಿಯಲ್ಲಿ, ಡು ಆಂಡ್ರಾಯ್ಡ್ಸ್ ಡ್ರೀಮ್ ಆಫ್ ಎಲೆಕ್ಟ್ರಿಕ್ ಶೀಪ್? (1968), ಅವರು ಮನುಷ್ಯನಾಗಿರುವುದು ಎಂದರೆ ಏನು ಎಂಬುದನ್ನು ಅನ್ವೇಷಿಸುತ್ತಾರೆ. ತನ್ನ ಅಪೋಕ್ಯಾಲಿಪ್ಟಿಕ್ ನಂತರದ ಸನ್ನಿವೇಶದಲ್ಲಿ, ಪರಾನುಭೂತಿ ಸಂಪೂರ್ಣವಾಗಿ ಮಾನವ ಲಕ್ಷಣವೇ ಎಂದು ಅವರು ಪ್ರಶ್ನಿಸಿದ್ದಾರೆ. ಆತನ ಕಥೆಯು ಬ್ಲೇಡ್ ರನ್ನರ್ (1982) ಎಂಬ ವೈಜ್ಞಾನಿಕ ಕಾಲ್ಪನಿಕ ಚಲನಚಿತ್ರಕ್ಕೆ ಆಧಾರವಾಗಿದೆ. ಸಂಬಂಧಿತ ಕ್ಷೇತ್ರಗಳು ಅಫೆಕ್ಟಿವ್ ಕಂಪ್ಯೂಟಿಂಗ್ ಫಾರ್ಮಲ್ ಎಥಿಕ್ಸ್ ಬಯೊಎಥಿಕ್ಸ್ ಕಂಪ್ಯೂಟೇಶನಲ್ ಥಿಯರಿ ಆಫ್ ಮೈಂಡ್ ಕಂಪ್ಯೂಟರ್ ಎಥಿಕ್ಸ್ ಮೋರಲ್ ಸೈಕಾಲಜಿ ಫಿಲಾಸಫಿ ಆಫ್ ಆರ್ಟಿಫಿಶಿಯಲ್ ಇಂಟೆಲಿಜೆನ್ಸ್ ಫಿಲಾಸಫಿ ಆಫ್ ಮೈಂಡ್ ನೋಡಿ ಆರ್ಟಿಫಿಶಿಯಲ್ ಇಂಟೆಲಿಜೆನ್ಸ್ ಎಐ ಸೇಫ್ಟಿ ಎಐ ಟೇಕ್ ಓವರ್ ಆರ್ಟಿಫಿಶಿಯಲ್ ಇಂಟೆಲಿಜೆನ್ಸ್ ಇನ್ ಫಿಕ್ಷನ್ ಫ್ರೆಂಡ್ಲಿ ಆರ್ಟಿಫಿಶಿಯಲ್ ಇಂಟೆಲಿಜೆನ್ಸ್ ಆಟೋಮೇಟಿಂಗ್ ಮೆಡಿಕಲ್ ಡಿಸಿಷನ್-ಸಪೋರ್ಟ್ ಗೂಗಲ್ ಕಾರ್ ಮಿಲಿಟರಿ ರೋಬೋಟ್ ಮೆಷಿನ್ ಇಂಟೆಲಿಜೆನ್ಸ್ ರಿಸರ್ಚ್ ಇನ್ಸ್ಟಿಟ್ಯೂಟ್ ರೋಬೋಟ್ ಎಥಿಕ್ಸ್ ಸ್ಪೇಸ್ ಲಾ ಸೆಲ್ಫ್-ರೆಪ್ಲಿಕೇಟಿಂಗ್ ಸ್ಪೇಸ್ ಕ್ರಾಫ್ಟ್ ವ್ಯಾಟ್ಸನ್ ಪ್ರಾಜೆಕ್ಟ್ ಆಟೋಮೇಟಿಂಗ್ ಮೆಡಿಕಲ್ ಡಿಸಿಷನ್-ಸಪೋರ್ಟ್ ಟೇ (ಬೋಟ್) ನೋಟ್ಸ್ ಎಕ್ಸ್ಟರ್ನಲ್ ಲಿಂಕ್ಸ್ ಮೆಷಿನ್ ಎಥಿಕ್ಸ್, ಇಂಟರ್ಡಿಸಿಪ್ಲಿನರಿ ಪ್ರಾಜೆಕ್ಟ್ ಆನ್ ಮೆಷಿನ್ ಎಥಿಕ್ಸ್. ಮೆಷಿನ್ ಎಥಿಕ್ಸ್ ಪಾಡ್ಕ್ಯಾಸ್ಟ್, ಮೆಷಿನ್ ಎಥಿಕ್ಸ್, ಎಐ ಮತ್ತು ಟೆಕ್ ಎಥಿಕ್ಸ್ ಅನ್ನು ಚರ್ಚಿಸುವ ಪಾಡ್ಕ್ಯಾಸ್ಟ್. ಉಲ್ಲೇಖಗಳು ವಾಲ್ಲಾಕ್, ವೆಂಡೆಲ್; ಅಲೆನ್, ಕಾಲಿನ್ (ನವೆಂಬರ್ 2008). ನೈತಿಕ ಯಂತ್ರಗಳುಃ ರೋಬೋಟ್ಗಳಿಗೆ ಸರಿಯಾಗಿಯೂ ತಪ್ಪಾಗಿಯೂ ಕಲಿಸುವುದು. ಅಮೆರಿಕಃ ಆಕ್ಸ್ಫರ್ಡ್ ಯೂನಿವರ್ಸಿಟಿ ಪ್ರೆಸ್. ಆಂಡರ್ಸನ್, ಮೈಕೆಲ್; ಆಂಡರ್ಸನ್, ಸುಸಾನ್ ಲೇಘ್, ಆವೃತ್ತಿಗಳು (ಜುಲೈ 2011). ಯಂತ್ರ ನೈತಿಕತೆ. ಕೇಂಬ್ರಿಡ್ಜ್ ಯೂನಿವರ್ಸಿಟಿ ಪ್ರೆಸ್. ಸ್ಟಾರ್ಸ್ ಹಾಲ್, ಜೆ. (ಮೇ 30,2007). AI ಅನ್ನು ಮೀರಿಃ ಯಂತ್ರ ಪ್ರಮೀತಿಯಸ್ ಪುಸ್ತಕಗಳ ಆತ್ಮಸಾಕ್ಷಿಯನ್ನು ರಚಿಸುವುದು. ಮೂರ್, ಜೆ. (2006). ಯಂತ್ರ ನೀತಿಶಾಸ್ತ್ರದ ಸ್ವರೂಪ, ಪ್ರಾಮುಖ್ಯತೆ ಮತ್ತು ತೊಂದರೆ. ಐ. ಇ. ಇ. ಇ. ಇಂಟೆಲಿಜೆಂಟ್ ಸಿಸ್ಟಮ್ಸ್, 21 (4), ಪುಟಗಳು. ಆಂಡರ್ಸನ್, ಎಮ್. ಮತ್ತು ಆಂಡರ್ಸನ್, ಎಸ್. (2007). ನೈತಿಕ ಬುದ್ಧಿವಂತ ಏಜೆಂಟ್ ಅನ್ನು ರಚಿಸುವುದು. ಎಐ ಮ್ಯಾಗಜೀನ್, ಸಂಪುಟ 28 (4). ಮುಂದೆ ಓದುವುದು ಹ್ಯಾಗೆನ್ಡಾರ್ಫ್, ಥಿಲೋ (2021). ಮಾನವ ಮತ್ತು ಯಂತ್ರ ನಡವಳಿಕೆಯನ್ನು ಜೋಡಿಸುವುದುಃ ಪ್ರಯೋಜನಕಾರಿ ಯಂತ್ರ ಕಲಿಕೆಗಾಗಿ ತರಬೇತಿ ದತ್ತಾಂಶದ ಗುಣಮಟ್ಟವನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು ಒಂದು ಹೊಸ ವಿಧಾನ. ಮನಸ್ಸುಗಳು ಮತ್ತು ಯಂತ್ರಗಳು. ಆಂಡರ್ಸನ್, ಮೈಕೆಲ್; ಆಂಡರ್ಸನ್, ಸುಸಾನ್ ಲೇಘ್, ಆವೃತ್ತಿಗಳು (ಜುಲೈ/ಆಗಸ್ಟ್ 2006). "ಯಂತ್ರ ನೀತಿಶಾಸ್ತ್ರದ ವಿಶೇಷ ಸಂಚಿಕೆ". ಐ. ಇ. ಇ. ಇ. ಇಂಟೆಲಿಜೆಂಟ್ ಸಿಸ್ಟಮ್ಸ್ 21 (4): 10-63. ಬೆಂಡೆಲ್, ಆಲಿವರ್ (ಡಿಸೆಂಬರ್ 11,2013). ಪ್ರಾಣಿ ಮತ್ತು ಯಂತ್ರ ನೀತಿಶಾಸ್ತ್ರದ ನಡುವಿನ ಸಂಬಂಧದ ಬಗ್ಗೆ ಪರಿಗಣನೆಗಳು. ಎಐ & ಸೊಸೈಟಿ,. ಡಾಬ್ರಿಂಗರ್, ಗೆರ್ಹಾರ್ಡ್, ಆವೃತ್ತಿ. (2010). "ಮಾನವರಹಿತ ವ್ಯವಸ್ಥೆಗಳ ನೈತಿಕ ಮತ್ತು ಕಾನೂನು ಅಂಶಗಳು. ಸಂದರ್ಶನಗಳು. " ಆಸ್ಟ್ರಿಯಾದ ರಕ್ಷಣಾ ಮತ್ತು ಕ್ರೀಡಾ ಸಚಿವಾಲಯ, ವಿಯೆನ್ನಾ 2010,. ಗಾರ್ಡ್ನರ್, ಎ. 1987). ಕಾನೂನು ತಾರ್ಕಿಕತೆಗೆ ಒಂದು ಕೃತಕ ವಿಧಾನ. ಕೇಂಬ್ರಿಡ್ಜ್, MA: MIT ಪ್ರೆಸ್. ಜಾರ್ಜಸ್, ಟಿ. ಎಮ್. (2003). ಡಿಜಿಟಲ್ ಸೋಲ್ಃ ಇಂಟೆಲಿಜೆಂಟ್ ಯಂತ್ರಗಳು ಮತ್ತು ಮಾನವ ಮೌಲ್ಯಗಳು. ಕೇಂಬ್ರಿಡ್ಜ್, ಎಂಎಃ ವೆಸ್ಟ್ವ್ಯೂ ಪ್ರೆಸ್. ಗಾಯಕ, ಪಿ. ಡಬ್ಲ್ಯೂ. (ಡಿಸೆಂಬರ್ 29,2009). ವೈರ್ಡ್ ಫಾರ್ ವಾರ್ಃ ದಿ ರೊಬೊಟಿಕ್ಸ್ ರೆವಲ್ಯೂಷನ್ ಅಂಡ್ ಕಾನ್ಫ್ಲಿಕ್ಟ್ ಇನ್ ದಿ 21st ಸೆಂಚುರಿಃ ಪೆಂಗ್ವಿನ್. ವಿನ್ಫೀಲ್ಡ್, ಎ, ಮೈಕೆಲ್, ಕೆ, ಪಿಟ್, ಜೆ. ಮತ್ತು ಎವರ್ಸ್, ವಿ. (ಮಾರ್ಚ್ 2019). ಯಂತ್ರ ನೀತಿಶಾಸ್ತ್ರದ ವಿಶೇಷ ಸಂಚಿಕೆಃ ನೈತಿಕ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಮತ್ತು ಸ್ವಾಯತ್ತ ವ್ಯವಸ್ಥೆಗಳ ವಿನ್ಯಾಸ ಮತ್ತು ಆಡಳಿತ. ಐ. ಇ. ಇ. ಇ. ಯ ಕಾರ್ಯವಿಧಾನಗಳು. 107 (3): 501-615, ಆರ್ಗ್ಯುಮೆಂಟ್ ಟೆಕ್ನಾಲಜಿ ಕಂಪ್ಯೂಟಿಂಗ್ ಅಂಡ್ ಸೊಸೈಟಿ ಎಥಿಕ್ಸ್ ಆಫ್ ಸೈನ್ಸ್ ಅಂಡ್ ಟೆಕ್ನಾಲಜಿ ಫಿಲಾಸಫಿ ಆಫ್ ಆರ್ಟಿಫಿಶಿಯಲ್ ಇಂಟೆಲಿಜೆನ್ಸ್