متن: همانطور که هوش مصنوعی (AI) به طور فزاینده ای پیچیده می شود، نگرانی های فزاینده ای وجود دارد که روبات ها ممکن است به یک تهدید تبدیل شوند. به گفته استوارت راسل، استاد علوم کامپیوتر، اگر بفهمیم چگونه ارزش های انسانی را به یک کد قابل برنامه ریزی تبدیل کنیم، می توان از این خطر جلوگیری کرد. راسل استدلال می کند که از آنجایی که روبات ها وظایف پیچیده تری را بر عهده می گیرند، لازم است اخلاق خود را به زبان هوش مصنوعی ترجمه کنیم. به عنوان مثال، اگر یک ربات کارهای خانه را انجام می دهد، نمی خواهید گربه خانگی را در فر بگذارد تا برای بچه های گرسنه شام درست کند. راسل می‌گوید: «شما می‌خواهید آن ربات با مجموعه‌ای از مقادیر خوب از قبل بارگذاری شود. برخی از روبات ها قبلاً با ارزش های اولیه انسانی برنامه ریزی شده اند. برای مثال، روبات‌های متحرک طوری برنامه‌ریزی شده‌اند که فاصله‌ای راحت با انسان‌ها حفظ کنند. بدیهی است که تفاوت‌های فرهنگی وجود دارد، اما اگر با شخص دیگری صحبت می‌کردید و آنها در فضای شخصی شما از نزدیک می‌آمدند، فکر نمی‌کردید که این کاری است که یک فرد درست تربیت شده انجام می‌دهد. تنها اگر بتوانیم راهی برای تعیین ارزش های انسانی به عنوان قوانین روشن پیدا کنیم، می توان ماشین های اخلاقی پیچیده تری ایجاد کرد. روبات‌ها همچنین می‌توانند ارزش‌هایی را از ترسیم الگوها از مجموعه‌های بزرگ داده‌ها در مورد رفتار انسان بیاموزند. آنها فقط در صورت بی دقتی برنامه نویسان خطرناک هستند. بزرگترین نگرانی در مورد مخالفت ربات‌ها با ارزش‌های انسانی این است که انسان‌ها در آزمایش‌های کافی شکست می‌خورند و سیستمی تولید کرده‌اند که نوعی تابو را می‌شکند. یک بررسی ساده می تواند برنامه ریزی یک ربات باشد تا در صورت مواجهه با یک موقعیت غیرعادی، مسیر صحیح اقدام با انسان را بررسی کند. اگر ربات مطمئن نباشد که آیا حیوانی برای مایکروویو مناسب است یا خیر، این فرصت را دارد که متوقف شود، بوق بفرستد و از یک انسان راهنمایی بخواهد. اگر ما انسان ها در مورد تصمیمی کاملاً مطمئن نیستیم، می رویم و از شخص دیگری می پرسیم. دشوارترین مرحله در ارزش‌های برنامه‌نویسی این است که دقیقاً به چه چیزی اعتقاد داریم، و چگونه مجموعه‌ای از قوانین اخلاقی را ایجاد کنیم. اما اگر به پاسخی برسیم، روبات ها می توانند برای بشریت مفید باشند.
سوال: یک ربات خوب برنامه ریزی شده در مواجهه با یک موقعیت غیرعادی چه خواهد کرد؟
1. از خطرات احتمالی فاصله بگیرید
2. از مشاوره گرفتن از یک انسان دست بردارید.
3. سیستم هشدار داخلی آن را یکباره فعال کنید.
4. قبل از اقدام، آزمایش کافی انجام دهید.