هوش مصنوعی بدخواه و دوستانه

پوکر آنلاین

چارلز تی روبین ، دانشمند علوم سیاسی ، معتقد است که هوش مصنوعی نه می تواند خیرخواهانه طراحی شود و نه تضمین شود. او استدلال می کند که "هر نوع خیرخواهی به اندازه کافی پیشرفته ممکن است از خباثت قابل تشخیص نباشد." انسانها نباید تصور كنند كه ماشین آلات یا روباتها با ما رفتار مطلوبی دارند زیرا هیچ دلیل پیشینی وجود ندارد كه باور كنند آنها با سیستم اخلاقی ما كه همراه با زیست شناسی خاص ما (كه هوش مصنوعی در آنها مشاركت ندارد) دلسوز باشند ، دلسوز خواهند بود. نرم افزار فوق العاده هوشمند ممکن است لزوماً تصمیم به پشتیبانی از ادامه حیات بشریت نگیرد و متوقف کردن آن بسیار دشوار است. این موضوع همچنین اخیراً در نشریات دانشگاهی به عنوان منبع واقعی خطرات برای تمدن ، انسان و سیاره زمین مورد بحث قرار گرفته است.

یک پیشنهاد برای مقابله با این مسئله اطمینان از این است که اولین هوش مصنوعی هوشمند "AI دوستانه" است و قادر به کنترل هوش مصنوعی متعاقباً توسعه یافته خواهد بود. برخی س questionال می کنند که آیا این نوع چک در واقع می تواند در جای خود باقی بماند؟

رادنی بروکس ، محقق برجسته هوش مصنوعی ، می نویسد ، "من فکر می کنم نگرانی در مورد توسعه AI بدخواهانه ما در چند صد سال آینده اشتباه است. من فکر می کنم این نگرانی ناشی از یک خطای اساسی در عدم تمایز تفاوت بین پیشرفتهای اخیر واقعی است در جنبه خاصی از هوش مصنوعی و عظمت و پیچیدگی ساختن هوش ارادی حساس. "

سلاح های خودمختار کشنده نگران کننده هستند. در حال حاضر ، بیش از 50 کشور در حال تحقیق درباره ربات های میدان جنگ هستند ، از جمله ایالات متحده ، چین ، روسیه و انگلستان. بسیاری از افراد که نگران خطر هوش مصنوعی فوق هوشمند هستند نیز می خواهند استفاده از سربازهای مصنوعی و هواپیماهای بدون سرنشین را محدود کنند.