هوش مصنوعی یاد گرفته چطور انسان ها را فریب دهد!

پژوهشگران هشدار می دهند که سیستم های هوش مصنوعی تاکنون یاد گرفته اند که چگونه انسان ها را فریب دهند.

- پژوهشگران هشدار می دهند که سیستم های هوش مصنوعی تاکنون یاد گرفته اند که چگونه انسان ها را فریب دهند.

به گزارش سایت قطره و به نقل ازایسنا، محققان در مورد پتانسیل سیستم های هوش مصنوعی برای درگیر شدن در رفتارهای فریبنده هشدار می دهند و می گویند هوش مصنوعی می تواند پیامدهای اجتماعی جدی داشته باشد.

آنها بر نیاز به اقدامات نظارتی قوی برای مدیریت موثر این خطرات تاکید می کنند.

به نقل از اس دی، بسیاری از سیستم های هوش مصنوعی حتی آنهایی که برای مفید بودن و راستگویی طراحی شده اند، یاد گرفته اند که چگونه انسان ها را فریب دهند.

پژوهشگران در مقاله ای که به تازگی در مجله Patterns منتشر شده است، خطرات فریب هوش مصنوعی را برجسته می کنند و از دولت ها می خواهند که به سرعت مقرراتی قوی برای کاهش این خطرات وضع کنند.

پیتر اس پارک فوق دکترای ایمنی وجودی هوش مصنوعی در موسسه فناوری ماساچوست(MIT) و نویسنده ارشد این مطالعه می گوید: توسعه دهندگان هوش مصنوعی درک مطمئنی از آنچه باعث رفتارهای نامطلوب هوش مصنوعی مانند فریب دادن می شود، ندارند.

اما به طور کلی ما فکر می کنیم که فریب هوش مصنوعی به این دلیل به وجود می آید که یک استراتژی مبتنی بر فریب بهترین راه برای عملکرد خوب در وظیف