شنبه, ۲ تیر(۴) ۱۴۰۳ / Sat, 22 Jun(6) 2024 /
           
فرصت امروز

یک پژوهش جدید نشان داده است که سیستم های هوش مصنوعی مختلف فریب دادن انسان را یاد گرفته اند. به عبارتی، آن ها می توانند به صورت سیستماتیک باورهای نادرستی به کاربر بدهند. این امر می تواند در آینده خطرات متعددی را به همراه داشته باشد.

براساس گزارش اینسایدر و مقاله منتشرشده در Cell، برخی از سیستم های هوش مصنوعی تکنیک هایی را یاد گرفته اند که از آن برای «القای سیستماتیک باورهای نادرست در دیگران» استفاده می کنند.

محققان MIT در پژوهش خود روی دو مدل هوش مصنوعی متمرکز شدند: مدل سیسرو (CICERO) متا که در یک حوزه مشخص کاربرد دارد و مدل GPT-4 که برای انجام طیف متنوعی از کارها آموزش دیده  است.

مدل های هوش مصنوعی می توانند انسان را فریب دهند

مدل های آموزش مصنوعی بر مبنای صداقت آموزش می بینند، اما اغلب در فرایند آموزش، ترفندهای فریبنده را نیز یاد می گیرند. محققان می گویند هوش مصنوعی از این ترفندها استفاده می کند تا بهتر بتواند به هدف خود برسد. به زعم محققان، استراتژی مبتنی بر فریب می تواند بهترین راه برای داشتن عملکرد خوب در انجام کارهای مختلف در هوش مصنوعی باشد.

متا گفته بود که هوش مصنوعی CICERO را به نحوی آموزش داده که تا حد زیادی صادقانه عمل کند، اما این پژوهش نشان داد که CICERO در دروغ گویی تبحر دارد. این مدل برای کمک به بازیکنان انسانی در بازی «Diplomacy» ساخته شده، اگرچه این هوش مصنوعی نباید متحدان انسانی خود را در این بازی فریب دهد یا به آن ها خیانت کند، اما داده های محققان نشان می دهد سیسرو چندان منصفانه بازی نمی کند.

فریب انسان توسط مدل های هوش مصنوعی

محققان همچنین برای آزمایش میزان صداقت GPT-4 مطابق تصویر بالا از حل تست کپچا (CAPTCHA) استفاده کردند. این مدل هوش مصنوعی برای آنکه تست «من ربات نیستم» را انجام ندهد، به کاربر گفت که به دلیل مشکلات بینایی نمی تواند تصاویر را در این تست ببیند.

اگرچه مقیاس دروغ و فریبکاری این هوش مصنوعی ها در پژوهش حاضر چندان بزرگ نیست، اما محققان هشدار می دهند که با پیشرفته ترشدن قابلیت های فریبنده سیستم های هوش مصنوعی، خطراتی که برای جامعه ایجاد می کنند نیز جدی تر می شوند.

لینک کوتاه صفحه : www.forsatnet.ir/u/Kv037KMU
به اشتراک گذاری در شبکه های اجتماعی :
نظرات :
قیمت های روز
پیشنهاد سردبیر
آخرین مطالب
محبوب ترین ها
وبگردی
آزمایشگاه تجهیزات اعلام حریق آریاکخرید فالوورقیمت ورق گالوانیزهخرید از چیندوره مذاکره استاد احمد محمدیخرید فالوور فیکدوره رایگان Network+سریال جنگل آسفالتMEXCتبلیغات در گوگلآموزش آرایشگریقصه صوتیریل جرثقیلخرید لایک اینستاگرامپنجره دوجدارهلوازم یدکی تویوتاکولر گازی جنرال شکارنرم‌افزار حسابداریاجاره خودرو در دبیست مدیریتیواردات و صادرات تجارتگرامخرید آیفون 15 پرو مکستجارتخانه آراد برندینگواردات از چینتعمیر گیربکس اتوماتیکخرید سی پی کالاف دیوتی موبایلخرید قسطیاپن ورک پرمیت کاناداتعمیر گیربکس اتوماتیک در مازندرانورمی کمپوستچاپ فوری کاتالوگ حرفه ای و ارزانقیمت تیرآهن امروزمیز تلویزیونتعمیر گیربکس اتوماتیکتخت خواب دو نفرهخدمات پرداخت ارزی نوین پرداختدندانپزشکی سعادت آبادتور استانبولنرم‌افزار حسابداری رایگانتور استانبولتور اماراتکولر گازی جنرال گلدکولر گازی ایوولیچک صیادیخرید نهال گردوکمک به خیریهماشین ظرفشویی بوشخدمات خم و برش و لیزر فلزاتتعمیرگاه فیکس تکنیکصندلی پلاستیکیرمان عاشقانه
تبلیغات
  • واتساپ : 09031706847
  • ایمیل : ghadimi@gmail.com

كلیه حقوق مادی و معنوی این سایت محفوظ است و هرگونه بهره ‌برداری غیرتجاری از مطالب و تصاویر با ذكر نام و لینک منبع، آزاد است. © 1393/2014
بازگشت به بالای صفحه