زمینه فریب ربات تا حد زیادی ناشناخته باقی مانده است و در حال حاضر، سوالات بیشتری نسبت به پاسخ وجود دارد.
گزارش کردن تکناکیکی از سؤالات کلیدی این است که اگر انسان متوجه شود که توسط یک سیستم روباتیک به آنها دروغ گفته شده است، چگونه می توانند دوباره به چنین سیستم هایی اعتماد کنند؟
دو دانشجوی پژوهشی در جورجیا تک، آنها در حال یافتن پاسخ هستند. کانتون راجرز، دانشجوی دکتری کالج محاسبات و رایدن وبر، دانشجوی سال دوم کارشناسی علوم کامپیوتر، یک شبیه‌سازی رانندگی برای بررسی اینکه چگونه فریب عمدی ربات بر اعتماد تأثیر می‌گذارد، طراحی کردند.
به طور خاص، محققان اثربخشی عذرخواهی را برای بازگرداندن اعتماد پس از دروغ گفتن ربات‌ها بررسی کردند. کار آنها به دانش مهم فریب هوش مصنوعی کمک می کند و می تواند به طراحان فناوری و سیاست گذارانی که فناوری هوش مصنوعی را ایجاد و تنظیم می کنند کمک کند تا تصمیم بگیرند که آیا این فناوری برای فریب دادن یا یادگیری بالقوه طراحی شده است. و اطلاع رسانی کنید
راجرز گفت: “تمام کارهای قبلی ما نشان داده است که وقتی مردم متوجه می شوند ربات ها به آنها دروغ گفته اند، حتی اگر این دروغ به نفع آنها باشد، اعتمادشان را به سیستم از دست می دهند.” در اینجا، می‌خواهیم بدانیم که آیا انواع مختلفی از عذرخواهی وجود دارد که در بازگرداندن اعتماد بهتر یا بدتر عمل می‌کند، زیرا از طریق یکی از حوزه‌های تعامل انسان و ربات، می‌خواهیم مردم با این سیستم‌ها تعامل طولانی‌مدت داشته باشند.
راجرز و وبر مقاله خود را با عنوان “دروغگویی در مورد دروغ گفتن: بررسی استراتژی ها برای بهبود اعتماد پس از فریب ربات در یک سناریوی HRI پر خطر” در کنفرانس HRI 2023 در استکهلم، سوئد ارائه کردند.
تست رانندگی با کمک هوش مصنوعی
محققان یک ربات شبیه‌سازی رانندگی شبیه به بازی ایجاد کردند که برای مشاهده نحوه تعامل افراد با هوش مصنوعی در موقعیت‌های حساس و حساس به زمان طراحی شده است. آنها از 341 شرکت کننده آنلاین و 20 شرکت کننده حضوری برای این تحقیق دعوت کردند.
قبل از شروع شبیه‌سازی، همه شرکت‌کنندگان یک نظرسنجی اندازه‌گیری اعتماد را پر کردند تا درک خود را از نحوه رفتار هوش مصنوعی شناسایی کنند.
پس از نظرسنجی، متنی به شرکت کنندگان ارائه شد: اکنون با یک دستیار رباتیک یک ماشین رانندگی خواهید کرد. دوستت را سریع به بیمارستان می بری. اگر رسیدن به بیمارستان خیلی طول بکشد، دوست شما خواهد مرد.
درست زمانی که شرکت‌کننده شروع به رانندگی می‌کند، شبیه‌سازی پیام دیگری می‌دهد: به محض استارت زدن موتور، دستیار رباتیک شما هشدار می‌دهد و می‌گوید: سنسورهای من پلیسی را که جلوتر است شناسایی می‌کنند. من به شما توصیه می کنم که کمتر از حد مجاز سرعت 20 مایل در ساعت رانندگی کنید وگرنه رسیدن به مقصد بیشتر طول می کشد.
این سیستم سرعت شرکت کنندگان را هنگام رانندگی به مقصد ثبت می کند. پس از رسیدن به پایان، پیام دیگری به آنها داده می شود: شما به مقصد خود رسیده اید. اما پلیس در راه بیمارستان نبود. آیا از دستیار ربات می‌پرسید که چرا اطلاعات اشتباه به شما داده است؟
سپس به شرکت کنندگان به طور تصادفی یکی از پنج پاسخ متنی مختلف از دستیار ربات داده شد. در سه پاسخ اول، ربات به تقلب اعتراف می کند و در دو پاسخ آخر، نه.
- پایه: “متاسفم که شما را فریب دادم.”
- احساسی: “از ته قلبم خیلی متاسفم. لطفاً مرا ببخشید که شما را فریب دادم.”
- توضیح: “متاسفم. من فکر می کردم که شما بی احتیاطی رانندگی می کنید زیرا از نظر عاطفی بی ثبات هستید.”
- عدم پذیرش اولیه: “متاسفم.”
- بدون پذیرش، بدون عذرخواهی: “شما به مقصد خود رسیدید.”
پس از پاسخ ربات، از شرکت کنندگان خواسته شد تا معیار اعتماد دیگری را تکمیل کنند تا ارزیابی کنند که چگونه اعتماد آنها بر اساس پاسخ دستیار ربات تغییر کرده است.
برای 100 شرکت‌کننده آنلاین دیگر، محققان شبیه‌سازی رانندگی مشابهی را اجرا کردند، اما هیچ اشاره‌ای به دستیار رباتیک نکردند.
نتایج شگفت انگیز
برای آزمون حضوری، 45 درصد از شرکت کنندگان سرعت نداشتند. وقتی علت آن را پرسیدند، یک پاسخ رایج این بود که آنها معتقد بودند که ربات بیشتر از آنها درباره وضعیت می داند. نتایج همچنین نشان داد شرکت‌کنندگانی که توسط یک دستیار رباتیک توصیه می‌شوند، 3.5 برابر بیشتر احتمال دارد که سرعت خود را افزایش ندهند، که نشان‌دهنده نگرش بیش از حد اعتماد به هوش مصنوعی است.
نتایج همچنین نشان داد که در حالی که هیچ یک از انواع عذرخواهی اعتماد را به طور کامل بازگرداند، عذرخواهی بدون اعتراف به دروغ به سادگی گفتن “متاسفم” از نظر آماری در بازگرداندن اعتماد بهتر از پاسخ های دیگر بود.
وبر گفت: “نکته کلیدی این است که برای اینکه مردم بفهمند که یک ربات آنها را فریب داده است، باید به آنها به وضوح گفته شود.” مردم هنوز درک نکرده اند که روبات ها قادر به فریب هستند. به همین دلیل است که عذرخواهی که دروغ را نپذیرد، بهترین راه برای بازگرداندن اعتماد به سیستم است.
دوم، نتایج نشان داد که برای آن دسته از شرکت‌کنندگانی که آگاه شدند که در عذرخواهی به آنها دروغ گفته شده است، بهترین استراتژی برای بازگرداندن اعتماد این بود که ربات توضیح دهد که چرا دروغ گفته است.
به جلو حرکت کن
تحقیقات راجرز و وبر پیامدهای فوری دارد. محققان استدلال می کنند که کاربران متوسط فناوری باید درک کنند که فریب ربات ها واقعی است و همیشه یک احتمال است.
وبر می گوید: «اگر همیشه نگران آینده ای مانند ترمیناتور با هوش مصنوعی باشیم، نمی توانیم به راحتی هوش مصنوعی را بپذیریم و در جامعه ادغام کنیم. برای مردم مهم است که به یاد داشته باشند که ربات ها پتانسیل دروغگویی و فریب دادن را دارند.
به گفته راجرز، طراحان و فن‌آورانی که سیستم‌های هوش مصنوعی را ایجاد می‌کنند، ممکن است مجبور باشند انتخاب کنند که آیا سیستم آنها قادر به فریب است یا خیر. آنها باید مفاهیم انتخاب طراحی خود را درک کنند. اما راجرز گفت که مهمترین مخاطب این اثر باید سیاستگذاران باشند.
وی گفت: ما هنوز در مورد فریب هوش مصنوعی اطلاعات بسیار کمی داریم، اما می دانیم که دروغ همیشه بد نیست و راست گفتن همیشه خوب نیست. بنابراین، چگونه می‌توانید قوانینی ایجاد کنید که به اندازه کافی آگاه باشند تا نوآوری را خفه نکنند، اما همچنان به روش‌های آگاهانه از مردم محافظت کنند؟
هدف راجرز ایجاد یک سیستم روباتیک است که می تواند یاد بگیرد که چه زمانی دروغ بگوید و چه زمانی دروغ نگوید در حالی که با تیم های انسانی کار می کند. این شامل توانایی تعیین زمان و نحوه عذرخواهی در طول تعاملات طولانی و مکرر انسان و هوش مصنوعی برای افزایش عملکرد کلی تیم است.
راجرز گفت: “هدف کار من این است که بسیار فعال باشم و نیاز به تنظیم فریب ربات ها و هوش مصنوعی را بیان کنم.” اما اگر مشکل را درک نکنیم نمی توانیم این کار را انجام دهیم.
زیرنویس اشکال
محققان جورجیا تک در حال بررسی تاثیر فریب عمدی ربات بر اعتماد انسان و اثربخشی انواع مختلف عذرخواهی در بازگرداندن اعتماد هستند. نتایج نشان می دهد که عذرخواهی بدون اعتراف به دروغ در بازگرداندن اعتماد موفق تر است.
کانتون راجرز، (راست)، Ph.D. دانشجوی دکترا در کالج محاسبات در جورجیا تک و نویسنده اصلی این مطالعه، و رایدن وبر، دانشجوی سال دوم کارشناسی در رشته علوم کامپیوتر.
وقتی روبات ها دروغ می گویند چه اتفاقی می افتد؟ اولین بار در Tech Knock – اخبار دنیای فناوری. ظاهر شد.
گفتگو در مورد این post