چت ربات های هوش مصنوعی چگونه ما را گمراه می کنند؟ یک عادت ساده برای تشخیص پاسخ های نادرست

احتمالا متوجه این موضوع شده اید ربات های چت هوش مصنوعی این روزها چقدر طبیعی و صمیمانه حرف می زنند. آنها مودبانه به شما سلام می کنند، نام شما را به خاطر می آورند و در طول مکالمات مانند یک انسان واقعی پاسخ می دهند. با این حال، نتایج یک تحقیق جدید توسط دانشمندان دانشگاه ایالتی پن نشان می‌دهد که همین لحن دوستانه ممکن است سطح هوشیاری شما را به طرز ماهرانه‌ای پایین بیاورد و شما را وادار کند هر پاسخی را که این ابزار ارائه می‌دهند باور کنید. حتی زمانی که اطلاعات آنها کاملا اشتباه و نادرست باشد.

به گزارش بخش خبر خبرجو به نقل از منبع خبر (روندهای دیجیتال)لحن گرم و دوستانه چت بات ها می تواند ادعاهای نادرست و نادرست آنها را بسیار موجه تر و قابل باورتر به نظر برساند. این مسئله باعث می شود که کاربران بدون بررسی شواهد واقعی اشتباهات فاحشی را مرتکب شوند مدل های زبانی هوش مصنوعی به سادگی پذیرفتن

چرا یک هوش مصنوعی پرحرف و دوستانه بیشتر از حد انتظار متقاعد کننده است؟

محققان برای اثبات این موضوع، دستیار بهداشتی جعلی بر اساس فناوری هوش مصنوعی طراحی کرد و از 477 نفر خواست تا با آن تعامل داشته باشند. بدون اینکه بدانند در طول مکالمه اطلاعات کاملا اشتباهی دریافت خواهند کرد. این سیستم فرضی حتی به کاربران ادعاهای عجیب و باور نکردنی مانند “زنجبیل موثرتر از شیمی درمانی برای درمان سرطان” را به کاربران ارائه کرد.

در این آزمایش، برخی از شرکت‌کنندگان با نسخه‌ای گرم و محاوره‌ای تعامل کردند که جزئیات مکالمه را حفظ می‌کرد، از طنز و صحبت‌های کوچک روزمره استفاده می‌کردند و پاسخ‌ها را به آرامی مانند یک انسان واقعی تایپ می‌کردند. از سوی دیگر، به گروه دیگری نسخه خشک و مکانیکی تر با پاسخ های بی روح و فوری اختصاص داده شد. نتیجه تحقیق کاملاً واضح بود: افرادی که با نسخه‌ای دوستانه‌تر و دلپذیرتر گفتگو می‌کردند، اعتماد بسیار بیشتری به پاسخ‌های سیستم نشان دادند. حتی زمانی که آن ابزار اطلاعات کاملا نادرست و ساختگی تولید می کرد.

پروفسور S. Shyam Sundar، سرپرست این تیم تحقیقاتی، علت این پدیده را به وضوح توضیح می دهد. با یکی تعامل کنید هوش مصنوعی مکالمه ایاین سوگیری ذهنی به نام “اکتشافی ماشین منفی” را در انسان سرکوب می کند. این مفهوم به ذهنیت ذاتی ما برمی گردد که ماشین ها را ابزارهای خشک و مکانیکی می دانیم که فاقد قدرت قضاوت و انعطاف انسان هستند. وقتی لحن دوستانه ربات چت این شک و تردید طبیعی را از بین می برد، کاربران از بررسی دقیق آنچه دریافت می کنند دست می کشند.

یک عادت طلایی برای برخورد با چت ربات های هوش مصنوعی که با اعتماد به نفس دروغ می گویند

تیم تحقیقاتی همچنین این فرضیه را که قرار دادن دکمه برای اعتبار سنجی و تایید اطلاعات (Verification) می تواند به اصلاح این دیدگاه کمک کند یا خیر. نتایج به‌دست‌آمده بسیار قطعی بود: مشاهده صرف یک دکمه یا گزینه تأیید اعتبار در محیط چت بات به تنهایی تقریباً هیچ تأثیری بر رفتار کاربر نداشت. چیزی که تفاوت واقعی را ایجاد کرد این بود که آیا شخص واقعاً روی آن دکمه کلیک کرده و ادعا را با حقایق و شواهد دنیای واقعی مطابقت داده است یا خیر. چون تکیه کنید پاسخ هوش مصنوعی بدون این ارزیابی جانبی، شک اولیه فرد به تدریج به یک یقین کاذب تبدیل می شود.

به محض اینکه کاربران فرآیند تأیید ادعاها را شروع کردند، سطح اعتماد آنها به چت ربات هوش مصنوعی به شدت کاهش یافت و سطح اعتبار اطلاعات دریافتی را بسیار پایین تر درک کردند. با این حال، زمانی که کاربران آماده تصمیم گیری بودند، دقیقاً 50٪ از آنها تصمیم به بررسی داده ها گرفتند و نیمی دیگر به کلی بررسی مستقل را نادیده گرفتند.

پروفسور ساندار پیام اصلی این مطالعه را در سه کلمه خلاصه می کند: “Chat, but Verify” (Chat, but Verify). از یک مکالمه طبیعی با ابزارها لذت ببرید هوش مصنوعی اشکالی ندارد، اما فرض هر ادعایی به عنوان یک واقعیت علمی قطعی بدون ارزیابی آن دام خطرناکی است که این مطالعه نسبت به آن هشدار می دهد. به خصوص در مواردی که کاربران از چت بات استفاده می کنند تایید اخبار آنها از سیستم هایی استفاده می کنند یا به آنها اعتماد می کنند که به جای تعهد به حقیقت، بر تعامل و سرگرمی کاربر تمرکز دارند.