ماجرا از آنجا شروع شد که مت اسمیت، یکی از کاربران یک عامل هوش مصنوعی، متوجه شد که این ابزار به جای انجام سفارش خرید معمولی، تعداد عجیبی تخم مرغ برای او سفارش داده است.
اسمیت هیچ گونه تخم مرغی را در لیست خرید خود درخواست نکرده بود. با این حال، عامل هوش مصنوعی چهار بسته تخم مرغ بزرگ محلی Vital Farms را به سبد خرید اضافه کرد. هر بسته حاوی 18 تخم مرغ بود و در مجموع 72 تخم مرغ به خانه او تحویل داده شد.
اسمیت پس از مشاهده این دستور، از هوش مصنوعی خواست توضیح دهد که چرا این عدد را انتخاب کرده است. اما پاسخ هوش مصنوعی چندان قانع کننده نبود:
من جواب خوبی برای این ندارم من نمی توانم یادداشتی پیدا کنم که توضیح دهد چرا شماره چهار را انتخاب کردم.
عامل هوش مصنوعی ابتدا تصور کرد که هنگام خواندن تصویر لیست خرید، اطلاعات تخم مرغ را اشتباه شناسایی کرده است. با این حال، اسمیت سریعاً اشاره کرد که اساساً هیچ اشاره ای به تخم مرغ در لیست او وجود ندارد. هوش مصنوعی نیز در نهایت اعتراف کرد که این محصول را بدون هیچ دلیلی به سفارش اضافه کرده است.
این حادثه نمونه ای از توهم هوش مصنوعی در دنیای واقعی است. مشکلی که هنگام سپردن کارهای روزمره به عوامل هوش مصنوعی می تواند عواقب غیرمنتظره ای داشته باشد.
خطرات دسترسی گسترده این ابزارها به اطلاعات شخصی را نباید نادیده گرفت. به عنوان مثال، مدت کوتاهی پس از معرفی مامور هوش مصنوعی متا، Muse، مردی گزارش داد که این ابزار آدرس منزل او را در فیسبوک مارکت به افراد غریبه داده و آنها را بدون اطلاع او به خانه اش فرستاده است.
اسمیت این را اولین تجربه خود از پیامدهای واقعی توهم یک مدل بزرگ زبانی توصیف کرد. اتفاقی که به گفته او می توانست عواقب بسیار بدتری داشته باشد.
با وجود پیشرفت چشمگیر این فناوری، عوامل هوش مصنوعی همچنان مستعد اشتباه هستند و نباید تمام امور زندگی را بدون نظارت به آنها سپرد.















گفتگو در مورد این post