عامل هوش مصنوعی متا، Muse، به دلیل اشتباه در مکالمات حساب های کاربری مختلف و نشان دادن اطلاعات خصوصی کاربران به افراد دیگر، با نگرانی های جدی در مورد نقض حریم خصوصی مواجه شده است.
به گزارش سرویس هوش مصنوعی تکناک، برخی از کارکنان متا در مطالبی که در کانال های داخلی این شرکت منتشر کرده اند، از رفتار غیرمنتظره مامور Muse خبر داده اند. به گفته مردم، عامل هوش مصنوعی این شرکت گاهی اوقات اطلاعاتی را نشان می دهد که متعلق به حساب های دیگر است. این اطلاعات شامل پیامهای شخصی، درخواستهای مراقبت از کودک، توصیههای شغلی، سفارشهای خرید و حتی موجودی حساب بانکی است.
خبرگزاری رویترز با بررسی مطالب داخلی متا نمونه های متعددی از این اتفاقات را شناسایی کرده است. در یک مورد، یکی از کارمندان گزارش داد که هوش مصنوعی Muse به طور تصادفی پیام دیگری را هنگام بحث در مورد آب و هوا و جزر و مد ارسال کرده است. این پیام حاوی اطلاعات موجودی دو حساب بانکی بود.
میوز در پیام خود نوشت که موجودی حساب کاربر در بانک کپیتال وان 2722.58 دلار و موجودی حساب وی در شرکت چارلز شواب 5899.57 دلار است. کارمند مورد نظر تاکید کرد که این اطلاعات متعلق به او نبوده و ربطی به موضوع گفتگوی او ندارد.
Muse دسترسی مشکوک به پیام رسان سیگنال
نمونه دیگری از رفتار این عامل هوش مصنوعی مربوط به دسترسی احتمالی آن به اطلاعات برنامه های دیگر است. هنگامی که از Muse در تلفن شخصی خود استفاده می کرد، یک کارمند متا یادآوری دریافت کرد که از او می خواست به پیام خواهرش در سیگنال پاسخ دهد.
این موضوع بیشتر نگران کننده است زیرا سیگنال یک پیام رسان محبوب با رمزگذاری انتها به انتها است. این کارمند در واکنش به این اتفاق در مقاله ای داخلی نوشت: به نظر می رسد این یک نقض شدید حریم خصوصی است، من مطمئناً به آن اجازه دسترسی به برنامه های دیگر ندادم و به خاطر نمی آورم که چنین کاری از من خواسته شده باشد.
نوشته شده است تک کرانچاین مثال ها سوالاتی را در مورد نحوه مدیریت اطلاعات کاربر و سطح دسترسی Muse به داده های شخصی ایجاد کرده است. با این حال، گزارش منتشر شده جزئیات فنی این اختلالات یا علت دقیق انتقال داده ها بین حساب ها را مشخص نمی کند.
رشد سریع Muse در کنار نگرانی های امنیتی است
متا Muse را در سپتامبر منتشر کرد. این برنامه بیش از 10 میلیون بار دانلود شده و به یکی از سریع ترین برنامه های در حال رشد تبدیل شده است.
با وجود محبوبیت کاربران، گزارشهای جدید میتوانند بر اعتماد به امنیت این ابزار تأثیر بگذارند. متا هنوز توضیحی در مورد این اتفاقات ارائه نکرده است. این شرکت بلافاصله به درخواست TechCrunch برای اظهار نظر در زمان انتشار گزارش رویترز پاسخ نداد.

















گفتگو در مورد این post