


محققان امنیت سایبری نشان دادهاند که تنها بازدید از یک صفحه وب مخرب میتواند دستیار هوش مصنوعی Meta Muse را هک کند. این حمله آزمایشی به محققان این امکان را میدهد تا به مکالمات خصوصی کاربر دسترسی داشته باشند و حافظههایشان را بدون نمایش هیچ گونه درخواست تأییدی ذخیره کنند. همچنین مشخص شد که در صورت گسترش حمله، می توان اطلاعات ورود و اعتبار حساب های متصل به Muse را نیز به دست آورد.
متا میوز چگونه مورد حمله قرار گرفت؟
Meta Muse دستیار شخصی هوش مصنوعی متا است که در 8 سپتامبر معرفی شد. این ابزار می تواند از طریق حساب های آنلاین متصل شده توسط کاربر کار کند و حتی برخی از اقدامات مانند خرید را از طرف او انجام دهد. هر کاربر محیط محاسبات ابری خود را برای اجرای این دستیار دارد.
متا یک لایه نظارتی به نام Sentinel برای کنترل فعالیت های این عامل هوش مصنوعی طراحی کرده است. این لایه قرار است تنها مسیری باشد که اجازه ارسال اطلاعات به خارج از محیط دستیار را دارد. همچنین رمزهای عبور و توکن های حساب های متصل باید دور از دسترس مستقیم عامل هوش مصنوعی باقی بماند.
با این حال، محققان نشان دادهاند که یک صفحه وب مخرب میتواند از ضعفهای امنیتی در این مکانیسم استفاده کند و به اطلاعاتی که قرار بود محافظت شود، دسترسی پیدا کند. در طول آزمایش، مکالمات خصوصی و خاطرات ذخیره شده استخراج شد و محققان اعلام کردند که میتوان زنجیره حمله مشابه را برای دسترسی به اعتبار حسابهای متصل گسترش داد.
آیا کاربران واقعی در معرض خطر بودند؟
این حمله در محیط آزمایشگاهی با هدف بررسی امنیت سیستم انجام شده است و هیچ گزارشی از هدف قرار گرفتن کاربران واقعی در این آزمایش منتشر نشده است. همچنین، دسترسی به اطلاعات در دامنه رایانه ابری خصوصی همان کاربر آزمایشی باقی ماند.
شرکت امنیتی NebuSec که جزئیات این تحقیق را منتشر کرده است، اعلام کرده است که تیم متا پس از دریافت گزارش، تمامی نقاط ضعف امنیتی شناسایی شده در تحقیقات را برطرف کرده است.
اهمیت این آسیب پذیری برای امنیت دستیاران هوش مصنوعی
این حادثه بار دیگر نشان می دهد که اتصال دستیاران هوش مصنوعی به حساب های شخصی، ایمیل ها و سرویس های آنلاین می تواند خطرات امنیتی جدیدی ایجاد کند. چنین ابزارهایی برای انجام وظایف کاربر به اطلاعات و دسترسی گسترده نیاز دارند. اما اگر یک صفحه وب مخرب بتواند بر رفتار آنها تأثیر بگذارد، همان دسترسی ها ممکن است راهی برای افشای اطلاعات خصوصی شوند.
بنابراین وجود لایههای نظارتی مانند Sentinel به تنهایی کافی نیست و مکانیسمهای کنترل دسترسی، جداسازی اطلاعات حساس و بررسی درخواستهای خروجی نیز باید در برابر حملات مبتنی بر محتوای مخرب وب مقاوم باشد.


















گفتگو در مورد این post