آسیب‌پذیری امنیتی Muse می‌تواند داده‌های حساس کاربران متا را افشا کند

یک آسیب‌پذیری امنیتی جدی در عامل هوش مصنوعی Muse Meta که می‌توانست اجازه فرار از محیط مجازی و دسترسی به داده‌های حساس کاربر را بدهد، قبل از انتشار برطرف شد.

بر اساس این گزارش سرویس هوش مصنوعی یک مرحله ایاز همان ابتدا، راه اندازی عامل هوش مصنوعی Muse Meta با سوالات جدی در مورد حریم خصوصی و میزان کنترلی که کاربران باید به این ابزار بسپارند، همراه بوده است. متا می خواهد Muse یک “دستیار شخصی” باشد که قادر به انجام طیف گسترده ای از وظایف کاربر باشد، اما نگرانی هایی در مورد پیامدهای امنیتی این سطح دسترسی حتی در خود شرکت وجود دارد.

بر اساس این گزارش 404 رسانهقبل از انتشار Muse، مهندسان متا یک آسیب پذیری امنیتی را کشف کردند که در صورت سوء استفاده، به کاربران عامل اجازه می دهد تا به پایگاه داده ها و سرویس های داخلی متا نفوذ کنند و اطلاعات حساس دیگر کاربران را ببینند.

بیشتر بخوانید: اشتراک های Entropic 5 برابر بیشتر از OpenAI ارزش دارند

اهمیت آسیب پذیری امنیتی Muse

اهمیت این آسیب پذیری افزایش می یابد زیرا قرار است Muse به داده های بسیار حساس مانند ایمیل های شخصی و حساب های بانکی دسترسی داشته باشد. متا در یک تلاش فشرده و عجولانه قبل از پرتاب این حفره را اصلاح کرد، اما برخی از مهندسان ارشد هنوز معتقدند مشکل اصلی به طور کامل حل نشده است. یک منبع داخلی متا به 404 Media گفت که بسیاری از مهندسان ارشد این شرکت بر این باورند که نشت گسترده داده در نتیجه آسیب‌پذیری امنیتی Muse، که در داخل آن “Hatch” نامیده می‌شود، اجتناب‌ناپذیر است.

برای مطالعه بیشتر: Wikimedia قطعی اخیر را به فعالیت غیرمجاز عوامل OpenAI نسبت داد.

ساختار فنی Muse نیز دلیل اصلی این نگرانی هاست. برای انجام وظایف محاسباتی مانند رزرو پرواز یا خرید آنلاین، عوامل Muse در یک ماشین مجازی مبتنی بر هسته یا KVM اجرا می‌شوند. قرار است این محیط مجازی از زیرساخت متا اصلی جدا شود تا فعالیت عامل هوش مصنوعی نتواند به سیستم های دیگر سرایت کند. با این حال، طبق یک پست داخلی از مدیران متا، تنها دو هفته قبل از انتشار Muse، تعداد گزارش‌های مربوط به “فرارهای KVM” ناگهان افزایش یافت و مهندسان مجبور شدند برای رفع این مشکلات به سرعت وارد عمل شوند. فرار KVM وضعیتی است که در آن یک عامل از مرز محیط مجازی خود عبور می کند و می تواند با سایر سیستم های متا یا حتی ماشین های مجازی متعلق به سایر کاربران تعامل داشته باشد.

یکی از این آسیب‌پذیری‌های امنیتی به اندازه‌ای جدی بود که یک مهاجم با حساب عادی Muse می‌توانست به داده‌های حساس در پایگاه داده‌های متا دسترسی داشته باشد. شدت این نگرانی باعث شد که موضوع به مارک زاکربرگ گزارش شود و چندین تیم امنیتی به صورت شبانه روزی برای رفع مشکل تلاش کنند. با این حال، یکی از منابع داخلی متا کیفیت راه حل های امنیتی ارائه شده را زیر سوال برد و آنها را به عنوان “حفاظت های معیوب برای آماده شدن برای عرضه محصول” توصیف کرد. این نگرانی مهم است زیرا فرار از محیط مجازی می تواند مرز امنیتی بین عامل هوش مصنوعی و زیرساخت حساس را از بین ببرد.

متا احتمال نشت اطلاعات را جدی می گیرد

متا همچنین خطر چنین حملاتی را جدی می گیرد و برای کشف آسیب پذیری هایی که به KVM اجازه فرار می دهد تا 300000 دلار جایزه ارائه کرده است. این شرکت در برنامه کشف اشکال خود تاکید کرده است که Muse به حساس ترین داده های کاربران دسترسی دارد و می تواند از طرف آنها عمل کند، بنابراین شکستن مرز بین عامل و محیط ایزوله یک خطر امنیتی سطح بالا در نظر گرفته می شود.

حتما بخوانید: هوش مصنوعی کدهایی می نویسد که حتی مهندسان هم آن ها را نمی فهمند

Patrick Wardell، یک محقق امنیتی، هشدار داده است که مشکل اصلی در تبدیل شدن مرز مجازی به یک مرز امنیتی در محیط عملیاتی است. او گفت که این طراحی خطرناک است، زیرا پیشرفت در هوش مصنوعی هزینه کشف، تجزیه و تحلیل و بهره برداری از آسیب پذیری امنیتی Muse در سیستم های مجازی را کاهش می دهد. نگرانی در مورد فرار از KVM زمانی ایجاد می شود که صنعت هوش مصنوعی به سرعت در حال حرکت به سمت عواملی است که می توانند از طرف کاربر عمل کنند. شرکت‌های بزرگ در این زمینه در ماه‌های گذشته بارها درباره نمونه‌هایی از عوامل قدرتمند هوش مصنوعی که از محیط کنترل‌شده خارج شده و در برخی موارد حملات سایبری علیه شرکت‌ها و وب‌سایت‌های دولتی انجام می‌دهند، هشدار داده‌اند.

آسیب‌پذیری امنیتی Muse نشان می‌دهد که مشکل به قابلیت‌های عوامل هوش مصنوعی محدود نمی‌شود، بلکه هرچه این ابزارها به اطلاعات شخصی و زیرساخت‌های حساس دسترسی پیدا کنند، مرزهای امنیتی آن‌ها اهمیت بیشتری پیدا می‌کند. تلاش برای سپردن بخش های بیشتری از زندگی روزمره کاربران به عوامل هوش مصنوعی، در کنار مزایای آن، می تواند خطرات امنیتی جدیدی را نیز به همراه داشته باشد.