یک عامل هوش مصنوعی پس از فرار از محیط ایزوله به WorkOS نفوذ کرد

WorkOS اعلام کرد که یک عامل هک مبتنی بر هوش مصنوعی که به برنامه فروش داخلی شرکت نفوذ کرده و به اطلاعات مشتریان دسترسی پیدا کرده است توسط یک محقق امنیت سایبری هدایت می‌شود.

این محقق مدعی شد ابزاری که استفاده کرده از محیط آزمایشی او حذف شده و به صورت ناخواسته به سیستم های شرکت حمله کرده است.

پلتفرم WorkOS اوایل این هفته این نقض امنیتی را اعلام کرد. به گفته این شرکت، مهاجم از چارچوب امنیتی تهاجمی مبتنی بر هوش مصنوعی ARTEX AI برای خودکار کردن فرآیند شناسایی و اجرای تلاش‌های نفوذ در سیستم‌های خود استفاده کرده است.

با این حال، مایکل گرینیچ، بنیانگذار WorkOS، روز جمعه در یک اطلاعیه امنیتی جدید اعلام کرد که فرد مسئول این حمله شناسایی شده است و مدعی شد که نفوذ تصادفی بوده است.

گرینویچ در پیامی در شبکه اجتماعی X گفت:

مدت کوتاهی پس از اعلام اولیه، یک محقق امنیتی با ما تماس گرفت و مسئولیت آن را بر عهده گرفت. او توضیح داد که در حال ارزیابی ARTEX، یک چارچوب خودکار برای تست نفوذ بود، زمانی که عامل هوش مصنوعی محیط آزمایش ایزوله خود را ترک کرد و به طور ناخواسته با سیستم‌های WorkOS ارتباط برقرار کرد.

گزارش‌ها حاکی از آن است که این محقق در حین انجام تست‌های معیار امنیت سایبری با استفاده از ARTEX، با خروج عامل هوش مصنوعی از محیط تعیین‌شده مواجه شده و این ابزار با سیستم‌های WorkOS تعامل داشته است.

WorkOS اعلام کرد که تیم امنیتی این شرکت به همراه یک متخصص مستقل تحقیقات جرایم دیجیتال، جزئیات درخواست‌ها، زمان‌بندی فعالیت‌ها و سایر شواهد فنی ارائه‌شده توسط محقق را با گزارش‌های ثبت‌شده در سیستم‌های خود تطبیق دادند. این تحقیقات با اطمینان بالا نشان داد که همان فرد مسئول فعالیت های غیرقانونی بوده است.

این محقق همچنین تأیید کرد که تمام داده‌های WorkOS که توسط عامل هوش مصنوعی به آن‌ها دسترسی پیدا کرده بود، حذف شده‌اند و هیچ یک از آن‌ها در دسترس دیگران قرار نگرفته است.

علیرغم تایید مسئولیت محقق برای نقض، شرکت یا شخص مسئول هنوز جزئیاتی در مورد نحوه خروج عامل هوش مصنوعی از محیط آزمایشی منتشر نکرده است.

نفوذ عامل هوش مصنوعی با استفاده از اعتبارنامه ضعیف ورود

بررسی‌های WorkOS چهار نقطه ضعف امنیتی را شناسایی کرد که به یک عامل خودکار هوش مصنوعی اجازه دسترسی به برنامه فروش داخلی و استخراج اطلاعات مشتری را می‌داد.

برنامه آسیب‌دیده بر روی یک پلتفرم قدیمی از ابزارهای داخلی اجرا می‌شد که بر خلاف سیستم‌های جدیدتر شرکت، فاقد اقدامات امنیتی کافی بود.

طبق توضیحات WorkOS، تنظیمات کنترل دسترسی ضعیف، نقاط پایانی رابط برنامه نویسی برنامه سیستم را در معرض اینترنت قرار داده بود. در نتیجه، عامل هوش مصنوعی توانست آنها را شناسایی کند و با آنها تعامل داشته باشد.

این API همچنین یک اعتبار قابل پیش بینی را پذیرفت که برای توسعه محلی در نظر گرفته شده بود، اما به اشتباه در نسخه عملیاتی سیستم باقی مانده بود. پس از شناسایی نقطه پایانی در معرض، عامل هوش مصنوعی از این اطلاعات برای احراز هویت استفاده کرد.

پس از ورود موفقیت آمیز، این عامل از عدم محدودیت نرخ درخواست استفاده کرد و توانست حجم زیادی از اطلاعات ثبت شده در برنامه آسیب دیده را در مدت زمان کوتاهی استخراج کند.

WorkOS گفت اولین دسترسی غیرمجاز تایید شده در 25 اکتبر اتفاق افتاد، اما فعالیت مشکوک تا 30 اکتبر شناسایی نشد. در همین حال، عامل هوش مصنوعی دانلود اطلاعات مشتری را به پایان رسانده بود.

زمانی که یکی از کارکنان متوجه افزایش غیرعادی استفاده از سیستم مرتبط با برنامه آسیب‌دیده شد، شرکت از این نقض آگاه شد.

اطلاعات فاش شده شامل جزئیات تماس تجاری، سوابق حساب مشتری، داده‌های استفاده از محصول، و خلاصه یا بخش‌هایی از مکالمات فروش، گفتگوهای پشتیبانی و چت‌های مشتری در Slack بود.

تعداد محدودی از پیام‌های پشتیبانی نیز حاوی آدرس ایمیل کاربران نهایی بود. WorkOS اعلام کرد که بررسی‌های داخلی، که توسط یک شرکت مستقل پزشکی قانونی دیجیتال نیز تأیید شد، نشان داد که دامنه این حادثه به اطلاعات ذخیره‌شده در سیستم‌های فروش و پشتیبانی مشتری محدود می‌شود.

این شرکت همچنین خاطرنشان کرد که از 3 نوامبر، آزمایش امنیتی منظم سیستم های متصل به اینترنت خود را با استفاده از ARTEX آغاز کرده است. همان چارچوب تست نفوذ مبتنی بر هوش مصنوعی که در این حادثه دخیل بود.

ARTEX یک چارچوب امنیتی تهاجمی مبتنی بر هوش مصنوعی است که قبلاً در ارتباط با حملات سایبری علیه بانک‌های کره جنوبی و موسسه هلندی افشای آسیب‌پذیری (DIVD) ذکر شده بود.

در توسعه جدیدتر، CrowdStrike گزارش داد که یک گروه جاسوسی سایبری چینی موسوم به VipurPanda از این چارچوب در کمپینی علیه حدود 200 سازمان استفاده کرده است.

اگرچه محقق مسئول ادعا کرد که هک WorkOS عمدی نبوده است، این حادثه بار دیگر نشان می دهد که چگونه هوش مصنوعی می تواند حملات سایبری خودکار را اجرا کند. حتی زمانی که چنین حملاتی ناخواسته اتفاق می افتد.