کلیدهای دسترسی هوش مصنوعی هدف جدیدی برای هکرها برای سرقت قدرت پردازش هستند

مهاجمان سایبری با سرقت کلیدهای دسترسی هوش مصنوعی و توزیع درخواست‌ها بین هزاران حساب کاربری، از اعتبار کاربری برای تقطیر مدل‌ها و استفاده رایگان از قدرت پردازش سوء استفاده می‌کنند.

بر اساس این گزارش خدمات امنیت سایبری یک مرحله ایبا افزایش آموزش و تقطیر مدل‌های هوش مصنوعی، توکن‌های این فناوری به منبعی بسیار ارزشمند برای عوامل تهدید تبدیل شده‌اند. ارائه دهنده هاست ابری Railway این را با هزینه گزافی تجربه کرد.

این شرکت تایید کرده است که برای نزدیک به 26 ساعت با یک حمله هدفمند علیه اعتبار ارائه دهندگان هوش مصنوعی مواجه شده است. مهاجمان قصد داشتند این اعتبارنامه ها را به “ایستگاه های انتقال” هوش مصنوعی بفروشند تا در فرآیند تقطیر مدل استفاده شوند. مهاجمان با استفاده از مدارک به سرقت رفته حدود 740000 دلار هزینه جعلی برای استفاده از خدمات هوش مصنوعی دریافت کردند و احتمالاً به اعتبار 100000 فضای کاری دسترسی پیدا کردند.

بیشتر بخوانید: داده های حساس هزاران کاربر به دلیل نقص امنیتی Grok در معرض قرار گرفت

Railway گفت که در جستجوهای پایگاه داده، مهاجمان در درجه اول کلیدهای دسترسی هوش مصنوعی را با نام شناسایی و جستجو کردند. برخی از این جستجوها همچنین اعتبار مربوط به سرویس های ابری، پایگاه های داده و سیستم های پرداخت را هدف قرار می دهند.

این شرکت در 22 اکتبر واقعه را فاش کن و این هفته گزارش تکمیلی خود را منتشر کرد. با توجه به ادامه تحقیقات، راه آهن هنوز قادر به اعلام جزئیات دقیق و میزان کامل تخلفات نیست. با این حال، به کاربران توصیه کرده است که تمام متغیرهای محیط حساس ذخیره شده در راه آهن را که قبل از 21 اکتبر ثبت شده اند، باطل و دوباره ایجاد کنند.

دیوید شیپلی از Beauceron Security می‌گوید: اعتبار AI در حال تبدیل شدن به شماره کارت اعتباری جدید است. به گفته وی، انتظار می رود حملات به اصطلاح LLMjacking جایگزین Cryptojacking شوند که راهی ارزان و مقیاس پذیر برای کسب درآمد از منابع پردازشی است.

یک نبرد 26 ساعته

حمله در 20 اکتبر آغاز شد. هنگامی که مهاجمان از یک آسیب پذیری ناشناخته در زیرساخت راه آهن سوء استفاده کردند. آن‌ها توانستند کنترل‌های جداسازی سیستم فایل را دور بزنند و یک اعتبار داخلی به دست آورند که امکان دسترسی به تاریخچه فرآیندهای ساخت را فراهم می‌کرد. مهاجمان سپس یک کپی از کد منبع داخلی راه آهن را استخراج کردند و با تجزیه و تحلیل آن، مسیرهای دیگری را برای نفوذ به سیستم شناسایی کردند. سپس، آنها از آسیب پذیری دیگری که به دلیل پیکربندی نادرست یک رابطه اعتماد ایجاد شده بود، سوء استفاده کردند. این ضعف به مهاجمان اجازه داد تا سطح دسترسی خود را به زیرساخت راه آهن گسترش دهند و اعتبارنامه هایی را بدست آورند که برای رمزگشایی متغیرهای محیطی مشتریان استفاده می شد.

در این درگیری تقریبا 26 ساعته، تیم مهندسی راه آهن به صورت شبانه روزی و در شیفت های متوالی کار می کردند. این شرکت توضیح داد که با تشدید حمله، داستان به یک “رقابت برای سرعت ماموران” تبدیل شد. عوامل تهدید تلاش کردند تا با زنجیره‌ای کردن چندین اکسپلویت، حرکت جانبی بین سیستم‌های مختلف و کاوش چندین مسیر نفوذ به طور همزمان، دامنه خود را گسترش دهند. تیم پدافند نیز به موازات مسیرهای احتمالی نفوذ را مسدود و ایمن کرد. راه آهن در گزارش خود نوشت: این حادثه یک نفوذ نبود که با یک اقدام اصلاحی حل شود.

اخبار پیشنهادی: آسیب پذیری امنیتی ChatGPT امکان سرقت اطلاعات کاربران را فراهم کرد

مهاجمان در 21 اکتبر به طور کامل از زیرساخت های شرکت بیرون رانده شدند. با وجود این، در طول حضور خود، موفق شدند بخشی از کلیدهای دسترسی هوش مصنوعی را استخراج و رمزگشایی کنند. این مجموعه شامل حدود 100000 متغیر بود که حداکثر 1.85 درصد از فضاهای کاری را شامل می شد. همچنین مهاجمان با استفاده غیرمجاز از مدارک سرقتی حدود 740 هزار دلار برای خدمات هوش مصنوعی هزینه کردند.

مشتریان گزارش کرده اند که کلیدهای دسترسی هوش مصنوعی آنها برای پاسخ به سوالات برنامه نویسی و انجام وظایف مربوط به داده های آموزشی استفاده شده است. در حالی که خودشان هیچ کدام از این درخواست ها را ارسال نکرده بودند. شرکت راه آهن اعلام کرده است که روند بازپرداخت مشتریان را آغاز کرده و هزینه هایی را که سرویس دهندگان از بازپرداخت آن خودداری می کنند نیز تقبل می کند.

این نقض امنیتی همچنین توکن های بیش از 1850 حساب کاربری متصل را فاش کرد. این توکن‌ها شامل اعتبارنامه‌های GitHub و OAuth بودند که راه‌آهن گفت آن‌ها را بازنشانی کرده است. این شرکت همچنین به سرعت با GitHub، GitLab، Anthropic، OpenAI، OpenRouter، SpaceXSI، Stripe و سایر شرکت‌های مرتبط همکاری کرد تا کلیدهای احتمالی در معرض خطر را باطل کند. پس از حمله، Railway از مشتریان خواست که دسترسی شبکه عمومی به پایگاه داده خود را حذف کنند، همه متغیرها و کلیدهای حساس را بچرخانند، گزارش های حسابرسی GitHub را بررسی کنند و دسترسی برنامه های متصل را بررسی کنند. بررسی گزارش های حسابرسی در مخازن و رجیستری هایی مانند داکر هاب از دیگر توصیه های امنیتی این شرکت است.

شرکت راه‌آهن در بخش تدابیر دفاعی خود گفت که تمام ابزارهای داخلی که بالقوه در معرض خطر هستند را غیرفعال کرده است. همچنین این شرکت تمامی کلیدهای دسترسی را تغییر داد و پس از اطمینان از مسدود شدن دسترسی مهاجمان، مجدداً فرآیند تغییر کلیدها را انجام داد. مهاجرت به نسل جدید زیرساخت ها، بازسازی ابزارهای مورد استفاده برای اجرای زیرساخت های شرکت و افزودن قابلیت لغو انبوه مجوز اپلیکیشن های راه آهن در صورت شناسایی فعالیت های مشکوک در آینده از دیگر اقدامات این شرکت بوده است.

دلیل نیاز مهاجمان به کلیدهای دسترسی هوش مصنوعی

شیپلی اظهار داشت که استخراج اعتبار هوش مصنوعی در مقیاس بزرگ هزینه زیادی ندارد. مهاجمان می توانند به جای هدف قرار دادن شرکت های فردی، ارائه دهنده ای مانند راه آهن را هدف قرار دهند و به اعتبار تعداد زیادی از مشتریان دسترسی پیدا کنند. سپس این دسترسی ها را از طریق روترهای هوش مصنوعی بفروشید. خدماتی که امکان دسترسی به مدل هایی را فراهم می کنند که کاربران در شرایط عادی توانایی پرداخت آن را ندارند یا اساساً نمی توانند از آنها استفاده کنند. این دسترسی‌ها به یک کالای پرطرفدار تبدیل شده‌اند، به‌ویژه برای فعالیت‌هایی مانند تقطیر مدل. تقطیر فرآیندی است که در آن دانش یک مدل بزرگتر به مدل کوچکتر برای کاهش هزینه اجرا و افزایش بهره وری منتقل می شود.

فرانک دیکسون از تحقیقات دیکسون توضیح داد که آموزش یک مدل با استفاده از پاسخ های مدل دیگر در مقیاس بزرگ به میلیون ها پرس و جو نیاز دارد. ارسال چنین حجمی از درخواست‌ها از طریق یک حساب کاربری واحد به سرعت جلب توجه می‌کند، اما اعتبارنامه‌های سرقت شده، این درخواست‌ها را بین هزاران مشتری واقعی توزیع می‌کنند و شناسایی فعالیت‌های مشکوک را دشوارتر می‌کنند. دیکسون برای تشریح این روش گفت: «این مانند کپی کردن یک کتاب درسی، صفحه به صفحه، با استفاده از کارت های عضویت کتابخانه متعلق به افراد دیگر است. دسترسی به مدل های پیشرفته هوش مصنوعی گران است. در حالی که در این روش صورتحساب به نام دارنده کارت اعتباری ثبت می شود و سارق بدون پرداخت از منابع پردازش استفاده می کند.

مدیریت هویت در عصر اعتبار ماشین

علیرغم جدیت نقض امنیتی، دیکسون معتقد است که راه آهن برای انتشار یک گزارش “به طرز قابل توجهی صریح و شفاف” شایسته اعتبار است. این شرکت مسئولیت پیکربندی نادرست زیرساخت خود را پذیرفته است، اذعان کرده است که نمی توان مطمئن بود که تمام حساب های ایجاد شده توسط یک مهاجم شناسایی می شوند و متعهد شده است که در آینده مشکلات امنیتی را سریعتر به مشتریان اطلاع دهد.

راه‌آهن اکنون به اعتبارنامه‌های کوتاه مدت روی می‌آورد و همه عملیات رمزگشایی را ثبت می‌کند. دیکسون این اقدامات را اقدامات اصلاحی مناسبی می داند و معتقد است که تمامی پلتفرم هایی که اسرار و اطلاعات محرمانه مشتریان را حفظ می کنند باید از این الگو پیروی کنند. او هشدار داد: «مشتریان راه آهن باید تمام اطلاعات محرمانه ذخیره شده در سکو را دزدیده فرض کنند، مگر اینکه اعتبار خود را تغییر داده باشند.

با این حال، زمان‌بندی این فرآیند بسیار مهم است، زیرا مهاجمان ممکن است از کلیدهای دسترسی هوش مصنوعی سرقت شده قبل از اینکه کاربران فرصتی برای تغییر اعتبار داشته باشند، سوء استفاده کنند. تحقیقات شرکت امنیت سایبری Wiz نشان می دهد که مهاجمان معمولاً کلیدهای سرقت شده را در عرض 30 دقیقه آزمایش می کنند و 4 تا 7 روز بعد حجم زیادی از درخواست ها را ارسال می کنند.

دیکسون توصیه کرد که کاربران ابتدا کلیدهای ارائه دهندگان هوش مصنوعی و سپس اعتبار سرویس های ابری، پایگاه های داده و سیستم های پرداخت را تغییر دهند. آنها همچنین باید صورت‌حساب‌ها و گزارش‌های استفاده از خدمات هوش مصنوعی را بررسی کنند تا ترافیکی را که توسط تیم‌های داخلی تولید نمی‌شود شناسایی کنند و هرگونه هزینه‌های غیرمجاز را به راه‌آهن گزارش کنند. همچنین لازم است یک هشدار برای شناسایی درخواست های ارسال شده از آدرس های ناشناس تنظیم شود.

برای مطالعه بیشتر: هک گوشی های اندرویدی با بهره برداری از دو آسیب پذیری امنیتی

او گفت که محدود کردن دامنه آسیبی که هر کلید دسترسی می تواند ایجاد کند از اهمیت ویژه ای برخوردار است. کاربران باید محدودیت هزینه و هشدار استفاده را برای همه کلیدهای هوش مصنوعی تعیین کنند و سطح دسترسی هر کلید را تا حد مجاز ارائه دهنده خدمات محدود کنند. این رویکرد در عمل نیز مثمر ثمر است. در یک مثال که توسط Wiz بررسی شد، محدود کردن یک کلید به مجموعه کوچکی از پروفایل های مدل منجر به محدود شدن بخش بزرگی از ترافیک مهاجم شد. کاربران غیر راه آهن نیز باید از ارائه دهندگان پلت فرم خود دو سوال اساسی بپرسند: اطلاعات محرمانه آنها چگونه ذخیره می شود و چه کسی مجاز به رمزگشایی این اطلاعات است؟

یکی دیگر از اصول مهم امنیتی کاهش تعداد کلیدهای صادر شده است. دیکسون گفت: «هیچ کس آرزو نکرده است که eCash کلیدهای بیشتری را هنگام چرخاندن کلیدهای دسترسی هوش مصنوعی صادر می کرد. در نهایت، دیکسون خاطرنشان کرد که کلید دسترسی به سرقت رفته برای هوش مصنوعی می‌تواند هزینه‌های مالی واقعی ایجاد کند، زیرا اکثر اعتبارات اکنون در دست ماشین‌ها هستند. وی تاکید کرد: از هویت‌های ماشینی مانند پول نقد محافظت کنید، زیرا از منظر یک دزد، ارزش آنها دقیقاً همین است.