چگونه حملات LLMjacking حساب‌های ابری شرکت‌ها را سرقت می‌کنند؟

بر اساس گزارش گروه اطلاعاتی تهدید گوگل (GTIG)، حملات LLMjacking می تواند بیش از 100000 دلار هزینه استفاده از زیرساخت ابری قربانی را تنها در چند دقیقه به همراه داشته باشد.

بر اساس این گزارش سرویس هوش مصنوعی یک مرحله ایمجرمان سایبری راه جدیدی برای بهره برداری از موج فزاینده تقاضا برای هوش مصنوعی پیدا کرده اند که شامل سرقت حساب های سازمانی و اعتبار خدمات ابری برای اجرای پردازش های سنگین هوش مصنوعی به هزینه شرکت های قربانی می شود.

بیشتر بخوانید: DeepSik مدل V5 AI را با تراشه های هواوی آموزش می دهد

هدف از حملات LLMjacking چیست؟

مهاجمان معمولاً فعالیت خود را با شناسایی نقاط دسترسی عمومی و محافظت نشده به خدمات هوش مصنوعی یا سرقت کلیدهای API و اعتبارنامه های ابری آغاز می کنند. این اطلاعات شامل طیف گسترده‌ای از داده‌های احراز هویت، از جمله نشانه‌های هویت، کلیدهای حساب سرویس، نشانه‌های دسترسی شخصی GitHub و نشانه‌های جلسه فعال است. پس از نفوذ به زیرساخت سازمان، هکرها برای افزایش سطح دسترسی، ایجاد مسیرهای نفوذ پایدار و شناسایی منابع ارزشمند هوش مصنوعی تلاش می کنند.

حتما بخوانید: ویژگی گزارش‌های هوشمند به مدیران اجازه می‌دهد چت‌های ابری شما را نظارت کنند

هدف اصلی این حملات کسب درآمد از دسترسی سرقت شده است. مهاجمان با اجرای فرآیندهای هوش مصنوعی خود، ارسال درخواست‌ها از طریق حساب‌های در معرض خطر، یا فروش مجدد دسترسی غیرمجاز به سایر کاربران، از منابع قربانی کسب درآمد می‌کنند.

گوگل این فعالیت را نوعی درآمدزایی غیرقانونی و ربودن منابع مدل پایه هوش مصنوعی می داند که با واسطه گری توکن ها، استریم خودکار مدل ها و تخصیص منابع پردازشی پردازنده های گرافیکی انجام می شود.

برخلاف کریپ‌جک که معمولاً هزینه‌های عملیاتی را در طول زمان افزایش می‌دهد، حملات LLMjacking می‌توانند در مدت زمان بسیار کوتاهی خسارات مالی زیادی را به همراه داشته باشند. گوگل گزارش داده است که یک گروه هکر با شناسه UNC6993 پس از سرقت کلیدهای API مدل های زبان اصلی و فعال کردن خدمات مرتبط در یکی از پروژه های ابری قربانیان، بیش از 100000 دلار هزینه دریافت کرده است.

در مثالی دیگر، مهاجمان حساب‌های در معرض خطر را به طرح‌های پرداختی متصل کردند، مدل‌های پیچیده و گران‌قیمت هوش مصنوعی را انتخاب کردند و حجم عظیمی از درخواست‌های استنتاج را اجرا کردند. آنها مکرراً حساب‌های خدمات کوتاه مدت را ایجاد و حذف کردند تا محدودیت درخواست را دور بزنند، در حالی که داشبورد صورت‌حساب قربانی را برای کنترل هزینه‌ها زیر نظر داشتند.

بیشتر بخوانید: موجی از انتقادات در مورد تحمیل هوش مصنوعی به مدارس، گوگل را مجبور به عقب نشینی کرده است

نظارت و کنترل دقیق تر هوش مصنوعی

به گفته گوگلحملات LLMjacking به تدریج در حال تبدیل شدن به یک اکوسیستم تخصصی جرایم سایبری است. برخی از گروه‌ها وظیفه نفوذ به زیرساخت‌های سازمانی را بر عهده دارند، در حالی که گروه‌های دیگر که به عنوان «میکس‌کننده‌های مدل زبان بزرگ» شناخته می‌شوند، دروازه‌های واسطه‌ای را برای جمع‌آوری اعتبار سرقت شده، مسیریابی درخواست‌ها از طریق چندین حساب و فروش دسترسی غیرمجاز به خدمات هوش مصنوعی به مشتریان بازار زیرزمینی ایجاد می‌کنند.

گروه اطلاعاتی تهدید گوگل انتظار دارد با گسترش بازار خدمات هوش مصنوعی، حملات LLMjacking به یکی از اهداف اصلی مجرمان سایبری تبدیل شود. این شرکت به سازمان‌ها توصیه کرده است که نظارت و کنترل دقیق‌تری بر پلتفرم‌های هوش مصنوعی خود داشته باشند و هرگونه تغییر غیرمجاز در حساب‌ها یا خدمات مرتبط با هوش مصنوعی را یک حادثه امنیتی مهم در نظر بگیرند. همچنین، گوگل بر اجرای اصل حداقل سطح دسترسی تاکید دارد. اصل که بر اساس آن هر کاربر یا حساب کاربری باید مجوزهای لازم را برای انجام وظایف خود کسب کند.