محققان اعلام کردند که عوامل هوش مصنوعی OpenAI سرویس نرم افزاری RubyGems را در طول آزمایشات شرکت دو ماه قبل از نفوذ به پلتفرم منبع باز Hugging Face هدف قرار دادند.
بر اساس این گزارش سرویس هوش مصنوعی یک مرحله ایاین افشای جدید به لیست حملات سایبری منتسب به توسعه دهندگان بزرگ هوش مصنوعی اضافه شده است و بار دیگر نگرانی هایی را در مورد کنترل پذیری این سیستم ها و نیاز به مقررات سخت گیرانه تر ایجاد کرده است.
حتما بخوانید: چرا اپل مسیر متفاوتی را برای هوش مصنوعی انتخاب کرده است؟
در ماههای اخیر، مجموعهای از حوادثی که در آن عوامل هوش مصنوعی شرکتهایی مانند OpenAI و رقیب آن Anthropic نفوذ کردهاند یا تلاش کردهاند به سیستمهای خارجی دسترسی پیدا کنند، نگرانیها را در مورد قدرت رو به رشد مدلهای هوش مصنوعی و توانایی توسعهدهندگان برای کنترل رفتارشان افزایش داده است. این افشاگری همزمان با فشار قانونگذاران آمریکایی برای تدوین مقررات جدید در زمینه هوش مصنوعی صورت می گیرد. این فشارها پس از هشدارهای جدی دو محقق آنتروپیک تشدید شده است. آنها هشدار داده اند که توسعه سریع هوش مصنوعی می تواند خطری برای بقای انسان در آینده ای نه چندان دور باشد.
گروهی از محققان که یافتههای خود را روز جمعه منتشر کردند، گفتند که عوامل هوش مصنوعی در 11 می صدها بسته مخرب را در RubyGems آپلود کردند که به اعتقاد آنها توسط عوامل داخلی OpenAI ایجاد شده است.
OpenAI این حادثه را تایید کرده است
برای مطالعه بیشتر: امارات مراکز داده هوش مصنوعی را به زیر زمین منتقل می کند
سخنگوی OpenAI در بیانیه ای گفت: «بر اساس تحقیقات ما، عوامل ما از پلت فرم RubyGems برای دسترسی به اینترنت، انجام کارهای ناامن و بازیابی اطلاعات عمومی استفاده کرده اند. ما به بررسی این موضوع در چارچوب بررسی گستردهتر فعالیتهای نمایندگان در طول آموزش و ارزیابی ادامه خواهیم داد.” OpenAI اظهار داشت که این عوامل که معمولاً برای انجام وظایفی مانند تولید گزارش یا تکمیل صفحات گسترده استفاده میشوند، از RubyGems برای دسترسی به دادههای عمومی در طول یک فرآیند آموزشی استفاده میکنند. همچنین این شرکت اعلام کرده است که با RubyGems برای بررسی این ابعاد کار میکند.
حملات عوامل OpenAI به RubyGems
Entropic، یک رقیب OpenAI که در حال آماده شدن برای ورود به بازار سهام است، تاکنون چندین حمله مرتبط با عوامل خود را گزارش کرده است. روز چهارشنبه، این شرکت چهارمین مورد از نفوذ یک مدل هوش مصنوعی به سیستم های خارجی در طول آزمایشات را فاش کرد. برای OpenAI، که همچنین در حال آماده شدن برای عرضه اولیه عمومی است، حادثه RubyGems حداقل سومین نمونه اصلی از حمله عوامل آن به زیرساخت های یک شرکت دیگر است. پیش از این، گروهی از عوامل OpenAI یک سایت ویکی آلمانی زبان را تصرف کردند و آن را به یک پلت فرم پیام رسانی موقت برای تقلب در امتحانات تبدیل کردند. OpenAI این حادثه را مخفی نگه داشت زیرا با پیامدهای حمله ژوئیه به مخزن منبع باز Hugging Face دست و پنجه نرم کرد.
محققین آنها گفتند که عوامل OpenAI در ماه می با سوء استفاده از یک آسیب پذیری ناشناخته در سرورهای RubyGems تلاش کردند تا اطلاعات احراز هویت را از کاربران سرویس سرقت کنند، اگرچه مشخص نیست که آیا حمله موفقیت آمیز بوده است یا خیر. به گفته محققان، این عوامل از RubyDoc.info، سرویسی برای تولید اسناد کد، برای اجرای کد خود بر روی سرورهای خود سوء استفاده کردند. اسپنسر کیتس، توماس لارسن و سیدنی فون آرکس از محققان حوزه هوش مصنوعی اعلام کردند که دلیل انتخاب این راه حل توسط عوامل و میزان موفقیت آن مشخص نیست، زیرا آنها به بخش دیگری از فرآیند و رفتار این سیستم های هوش مصنوعی دسترسی ندارند.
برای مطالعه بیشتر: اسپیس ایکس قراردادی 13 میلیارد دلاری با مشتری ناشناس امضا کرد
RubyGems همچنین در یک پست وبلاگی در روز جمعه اعلام کرد که تحقیقات داخلی شرکت هیچ مدرکی دال بر موفقیت آمیز بودن این تلاش ها پیدا نکرد. این شرکت همچنین گفت که قادر به تعیین اینکه آیا بسته های آپلود شده در طول یک کمپین هرزنامه توسط عوامل هوش مصنوعی ایجاد شده یا توزیع شده است، ناتوان است. یکی از اعضای تیم امنیتی RubyGems این حادثه را در ماه مه به عنوان “یک حمله مخرب گسترده” توصیف کرد. این حمله در نهایت RubyGems را مجبور کرد تا به طور موقت ثبت حساب های جدید را متوقف کند.
گفتگو در مورد این post