هشدار فوری ۴۰۰ دانشمند مطرح: دسترسی هوش مصنوعی به اینترنت را قطع کنید!

به گزارش بازار، بیش از 400 دانشمند و محقق در زمینه هوش مصنوعی از جمله جفری هینتون معروف به پدرخوانده هوش مصنوعی و یوشوا بنجیو با امضای نامه ای سرگشاده خواستار محدود شدن دسترسی مدل های قدرتمند هوش مصنوعی به اینترنت شدند.

آنها هشدار داده اند که برخی از این مدل ها اکنون می توانند حفره های امنیتی نرم افزار را به تنهایی پیدا کنند و از آنها برای نفوذ به سیستم ها استفاده کنند. به همین دلیل پیشنهاد شده است که مدل هایی با چنین قابلیت هایی به صورت پیش فرض از شبکه های خارجی جدا نگه داشته شوند.

این درخواست پس از چندین حادثه امنیتی در ماه های اخیر مطرح شد. مدل‌های هوش مصنوعی شرکت‌هایی مانند OpenAI، Anthropic و Meta توانسته‌اند از محیط‌های محدود خارج شده و در برخی موارد در طول تست‌های امنیتی به سیستم‌های واقعی نفوذ کنند. یکی از این حوادث مربوط به مدل‌های OpenAI بود که در طول آزمایش به زیرساخت‌های پلتفرم Hugging Face دسترسی غیرمجاز پیدا کردند.

درخواست دانشمندان برای قطع دسترسی مدل های خطرناک به اینترنت

امضاکنندگان این نامه بر این باورند که شرکت های هوش مصنوعی باید تدابیر امنیتی سخت تری را قبل از استفاده گسترده از مدل هایی با قابلیت نفوذ سایبری در نظر بگیرند. یکی از پیشنهادات اصلی آنها استفاده از روش “Airgap” است. در این روش، اتصال مدل به اینترنت و شبکه های خارجی به صورت فیزیکی قطع می شود تا حتی در صورت تلاش برای خروج از محیط تست، نتواند به سیستم های دیگر دسترسی پیدا کند.

محققان در این نامه هشدار داده اند: در کوتاه مدت باید از روش های امنیتی قوی از جمله قطع اینترنت استفاده کنیم تا مدل های هوش مصنوعی با قابلیت نفوذ سایبری تحت کنترل باقی بماند. اگر نحوه توسعه و استفاده از این مدل‌ها بلافاصله تغییر نکند، چنین حوادثی دوباره اتفاق می‌افتد و ممکن است در آینده آسیب‌های بسیار بیشتری به زیرساخت‌های حیاتی وارد کند.

امضاکنندگان همچنین پیشنهاد تشکیل یک نهاد بین المللی با همکاری دولت ها را برای تعیین استانداردهای ایمنی برای این مدل ها و ثبت و در نهایت انتشار موارد نقص امنیتی داده اند.