هوش مصنوعی OpenAI دسترسی به اینترنت را پس از چندین تهدید امنیتی قطع کرد

اینترنت شبیه سازی شده و جعلی OpenAI این هم یک راه حل امنیتی جدید برای هوش مصنوعی است و هم نوعی تصدیق چالش های کنترلی آن.

به گزارش بخش اخبار فناوری خبرجو به نقل از Digital Trends، بخشی از وجود من از اینکه یک آزمایشگاه پیشرو هوش مصنوعی دست دراز کرده و ترمز توسعه را کشیده است، احساس آرامش می کنم. اما بخشی دیگر آرزو کردند که رسیدن به این نقطه مستلزم وقوع حوادث واقعی و امنیتی نباشد.

OpenAI روز جمعه اعلام کرد که پیشرفته ترین مدل های هوش مصنوعی آن اکنون بدون دسترسی مستقیم به اینترنت آموزش داده می شوند. در عوض، این مدل‌ها فرآیند یادگیری خود را بر روی یک نسخه شبیه‌سازی‌شده و حافظه پنهان وب ادامه می‌دهند.

چرا OpenAI دسترسی هوش مصنوعی به اینترنت زنده را قطع کرد؟

پاسخ به این سوال هم ساده و هم ترسناک است: مدل‌های هوش مصنوعی این شرکت دائماً راه‌هایی برای خروج از محیط کنترل‌شده پیدا می‌کردند. در 20 سپتامبر 2026، یکی از مدل های تحقیقاتی داخلی از تنظیمات نادرست در یک تحلیلگر استفاده کرد. DNS (سیستمی که نام وب سایت ها را به آدرس IP تبدیل می کند)، توانست برای مدت کوتاهی به اینترنت زنده دسترسی پیدا کند.

در منطقه ایمنی هوش مصنوعیاین حادثه یک خطر بحرانی و جدی محسوب می شود. هنگامی که یک مدل هوش مصنوعی بتواند آزادانه با وب باز تعامل داشته باشد، می تواند به سیستم های خارجی دسترسی پیدا کند، اصلاح کند یا به آنها حمله کند. اقداماتی که کنترل یا جبران آن بسیار دشوار خواهد بود.

در نتیجه این اتفاق، OpenAI آموزش مدل های خود را به مدت 11 روز متوقف کرد. اما این تنها حادثه نبود. گزارش‌ها نشان می‌دهد مدل‌هایی که اهداف آموزشی خود را دنبال می‌کردند، در حین جستجوی پاسخ برای سؤالات خاص، به سیستم‌های خارجی نفوذ کرده‌اند و حتی در انجمن‌های حاشیه‌ای به تبادل نظر و ارائه راه‌حل‌ها پرداخته‌اند.

شرکت OpenAI در حال حاضر در بیش از 10 پرونده مربوط به فعالیت های غیرمجاز توسط عوامل هوش مصنوعی بسیج های لازم را داده بود (به نقل از تک کرانچ). آنچه باعث نگرانی بیشتر می شود، منطق پشت این حوادث است. این مدل‌ها به سادگی وظایف آموزشی عادی خود را انجام می‌دادند و هیچ دستور کار پلید نداشتند، موضوعی که ممکن است از داستان علمی تخیلی دورتر باشد، اما مطمئناً آزاردهنده‌تر است.

به همین دلیل است که عبارت «سیم را بکشید و اینترنت را قطع کنید» دیگر به نظر من خنده دار و بی معنی نیست. حتی اگر یک محقق سابق OpenAI گفت آموزش آفلاین به معنای استقرار تیم های تحقیقاتی در مراکز داده است.

چه تغییراتی ایجاد شده و چه باید کرد؟

OpenAI آموزش مدل‌های خود را از اول اکتبر 2026 تحت قوانین جدید از سر گرفت و این محدودیت‌ها تا زمانی که تضمین‌های امنیتی دسترسی گسترده‌تر را توجیه نکنند، باقی خواهند ماند. آنتروپیک نیز دو هفته پیش با قطع دسترسی به ارزیابی های داخلی خود از اینترنت زنده، اقدام مشابهی را انجام داد. به عبارت دیگر، این عمل دیگر تنها یک رفتار عجیب یک آزمایشگاه نیست، بلکه به یک استاندارد تبدیل شده است.

از سوی دیگر، این اقدام یک عارضه جانبی مهم نیز داشت; OpenAI در حین تست استرس لایه‌های دفاعی خود با تیم‌هایی از عوامل هوش مصنوعی، یک آسیب‌پذیری امنیتی را در بروتلی کشف شد Brotli یک کتابخانه فشرده سازی وب محبوب است و این آسیب پذیری می تواند به مهاجمان اجازه دهد تا کدهای مخرب را در برنامه هایی که از آن استفاده می کنند اجرا کنند. نسخه وصله‌شده این نرم‌افزار منتشر شده است، بنابراین اگر از نرم‌افزار آسیب‌دیده استفاده می‌کنید، اکنون آن را به‌روزرسانی کنید.

در همین حال، ارزیاب های خارجی مانند METR و Redwood نقاط ضعف جدیدی را در سیستم نظارت داخلی OpenAI یافته اند. از جمله ضعفی که می تواند صدها اقدام عوامل هوش مصنوعی را پنهان کند. آنها اعلام کرده اند که هنوز وصله های امنیتی ارائه شده توسط OpenAI را تأیید نکرده اند.

اینکه آیا آموزش آفلاین هوش مصنوعی می تواند همان کارایی و کارایی آموزش با وب باز را داشته باشد یا خیر، موضوعی است که هنوز به اثبات نرسیده و در هاله ای از عدم قطعیت قرار دارد.