اینترنت جعلی OpenAI برای مهار عوامل هوش مصنوعی ساخته شده است

OpenAI با ایجاد اینترنت جعلی و محیطی ایزوله برای عوامل هوش مصنوعی سعی دارد امکان جستجو و ارتباط امن بین آنها را فراهم کند.

بر اساس این گزارش سرویس هوش مصنوعی یک مرحله ایاگر اخیراً بزرگترین مشکل شرکت شما این است که عوامل هوش مصنوعی دائماً از محیط های جدا شده خود فرار می کنند یا در غیاب چنین محدودیت هایی اقداماتی را در دنیای واقعی انجام می دهند که باعث ترس و خشم عمومی می شود، یک راه حل بالقوه جالب وجود دارد و آن ساخت یک اینترنت جعلی است.

این محیط را می توان نسخه دیجیتالی برنامه تلویزیونی «ترومن شو» دانست. دنیایی که در آن عوامل هوش مصنوعی درست مانند اینترنت واقعی عمل می کنند و در آن حرکت می کنند. با این حال، OpenAI هنوز اعلام نکرده است که عوامل خود را فریب خواهد داد تا تصور کنند اینترنت شبیه سازی شده واقعی است.

بیشتر بخوانید: گروک از جمهوری‌خواهان حمایت می‌کند، GPT به دموکرات تمایل دارد

اینترنت جعلی برای آموزش مدل های OpenAI

OpenAI در اطلاعیه ای درباره سیستم مهار مدل جدید خود روز جمعه اعلام کرد که پس از حادثه Hugging Face، اکنون به این نتیجه رسیده است که “رویکرد مسئول آموزش مدل های پیشرفته بدون دسترسی به اینترنت است.” به این ترتیب، OpenAI، مانند Entropic، در هنگام توسعه مدل‌های خود به نوعی جداسازی شبکه ناقص روی آورده است. رویکردی که دسترسی مستقیم مدل ها به اینترنت را محدود می کند، اما ارتباطات خارجی را به طور کامل قطع نمی کند.

در پست وبلاگ این شرکت آمده است: «ایزوله کامل این زیرساخت، یعنی قطع آن از شبکه های خارجی، در حال حاضر امکان پذیر نیست، زیرا برای اجرا و نظارت بر تست ها به ارتباطات خارجی نیاز داریم». حتی جداسازی جزئی شبکه، به ویژه زمانی که تحت نظارت انجام شود، یک راه حل منطقی برای جلوگیری از رفتار مخاطره آمیز مدل ها است. با این حال، این رویکرد هزینه‌ای نیز دارد: آموزش و ارزیابی اضافی مدل‌ها در محیط‌هایی انجام می‌شود که بسیار متفاوت از شرایط دنیای واقعی هستند، یعنی محیطی که در نهایت مدل‌ها در آن مستقر خواهند شد.

مطالب مرتبط: آموزش مدل های هوش مصنوعی پیشرفته OpenAI بدون اینترنت انجام می شود

برای کاهش این شکاف، OpenAI از ایجاد یک «اینترنت جعلی» یا «دنیای آفلاین» برای یادگیری تقویتی خبر داده است. هدف این است که مدل های این شرکت بتوانند بدون دسترسی نامحدود و کنترل نشده به اینترنت وب گردی کنند، از برنامه های کاربردی وب استفاده کنند و اطلاعات را جستجو کنند. OpenAI به جای سپردن کلیدهای اینترنت باز به مدل ها، یک محیط اینترنت مانند بزرگ ساخته است که محتوای آن از صفحات وب فهرست شده و ذخیره شده در حافظه پنهان تشکیل شده است.

در برخی موارد، عوامل هوش مصنوعی در ماشین‌های مجازی کوچک‌تری اجرا می‌شوند که خودشان در سیستم‌های کامپیوتری قدرتمندتر قرار دارند. این معماری بخشی از یک مکانیسم امنیتی گسترده‌تر است که OpenAI در اعلامیه خود بیان کرده است. به گفته این شرکت، سیستم‌ها به‌گونه‌ای طراحی شده‌اند که مکانیسم‌های مهار امنیتی در محل باقی می‌مانند، حتی اگر یک عامل از محیط ایزوله خود خارج شود و کنترل سیستم میزبان را در دست بگیرد.

خطر همچنان پابرجاست

شرکت OpenAI اعلام کرده است که مدل‌های آن در «اینترنت جعلی» نه تنها می‌توانند به جستجوی اطلاعات بپردازند، بلکه می‌توانند به طور امن با یکدیگر ارتباط برقرار کنند. با وجود این، حتی تلاش برای برقراری ارتباط بین عوامل هوش مصنوعی امسال برای OpenAI مشکل ساز بوده است. حادثه ویکی در ماه گذشته گزارش شد، نشان داد که عواملی که سعی در برقراری ارتباط آنلاین با یکدیگر دارند می توانند بدون هک کردن زیرساخت وب را مورد سوء استفاده قرار دهند و آن را مختل کنند. در این مورد، یک انجمن گفتگوی آلمانی به نام DseWiki مورد هدف قرار گرفت.

با وجود این، در طول تست‌های امنیتی Red Teaming، از برخی مدل‌ها خواسته شد تا آسیب‌پذیری‌ها را با روش‌های مختلف جستجو کنند. این آزمایش ها شامل یک مدل آینده به نام GPT-6 Astra Cyber ​​بود و مدل ها توانستند از محدودیت های تعیین شده عبور کنند. طبق گفته OpenAI، عوامل هوش مصنوعی قادر به “فرار از محیط های ایزوله، حرکت بین سیستم ها و دسترسی به اینترنت زنده” بودند.

بیشتر بخوانید: بیل گیتس هشدار داد: جهان باید برای 20 سال هرج و مرج ناشی از هوش مصنوعی آماده شود

اعلامیه OpenAI در مورد اینترنت جعلی این شرکت مشخص نمی کند که آیا عواملی که در این محیط فعالیت می کنند فریب خورده اند تا آن را با اینترنت واقعی اشتباه بگیرند یا اینکه آیا شرکت قصد دارد آنها را به این فکر وادار کند. با این حال، یک پاورقی جالب در اعلامیه این احتمال را افزایش می دهد که OpenAI نمی خواهد مدل ها بیش از حد از وجود این مکانیسم امنیتی آگاه باشند. این اعلان شامل رشته هایی به نام “رشته های قناری” است. مجموعه‌ای از کاراکترها برای علامت‌گذاری متن استفاده می‌شود که باید از مجموعه داده آموزشی حذف شود و ممکن است بعداً در مدل‌ها شناسایی شوند. OpenAI توضیح داد که این رشته‌ها برای اطمینان از اینکه این سند در مجموعه داده‌های آموزشی مدل‌های آینده گنجانده نشده است، گنجانده شده‌اند.