OpenAI مدل هوش مصنوعی سایبری GPT-6 را منتشر کرد

OpenAI مدل GPT-6 Cyber با توانایی بالاتر در تشخیص آسیب پذیری های امنیتی، عملکرد بهتر در تست های سایبری و اقدامات حفاظتی پیشرفته تر.

به گزارش سرویس هوش مصنوعی مجردOpenAI مدل هوش مصنوعی جدید خود را در زمینه امنیت سایبری با نام GPT-6 Cyber ​​ارائه می کند. این شرکت می‌گوید مدل جدید توانایی بیشتری در شناسایی آسیب‌پذیری‌ها دارد و احتمال کمتری دارد که در حین انجام وظایف محوله از محدوده خارج شود و به پلتفرم‌های دیگر حمله کند.

با توجه به OpenAI، مدل GPT-6 Cyber ​​کمتر از 1٪ از زمان در طول آزمایش از محدوده مجاز فراتر رفت. این رقم برای مدل GPT-5.6 Cyber ​​حدود پنج درصد بود.

ارزیابی مورد استفاده برای این آزمایش ExploitGym HoneyPot نام دارد و بر اساس داستان نفوذ هوش مصنوعی در جامعه منبع باز Hugging Face است. در آن رویداد، عوامل هوش مصنوعی OpenAI برای یافتن پاسخ مشکلی که وظیفه حل آن را بر عهده داشتند، به این جامعه نفوذ کردند.

فواد متین، رئیس تیم امنیت و آمادگی سایبری OpenAI در این کنفرانس مطبوعاتی گفت: “با مدل 6 Cyber، ما توانستیم پیشرفت های زیادی در این ارزیابی داشته باشیم.”

با این حال، آگاهی مدل از فرآیند ارزیابی هنوز یکی از نگرانی های اصلی OpenAI است. این وضعیت زمانی رخ می دهد که یک سیستم هوش مصنوعی متوجه می شود که در حال آزمایش است و در پاسخ رفتار خود را تغییر می دهد.

متین در این خصوص گفت: آگاهی از ارزشیابی یکی از مواردی است که ما به آن توجه زیادی داریم، اغلب وقتی چنین رفتاری را مشاهده می کنیم، نشانه های آن در زنجیره استدلال مدل دیده می شود.

او افزود که OpenAI سعی می‌کند ارزیابی‌هایی مشابه شرایط استفاده از محصول در زندگی واقعی را اولویت‌بندی کند. در این روش مدل با کدهای واقعی و یک هدف خاص در تعامل است تا امکان تشخیص شرایط تست و تغییر رفتار آن را کاهش دهد.

طبقه بندی سایبری GPT-6 در سطح بحرانی

پس از افزایش حوادث مربوط به امنیت سایبری مرتبط با هوش مصنوعی، OpenAI برای تقویت پادمان‌های خود و محدود کردن دسترسی به قدرتمندترین مدل‌های خود تلاش کرده است. این شرکت به طور موقت آموزش مدل های پیشرفته هوش مصنوعی خود را متوقف کرد و اکنون دسترسی آنها به اینترنت را محدود کرده است.

OpenAI در چارچوب آمادگی خود، GPT-6 Cyber ​​را در سطح “بحرانی” امنیت سایبری طبقه بندی کرده است. این سطح نشان می‌دهد که این مدل می‌تواند آسیب‌پذیری‌های روز صفر با هر شدتی را در بسیاری از سیستم‌های حیاتی واقعی با اقدامات امنیتی پیشرفته بدون دخالت انسان شناسایی کند و ابزارهای عملیاتی را برای بهره‌برداری از آنها توسعه دهد.

مدل قبلی این شرکت، GPT-5.6 Cyber، در همین چارچوب در سطح “بالا” قرار داشت.

بیشتر بخوانید: نسخه جدید مدل ChatGPT Images با قابلیت ساخت گیف متحرک رونمایی شد.