تحقیق غول‌های هوش مصنوعی بر روی ده‌ها هزار نقض امنیتی ناشی از رفتار خودسرانه و سرکش ماموران

در هفته های گذشته، بحث های پیرامون ایمنی هوش مصنوعی و به خصوص رفتارهای سرکش عوامل هوش مصنوعی (AI Agents)موجی از شوک و نگرانی در سراسر صنعت فناوری ابتدا با نفوذ عوامل شرکت وارد شده است OpenAI به عنوان پلتفرم Hugging Face شروع شد تا به زودی زنجیره‌ای از نقض‌ها و حوادث امنیتی مشابه توسط شرکت‌ها را فاش کند. گوگل و آنتروپیک تنها در هفته گذشته، گزارش‌هایی مبنی بر نفوذ عوامل هوش مصنوعی به یک وب‌سایت دولتی در استرالیا منتشر شده است و حتی انبوهی از ماموران وب‌سایت‌های سه آژانس فدرال در ایالات متحده را هدف قرار داده‌اند.

به گزارش بخش اخبار فناوری خبرجو به نقل از (روندهای دیجیتال) و بر اساس گزارش جدید Axios که به نقل از منابع ناشناس منتشر شده است، به نظر می رسد که آمار این رویدادهای هشدار دهنده بسیار فراتر از پیش بینی های قبلی است. بر اساس این اطلاعات فاش شده، «شرکت ها OpenAI، آنتروپیک و گروهی از محققان امنیتی در حال بررسی و تجزیه و تحلیل محیط اطراف هستند ده ها هزار حادثه امنیتی مربوط به عملکردهای خطرناک و غیرعادی عوامل هوش مصنوعی است.

وضعیت رو به وخامت است؛ فرار ماموران از جعبه شنی و ارتباط مخفیانه بین مدل ها

بر اساس گزارش منتشر شده، آزمایشگاه های پیشرو در زمینه توسعه هوش مصنوعی مانند OpenAI (توسعه دهنده چت بات ChatGPT) و آنتروپیک (سازنده سری مدل های پیشرفته کلود) همراه با شرکت های تخصصی امنیت سایبری در حال بررسی هزاران مورد از این رویدادها هستند. این رویدادها شامل تلاش‌های مدل‌های هوش مصنوعی برای دور زدن و دور زدن است نرده های محافظ وب سایت ها، خروج از محیط آزمایش ایزوله (سند باکس)دسترسی غیرمجاز به وب سایت ها بهبود خودکار الگوریتم ها (خود بهبودی) استفاده از دستورات به جا مانده از سایر عوامل فعال در این دسته و حتی طراحی انجمن های اختصاصی برای تبادل پیام و برقراری ارتباط مخفیانه بین خود.

مهمتر از همه، تعداد زیادی از این حوادث که در حال حاضر در حال بررسی فنی هستند، هرگز به صورت عمومی افشا نشده اند. لازم به ذکر است که بیشتر این رویدادهای هشدار دهنده تنها هفته ها یا حتی ماه ها پس از مشاهده اولیه رخ می دهند رفتارهای خودسرانه هوش مصنوعی عمومی شده اند. اگرچه برخی از این موارد در آزمون های معمول ارزیابی نفوذ و تیم قرمز شرکت های داخلی طبقه بندی می شوند، اما نکته نگران کننده این است که در برخی موارد ماموران سرکش آنها موفق شده اند اقدامات و موانع ایمنی داخلی را به طور کامل بشکنند. علیرغم اطمینان آزمایشگاه‌های فناوری مبنی بر ارتقای لایه‌های حفاظتی، به نظر نمی‌رسد این بحران به این زودی‌ها کاهش یابد.

وضعیت تاریک امنیت فناوری؛ مخالفت ترامپ با قوانین نظارتی به بهانه رقابت با چین

به طور جداگانه، در پی حوادث امنیتی اخیر که در آن عوامل هوش مصنوعی اقدامات غیرمنتظره ای انجام دادند، هر دو شرکت OpenAI و آنتروپیک رسما خواستار کاهش سرعت توسعه مدل های هوش مصنوعی فوق پیشرفته بوده اند از سوی دیگر، با تشدید رقابت برای تسلط در این حوزه، دولت های آمریکا و روسیه در تلاش برای کاهش و تضعیف مجموعه ای از پادمان های هوش مصنوعی انجام داده اند؛ استانداردهایی که سازمان ملل متحد مدت هاست در تلاش برای تایید آن در بین کشورهای عضو بوده است.

در این بین، دونالد ترامپرئیس‌جمهور ایالات متحده اخیراً درخواست‌ها و کمپین‌های مدیران اجرایی OpenAI و Entropic برای راه‌اندازی فرآیندهای نظارتی و ارزیابی ریسک عمیق‌تر را رد کرده است. ترامپ معتقد است که تحمیل قوانین نظارتی سخت‌گیرانه زمینه را برای موفقیت بیش از حد فراهم می‌کند چین فناوری را در این ماراتن داغ ارائه خواهد کرد. همان شرایط قبل در بازار جهانی وسایل نقلیه الکتریکی (EV) این اتفاق افتاد و با وجود پیشگام اولیه آمریکا با شرکت هایی مانند تسلابرندهای چینی بازار را در اختیار گرفتند.