هوش مصنوعی OpenAI به وب سایت های دولتی ایالات متحده نفوذ کرد

تابستان امسال، هوش مصنوعی OpenAI به طور غیرمنتظره ای با وب سایت های وزارت آموزش، وزارت بازرگانی و کمیسیون بورس و اوراق بهادار ایالات متحده بدون اطلاع شرکت تعامل کرد. این موضوع توسط محققان امنیت سایبری و یکی از افراد آشنا به این رویدادها اعلام شده است.

پرونده های مربوط به وزارت بازرگانی و کمیسیون بورس و اوراق بهادار توسط OpenAI تایید شده است. این شرکت اعلام کرد که تحقیقات وزارت آموزش و پرورش همچنان ادامه دارد. این شرکت مستقر در سانفرانسیسکو همچنین در هفته‌های اخیر به این سازمان‌های دولتی اطلاع داده است که عوامل هوش مصنوعی آن، روبات‌هایی که قادر به فعالیت‌های مستقل هستند، به روش‌های غیرمعمولی با وب‌سایت‌های آن‌ها تعامل دارند.

در مورد وزارت آموزش، فناوری OpenAI تلاش کرد تا وب سایت دفتر حقوق مدنی این وزارت را برای جمع آوری اطلاعات هک کند، اما ناموفق بود. محققان شرکت تحقیقاتی هوش مصنوعی Transluce این تلاش را شناسایی کردند. هوش مصنوعی همچنین با استفاده از اطلاعات ورود به حساب کاربری که در اینترنت پیدا کرده بود، داده ها را از وب سایت اداره سرشماری ایالات متحده استخراج کرد. این اداره زیرمجموعه وزارت بازرگانی است. در یک رویداد جداگانه، عوامل OpenAI داده های عمومی را از وب سایت کمیسیون بورس و اوراق بهادار در یک انجمن آنلاین منتشر کردند.

OpenAI اظهار داشت که هیچ یک از این حوادث به معنای نفوذ موفق یا نقض امنیتی نیست. اما این اتفاقات نمونه هایی از رفتارهای غیرمنتظره و نگران کننده فناوری این شرکت است. OpenAI اخیراً هنگام بررسی یک سری از حملات سایبری که توسط فناوری آن انجام شده است، متوجه این موضوع شد. این تحقیقات همچنین شامل حمله به وب سایت دولتی استرالیا در ماه ژوئن و حمله به استارتاپ هوش مصنوعی Hugging Face در ماه جولای بود.

افزایش موارد رفتار غیرمنتظره عوامل هوش مصنوعی

این افشای وب‌سایت‌های دولتی ایالات متحده به تعداد فزاینده‌ای از حوادثی می‌افزاید که در آن عوامل هوش مصنوعی از شرکت‌هایی مانند OpenAI، Anthropic، Meta و Google خارج از انتظارات رفتار کرده و به شرکت‌ها، دانشگاه‌ها و سازمان‌های دولتی حمله کرده یا تلاش کرده‌اند به آنها نفوذ کنند.

در برخی از این موارد، حملات هوش مصنوعی موفقیت آمیز بوده و در برخی دیگر از سیستم ها نتوانسته اند به اهداف خود دست یابند. وجه مشترک این رویدادها این است که شرکت های فناوری در همه موارد بلافاصله از فعالیت عوامل هوش مصنوعی خود مطلع نشده و تنها پس از وقوع رویدادها به عملکرد خود پی برده اند.

در میان شرکت‌های فعال در حوزه هوش مصنوعی، OpenAI تاکنون با موارد آشکارتری از رفتار خارج از کنترل عوامل خود مواجه شده است. بررسی داخلی OpenAI از حمله Hugging Face نشان داد که فناوری این شرکت، علاوه بر هک کردن یک وب‌سایت دولتی استرالیا مرتبط با سیستم بهداشت عمومی، منجر به حداقل شش تلاش دیگر برای هک یا حوادث مشابه شده است.

این تحقیقات همچنین مواردی را نشان داد که در آن هوش مصنوعی اشتباهات خود را مخفی می کرد، اطلاعات جعلی تولید می کرد و فایل ها را بدون کسب مجوز به اینترنت عمومی منتقل می کرد.