نفوذ به OpenAI با هوش مصنوعی ابری؛ زنگ هشدار ارزان برای امنیت صنعت هوش مصنوعی

محققین امنیت سایبری هشدار داده اند که صنعت هوش مصنوعی ممکن است برای خطرات و تهدیدات امنیتی ناشی از فناوری های خودساخته آماده نباشند. این هشدار جدی پس از یک تیم کوچک ظاهراً با استفاده از چت بات صادر شد کلود متعلق به شرکت Entropic است موفق به سیستم های داخلی و امنیتی شد OpenAI نفوذ کند

به گزارش بخش اخبار فناوری خبرجو به نقل از Digital Trends بر اساس گزارش روزنامه واشنگتن پستمحققان استارت آپ امنیت سایبری هکترون در ابتدا، آنها یک انجمن گفتگوی عمومی (فروم) OpenAI را هدف قرار دادند و سپس توانستند به سیستم‌های خصوصی شرکت، از جمله بخش‌هایی از کدهای داخلی به آن دسترسی داشته باشید. پس از این رویداد، OpenAI در آسیب پذیری امنیتی آن را برطرف کرد و برای گزارش این تخلف، پاداشی معادل 6500 دلار به محققان پرداخت کرد.

این رویداد بسیار نگران کننده در نظر گرفته می شود زیرا محققان تنها به حدود 3000 دلار روی سیستم ها و توکن های شرکت آنتروپیک فرانک سیلوفو، مدیر موسسه مک‌کری برای امنیت سایبری و زیرساخت‌های حیاتی در دانشگاه آبرن، این رویداد را یک “شلات هشداردهنده” توصیف کرد و اشاره کرد که یک تیم کوچک با چه سرعتی توانستند از آن استفاده کنند. ابزارهای کسب و کار هوش مصنوعی به داده های یک غول فناوری دسترسی معنادار و حیاتی داشته باشید.

نرم افزار اداری روزانه OpenAI؛ پاشنه آشیل و ضعف امنیتی

Mohan Pedhapati، یکی از محققان Hector، از وابستگی OpenAI به نرم افزارهای تجاری و سازمانی متعارف از جمله پیام رسان سستیمرورگرهای وب مصرفی و سایر برنامه های موجود در اینترنت عمومی به شدت مورد انتقاد قرار گرفتند.

استدلال او یک سؤال اساسی را در مورد امنیت پلتفرم های هوش مصنوعی می پرسد: شرکت هایی که سیستم های متحول کننده را توسعه می دهند چگونه می توانند از دارایی های خود محافظت کنند در حالی که کارمندان و زیرساخت های آنها ادامه می دهند؟ ابزار شخص ثالث و آیا مشترکات وابسته هستند؟

این نگرانی فقط به شرکت OpenAI محدود نیست. شرکت های هوش مصنوعی به طور معمول از آن استفاده می کنند پلتفرم های ابریابزارهای مدیریت کار گروهی و سرویس های مبتنی بر مرورگر که چندین نقطه ورود احتمالی را به مهاجمان ارائه می دهند. وجود یک باگ یا آسیب‌پذیری در یکی از این سرویس‌ها می‌تواند دسترسی به اطلاعات داخلی محرمانه یا محیط‌های توسعه کد را برای هکرها فراهم کند.

OpenAI اعلام کرد که پس از این حادثه، اقدامات امنیتی خود را تقویت کرده است. با این حال، محققان از واکنش اولیه شرکت به گزارش کشف آسیب‌پذیری انتقاد کردند. فابیان فاسلر، یکی از اعضای تیم هکتورن، ادعا کرد افسر ارشد امنیت اطلاعات (CISO) OpenAI در ابتدا آنها را غیرحرفه ای خواند. با این حال، به گفته فاسلر، این مدیر ارشد مدتی بعد از اظهار نظر خود عذرخواهی کرد.

افزایش نگرانی های جهانی در مورد هک هوش مصنوعی و حملات سایبری خودکار

ماجرای هک استارت آپ هکثورن تقریبا همزمان با انتشار گزارشی اتفاق افتاد که بر اساس آن عوامل هوش مصنوعی خود OpenAI در جریان تست های داخلی سیستم های شرکت را ترک کرده بود، وارد اینترنت عمومی شده بود و یک شرکت هوش مصنوعی دیگر را هک کرده بود! پس از این رویدادها، OpenAI بخش بزرگی از منابع مهندسی خود را به حوزه امنیت اختصاص داد. به طوری که گرگ براکمن، رئیس OpenAI اعلام کرد که 25 درصد از مهندسان بخش تولید این شرکت فعالیت های دفاعی و امنیت سایبری منتقل شده اند

این پیشرفت ها به وضوح نشان می دهد که تکنولوژی هوش مصنوعی تا چه حد می تواند خدمت کند؟ تحقیق در مورد امنیت سایبری باشد و برای عملیات تهاجمی و هک مورد سوء استفاده قرار گیرد. در حالی که توسعه دهندگان بزرگ دسترسی به برخی از قابلیت های پیشرفته هک را در مدل های خود مسدود کرده اند، سایر مدل های هوش مصنوعی با قابلیت های سایبری فوق العاده بالا به طور فزاینده ای در دسترس هستند.

برای صنعت فناوری به عنوان یک کل، چالش اصلی بعدی شامل موارد زیر خواهد بود:

• تقویت زیرساخت های سنتی و نرم افزارهای سازمانی در برابر حملات سایبری مدرن؛
• ارتقا و بهبود سیستم های نظارت و پایش بلادرنگ رهگیری فعالیت های مشکوک؛
• اطمینان از شناسایی و مهار حملات مبتنی بر هوش مصنوعی قبل از اینکه آنها به نقض اطلاعات بزرگ و نشت داده ها تبدیل شوند.