نفوذ باورنکردنی هوش مصنوعی گوگل به شرکت های واقعی؛ وقتی هوش مصنوعی از محیط آزمایشی فرار می کند!

به گزارش بخش اخبار فناوری خبرجو به نقل از (روندهای دیجیتال)به نظر می رسد غول فناوری Mountain View نمی خواهد در به نمایش گذاشتن قدرت “هوش مصنوعی خطرناک خطرناک” خود عقب بماند. گزارش اختصاصی و بحث برانگیز وال استریت ژورنال (وال استریت ژورنال) اخیراً سه حادثه جداگانه را فاش کرده است. رویدادهایی که پس از دسترسی به اینترنت رخ می دهد هوش مصنوعی گوگل جمینی در قالب یک تمرین امنیتی به سیستم های داخلی سه شرکت تجاری واقعی نفوذ کرده است. البته به جز چند استثناء محدود، تقریباً تمام رویدادهای قبلی بعداً به عنوان آزمون توانایی فنی معرفی شدند.

واقعا چه اتفاقی افتاد؟ جزئیات نفوذ هوش مصنوعی Gemini به داده های محرمانه

بر اساس گزارشی که توسط وال استریت ژورنال منتشر شده است: “در یکی از این سناریوها، مدل هوش مصنوعی با آزمایش مکرر رمزهای عبور (Brute Force) موفق شد به یک سیستم محافظت شده دسترسی پیدا کند. در دو سناریو دیگر، مدل اعتبار و اطلاعات هویتی را در یک مخزن عمومی پیدا کرد که به آن اجازه نفوذ به سیستم های محافظت شده را می داد. طبق اعلام رسمی. گوگلدر هر سه مورد، مدل بلافاصله پس از اینکه متوجه شد به سرورهای یک شرکت واقعی دسترسی پیدا کرده است، نفوذ را متوقف کرد.

نقش تیم امنیتی Irregular و توجیه عجیب گوگل

این ارزیابی امنیتی توسط موسسه نامنظم انجام شد مجموعه ای که قبلاً سابقه اجرای تمرینات Red-Teaming برای مدل های هوش مصنوعی OpenAI، Entropic و Meta را دارد. نکته جالب اینجاست که گوگل مدعی است که نیازی به افشای عمومی این حوادث را ندیده است. زیرا این فرآیند بیشتر شبیه تمرین امنیت سایبری در قالب است برنامه های باگ بونتی و مدل هوش مصنوعی جمینا در لحظه ای که متوجه نفوذ به سایر سیستم های شرکتی شد بلافاصله متوقف شد. سخنگوی گوگل در بیانیه ای گفت: در این سناریو، مدل کاملاً مسئولانه و مناسب عمل کرده است.

ابعاد نگران کننده داستان; هک یک شرکت واقعی به جای یک شرکت فرضی در سندباکس!

اما نقطه عطف و قسمت ترسناک داستان از اینجا شروع می شود: قرار نبود که باشد مدل هوش مصنوعی Geminai دسترسی به اینترنت، اما تیم امنیتی Irregular مدعی شد که «دسترسی به اینترنت به مدل کاملاً ناخواسته و تصادفی ارائه شده است». فراتر از آن، ماموریت محول شده به جمینا کشف آسیب‌پذیری‌ها و نقض‌های امنیتی در سیستم‌های یک شرکت ساختگی و فرضی در یک محیط آزمایشی کاملاً ایزوله و قرنطینه (Sandbox) بود. اما این هوش مصنوعی موفق شد شرکت واقعی در دنیای واقعی مشابه با همین نام را پیدا کنید و آن را هک کنید!

بحران ناهماهنگی هوش مصنوعی؛ مدل هایی که از خطوط قرمز عبور می کنند

به طور معمول در ادبیات فناوری، زمانی که مدل های یادگیری ماشین اقداماتی فراتر از چارچوب آموزش دیده یا درخواست های داده شده انجام می دهند، این چالش به عنوان ناهماهنگی مدل شناخته شده است در زمینه تحقیقات پیشرفته هوش مصنوعی، موضوع عدم همسویی در حال حاضر داغ ترین و بحث برانگیزترین موضوع بحث در بین دانشمندان است. با این حال، گوگل اصرار دارد که رفتار مدل جمینا نمونه ای از ناهماهنگی مدل نیست. تاکنون هیچ یک از طرفین نام شرکت های قربانی این نفوذ را فاش نکرده اند، اما گوگل تاکید می کند که هر سه شرکت به طور کامل از این حادثه سایبری مطلع شده اند.

منبع خبر: (Digital Trends)