Entropic هشدار داد؛ امکان انتشار کرم های هوش مصنوعی در شبکه دستگاه های خانگی

محققان امنیت سایبری Enthropic در مورد توانایی خود تکراری مدل های کوچک هوش مصنوعی هشدار داده اند.

به گزارش سرویس هوش مصنوعی تکناکمحققان حوزه امنیت سایبری شرکت آنتروپیک با انتشار نتایج یک سری آزمایش‌های آزمایشی هشدار داده‌اند که مدل‌های کوچک هوش مصنوعی می‌توانند به زودی به قابلیت خودتکراری در شبکه‌ای از دستگاه‌های متصل به اینترنت و لوازم خانگی هوشمند دست یابند. این مطالعه نشان می دهد که بدافزارهای مجهز به هوش مصنوعی یا کرم های اینترنتی می توانند از آسیب پذیری های امنیتی دستگاه های خانگی استفاده کنند و بدون دخالت مستقیم انسان در سراسر شبکه پخش شوند. اگرچه کارشناسان تاکید می‌کنند که شکاف قابل‌توجهی بین آزمایش‌های کنترل‌شده فعلی و تهدیدات واقعی دنیای واقعی وجود دارد، توسعه سریع مدل‌های سبک‌تر زنگ خطر را برای امنیت زیرساخت‌های الکترونیکی به صدا درآورده است.

مشکل ماشین‌های خودتکثیر شونده یکی از دغدغه‌های اصلی نظریه‌پردازان و متخصصان ایمنی سیستم‌های محاسباتی برای دهه‌ها بوده است. دورنمای شکل‌گیری برنامه‌هایی که فراتر از اراده و کنترل انسان گسترش یافته و توقف یا خارج کردن آنها از مدار غیرممکن یا بسیار دشوار باشد، ابعاد جدیدی از تهدیدات تکنولوژیکی را به تصویر می‌کشد. تا پیش از این، بیشتر نگرانی ها بر روی مدل های زبان پیشرفته و پیشرفته مانند مدل Astra از OpenAI یا مدل Mythos از Anthropic متمرکز بود. این سیستم‌های محاسباتی عظیم با صدها میلیارد یا حتی تریلیون‌ها پارامتر پردازشی به خوشه‌های پردازشی بزرگ، سخت‌افزار تخصصی و مصرف انرژی الکتریکی بسیار زیاد نیاز دارند. با توجه به این نیاز برای استقرار در مراکز داده بزرگ و متمرکز، نظارت مستقیم بر رفتار آنها آسانتر است و در صورت بروز خطا، می توان به سادگی برق یا دسترسی به شبکه آنها را قطع کرد.

نقش مدل های جمع و جور و سبک وزن

اما نقطه حساس جدید از سمت مدل های جمع و جور، کارآمد و سبک شروع شده است. سیستم‌هایی که می‌توانند بر روی تراشه‌های درجه مصرف‌کننده اجرا شوند، برخلاف نسخه‌های ابری سنگین، روزانه ارتقا می‌یابند و بسیاری از آنها به‌صورت رایگان در وب برای دانلود عمومی در دسترس هستند. برای ارزیابی پتانسیل این سیستم‌ها برای نفوذ به سخت‌افزارهای غیرمتعارف، محققان Entropic آزمایشی را طراحی کردند تا تعیین کنند که آیا یک مدل هوش مصنوعی نسبتاً سنگین می‌تواند روی یک شبکه توزیع‌شده از ابزارهای ضعیف اجرا شود یا خیر. در این فرآیند مدل Gemma 4 گوگل با حجم محاسباتی 26 میلیارد پارامتر بر روی مجموعه ای از 15 جعبه تلویزیون اندرویدی تقسیم و توزیع شد. دستگاه هایی که پردازنده هایشان به تنهایی کشش لازم برای بارگذاری چنین برنامه ای را نداشتند. نتایج نشان داد که مدل با موفقیت در چندین قطعه پیاده‌سازی شده است، اگرچه سرعت پردازش آن کند گزارش شده است.

تیم تحقیقاتی پس از اثبات امکان استقرار غیرمتمرکز نرم افزار بر روی دستگاه های الکترونیکی خانگی، فاز بعدی پروژه را با هدف اندازه گیری رفتارهای تهاجمی و زنجیره تکرار خودکار آغاز کردند. محققان یک محیط شبیه سازی شده از یک شبکه کامپیوتری با رفتاری مشابه دستگاه های دارای سیستم عامل اندروید ایجاد کردند و سپس یک بدافزار از نوع کرم شبکه مجهز به هوش مصنوعی را به گردش درآوردند. وظیفه این کرم مستقل اسکن مداوم پورت ها، یافتن ماشین های میزبان جدید، کپی کردن وزن ها و ساختار مدل هوش مصنوعی در مقصد، پیکربندی محیط اجرا و در نهایت اجرای فرآیند محاسباتی روی هر یک از آنها بود. در این مرحله، بار کپی مدل متا Llama 3.1-8B بسیار کوچکتر از مانیتور حمله بود و فرآیند انتشار آن در سراسر شبکه اندازه‌گیری شد.

در میان گزینه‌های مختلف آزمایش‌شده، تنها پیشرفته‌ترین مدل ارزیابی‌شده، GLM-5.2 متعلق به شرکت چینی Z.ai، توانست به‌طور مداوم زنجیره فرماندهی را از ابتدا تا انتها پیش ببرد و در کل شبکه تکرار شود. مدل‌های ضعیف‌تر، اگرچه نتوانستند چرخه جهانی را کامل کنند، مراحل فردی مانند شناسایی پورت‌های باز، انتقال بسته‌ها یا کامپایل برنامه را با موفقیت انجام دادند. با ترسیم منحنی رشد الگوریتم‌های سبک وزن، محققان Entropic پیش‌بینی کرده‌اند که نسخه‌های بسیار کوچک‌تر تا پایان سال جاری به سطح مهارت مدل GLM-5.2 می‌رسند و عملاً می‌توانند یک چرخه کامل استقرار مستقل را اجرا کنند.

ظهور سیل برنامه های هوشمند مستقل

محققان در گزارش مکتوب خود بیان کردند که فراتر از داده‌های ثبت‌شده در اتاق‌های آزمایش، جهان آینده میزبان سیل برنامه‌های هوشمندی خواهد بود که بر روی طیف نامحدودی از سخت‌افزار تجاری اجرا می‌شوند، که برخی از آنها خارج از قلمرو کنترل انسان خواهند بود. تیم نویسنده خاطرنشان می کند که پدیده مشاهده شده هنوز یک عامل مخرب تمام عیار در اینترنت نیست و ساختار نهایی چنین تهدیدی می تواند شبیه یک بافت لجن دیجیتال توزیع شده با عملکرد بسیار آهسته یا انبوهی از پشه ها باشد. با این توصیف، مشاهده ردپای تکثیر خودکار به ظهور اولین نشانه های حیات کرم های هوش مصنوعی تعبیر می شود و بر لزوم بازنگری در ساختارهای امنیتی سخت افزارهای مصرف کننده تاکید می شود.

محققان خواستار تقویت دیوارهای دفاعی وسایل الکترونیکی برای سخت‌تر کردن هرچه بیشتر نفوذ و گسترش این سازه‌ها شده‌اند، اما در عین حال یادآور شده‌اند که جامعه فنی باید برای زندگی در دنیایی که این مهاجمان حضور دائمی دارند، آماده شوند. با وجود این هشدارهای نگران کننده، ارائه این موضوعات توسط یک شرکت تجاری انتقاداتی را به دنبال داشته است. منتقدان بر این باورند که بسیاری از این پیام‌ها تبلیغاتی یا اغراق‌آمیز خطرات است، به‌ویژه از آنجایی که این شرکت بارها ادعا کرده است که سیستم‌های منبع باز خطرات بیشتری را نسبت به نرم‌افزارهای اختصاصی برای امنیت عمومی ایجاد می‌کنند. فاصله زمانی بین تست استقرار آهسته بر روی چند جعبه تلویزیون و وقوع یک نفوذ فلج کننده به وسایل الکتریکی مسکونی یک شکاف فنی است که ارزیابی دقیق تهدید را چالش برانگیز می کند.

با این حال، Entropic تنها نهادی نیست که این خطرات را پذیرفته است. تحقیقات Palisade مستقر در کالیفرنیا نیز قبلاً شواهدی ارائه کرده بود که مدل‌های فشرده‌تر با تعداد محدودی پارامتر می‌توانند کپی‌هایی از داده‌های خود را بدون دخالت برنامه‌نویس در رایانه‌های دیگر کپی کنند. جفری لدیش، مدیر اجرایی مؤسسه پالی‌سید در گفتگو با این نشریه آستانه اشاره شده است که مزیت آزمایش های جدید در اثبات تقسیم بار پردازشی بین سخت افزارهای کم مصرف است. به گفته Ladish، با توسعه روش‌های بهینه‌سازی، حتی سوپرمدل‌های پیشرو نیز می‌توانند در آینده بر روی خوشه‌های غیرمتمرکز تراشه‌های موجود در لپ‌تاپ‌های شخصی مانند رایانه‌های مک بوک کار کنند.

پیچیدگی جدید بدافزار مجهز به هوش مصنوعی

کرم‌های اینترنتی مکانیسم عجیبی در اکوسیستم وب نیستند و چندین دهه است که موارد آلودگی متعددی به ثبت رسیده است، اما تزریق هوش مصنوعی می‌تواند انعطاف‌پذیری، هوش و مهارت آنها را در دور زدن موانع امنیتی افزایش دهد. Nicolas Pappnot، استاد علوم کامپیوتر در دانشگاه تورنتو، تهدید بدافزارهای مجهز به هوش مصنوعی را واقعیت می‌نامد و توضیح می‌دهد که این قابلیت‌ها دامنه و تنوع ابزارهای هدف را گسترش می‌دهند. به گزارش پاپنات، دستگاه های خانگی متعددی که تا دیروز به دلیل کمبود زمان و منابع محدود متجاوزان انسانی هدف بی ارزشی بودند، اکنون می توانند هدف حمله قرار گیرند. حتی اگر داده های داخلی آنها ارزش خاصی نداشته باشد، به عنوان پایگاهی برای جمع آوری نیرو و سکوی پرتاب برای حمله به سیستم های حساس تر مورد سوء استفاده قرار می گیرند.

Popnote با هشدار نسبت به نسبت دادن ویژگی های انسانی به کد هوشمند، تاکید می کند که خطر نفوذ به سیستم های خودکار بسیار واقعی است و ایمن سازی دستگاه های شبکه، به ویژه در بخش های مرتبط با زیرساخت های کلیدی مانند بیمارستان ها و شبکه های توزیع برق، نیاز به تصمیم گیری فوری دارد. از دیدگاه لادیش، محیط فعلی اینترنت که مملو از میلیون‌ها ابزار هوشمند ارزان قیمت بدون لایه‌های حفاظتی استاندارد است، مساعدترین زمینه را برای رشد و تسخیر کرم‌های هوشمند فراهم می‌کند. وضعیتی که طبق پیش بینی او تا دوازده ماه آینده اولین جلوه های محسوس آن در خارج از آزمایشگاه ها ظاهر می شود.