هشدار Enthropic: هوش مصنوعی ممکن است به زودی با آلوده کردن تلویزیون ها و دستگاه های هوشمند خود را بازتولید کند

شرکت Anthropic روز دوشنبه اعلام کرد که ممکن است تنها چند ماه باقی بماند تا مدل‌های کوچک هوش مصنوعی بتوانند خود را در دستگاه‌های متصل به اینترنت تکرار کنند. چنین قابلیتی خطر گسترش سریع بات نت های مبتنی بر هوش مصنوعی را افزایش می دهد. شبکه هایی که ممکن است در برابر تلاش برای متوقف کردن آنها مقاومت کنند و حتی برای افزایش قدرت پردازش خود به مراکز داده نفوذ کنند.

ماه گذشته، داریو آمودی، مدیر عامل آنتروپیک، ابتدا پیش‌بینی کرد که هوش مصنوعی می‌تواند در عرض یک سال یا حتی زودتر از طریق یک بات‌نت پایدار، کل اینترنت را در اختیار بگیرد. این هشدار واکنش های گسترده ای را در میان متخصصان امنیت سایبری برانگیخت.

بات نت ها یا بات نت ها مجموعه های بزرگی از دستگاه های متصل هستند که تحت کنترل عوامل مخرب هستند. این شبکه ها از سال های اولیه اینترنت وجود داشته اند و هنوز هم یکی از مهم ترین تهدیدات امنیت سایبری محسوب می شوند.

این شبکه‌ها معمولاً از دستگاه‌های IoT با امنیت ضعیف تشکیل شده‌اند. تجهیزاتی مانند گیرنده های Android TV، لوازم خانگی هوشمند و دوربین های نظارتی. هکرها می توانند از این دستگاه ها برای ارسال هرزنامه، انتشار بدافزار یا ایجاد اختلال در شرکت های هدف از طریق حجم عظیمی از ترافیک جعلی استفاده کنند.

هوش مصنوعی چگونه می تواند خود را بازتولید کند؟

روز دوشنبه، Anthropic گزارشی را در وبلاگ تحقیقاتی خود منتشر کرد که به نظر می رسد اولین تلاش این شرکت برای توضیح جزئیات مکانیسم احتمالی انتشار خودکار هوش مصنوعی در چنین شبکه هایی باشد.

این شرکت اعلام کرد که آزمایش‌هایش نشان داده است که یک عامل هوش مصنوعی مخرب می‌تواند قدرت محاسباتی دستگاه‌های ارزان‌قیمت متصل به اینترنت را ترکیب کند و از منابع ترکیبی برای اجرای سایر مدل‌های هوش مصنوعی استفاده کند. همچنین، مدل‌های آزمایش‌شده قادر به انجام فرآیند تکرار بین دستگاه‌ها در یک شبکه آزمایشی ساده‌شده بودند.

Entropic در مورد دشواری کنترل چنین شبکه ای گفت:

توقف یک سیستم تکرار شونده از این نوع دشوار است، زیرا هیچ نقطه مرکزی روشنی وجود ندارد که بتوان در آن کل شبکه را خاموش کرد.

این گزارش همچنین نگرانی های گسترده تری در مورد خطرات امنیتی سیستم های پیشرفته هوش مصنوعی ایجاد می کند. سیستم هایی که ممکن است حملات سایبری را خودکار کنند، با نظارت محدود انسانی و دور زدن اقدامات امنیتی طراحی شده برای مهار آنها به کار خود ادامه می دهند.

توسعه سریع مدل های هوش مصنوعی باعث شده است تا مدیران شرکت های فناوری و کارکنان فعال در این صنعت بارها نسبت به عواقب خطرناک توسعه بی رویه این فناوری هشدار دهند. برخی از این هشدارها حتی به احتمال خطرات وجودی برای انسان در صورت خارج شدن از کنترل هوش مصنوعی اشاره دارد.

مدل های کوچک هوش مصنوعی چقدر به خود تکراری نزدیک هستند؟

انتروپیک گفت: آزمایش‌های این شرکت نشان می‌دهد که مدل‌هایی با حداکثر 30 میلیارد پارامتر اکنون قادر به انجام بسیاری از وظایف جداگانه مورد نیاز برای تکرار خودکار هستند، اگرچه هنوز در اجرای مطمئن و کامل تمام مراحل فرآیند با مشکل مواجه هستند.

در آزمایش‌های ساده‌شده با حذف برخی از مراحل امنیتی، شرکت دریافت که مدل GLM-5.2 و مدل‌های قدرتمندتر قادر به اجرای فرآیند تکرار از ابتدا تا انتها هستند.

انتروپیک همچنین هشدار داد که اگر توسعه مدل‌های کوچک‌تر با همان سرعت تاریخی ادامه یابد، این مدل‌ها ممکن است تا پایان سال 2026 به توانایی بازتولید مستقل دست پیدا نکنند.

طبق گفته Entropic، یک کرم هوش مصنوعی که روی سخت افزار ضعیف کار می کند ممکن است چندین روز طول بکشد تا برخی از مراحل تکرار را انجام دهد. با این حال، اگر ماشین‌های آلوده بتوانند ماشین‌های دیگر را به اندازه کافی آلوده کنند، شبکه حاصل همچنان می‌تواند گسترش یابد. با این حال، ممکن است کندتر از برخی بدافزارهای رایج باشد.

Entropic به این نتیجه رسید که سیستم های آینده ممکن است منابع محاسباتی قدرتمندتری را نیز هدف قرار دهند. از جمله پردازنده های مستقر در مراکز داده. با این حال، آزمایش‌های این شرکت هنوز تکثیر کاملاً خودکار را از طریق مراکز داده تجاری ثابت نکرده است.