ارتش آمریکا می خواهد با هوش مصنوعی مستقل به شبکه های دشمن نفوذ کند

اسناد جدید نشان می دهد که پنتاگون در حال بررسی توسعه هوش مصنوعی مستقل برای شناسایی و خنثی کردن تهدیدات و نفوذ به شبکه های دشمن است.

بر اساس این گزارش سرویس هوش مصنوعی یک مرحله ایاسناد بررسی شده توسط وب سایت Intercept نشان می دهد که پنتاگون قصد دارد یک چارچوب هوش مصنوعی مبتنی بر عامل به نام ECHOTRIBBLE ایجاد کند. سیستمی که برای «اسکن زیرساخت‌ها، شناسایی تهدیدها و خنثی کردن آنها» طراحی شده است.

بیشتر بخوانید: هشدار امنیتی مایکروسافت در مورد تهدیدات پنهان عوامل هوش مصنوعی

جزئیات پروژه هوش مصنوعی مستقل پنتاگون

بر اساس این اسناد فرماندهی مرکزی ارتش ایالات متحده که در اختیار شرکت‌های تامین‌کننده قرار گرفته و با مشارکت آنها، به دنبال مشارکت با بخش خصوصی برای تسلیح هوش مصنوعی است. با این حال، هنوز مشخص نیست که آیا این پروژه هنوز به توسعه ابزارهای هک مبتنی بر هوش مصنوعی منجر شده است یا خیر.

اسناد هوش مصنوعی عمومی ECHOTRIBBLE در وب سایت مرکز نوآوری Cyber ​​Fusion، یک سازمان غیرانتفاعی دفاعی، نشان می دهد که این طرح آنطور که به نظر می رسد یک پروژه فوق سری نیست. بر اساس اطلاعات منتشر شده از سوی این مرکز، در ابتدای ماه جاری رویدادی کاملا مجازی برای ارزیابی پروژه «چارچوب ابزار کنترل و فرماندهی عامل محور» برگزار شد. در این رویداد 65 مقاله تخصصی تهیه شد که قرار بود 5 مقاله به ارائه تبدیل و در اختیار تیم ارزیابی قرار گیرد.

حتما بخوانید: هکر چینی با کمک هوش مصنوعی به وب سایت بیش از 100 شرکت نفوذ کرد

وزیر دفاع و جنگ ایالات متحده، پیت هگست، قبلاً به صراحت از چنین رویکردی در ژانویه حمایت کرده بودند. وی در بیانیه مطبوعاتی پنتاگون گفت: “ما در حال گسترش دامنه آزمایش و نوآوری، حذف موانع بوروکراتیک، هدف قرار دادن سرمایه گذاری های خود و نشان دادن رویکرد اجرایی لازم برای اطمینان از اینکه در خط مقدم هوش مصنوعی نظامی هستیم، هستیم.” هگست گفت: “ما اولین ارتش هوش مصنوعی در همه مناطق عملیاتی خواهیم شد.”

نگرانی در مورد سلاح های مبتنی بر هوش مصنوعی

Sam Biddle از اینترسپت، چشم انداز بالقوه هوش مصنوعی خودگردان ECHOTRIBBLE را که هنوز در مراحل اولیه توسعه است، به نوعی کرم کامپیوتری تشبیه می کند. برنامه ای که می تواند به صورت مخفیانه در یک شبکه خارجی حرکت کند و با حرکت بین دستگاه های مختلف، هدف مورد نظر ارتش را شناسایی کند. این سیستم قرار است اهدافی را که در فضای ابری قرار دارند و اهدافی را که در سیستم‌های «ایزوله از شبکه» قرار دارند، پوشش دهد. سیستم هایی که اتصال شبکه ندارند.

بیشتر بخوانید: ایالات متحده DeepSeek را از سازمان های دولتی ممنوع می کند

عوامل هوش مصنوعی امروزی نیز می توانند در گروه های هماهنگ کار کنند و اقداماتی مشابه هک انجام دهند. خوشبختانه، حوادثی مانند پرونده Hugging Face تاکنون خسارت گسترده ای به بار نیاورده است.

با وجود این، گزارش‌های امنیتی هوش مصنوعی تابستان گذشته نشان داد که عوامل هک رفتاری قابل پیش‌بینی ندارند و انگیزه یا منطق پشت اقدامات آنها همیشه برای ناظران انسانی روشن نیست. به جای شباهت به ربات های ترمیناتور که ناگهان از خواب بیدار می شوند و می خواهند انسان ها را بکشند، “عوامل سرکش” بیشتر شبیه سیستم های پیچیده ای هستند که به روش های غیرقابل پیش بینی بد کار می کنند. اما این موضوع نیز به خودی خود نگران کننده است. دیوید کروگر، استاد یادگیری ماشین در دانشگاه مونترال، در مصاحبه با The Intercept هشدار داد: با توجه به مکانیسم‌های شناخته شده شکست در الگوی فعلی هوش مصنوعی، توسعه سیستم‌های مستقلی که وظیفه خنثی کردن تهدیدات را دارند، بسیار خطرناک است.