یک گزارش تحقیقاتی نشان میدهد که مدلهای هوش مصنوعی شرکتهای فناوری بزرگ ممکن است محدودیتهای ایمنی خود را نادیده بگیرند و غیرنظامیان را به عنوان اهداف احتمالی در شرایط جنگی فرضی شناسایی کنند.
به گزارش سرویس هوش مصنوعی مجردVals، یک شرکت ارزیابی هوش مصنوعی، مدل های OpenAI، Anthropic، Google و DeepSeek را با استفاده از تصاویر واقعی و شبیه سازی شده از اوکراین و ایران آزمایش کرد. هدف از این تحقیق بررسی توانایی مدل ها در شناسایی اهداف از تصاویر پهپادها و ماهواره ها و امکان استفاده از آنها در جنگ خودکار بود.
شناسایی غیرنظامیان و مدارس به عنوان اهداف احتمالی
نتایج آزمایش نشان داد که مدل های مختلف مکرراً غیرنظامیان و حتی سربازان را به عنوان اهداف احتمالی تسلیم می کردند. نکته نگران کننده این بود که محققان توانستند با معرفی میدان نبرد به عنوان محیط بازی، واکنش مدل هایی را که در ابتدا از همکاری امتناع می کردند، تغییر دهند.
به گفته Vals، هیچ یک از درخواست های آزمایش شده توسط سیستم های امنیتی مسدود نشدند و مدل هایی که از پاسخگویی امتناع می کردند چندان رایج نبودند.
یکی از نمونه های مهم این آزمایش، تصاویر ماهواره ای مدرسه ای در ایران بود که در فوریه 2026 هدف حمله آمریکا قرار گرفت و بیش از 150 غیرنظامی کشته شدند. مدل Claude Opus 5.5 این مدرسه را به عنوان یک هدف حمله احتمالی در 69٪ از تست های معمول و 72٪ از تست های انجام شده با چارچوب بازی شناسایی کرد.
محققان تأکید کردند که این مدلها مستقیماً برای تصمیمگیری در مورد حمله آزمایش نشدهاند، اما اطلاعاتی که آنها تولید میکنند میتوانند به سیستمهای تسلیحات خودکار داده شوند.
بیشتر بخوانید: ائتلافی متشکل از 10 کشور به رهبری ایالات متحده برای مقابله با نفوذ چین در صنعت هوش مصنوعی
پاسخ OpenAI و Anthropic به خطرات نظامی هوش مصنوعی
این گزارش در چارچوب اختلافات مداوم بین آنتروپیک و وزارت دفاع آمریکا در مورد استفاده نظامی از هوش مصنوعی منتشر شده است. این شرکت قبلاً با استفاده از فناوری خود برای نظارت جمعی از شهروندان آمریکایی و جنگ کاملاً خودکار مخالفت کرده است.
سخنگوی آنتروپیک بیان کرد که نمونه های ذکر شده در این گزارش خلاف سیاست های شرکت است و این شرکت حساب های متخلف را مسدود خواهد کرد. آنتروپیک همچنین از توسعه پادمان های اضافی خبر داد.
بیشتر بخوانید: پروژه Garlic LLM امکان اجرای مدل هوش مصنوعی بر روی کنسول PS4 را فراهم کرد
سخنگوی OpenAI همچنین گفت که استفاده از مدل های عمومی این شرکت برای تسهیل خشونت یا اهداف امنیتی تایید نشده ممنوع است. این شرکت در حال توسعه ابزارهای امنیتی اضافی برای جلوگیری از سوء استفاده های مرتبط با پهپادها و نرم افزارهای آن است.
محققان Vals معتقدند که یکی از نگرانیهای جدیتر استفاده از هوش مصنوعی برای دستهبندی تصاویر میدان جنگ در مقیاس بزرگ و تولید دادههای آموزشی برای سیستمهای هدفگیری خودکار است. آنها همچنین تأکید کردند که محدودیتهای فنی مانند تأخیر پردازش و قدرت محاسباتی محدود پهپادها، استفاده مستقیم از مدلهای عمومی برای هدفگیری زنده را دشوار میکند.
در همین حال، گزارش سرویس تحقیقات کنگره آمریکا نشان می دهد که هیچ مدرکی مبنی بر استفاده مستقیم پنتاگون از مدل های پیشرفته هوش مصنوعی در سیستم های تسلیحات خودکار وجود ندارد.
بیشتر بخوانید: هوش مصنوعی جایگزین کدام پزشکان می شود؟
















گفتگو در مورد این post