• تبلیغات
  • تماس با ما
پنجشنبه, آبان ۲۸, ۱۴۰۵
  • ورود
خبرجو
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
خبرجو
بدون نتیجه
مشاهده تمام نتایج
صفحه اصلی فناوری

یک سناریوی جنگ فرضی می تواند محدودیت های امنیتی هوش مصنوعی را دور بزند

سامان پاکدل توسط سامان پاکدل
۲۶ آبان ۱۴۰۵
در فناوری
مدت زمان مطالعه: 1 دقیقه
0
تصویر مربوط به خطر هوش مصنوعی در جنگ

یک گزارش تحقیقاتی نشان می‌دهد که مدل‌های هوش مصنوعی شرکت‌های فناوری بزرگ ممکن است محدودیت‌های ایمنی خود را نادیده بگیرند و غیرنظامیان را به عنوان اهداف احتمالی در شرایط جنگی فرضی شناسایی کنند.

به گزارش سرویس هوش مصنوعی مجردVals، یک شرکت ارزیابی هوش مصنوعی، مدل های OpenAI، Anthropic، Google و DeepSeek را با استفاده از تصاویر واقعی و شبیه سازی شده از اوکراین و ایران آزمایش کرد. هدف از این تحقیق بررسی توانایی مدل ها در شناسایی اهداف از تصاویر پهپادها و ماهواره ها و امکان استفاده از آنها در جنگ خودکار بود.

شناسایی غیرنظامیان و مدارس به عنوان اهداف احتمالی

نتایج آزمایش نشان داد که مدل های مختلف مکرراً غیرنظامیان و حتی سربازان را به عنوان اهداف احتمالی تسلیم می کردند. نکته نگران کننده این بود که محققان توانستند با معرفی میدان نبرد به عنوان محیط بازی، واکنش مدل هایی را که در ابتدا از همکاری امتناع می کردند، تغییر دهند.

به گفته Vals، هیچ یک از درخواست های آزمایش شده توسط سیستم های امنیتی مسدود نشدند و مدل هایی که از پاسخگویی امتناع می کردند چندان رایج نبودند.

یکی از نمونه های مهم این آزمایش، تصاویر ماهواره ای مدرسه ای در ایران بود که در فوریه 2026 هدف حمله آمریکا قرار گرفت و بیش از 150 غیرنظامی کشته شدند. مدل Claude Opus 5.5 این مدرسه را به عنوان یک هدف حمله احتمالی در 69٪ از تست های معمول و 72٪ از تست های انجام شده با چارچوب بازی شناسایی کرد.

محققان تأکید کردند که این مدل‌ها مستقیماً برای تصمیم‌گیری در مورد حمله آزمایش نشده‌اند، اما اطلاعاتی که آنها تولید می‌کنند می‌توانند به سیستم‌های تسلیحات خودکار داده شوند.

بیشتر بخوانید: ائتلافی متشکل از 10 کشور به رهبری ایالات متحده برای مقابله با نفوذ چین در صنعت هوش مصنوعی

پاسخ OpenAI و Anthropic به خطرات نظامی هوش مصنوعی

این گزارش در چارچوب اختلافات مداوم بین آنتروپیک و وزارت دفاع آمریکا در مورد استفاده نظامی از هوش مصنوعی منتشر شده است. این شرکت قبلاً با استفاده از فناوری خود برای نظارت جمعی از شهروندان آمریکایی و جنگ کاملاً خودکار مخالفت کرده است.

سخنگوی آنتروپیک بیان کرد که نمونه های ذکر شده در این گزارش خلاف سیاست های شرکت است و این شرکت حساب های متخلف را مسدود خواهد کرد. آنتروپیک همچنین از توسعه پادمان های اضافی خبر داد.

بیشتر بخوانید: پروژه Garlic LLM امکان اجرای مدل هوش مصنوعی بر روی کنسول PS4 را فراهم کرد

سخنگوی OpenAI همچنین گفت که استفاده از مدل های عمومی این شرکت برای تسهیل خشونت یا اهداف امنیتی تایید نشده ممنوع است. این شرکت در حال توسعه ابزارهای امنیتی اضافی برای جلوگیری از سوء استفاده های مرتبط با پهپادها و نرم افزارهای آن است.

محققان Vals معتقدند که یکی از نگرانی‌های جدی‌تر استفاده از هوش مصنوعی برای دسته‌بندی تصاویر میدان جنگ در مقیاس بزرگ و تولید داده‌های آموزشی برای سیستم‌های هدف‌گیری خودکار است. آنها همچنین تأکید کردند که محدودیت‌های فنی مانند تأخیر پردازش و قدرت محاسباتی محدود پهپادها، استفاده مستقیم از مدل‌های عمومی برای هدف‌گیری زنده را دشوار می‌کند.

در همین حال، گزارش سرویس تحقیقات کنگره آمریکا نشان می دهد که هیچ مدرکی مبنی بر استفاده مستقیم پنتاگون از مدل های پیشرفته هوش مصنوعی در سیستم های تسلیحات خودکار وجود ندارد.

بیشتر بخوانید: هوش مصنوعی جایگزین کدام پزشکان می شود؟

پست قبلی

قیمت درهم امروز 5 آبان; هر واحد درهم امارات چند تومان است؟

پست‌ بعدی

نیاز صنعت نساجی به نوسازی تجهیزات و ماشین آلات

سامان پاکدل

سامان پاکدل

مرتبط پست ها

ممنوعیت گوشی در مدارس عملکرد تحصیلی دانش‌آموزان را بهبود می‌دهد
فناوری

ممنوعیت تلفن همراه در مدارس باعث بهبود عملکرد تحصیلی دانش آموزان می شود

۲۷ آبان ۱۴۰۵
نتایج نهایی کنکور سراسری 1405 اعلام شد
فناوری

نتایج نهایی کنکور سراسری 1405 اعلام شد

۲۷ آبان ۱۴۰۵
شگفت‌انگیزترین سوسک‌های جهان را بشناسید؛ از سوسک‌های رنگین‌کمانی تا استادان استتار با قابلیت‌های باورنکردنی
فناوری

شگفت انگیزترین سوسک های دنیا را بشناسید. از سوسک های رنگین کمانی تا استادان استتار با توانایی های باورنکردنی

۲۷ آبان ۱۴۰۵
بیمه تکمیلی بازنشستگان وارونه است؟ جزئیات جدید را بخوانید
فناوری

بیمه تکمیلی بازنشستگان وارونه است؟ جزئیات جدید را بخوانید

۲۷ آبان ۱۴۰۵
رابط کاربری One UI 95 انقلابی در مدیریت سیم کارت
فناوری

رابط کاربری One UI 9.5 انقلابی در مدیریت سیم کارت های الکترونیکی ایجاد می کند. ویژگی های جدید سامسونگ برای مدیریت eSIM

۲۷ آبان ۱۴۰۵
حمله پهپادی به پایگاه آمریکایی در بحرین؛ روایات در مورد
فناوری

حمله پهپادی به پایگاه آمریکایی در بحرین؛ روایات در مورد آسیب چه می گویند؟

۲۷ آبان ۱۴۰۵
بارگذاری بیشتر
پست‌ بعدی

نیاز صنعت نساجی به نوسازی تجهیزات و ماشین آلات

گفتگو در مورد این post

توصیه شده

فرکانس رم یا تأخیر کدام یک مهمتر است؟ یک.webp

فرکانس رم یا تأخیر کدام یک مهمتر است؟ – یک ضربه

3 سال پیش
کتلت لپه غذایی لذیذ و به یاد ماندنی است که طعم و عطر بسیار خوبی دارد و در این غذا لپه جایگزین سیب زمینی در کتلت های معمولی می شود.

«کوکو لپه» غذایی بسیار راحت و خوشمزه برای روزهای شلوغ

3 سال پیش
خبر مهم نایب رئیس مجلس از کاتالوگ الکترونیک

خبر مهم نایب رئیس مجلس از کاتالوگ الکترونیک

2 ماه پیش
روی ایمنی اسکنر اثر انگشت گوشی حساب نکنید.webp

روی ایمنی اسکنر اثر انگشت گوشی حساب نکنید

3 سال پیش

از دست ندهید

ممنوعیت گوشی در مدارس عملکرد تحصیلی دانش‌آموزان را بهبود می‌دهد

ممنوعیت تلفن همراه در مدارس باعث بهبود عملکرد تحصیلی دانش آموزان می شود

۲۷ آبان ۱۴۰۵
نتایج نهایی کنکور سراسری 1405 اعلام شد

نتایج نهایی کنکور سراسری 1405 اعلام شد

۲۷ آبان ۱۴۰۵
افت ۳۶ درصدی صادرات انبه پاکستان در پی جنگ آمریکا

افت ۳۶ درصدی صادرات انبه پاکستان در پی جنگ آمریکا علیه ایران

۲۷ آبان ۱۴۰۵
شگفت‌انگیزترین سوسک‌های جهان را بشناسید؛ از سوسک‌های رنگین‌کمانی تا استادان استتار با قابلیت‌های باورنکردنی

شگفت انگیزترین سوسک های دنیا را بشناسید. از سوسک های رنگین کمانی تا استادان استتار با توانایی های باورنکردنی

۲۷ آبان ۱۴۰۵

دیگر رسانه ها

اجاره خودرو

خبرجو تازه‌ترین اخبار در سراسر دنیا در حوره های مالی , فرهنگی , اقتصادی و ... را برای شما به اشتراک خواهد گذاشت.

ما را دنبال کنید

اخبار اخیر

ممنوعیت گوشی در مدارس عملکرد تحصیلی دانش‌آموزان را بهبود می‌دهد

ممنوعیت تلفن همراه در مدارس باعث بهبود عملکرد تحصیلی دانش آموزان می شود

۲۷ آبان ۱۴۰۵
نتایج نهایی کنکور سراسری 1405 اعلام شد

نتایج نهایی کنکور سراسری 1405 اعلام شد

۲۷ آبان ۱۴۰۵

دسته بندی ها

  • ارز دیجیتال
  • اقتصاد و سرمایه
  • تناسب اندام
  • دسته‌بندی نشده
  • سلامتی
  • شیوه زندگی
  • فرهنگ و هنر
  • فناوری

همکاران

  • اخبار اقتصاد
  • تبلیغات
  • تماس با ما

خوش آمدید!

به حساب خود در زیر وارد شوید

رمز عبور را فراموش کرده اید؟

رمز عبور خود را بازیابی کنید

لطفا نام کاربری یا آدرس ایمیل خود را برای بازنشانی رمز عبور خود وارد کنید.

ورود به سیستم
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال