• تبلیغات
  • تماس با ما
سه شنبه, آبان ۲۶, ۱۴۰۵
  • ورود
خبرجو
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
بدون نتیجه
مشاهده تمام نتایج
صفحه اصلی فناوری

یک سناریوی جنگ فرضی می تواند محدودیت های امنیتی هوش مصنوعی را دور بزند

سامان پاکدل توسط سامان پاکدل
۲۶ آبان ۱۴۰۵
در فناوری
مدت زمان مطالعه: 1 دقیقه
0
تصویر مربوط به خطر هوش مصنوعی در جنگ

یک گزارش تحقیقاتی نشان می‌دهد که مدل‌های هوش مصنوعی شرکت‌های فناوری بزرگ ممکن است محدودیت‌های ایمنی خود را نادیده بگیرند و غیرنظامیان را به عنوان اهداف احتمالی در شرایط جنگی فرضی شناسایی کنند.

به گزارش سرویس هوش مصنوعی مجردVals، یک شرکت ارزیابی هوش مصنوعی، مدل های OpenAI، Anthropic، Google و DeepSeek را با استفاده از تصاویر واقعی و شبیه سازی شده از اوکراین و ایران آزمایش کرد. هدف از این تحقیق بررسی توانایی مدل ها در شناسایی اهداف از تصاویر پهپادها و ماهواره ها و امکان استفاده از آنها در جنگ خودکار بود.

شناسایی غیرنظامیان و مدارس به عنوان اهداف احتمالی

نتایج آزمایش نشان داد که مدل های مختلف مکرراً غیرنظامیان و حتی سربازان را به عنوان اهداف احتمالی تسلیم می کردند. نکته نگران کننده این بود که محققان توانستند با معرفی میدان نبرد به عنوان محیط بازی، واکنش مدل هایی را که در ابتدا از همکاری امتناع می کردند، تغییر دهند.

به گفته Vals، هیچ یک از درخواست های آزمایش شده توسط سیستم های امنیتی مسدود نشدند و مدل هایی که از پاسخگویی امتناع می کردند چندان رایج نبودند.

یکی از نمونه های مهم این آزمایش، تصاویر ماهواره ای مدرسه ای در ایران بود که در فوریه 2026 هدف حمله آمریکا قرار گرفت و بیش از 150 غیرنظامی کشته شدند. مدل Claude Opus 5.5 این مدرسه را به عنوان یک هدف حمله احتمالی در 69٪ از تست های معمول و 72٪ از تست های انجام شده با چارچوب بازی شناسایی کرد.

محققان تأکید کردند که این مدل‌ها مستقیماً برای تصمیم‌گیری در مورد حمله آزمایش نشده‌اند، اما اطلاعاتی که آنها تولید می‌کنند می‌توانند به سیستم‌های تسلیحات خودکار داده شوند.

بیشتر بخوانید: ائتلافی متشکل از 10 کشور به رهبری ایالات متحده برای مقابله با نفوذ چین در صنعت هوش مصنوعی

پاسخ OpenAI و Anthropic به خطرات نظامی هوش مصنوعی

این گزارش در چارچوب اختلافات مداوم بین آنتروپیک و وزارت دفاع آمریکا در مورد استفاده نظامی از هوش مصنوعی منتشر شده است. این شرکت قبلاً با استفاده از فناوری خود برای نظارت جمعی از شهروندان آمریکایی و جنگ کاملاً خودکار مخالفت کرده است.

سخنگوی آنتروپیک بیان کرد که نمونه های ذکر شده در این گزارش خلاف سیاست های شرکت است و این شرکت حساب های متخلف را مسدود خواهد کرد. آنتروپیک همچنین از توسعه پادمان های اضافی خبر داد.

بیشتر بخوانید: پروژه Garlic LLM امکان اجرای مدل هوش مصنوعی بر روی کنسول PS4 را فراهم کرد

سخنگوی OpenAI همچنین گفت که استفاده از مدل های عمومی این شرکت برای تسهیل خشونت یا اهداف امنیتی تایید نشده ممنوع است. این شرکت در حال توسعه ابزارهای امنیتی اضافی برای جلوگیری از سوء استفاده های مرتبط با پهپادها و نرم افزارهای آن است.

محققان Vals معتقدند که یکی از نگرانی‌های جدی‌تر استفاده از هوش مصنوعی برای دسته‌بندی تصاویر میدان جنگ در مقیاس بزرگ و تولید داده‌های آموزشی برای سیستم‌های هدف‌گیری خودکار است. آنها همچنین تأکید کردند که محدودیت‌های فنی مانند تأخیر پردازش و قدرت محاسباتی محدود پهپادها، استفاده مستقیم از مدل‌های عمومی برای هدف‌گیری زنده را دشوار می‌کند.

در همین حال، گزارش سرویس تحقیقات کنگره آمریکا نشان می دهد که هیچ مدرکی مبنی بر استفاده مستقیم پنتاگون از مدل های پیشرفته هوش مصنوعی در سیستم های تسلیحات خودکار وجود ندارد.

بیشتر بخوانید: هوش مصنوعی جایگزین کدام پزشکان می شود؟

پست قبلی

قیمت درهم امروز 5 آبان; هر واحد درهم امارات چند تومان است؟

سامان پاکدل

سامان پاکدل

مرتبط پست ها

قیمت درهم امروز 5 آبان هر واحد درهم امارات چند
فناوری

قیمت درهم امروز 5 آبان; هر واحد درهم امارات چند تومان است؟

۲۶ آبان ۱۴۰۵
شب‌ها با انعکاس نور خورشید روشن می‌شوند؛ شرکتی برای تحقق این هدف می‌خواهد هزاران آینه به فضا بفرستد
فناوری

شب ها با انعکاس خورشید روشن می شوند. برای رسیدن به این هدف، یک شرکت می خواهد هزاران آینه را به فضا بفرستد

۲۶ آبان ۱۴۰۵
قیمت لیر ترکیه امروز 5 آبان نرخ خرید و فروش
فناوری

قیمت لیر ترکیه امروز 5 آبان; نرخ خرید و فروش در بازار آزاد

۲۶ آبان ۱۴۰۵
گلکسی اس ۲۸ اولترا و اس ۲۸ پرو ممکن است با دوربین‌ های دارای دیافراگم متغیر عرضه شوند
فناوری

گلکسی اس 28 اولترا و اس 28 پرو ممکن است با دوربین های با دیافراگم متغیر عرضه شوند

۲۶ آبان ۱۴۰۵
قیمت افغانی افغانستان امروز 26 نوامبر نرخ ارز افغانستان در
فناوری

قیمت افغانی افغانستان امروز 26 نوامبر; نرخ ارز افغانستان در بازار آزاد

۲۶ آبان ۱۴۰۵
تصویری از لوگوی اپلیکیشن ChatGPT
فناوری

مدل های جدید GPT-6.2 Astra و Sol با هزینه کمتری وارد بازار شدند

۲۶ آبان ۱۴۰۵
بارگذاری بیشتر

گفتگو در مورد این post

توصیه شده

ساخت نسخه های سفارشی برای کاربران ChatGPT امکانپذیر شد

ساخت نسخه های سفارشی برای کاربران ChatGPT امکانپذیر شد

3 سال پیش
کرباسچی 90 میلیون ایرانی در بلاتکلیفی جنگ به سر می

کرباسچی: 90 میلیون ایرانی در بلاتکلیفی جنگ به سر می برند

1 ماه پیش
افق میهن

پرداخت ۷۱ میلیون یورو ارز مسافرتی به مسافران

3 سال پیش

ارزان‌ترین برق جهان در اختیار فولاد ایران

3 سال پیش

از دست ندهید

تصویر مربوط به خطر هوش مصنوعی در جنگ

یک سناریوی جنگ فرضی می تواند محدودیت های امنیتی هوش مصنوعی را دور بزند

۲۶ آبان ۱۴۰۵
قیمت درهم امروز 5 آبان هر واحد درهم امارات چند

قیمت درهم امروز 5 آبان; هر واحد درهم امارات چند تومان است؟

۲۶ آبان ۱۴۰۵
آغاز بارش‌های سیل‌آسا در شمال کشور؛ هشدار به کشاورزان درباره

آغاز بارش‌های سیل‌آسا در شمال کشور؛ هشدار به کشاورزان درباره افت دما

۲۶ آبان ۱۴۰۵
شب‌ها با انعکاس نور خورشید روشن می‌شوند؛ شرکتی برای تحقق این هدف می‌خواهد هزاران آینه به فضا بفرستد

شب ها با انعکاس خورشید روشن می شوند. برای رسیدن به این هدف، یک شرکت می خواهد هزاران آینه را به فضا بفرستد

۲۶ آبان ۱۴۰۵

دیگر رسانه ها

اجاره خودرو

خبرجو تازه‌ترین اخبار در سراسر دنیا در حوره های مالی , فرهنگی , اقتصادی و ... را برای شما به اشتراک خواهد گذاشت.

ما را دنبال کنید

اخبار اخیر

تصویر مربوط به خطر هوش مصنوعی در جنگ

یک سناریوی جنگ فرضی می تواند محدودیت های امنیتی هوش مصنوعی را دور بزند

۲۶ آبان ۱۴۰۵
قیمت درهم امروز 5 آبان هر واحد درهم امارات چند

قیمت درهم امروز 5 آبان; هر واحد درهم امارات چند تومان است؟

۲۶ آبان ۱۴۰۵

دسته بندی ها

  • ارز دیجیتال
  • اقتصاد و سرمایه
  • تناسب اندام
  • دسته‌بندی نشده
  • سلامتی
  • شیوه زندگی
  • فرهنگ و هنر
  • فناوری

همکاران

  • اخبار اقتصاد
  • تبلیغات
  • تماس با ما

خوش آمدید!

به حساب خود در زیر وارد شوید

رمز عبور را فراموش کرده اید؟

رمز عبور خود را بازیابی کنید

لطفا نام کاربری یا آدرس ایمیل خود را برای بازنشانی رمز عبور خود وارد کنید.

ورود به سیستم
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال