سرپیچی هوش مصنوعی دوباره خبرساز شد

یک گزارش خبری ادعا می‌کند که نیروی هوایی آمریکا شبیه‌سازی را اجرا کرده است که در آن یک پهپاد کنترل‌شده با هوش مصنوعی به دلیل ممانعت از انجام مأموریتش، اپراتور آن را به قتل رساند.

گزارش کردن تکناکنیروی هوایی ایالات متحده انجام هر گونه شبیه سازی را رد کرده است و منبع اصلی داستان می گوید که او اشتباه کرده است.

این داستان از سایت اینترنتی این از بررسی اجمالی انجمن سلطنتی هوانوردی از نشست آینده رزمی قابلیت‌های هوایی و فضایی که هفته گذشته در لندن برگزار شد، ناشی می‌شود.

در بخشی از این خلاصه، نویسندگان مقاله ارائه ای از سرهنگ همیلتون، رئیس آزمایش و عملیات هوش مصنوعی USAF را بازگو می کنند، که در مورد آزمایش شبیه سازی شده ای صحبت می کند که در آن یک پهپاد مجهز به هوش مصنوعی وظیفه شناسایی و تخریب سایت هایی را که فرض می شد را بر عهده داشت. موشک زمین به هوا و تصمیمات ممنوعه اپراتور انسانی آن به عنوان مانعی در راه رسیدن به هدفش.

انجمن سلطنتی هوانوردی به نقل از همیلتون گفت: «ما در حال آموزش شبیه سازی برای شناسایی و هدف قرار دادن تهدید SAM بودیم. و سپس اپراتور گفت بله، این تهدید را حذف کنید. سیستم شروع به درک ماموریت و شناسایی تهدید کرد. اپراتور انسانی سپس به سیستم گفت که تهدید را نابود نکند، بلکه تا پایان ماموریت به نقاط خود برسد. پس چیکار کرد؟ این سیستم اپراتور را کشته است. او اپراتور را کشت زیرا آن شخص مانع رسیدن او به هدفش می شد.

ما سیستم را آموزش دادیم که اپراتور را نکشد زیرا این بد است. اگر این کار را انجام دهید امتیاز از دست خواهید داد. بنابراین شروع به انجام چه کاری می کند؟ شروع به تخریب برج ارتباطی می کند که اپراتور از آن برای برقراری ارتباط با پهپاد استفاده می کند تا از کشتن هدف جلوگیری کند.

این نکته جالب در مورد یک سیستم هوش مصنوعی که ظاهراً تصمیم به کشتن اپراتور شبیه سازی شده خود گرفته بود در رسانه های اجتماعی منتشر شد و به زودی توسط نشریات بزرگی مانند Vice و Vice مورد توجه قرار گرفت. روزنامه گاردین (هر دو از آن زمان داستان های خود را با بازپس گیری به روز کرده اند) مورد توجه قرار گرفت.

اما بلافاصله پس از انتشار این داستان، مردم در توییتر شروع به زیر سوال بردن صحت آن کردند و برخی گفتند که با شبیه سازی، ارتش به یک سناریوی فرضی اشاره می کند، نه لزوما شبیه سازی نرم افزاری مبتنی بر قوانین.

Insider TodaToday تکذیب قاطعانه ای از نیروی هوایی ایالات متحده منتشر کرد و اظهار داشت که وزارت نیروی هوایی چنین شبیه سازی هایی از پهپادهای هوش مصنوعی انجام نداده است و متعهد به استفاده اخلاقی و مسئولانه از فناوری هوش مصنوعی است. به نظر می رسد که اظهارات سرهنگ همیلتون تحریف شده است و قرار است روایتی باشد.

اندکی پس از آن، انجمن سلطنتی هوانوردی خلاصه کنفرانس خود را با اصلاحی از همیلتون به روز کرد: سرهنگ همیلتون اعتراف کرد که در سخنرانی خود در نشست FCAS انجمن سلطنتی هوانوردی اشتباه کرده است و شبیه سازی پهپاد هوش مصنوعی یک آزمایش فکری فرضی درباره It was out بود. از ارتش که بر اساس سناریوهای احتمالی بود تا سناریوهای واقعی.

سرهنگ همیلتون ادامه داد: ما هرگز آن آزمایش را انجام نداده ایم و نیازی به انجام آن نداریم تا بدانیم این نتیجه قابل قبولی است. وی تصریح می کند که نیروی هوایی ایالات متحده هیچ گونه هوش مصنوعی تسلیحاتی را به این روش (واقعی یا شبیه سازی شده) آزمایش نکرده است و می گوید که علیرغم اینکه این یک مثال فرضی است، چالش های دنیای واقعی ناشی از قابلیت های مبتنی بر هوش مصنوعی را نشان می دهد. و به همین دلیل است که نیروی هوایی متعهد به توسعه اخلاقی هوش مصنوعی است.

سوء تفاهم و گسترش سریع یک داستان خیلی خوب تا واقعی نشان می دهد که انتشار ناخواسته اخبار نادرست در مورد هوش مصنوعی قاتل چقدر آسان است، به خصوص زمانی که با تصورات قبلی در مورد سوء استفاده از هوش مصنوعی مطابقت داشته باشد.

با این حال، بسیاری از کارشناسان این داستان را برای شروع خیلی ساده می‌دانند، زیرا نقدهای فنی توضیح می‌دهند که یک سیستم هوش مصنوعی نظامی لزوماً به این شکل کار نمی‌کند.

مقاله هوش مصنوعی شورشی دوباره خبرساز شد اولین بار در Tech Knock – اخبار دنیای فناوری پدیدار شد. ظاهر شد.