ظاهراً پنتاگون از OpenAI برای مدل هوش مصنوعی خواسته است که کمتر به درخواست‌ها پاسخ منفی بدهد

اسناد محرمانه منتشر شده توسط پنتاگون طرحی را برای توسعه یک سیستم هوش مصنوعی با محدودیت کمتر برای کاربردهای نظامی نشان می دهد.

اسناد منتشر شده در نتیجه شکایت قانون آزادی اطلاعات نشان می دهد که پنتاگون به دنبال استفاده از سیستم OpenAI با محدودیت های کمتر بوده است. در این اسناد، مدل‌هایی برای فعالیت‌های مرتبط با امنیت ملی ذکر شده بود که قرار بود هنگام استفاده در برخی از برنامه‌های نظامی حداقل رد درخواست‌های کاربران را داشته باشند.

با این حال، هم OpenAI و هم پنتاگون اعلام کرده اند که چنین بندی در نسخه نهایی قرارداد امضا شده بین دو طرف گنجانده نشده است. عبارت «حداقل امتناع از پاسخگویی» در سندی در مورد آزمایش، ارزیابی و توسعه مدل‌های OpenAI برای فعالیت‌های دفاعی یافت شد. در این سند همچنین به مدل های تخصصی برای استفاده های امنیتی دولتی اشاره شده است. مدل هایی که قرار بود در زمان اجرا درخواست های کمتری را رد کنند.

نیت ایوانز، سخنگوی OpenAI گفت:

OpenAI هرگز با قراردادی که مستلزم حداقل نرخ امتناع مدل باشد موافقت نکرده است. چنین عبارتی در قرارداد اجرا شده ما یافت نمی شود.

ایوانز همچنین توضیح داد:

به نظر می رسد سند ارائه شده به شما پیش نویس اولیه ای باشد که توسط وزارت دفاع تهیه شده و قبل از بازخورد OpenAI تنظیم شده است.

پس از آن یکی از نمایندگان وزارت دفاع آمریکا نیز اعلام کرد که در هیچ یک از قراردادهای فعال این سازمان بند مربوط به امتناع حداقلی از پاسخگویی وجود ندارد. این اختلاف زمانی پیچیده تر شد که یک وکیل پنتاگون در ابتدا صحت اسناد فاش شده را تأیید کرد، اما بعداً از آن عقب نشینی کرد.

ترور تیدمن، مسئول تحقیقات پنتاگون گفت:

ممکن است بین اسناد منتشر شده و قراردادهایی که واقعاً اجرا شده اند اشتباهی رخ داده باشد.

Tiedemann همچنین اعلام کرد که بررسی خواهد کرد که چگونه این سند از طریق بررسی داخلی گذشته و در نهایت به صورت عمومی منتشر شد. این اسناد پس از آن منتشر شد که The Intercept یک درخواست قانون آزادی اطلاعات برای دسترسی به سوابق قرارداد مربوط به توافقنامه های هوش مصنوعی نظامی را ارائه کرد.

درخواست این رسانه ظاهراً قراردادهای نهایی و تکمیل شده بود، اما مقامات دولتی بعداً تصریح کردند که سند منتشر شده در واقع یک نسخه قدیمی از مرحله پیش نویس است.

OpenAI متن کامل توافقنامه را برای عموم منتشر نکرده است، بنابراین بخشی از جزئیات توافق برای بررسی مستقل در دسترس نیست.

نگرانی در مورد مکانیسم های حفاظتی هوش مصنوعی نظامی

این مناقشه بحث را در مورد میزان کنترل شرکت های فناوری بر نحوه استفاده دولت ها از هوش مصنوعی دوباره شعله ور کرده است. سیستم‌های هوش مصنوعی تجاری معمولاً دارای محدودیت‌هایی هستند که از کمک آنها به فعالیت‌های خطرناک جلوگیری می‌کند. از جمله ارائه دستورالعمل برای ساخت سلاح یا ارتکاب اعمال خشونت آمیز.

به عنوان مثال، ChatGPT از ارائه راهنمایی عملی در مورد درخواست هایی که شامل برنامه ریزی یک حمله خاص یا انتخاب اهداف برای حملات نظامی است، خودداری می کند.

هایدی خلف، دانشمند ارشد موسسه AI Now، گفت:

رد حداقل به این معنی است که مدل در حال استفاده دارای حفاظت های ایمنی بسیار محدودی است یا تقریباً بدون چنین محدودیتی عمل می کند.

او معتقد است زمانی که سیستم‌های هوش مصنوعی شرکت‌های خصوصی وارد عملیات نظامی می‌شوند، این شرکت‌ها با تصمیم‌گیری‌های دشواری در مورد مسئولیت و نحوه اعمال محدودیت‌های ایمنی مواجه خواهند شد.

پنتاگون قبلاً با سایر شرکت‌های هوش مصنوعی بر سر میزان محدودیت‌ها در برنامه‌های دفاعی اختلاف داشت. با وجود این تفاوت ها، OpenAI قرارداد نظامی خود را با دولت ایالات متحده گسترش داده است تا امکان استفاده از خدمات خود را در شبکه های دولتی طبقه بندی شده فراهم کند.

توافقنامه به روز شده همچنان به مدل های هوش مصنوعی ویژه ماموریت های نظامی اشاره دارد، اگرچه بخش های قابل توجهی از متن توافق نامه از دید عموم حذف یا سانسور شده است. OpenAI اعلام کرده است که توافق این شرکت استفاده از هوش مصنوعی برای سلاح‌های کاملاً مستقل و فعالیت‌های نظارتی خاص علیه شهروندان آمریکایی را محدود می‌کند.

با این حال، این شرکت و سازمان‌های دولتی هنوز به طور کامل توضیح نداده‌اند که دقیقاً چگونه این محدودیت‌ها در سناریوهای مختلف نظامی اجرا می‌شود.