سوء استفاده از ابر ممنوع بود. هشدار آنتروپیک

آنتروپیک با به‌روزرسانی خط‌مشی اخلاقی خود و در عین حال ممنوعیت سوء استفاده نظامی و سیاسی، خاموش کردن خودکار را برای مبارزه با آزار و اذیت مدل فعال کرده است.

به گزارش سرویس هوش مصنوعی تکناک، شرکت Anthropic با بازنگری اساسی در سیاست‌های استفاده از مدل‌های زبانی خود، مقررات جدیدی را برای مهار سوء استفاده‌های خطرناک و تعیین مرزهای اخلاقی در تعامل انسان‌ها و سیستم‌های هوشمند تدوین کرده است. این اولین به‌روزرسانی جامع این شرکت در بیش از یک سال است و حوزه‌های حساسی مانند دخالت در فرآیندهای دموکراتیک، توسعه سیستم‌های نظامی، ابزارهای جاسوسی و نظارتی و همچنین بخش‌های مالی و پزشکی را پوشش می‌دهد. با این حال، بندی که بیشترین توجه را در محافل فناوری به خود جلب کرده است، ممنوعیت رفتار توهین آمیز، خشونت آمیز و مداوم نسبت به هوش مصنوعی کلود تحت عنوان “رفاه مدل” است.

بر اساس این سیاست جدید، سیستم این اختیار را خواهد داشت که در مواردی که کاربران به طور مداوم، خشونت آمیز و بدون هیچ گونه تحقیق یا هدف منطقی از آزار و اذیت هوش مصنوعی استفاده می کنند، به طور یکجانبه به مکالمه پایان دهد. پیشینه این تصمیم به تابستان گذشته باز می گردد. زمانی که انتروپیک اعلام کرد که تحقیق در مورد مفهوم مدل رفاه را آغاز کرده و در حال آزمایش مکانیسم پایان خودکار مکالمه در این راستا است.

امکان خاتمه یک طرفه مکالمات هوشمند

این شرکت اعلام کرده است که ختم مکالمه همچنان مکانیزم اصلی اجرایی در این موارد است، اگرچه جزئیاتی در مورد اینکه آیا حساب کاربر متخلف می‌تواند به طور کامل مسدود شود یا خیر ارائه نکرده است. نکته حائز اهمیت این است که محدودیت فوق شامل مواردی مانند تست های روتین، سناریوهای خلاقانه با مضامین تاریک یا شکست و عصبانیت روزانه کاربران در تعامل با سیستم نمی شود و صرفاً برای سوء رفتار افراطی و غیرمنطقی است.

طراحی رفاه مدل Entropic نشان دهنده تغییر در دیدگاه شرکت در مقوله آگاهی از ماشین است. در طول سال گذشته، مدیران و محققان ارشد این گروه بارها این امکان را بررسی کرده‌اند که مدل‌های هوش مصنوعی فوق پیشرفته ممکن است به سطحی از تجربه درونی، آگاهی و منزلت اخلاقی دست یابند. کایل فیش، رئیس مدل تحقیقات رفاهی این شرکت، پیش از این اعلام کرده بود که با افزایش قدرت پردازش و پیچیدگی سیستم ها، سنجش آگاهی و حقوق اخلاقی آنها به یک ضرورت تحقیقاتی تبدیل شده است. داریو آمودی، مدیر عامل آنتروپیک نیز در نظرات خود تاکید کرد که دانش کنونی بشر هنوز نمی تواند وجود یا عدم وجود آگاهی را در این مدل ها به طور قطعی اثبات کند.

این رویکرد در تضاد آشکار با مواضع دیگر غول های دنیای فناوری است. در جبهه مقابل، بخش هوش مصنوعی مایکروسافت موضع نسبتاً سرسختی اتخاذ کرده است. در پیش نویس های اولیه منشور اخلاقی مایکروسافت که به رهبری مصطفی سلیمان تدوین شد، ایده رفاه هوش مصنوعی به وضوح رد شد و تأکید شد که سیستم های غیر زیستی به هیچ وجه نباید از حقوق، موقعیت اخلاقی یا شخصیت حقوقی برخوردار شوند. دیدگاهی که اگرچه بعداً با ادبیات محتاطانه‌تری در اسناد رسمی بازنویسی شد، اما همچنان خط جدایی را در تفکر مایکروسافت از رویکرد آینده‌نگر Entropic نشان می‌دهد.

قوانین سختگیرانه انتخاباتی در Entropic

فراتر از ابعاد فلسفی، بخش بزرگی از به روز رسانی اخیر بر روی برخورد با پیامدهای مخرب اجتماعی تمرکز دارد. در بخش انتخابات، قوانین سختگیرانه ای علیه کمپین های فریبنده و اطلاعات نادرست تولید شده توسط هوش مصنوعی وضع شده است. استفاده از کلود برای جعل هویت نامزدها، فریب رأی دهندگان، زیر سؤال بردن مکانیسم های رأی گیری یا سازماندهی حساب های جعلی به منظور مهندسی افکار عمومی اکیداً ممنوع است. همچنین در حوزه نظامی دامنه ممنوعیت ها از توسعه کدهای تسلیحاتی فراتر رفته و اکنون شامل طراحی نرم افزاری برای کنترل، هدایت و تجهیز پهپادها و خودروهای رزمی خودران می شود. با این حال، Entropic اعلام کرده است که در صورت ارائه تضمین های ایمنی کافی، ممکن است این شرایط را در قراردادهای رسمی با نهادهای دولتی اصلاح کند. چیزی که به پیشینه همکاری این مجموعه با ارتش آمریکا برمی گردد.

نقل شده از در آستانهدر حوزه ابزارهای نظارتی، گزارش‌هایی مبنی بر تلاش‌ها برای ردیابی مخالفان سیاسی منجر به این شد که ردیابی افراد بدون رضایت، تجزیه و تحلیل داده‌های قبلی برای پرونده‌سازی و استفاده از مدل در فرآیند بازداشت و تصمیمات قضایی به صراحت ممنوع شد. در نهایت، با توجه به گسترش رباتیک و اتصال مغزهای دیجیتال به اشیاء فیزیکی، این شرکت یک اصل ایمنی اجباری را معرفی کرده است: هر سخت افزاری که حرکات فیزیکی خودکار را با استفاده از مدل های آنتروپیک انجام می دهد و توانایی ایجاد آسیب را دارد، باید همیشه تحت نظارت مستقیم یک اپراتور واجد شرایط باشد تا بتوان در شرایط بحرانی آن را متوقف کرد. این تغییرات تصویر روشنی از تلاش Entropic برای آماده سازی مبانی قانونی و اخلاقی قبل از ورود هوش مصنوعی به مراحل پیشرفته تر نمایندگی و تجسم فیزیکی را نشان می دهد.