مایکروسافت مانیفست 37 صفحه ای با محوریت انسان در مورد هوش مصنوعی منتشر کرد

مایکروسافت کد رفتاری ویژه ای را برای مدل های هوش مصنوعی خود منتشر کرده است.

در حالی که بحث میان رهبران هوش مصنوعی در مورد راه‌های ایمن نگه داشتن فناوری و محافظت از بشریت در برابر انقراض بالا گرفته است، مایکروسافت چارچوب جدیدی ارائه کرده است.

مصطفی سلیمان، مدیر عامل بخش هوش مصنوعی مایکروسافت گفت:

این موضوع فوری است. چند ماه گذشته نقطه عطف مهمی بوده است و موضوعاتی که مدت‌ها فقط در تئوری نگران آن بودیم اکنون به واقعیت ملموس تبدیل شده‌اند.

مایکروسافت فلسفه اصلی این منشور هوش مصنوعی را در پنج کلمه خلاصه کرده است:

انسان از هوش مصنوعی مهمتر است.

در حالی که بحث در مورد نابودی احتمالی بشر به دست هوش مصنوعی ادامه دارد، بخش هوش مصنوعی مایکروسافت پیش نویس منشور 37 صفحه ای خود را برای مدل های هوش مصنوعی انسان محور در روز دوشنبه منتشر کرد. این سند مجموعه ای از اصول اولیه را در مورد نحوه تفکر، رفتار و گفتار این مدل ها تعریف می کند و حتی بر پرهیز از ارتباطات نامفهوم و نامفهوم تاکید می کند.

سلیمان این سند را به عنوان اولین پیش نویس برای اظهار نظر عمومی معرفی کرد. او هشدار داد که مجموعه ای از رویدادهای هشداردهنده، از جمله حمله و هک کردن Hugging Face توسط گروهی از عوامل سرکش OpenAI، باعث شده است که مهندسان و محققان هوش مصنوعی زنگ خطر را در مورد ایمنی این فناوری به صدا درآورند. استعفای یکی از چهره های مطرح آنتروپیک نیز بحث های گسترده ای را در مورد ایمنی هوش مصنوعی به راه انداخته است و پس از آن شرکت های بزرگ این حوزه مواضع مختلفی را مطرح کرده اند.

جزئیات آیین نامه رفتار مایکروسافت

شرکت‌های فعال در زمینه هوش مصنوعی در رقابتی سخت برای توسعه فناوری‌های قدرتمندتر هستند، اما مایکروسافت در این منشور عمدا محدودیت‌هایی را برای مدل‌های خود در نظر گرفته است. سلیمان گفت:

ما برای ساختن یک ابر هوش که بتواند کنترل خود را از دست بدهد و از محدودیت‌هایش رهایی یابد، مسابقه نمی‌دهیم.

این منشور که سلیمان آن را سند اولیه مشارکت و افکار عمومی می داند در پنج بند تنظیم شده است. این بخش ها موضوعاتی مانند محدودیت های ایمنی مدل ها، نحوه تصمیم گیری در شرایط نامشخص و رفتارهای پیش فرض سیستم را پوشش می دهد.

مایکروسافت یک سلسله مراتب واضح برای مدل های خود دارد. در بالاترین سطح، یک آیین نامه رفتاری وجود دارد که مدل مجاز به نقض آن نیست. پس از آن، سیاست های تعیین شده توسط اپراتور قرار می گیرد و در پایین ترین سطح، ترجیحات کاربر قرار می گیرد.

این سند بیان می کند که اگر انجام موفقیت آمیز یک وظیفه مستلزم نقض جدی اصول منشور باشد، مدل باید آن مأموریت را ناموفق تلقی کند. محدودیت های امنیتی همچنین شامل حوزه هایی مانند مالکیت معنوی، دسترسی به اینترنت و نحوه مدیریت داده ها می شود. همچنین از مدل ها خواسته شده است که مرزهای محیطی و فیزیکی را رعایت کنند. موضوعی که برای متخصصانی که نگران احتمال فرار عوامل هوش مصنوعی از محیط های کنترل شده هستند اهمیت زیادی دارد.

هوش مصنوعی چگونه در موقعیت های مبهم تصمیم می گیرد

مایکروسافت اذعان می کند که همه موقعیت ها پاسخ ساده و واضحی ندارند. منشور می گوید که جهان پیچیده و آشفته است و به همین دلیل، مدل ها باید چارچوبی برای تصمیم گیری برای مواقعی که دستورات یا اهداف متضاد وجود دارد، داشته باشند.

مدل های هوش مصنوعی مایکروسافت باید محدودیت ها و سوالات بی پاسخ خود را برای کاربر توضیح دهند. در صورتی که پس از بررسی شرایط همچنان ابهام وجود داشته باشد، پاسخ آن باید بر اساس بهترین درک ممکن از اصول این منشور ارائه شود.

در موضوع احتمال نابودی بشریت، جایگاه مایکروسافت کاملا مشخص است و مدل های هوش مصنوعی در جایگاه ابزاری تحت کنترل انسان قرار می گیرند. در این منشور تاکید شده است که هوش مصنوعی نباید از کنترل انسان خارج شود.

سلیمان همچنین درباره هدف نهایی این رویکرد گفت:

ما در حال ساخت چیزی هستیم که اساساً خبرجو و ایمن است، حتی اگر مجبور باشیم برای رسیدن به آن هدف از برخی از عملکرد نهایی، استقلال یا قابلیت‌های گسترده آن چشم پوشی کنیم.