ساتیا نادلا خواستار کنترل انسان بر هوش مصنوعی شد

ساتیا نادلا تاکید کرد که توسعه هوش عمومی باید مشروط به خدمت به بشریت و حفظ نظارت کامل انسانی باشد و بدون این پیش شرط ارزش پیگیری ندارد.

به گزارش سرویس هوش مصنوعی تکناک، ساتیا نادلا، مدیرعامل مایکروسافت اعلام کرد که هرگونه تلاش در توسعه ابر هوش باید مشروط به خدمت به بشریت و حفظ کنترل کامل انسان باشد و بدون این پیش شرط ارزش پیگیری ندارد.

مدیر اجرایی مایکروسافت در پاسخ به بحث‌های جاری در مورد کند کردن توسعه مدل‌های مرزی، دیدگاه متفاوتی را ارائه کرد. وی تاکید کرد که جامعه جهانی به جای توقف یا کند کردن روند تحقیقات، باید بر تسریع در توزیع عادلانه مزایای هوش مصنوعی تمرکز کند تا همه کشورها، جوامع و شرکت ها بتوانند به این ابزارها دسترسی داشته باشند. از دیدگاه وی، تحقق این هدف منوط به ایجاد محیطی متعادل است که در آن مدل‌های اختصاصی و منبع بسته به همراه مدل‌های منبع باز مسیر رشد متقابل را طی کنند و تنوع ساختاری حفظ شود.

مانیفست رفتاری مدل های اختصاصی مایکروسافت

در این راستا، مایکروسافت قصد دارد یک کد رفتار حرفه ای را برای مدل های MAI خود معرفی کند. پس از رونمایی، این چارچوب در معرض مشاوره و ارزیابی عمومی کارشناسان و مجامع علمی قرار خواهد گرفت تا مکانیزم توسعه این سیستم ها به تصمیم انحصاری در مایکروسافت محدود نشود. نادلا معتقد است که دسترسی رایگان به لایه‌های مختلف پشته هوش مصنوعی و امکان تصمیم‌گیری مستقل توسط سازمان‌ها برای هدایت سیستم‌ها، یک اصل کلیدی در اعتمادسازی به این فناوری است.

حفظ استقلال و مالکیت داده های سازمانی

یکی از محورهای اصلی اظهارات نادلا حفظ استقلال داده ها و دانش سازمانی در بین کسب و کارها بود. شرکت هایی که فرآیند استقرار هوش مصنوعی را کلید می زنند باید مالکیت بی قید و شرط دارایی ها و تجربیات دانش اختصاصی خود را حفظ کنند. بر اساس این گزارش نیوویننادلا خاطرنشان کرد که سازمان‌ها باید این گزینه را داشته باشند که چرخه‌های یادگیری مستمری را که به عنوان حلقه‌های یادگیری شناخته می‌شوند، ایجاد کنند و تخصص داخلی خود را در قالب مدل‌ها و وزن‌های پردازشی تحت کنترل مستقیم خود قرار دهند، بدون اینکه مجبور شوند به یک تامین‌کننده واحد وابسته باشند.

مایکروسافت رویکرد طراحی را بر اساس گام‌های دقیق و متمرکز برای دستیابی به همسویی اخلاقی تأیید می‌کند و از استفاده از مکانیسم‌هایی مانند ارزیاب‌های تعبیه‌شده استقبال می‌کند. با این حال، دستیابی به این همسویی نباید به انحصار چند واحد تجاری بزرگ محدود شود. این فرآیند حیاتی مستلزم مشارکت همه جانبه و همه جانبه نهادهای دانشگاهی، محققان مستقل و اکوسیستم‌های فناوری متنوع در سراسر جهان است تا آینده ابزارهای پردازش بر اساس منافع مشترک بشریت شکل بگیرد.