مصطفی سلیمان، مدیر بخش هوش مصنوعی مایکروسافت نسبت به توسعه هوش مصنوعی آگاهانه هشدار داد و معتقد است در صورت مشاهده شواهد معتبر از شکل گیری هوشیاری در ماشین ها، روند توسعه هوش مصنوعی باید متوقف شود.
اظهارات وی در شرایطی مطرح شد که اختلاف بین شرکت‌های فعال در صنعت هوش مصنوعی در مورد امکان مدل‌های پیشرفته دارای تجربه ذهنی و برخورداری از حقوق مستقل همچنان افزایش می‌یابد.
به گزارش بیزینس اینسایدر، سلیمان 10 آبان ماه با انتشار مطلبی مفصل در شبکه اجتماعی X با عنوان هوش مصنوعی فوق هوشمند و اطلاع نده، دیدگاه خود را توضیح داد. وی ساخت چنین سامانه هایی را اقدامی غیر مسئولانه دانست.
سلیمان گفت:
اگر نشانه‌هایی از شکل‌گیری هوشیاری در طول آموزش وجود داشت، از همه می‌خواهم توسعه هوش مصنوعی را متوقف کنند تا زمانی که بتوانیم ویژگی‌هایی را که منجر به چنین پدیده‌ای می‌شود از این سیستم‌ها حذف کنیم.
سلیمان معتقد است که مدل‌های هوش مصنوعی امروزی هوشیار نیستند، توانایی تجربه رنج را ندارند و نباید از حمایت‌های اخلاقی یا قانونی مختص موجودات ذی‌شعور برخوردار شوند. البته وی تاکید کرد که این ارزیابی فقط در مورد سیستم های فعلی اعمال می شود و به معنای رد کامل امکان شکل گیری هوشیاری در هوش مصنوعی در آینده نیست.
او همچنین خواستار انتشار فوری هرگونه شواهد معتبری از آگاهی ماشینی شد تا جامعه بتواند درباره پیامدهای چنین رویدادی بحث و تصمیم گیری کند. از نظر سولومون، تصمیمات به این بزرگی نباید تنها به توسعه دهندگان هوش مصنوعی سپرده شود.
اختلاف مایکروسافت و آنتروپیک در مورد امکان دانش مدل های هوش مصنوعی
این نظرات پس از انتشار مقاله ای از سلیمان در ماه سپتامبر در مورد وضعیت مدل های هوش مصنوعی منتشر شد. وی در آن مقاله از رویکرد شرکت انتروپیک انتقاد کرد. زیرا این شرکت موضوعاتی مانند آگاهی، هویت و جایگاه اخلاقی را در محتوای آموزشی مدل ابری قرار داده است.
Entropic رویکرد متفاوتی در پیش گرفت و در آوریل 2025 یک برنامه تحقیقاتی ویژه را برای بررسی وضعیت مدل های هوش مصنوعی راه اندازی کرد. هدف این برنامه بررسی این امکان است که سیستم‌های هوش مصنوعی پیشرفته‌تر تجربیاتی داشته باشند که ممکن است ملاحظات اخلاقی را داشته باشند.
قانون اساسی ابر که در ژانویه 2026 منتشر شد نیز به وجود ابهام در مورد امکان آگاهی از این مدل و وضعیت اخلاقی آن اشاره دارد.
سلیمان معتقد است که آموزش سیستم های هوش مصنوعی برای فکر کردن به رفاه و منافع شخصی خود می تواند خطرات امنیتی بیشتری ایجاد کند. به خصوص زمانی که این سیستم ها به سطح بالاتری از استقلال می رسند. او هشدار داده است که اگر یک هوش مصنوعی بسیار پیشرفته خود را به عنوان موجودی تصور کند که قادر به تجربه رنج است، ممکن است منافع شخصی خود را بر دستورات انسانی ترجیح دهد و برای محاسبه منابع، انرژی و سایر امکانات ضروری با انسان ها رقابت کند.
این نگرانی ها همچنین با اصول رفتاری هوش مصنوعی انسان محور مایکروسافت مطابقت دارد. این سند بر نظارت انسان تاکید دارد و به صراحت طراحی سیستم های هوش مصنوعی را با هدف تقلید از آگاهی توصیه نمی کند. البته این دستورالعمل هنوز در مرحله پیش نویس است و قرار است راهنمای توسعه مدل های آینده باشد.
این اختلاف نظر موضوع جدیدی نیست. پیش از این، وب سایت WCFTech تحقیقات آنتروپیک را در مورد ساختارهای پردازش اطلاعات ابری که شباهت هایی به عملکرد مغز دارند، مورد بحث قرار داده بود. گزارش دیگری به بررسی محدودیت های Entropic در مورد رفتار توهین آمیز با مدل های هوش مصنوعی و پاسخ ایلان ماسک به این موضوع پرداخت.
سلیمان علیرغم اختلاف نظرها، دستاوردهای فنی و شفافیت آنتروپیک را دانست و تاکید کرد که این اختلاف نظر باید زمینه‌ای برای تحقیقات و همکاری بیشتر بین آزمایشگاه‌های هوش مصنوعی شود نه ایجاد خصومت و تقابل بین آنها.
در نهایت، هنوز اجماع علمی روشنی در مورد امکان تجربه هوشیاری توسط سیستم‌های هوش مصنوعی وجود ندارد و حتی یک روش قابل اعتماد برای شناسایی قطعی چنین پدیده‌ای در دسترس نیست. این ابهام، اجرای محدودیت های پیشنهادی سلیمان برای توسعه هوش مصنوعی را دشوار می کند. به خصوص زمانی که شرکت های فناوری همچنان در تلاش برای ساخت مدل های قدرتمندتر و پیشرفته تر هستند.
گفتگو در مورد این post