ساتیا نادلا، مدیرعامل مایکروسافت با تاکید بر لزوم افزایش ایمنی هوش مصنوعی، خواستار ثبت دقیق عملکرد مدل ها، جداسازی آنها از مکانیسم های اجرایی و ایجاد امکان ترمز اضطراری برای مهار خطرات احتمالی شد.
بر اساس این گزارش سرویس هوش مصنوعی یک مرحله اینادلا آخرین چهره برجسته در صنعت فناوری است که دیدگاه های دقیقی را در مورد راه های بهبود ایمنی هوش مصنوعی ارائه می دهد.
بیشتر بخوانید: Entropic و OpenAI برای مقابله با قیام های احتمالی هوش مصنوعی آماده می شوند
چرا هوش مصنوعی به ترمز اضطراری نیاز دارد؟
حتما بخوانید: از Meta Muse تا Dots Open AI; حریم خصوصی کاربر چقدر امن است؟
مدیرعامل مایکروسافت صبح شنبه در پستی در شبکه اجتماعی X نوشت که زمان ارزیابی مجدد “معماری اعتماد” در سیستم های هوش مصنوعی فرا رسیده است. او تاکید کرد: ما نمی‌توانیم ابرهوش را به عنوان مجموعه‌ای از جعبه‌های سیاه تودرتو در نظر بگیریم و توصیه‌ها، پاسخ‌ها و اقدامات آن را بپذیریم یا رد کنیم. نادلا در این اظهارات از اصطلاح «ابر هوش» استفاده کرد. اصطلاح دولت ترامپ ترجیح می دهد به هوش مصنوعی اشاره کند. به گفته مدیرعامل مایکروسافت، تحقق این رویکرد مستلزم «جدایی مدل‌های هوش مصنوعی از مکانیزمی است که اجرای وظایف آن را مدیریت و هماهنگ می‌کند» و همچنین «استقلال مکانیسم‌های کنترلی و اقدامات حفاظتی مانند ترمز اضطراری».
برای مطالعه بیشتر: هوش مصنوعی Entropic با گزارش دروغین قتل، پلیس فیلادلفیا را با مشکل مواجه می کند
غول های فناوری به دنبال کنترل مدل ها هستند
همچنین، نادلا خواستار ضبط “هر اقدام مهم مدل” با استفاده از شواهد قابل درک برای انسان و مقاوم در برابر دستکاری شد. وی معتقد است سیستم ها باید به گونه ای طراحی شوند که «یک فرد مجاز» بتواند هر لحظه اجرای کار را متوقف کند یا مدل را به طور کامل غیرفعال کند. وی ادامه داد: باید از ابتدا فرض کنیم که مدل هوش مصنوعی به خطر افتاده و از ابتدا آن را در یک چارچوب بازدارنده قرار دهیم، این مکانیسم را مانند یک ترمز اضطراری در نظر بگیریم. این اظهارات در حالی مطرح می شود که شرکت های پیشرو در صنعت هوش مصنوعی بیش از پیش حوادثی را فاش می کنند که نشان می دهد کنترل مدل های آنها در برخی شرایط با مشکل مواجه شده است. همچنین، این موضع پس از آزادی داریو آمودی، مدیر عامل Entropic، برای توسعه محتاطانه‌تر هوش مصنوعی اتخاذ شده است.
گفتگو در مورد این post