هشدار جدی ساتیا نادلا؛ مدیرعامل مایکروسافت خواستار «ترمز اضطراری» در مدل‌های هوش مصنوعی شد

ساتیا نادلا، مدیر عامل مایکروسافت، به عنوان جدیدترین مدیر ارشد فناوری، نظرات جامع و مهمی در مورد چگونگی بهبود امنیت ارائه می دهد. هوش مصنوعی (AI) مطرح کرده است

به گزارش TechCrunch، نادلا صبح شنبه در پستی در شبکه اجتماعی X (توئیتر سابق) نوشت که وقت آن است که «به عقب برگردیم و معماری اعتماد را به دقت ارزیابی کنیم» در هوش مصنوعی.

ضرورت بازنگری در معماری اعتماد و امنیت هوش مصنوعی

او با استفاده از اصطلاح مورد علاقه دولت ترامپ برای هوش مصنوعی نوشت: «ما نمی‌توانیم ابر هوش را به عنوان مجموعه‌ای از جعبه‌های سیاه تودرتو در نظر بگیریم و به سادگی توصیه‌ها، پاسخ‌ها و اقدامات آن را بپذیریم یا رد کنیم».

همانطور که نادلا توضیح داد، این رویکرد “به معنای جداسازی مدل از مهار یا ساختاری است که کار آن را هدایت و سازماندهی می کند” و همچنین شامل “برونی سازی کنترل ها و پادمان ها” است. او همچنین خواستار آن شد که «هر اقدام معنادار مدل» با «شواهد غیرقابل دستکاری و قابل خواندن برای انسان» مستند شود و سیستمی پیاده‌سازی شود که در آن «یک فرد مجاز» همیشه توانایی «توقف یا خاموش کردن مدل را در حین اجرا» داشته باشد.

نصب “ترمز اضطراری”؛ یک راه حل کلیدی برای کنترل مدل های پیشرفته

مدیرعامل مایکروسافت تاکید کرد: ما باید فرض کنیم که یک مدل به خطر افتاده است و از ابتدا آن را مهار کنیم. به آن مانند یک ترمز اضطراری فکر کن.”

این اظهارات نادلا در شرایطی مطرح می شود که شرکت های پیشرو در این زمینه هوش مصنوعی آنها به طور فزاینده ای حوادثی را تأیید می کنند که به نظر می رسد کنترل مدل های خود را از دست داده اند. این موضع همچنین پس از آن مطرح شد که داریو آمودی، مدیر عامل آنتروپیک، طرحی را برای توسعه فناوری هوش مصنوعی با احتیاط و ایمن‌تر منتشر کرد.