“کلید خاموش” برای مدل های پیشرفته هوش مصنوعی طراحی شده است

فرماندار کالیفرنیا با صدور یک فرمان اجرایی، خواستار توسعه راه حل های ایمنی هوش مصنوعی و بازنگری کلید خاموش کننده اضطراری برای مدل های پیشرفته شد..

به گزارش سرویس هوش مصنوعی مجرداین اقدام در شرایطی مطرح شده است که مدل های هوش مصنوعی شرکت های بزرگ اخیرا از محدودیت های تعیین شده برای آنها فراتر رفته است.

نیوسام در بیانیه‌ای مطبوعاتی گفت: «ما می‌خواهیم روند نظارت مؤثر و مسئولانه هوش مصنوعی را قبل از اینکه خیلی دیر شود تسریع کنیم. ما این کار را با دقت، اما با فوریت لازم انجام خواهیم داد. پیامدهای این موضوع آنقدر مهم است که نمی‌توانیم برای اقدام به تأخیر بیندازیم یا منتظر بمانیم.»

ماموریت کارشناسان برای توسعه اقدامات ایمنی هوش مصنوعی

گروهی از کارشناسان موظف خواهند بود پیشنهادات خود را به دفتر نیوسام ارسال کنند.

این دفتر همچنین قوانین ایمنی هوش مصنوعی کالیفرنیا را بر اساس پیشنهادات به روز خواهد کرد.

دستور اجرایی Newsom چندین اقدام خاص را برای بررسی تعیین می کند. یکی از این موارد، حضور “سازمان های تایید کننده مستقل” در آزمایشگاه های هوش مصنوعی برای انجام ممیزی ها و ارزیابی های دوره ای است.

این گروه همچنین بررسی خواهد کرد که آیا شرکت های هوش مصنوعی باید گزارش ها و ارزیابی ریسک خود را به شخص ثالث ارائه دهند یا خیر.

افشای «حوادث از دست دادن کنترل» نیز از دیگر مواردی است که کارشناسان به بررسی آن خواهند پرداخت. از جمله حادثه مربوط به بغل کردن صورت.

بیشتر بخوانید: وقتی هوش مصنوعی از کنترل خارج شد; داستان هک Hugging Face

افزایش درخواست ها برای نظارت مستقل بر هوش مصنوعی

Newsom تنها نیست که خواستار بررسی مداوم مدل های جدید هوش مصنوعی توسط نهادهای خارجی است.

هفته گذشته، داریو آمودی، مدیر عامل Entropic، طرحی سه مرحله ای را برای کاهش سرعت توسعه هوش مصنوعی پیشنهاد کرد.

آمودی در پیشنهاد خود پیشنهاد کرد که شرکت‌های هوش مصنوعی باید دسترسی مستمری مشابه کارمندان به ارزیاب‌های مستقل داشته باشند تا این افراد بتوانند ایمنی و پایبندی شرکت‌ها به الزامات را بررسی کنند.

بیشتر بخوانید: مدیر عامل Entropic: ترمز توسعه هوش مصنوعی باید برداشته شود