کاخ سفید نظارت بر ایمنی هوش مصنوعی را به رهبران فناوری واگذار کرده است

به گزارش سرویس هوش مصنوعی مجرداین توافق که رسما «تعهد مشترک در مسئولیت‌های هوش مصنوعی پیشرفته» نامیده می‌شود، توسط دیوید ساکس، بنیان‌گذار شرکت فناوری و مشاور رئیس‌جمهور آمریکا به صورت آنلاین منتشر شد.

ساندار پیچای گوگل، داریو آمودی از آنتروپیک، مارک زاکربرگ از متا، گرگ براکمن از OpenAI، ایلان ماسک از xAI و جنسن هوانگ از انویدیا این قرارداد را امضا کرده‌اند.

این سند آغاز می‌شود: «برای ساختن آینده‌ای مثبت برای مردم آمریکا و جهان، ما معتقدیم که هر شرکتی مسئولیت توسعه ایمن فناوری خود و ایجاد اعتماد در میان مشتریان و عموم را دارد.

در ادامه این توافقنامه آمده است: «شرکت‌های شرکت‌کننده به طور منظم برای ایجاد استانداردها و بهترین شیوه‌ها برای افزایش امنیت سیستم‌های خود ملاقات خواهند کرد».

این قرارداد چهار قانون را برای هر شرکت تعیین می کند. هدف از این قوانین اطمینان از عملکرد مدل های پیشرفته هوش مصنوعی مطابق با هدف تعیین شده و شناسایی و رفع سریع مشکلات احتمالی است.

چهار مکانیسم برای نظارت بر مدل‌های هوش مصنوعی

۱. ایجاد کنترل های داخلی قدرتمند:
شرکت ها باید مکانیزم های داخلی قوی برای نظارت بر قابلیت ها و همسویی مدل های خود در طول آموزش و استفاده ایجاد کنند.

این نظارت باید حوزه هایی مانند امنیت سایبری، امنیت زیستی و تهدیدات شیمیایی را پوشش دهد.

شرکت‌ها همچنین باید اطمینان حاصل کنند که مدل‌های آن‌ها بدون اجازه هک یا به سیستم‌های فنی دسترسی ندارند.

۲. تشکیل تیم داخلی:
هر شرکت باید یک تیم داخلی مسئول نظارت بر عملکرد صحیح کنترل ها، مکانیسم های نظارت و سیستم های تشخیص مشکل داشته باشد.

تیم همچنین باید از رفع مشکلات شناسایی شده اطمینان حاصل کند.

۳. ارزیابی خارجی مستقل:
شرکت ها باید یک حسابرس یا ارزیاب خارجی مستقل را استخدام کنند تا به طور مستقل عملکرد کنترل ها، مکانیسم های نظارت و سیستم های تشخیص مشکل را بررسی کند.

۴. نظارت مستقل هیئت مدیره:
هر شرکت باید کمیته ای مستقل از هیئت مدیره را برای نظارت بر این فرآیند تعیین کند.

این کمیته گزارش هایی را از تیم های مسئول کنترل ها و همچنین حسابرسان و ارزیابان داخلی و خارجی دریافت می کند و باید اطمینان حاصل کند که مشکلات شناسایی شده حل شده اند.

بیشتر بخوانید: دولت آمریکا چت ربات هوش مصنوعی خود را راه اندازی کرد