لایحه Entropic از خاموش شدن مدل های پیشرفته هوش مصنوعی جلوگیری می کند

انتروپیک لایحه‌ای را به کنگره آمریکا ارائه کرده است تا اختیارات دولت برای متوقف کردن مدل‌های پیشرفته هوش مصنوعی را به تهدیدات فاجعه‌بار خاص و تایید قضایی محدود کند.

بر اساس این گزارش سرویس هوش مصنوعی یک مرحله ایاین شرکت از کنگره ایالات متحده می خواهد تا معیارهای سختگیرانه ای را برای مداخله مقامات فدرال در دسترسی کاربران به مدل های پیشرفته هوش مصنوعی تعیین کند.

بر اساس پیش نویس محرمانه یک لایحه که سیاسی به این نتیجه رسیده است که مداخله دولت باید محدود به تهدیدات فاجعه بار خاص باشد و هرگونه تعلیق فعالیت یک مدل نیز مستلزم تایید قضایی است. این پیشنهاد برای ایجاد یک چارچوب قانونی شفاف تر برای توسعه دهندگان مدل های مرزی هوش مصنوعی طراحی شده است، در حالی که دامنه شرایطی را که می تواند منجر به اقدامات دولت شود، محدود می کند. همچنین، این طرح سوالات اساسی را در مورد محدودیت های نظارت نهادهای نظارتی بر سیستم هایی که قابلیت های آنها به سرعت در حال افزایش است، مطرح می کند.

بیشتر بخوانید: آیا حملات سایبری هوش مصنوعی سیستم مالی جهان را از بین می برد؟

آستانه های سختگیرانه برای مداخله

بر اساس لایحه Entropic، مقامات فدرال تنها در صورتی می توانند تعطیلی یک مدل را ملزم کنند که آن مدل یک تهدید قابل پیش بینی و قریب الوقوع باشد. شدت تهدید باید به حدی باشد که بیش از یک میلیارد دلار خسارت وارد کند یا باعث مرگ یا جراحت جدی بیش از 50 نفر شود. این لایحه دامنه تهدیدات مشمول مداخله را به سه دسته محدود می کند: تولید یا انتشار سلاح های بیولوژیکی، رهایی از مدل ها از کنترل توسعه دهندگان و حملات سایبری. سایر اشکال آسیب خارج از چارچوب خاص مداخله در این طرح است.

حتما بخوانید: با این ابزار مدل های هوش مصنوعی را با یک کلیک روی ویندوز اجرا کنید

Anthropic بیان کرده است که این لایحه منعکس کننده “چارچوب پیشرفته هوش مصنوعی” این شرکت است. این چارچوب از ژوئن برای جلب حمایت قانونگذاران فدرال و ایالتی ترویج شده است. به گزارش پولیتیکو، سخنگوی آنتروپیک گفت: اینها سیاست های معقولی هستند که ما معتقدیم کنگره باید به آنها عمل کند.

نظارت بر انطباق با الزامات لایحه به ارزیاب های مستقل سپرده شده است. این ارزیابان باید در وزارت بازرگانی ایالات متحده ثبت نام کنند و به طور دوره ای توسعه دهندگان مدل های مرزی و مدل های آنها را بررسی کنند. شرکت های تحت ارزیابی می توانند هزینه خدمات ارزیاب ها را پرداخت کنند، مشروط بر اینکه مبلغ پرداختی وابسته به یافته ها و نتایج ارزیابی نباشد. در صورتی که ارزیابی ها وجود تهدید قریب الوقوع مشمول مفاد لایحه را تایید کند، ارزیابان موظفند ظرف 72 ساعت پس از اتمام ارزیابی مراتب را به وزارت بازرگانی اطلاع دهند.

شرط صورتحساب آنتروپیک برای مدل های توقف

بر اساس این پیش نویس، وزارت بازرگانی صلاحیت توقف مستقل مدل هوش مصنوعی را نخواهد داشت و باید برای انجام این کار از دادگاه فدرال ناحیه کلمبیا درخواست کند. این محدودیت همچنین شامل سایر وزارتخانه ها، آژانس ها و مقامات فدرال می شود و آنها را از تعلیق فرآیند توسعه، استقرار یا استفاده داخلی از یک مدل منع می کند. هدف از این بند کاهش احتمال اقدام ناگهانی قوه مجریه علیه توسعه دهندگان هوش مصنوعی است.

این موضوع به ویژه پس از محدودیت های صادراتی ایالات متحده اهمیت یافته است. محدودیت‌هایی که طبق گزارش‌ها تابستان گذشته دو مدل پیشرفته آنتروپیک را غیرفعال یا غیرفعال کرد. این رویداد نگرانی هایی را در صنعت فناوری ایجاد کرد که مقامات دولتی ممکن است دسترسی به سیستم های قدرتمند هوش مصنوعی را محدود کنند.

با این حال، لایحه پیشنهادی انتروپی برخی الزامات ایالتی، از جمله مقررات مربوط به افشای عمومی خطرات، ارزیابی مستقل و گزارش رویدادهای حیاتی را نیز بی اعتبار می کند. این ماده می‌تواند اختلاف طولانی‌مدت را بر سر تعیین یک استاندارد واحد در سطح فدرال یا حفظ حمایت‌های سخت‌گیرانه‌تر در ایالت‌ها دوباره ایجاد کند.

رویکردهای مختلف به تنظیم هوش مصنوعی

پیش‌نویس Entropic در بحبوحه بحث‌های قانونی گسترده درباره نحوه تنظیم مدل‌های هوش مصنوعی مرزی در ایالات متحده ارائه می‌شود. لوری ترهان و جی اوبرنولت، نمایندگان کنگره، قانون مرزی را پیش بردند. طرحی که اقتدار دولت را برای مداخله در برابر مدل های پرخطر به رسمیت می شناسد و برخی از قوانین ایالتی را نادیده می گیرد. در سنا، جان تون، رهبر اکثریت، به همراه امی کلوبوچار و تد کروز، در حال تهیه پیش نویس قانونی برای مقابله با خطرات فاجعه بار هوش مصنوعی هستند. در مقابل، برخی از حامیان ایمنی هوش مصنوعی و سناتور آمریکایی ماریا کانتول خواستار یک مکانیسم نظارتی فدرال سخت‌گیرانه‌تر هستند. برخی از قانونگذاران نیز خواستار اعمال محدودیت های جامع تر شده اند. گرگ کاسار، نماینده کنگره و برنی سندرز، سناتور آمریکایی از توقف موقت توسعه هوش مصنوعی پیشرفته و ممنوعیت ابر هوش مصنوعی حمایت کردند.

بیشتر بخوانید: هشدار چهره های مشهور درباره خطرات امنیتی هوش مصنوعی!

در مقایسه با این رویکردها، لایحه آنتروپیک دامنه محدودتری دارد. این طرح از توسعه دهندگان مدل های فرامرزی می خواهد که چارچوب های ایمنی خاصی را ایجاد کنند، گزارش های شفافیت را در مورد مدل های جدید منتشر کنند، از افشاگران حمایت کنند و حوادث مهم را به وزارت بازرگانی گزارش دهند. تصمیم کنگره برای پذیرش یا رد این محدودیت ها نقش تعیین کننده ای در تعیین حدود اختیارات دولت فدرال بر سیستم های پیشرفته هوش مصنوعی خواهد داشت. در نهایت، سوال اصلی این است که آیا می توان با توسعه یک چارچوب ملی بدون اعطای قدرت بیش از حد به نهادهای نظارتی، از مردم محافظت کرد؟