مدیر عامل Entropic با ارائه یک برنامه سه مرحله ای خواستار کاهش سرعت توسعه هوش مصنوعی و ایجاد استانداردهای مشترک برای افزایش ایمنی مدل ها شد..
به گزارش سرویس هوش مصنوعی مجردداریو عمودی در مقاله ای مفصل طرحی سه مرحله ای برای «تنظیم سرعت پیشرفت» در هوش مصنوعی ارائه کرده است.
در عمل، این اصطلاح به معنای کاهش سرعت آموزش و توسعه مدل ها است تا شرکت ها زمان کافی برای ایجاد مکانیسم های ایمنی داشته باشند و نهادهای نظارتی بتوانند مدل های جدید را ارزیابی کنند.
عمودی می‌گوید فراهم کردن دسترسی گسترده به بازبینان خارجی تنها اولین گام در این برنامه است، و آنتروپیک قبلاً این کار را به صورت یکجانبه آغاز کرده است.
همکاری صنعت و دولت برای ایجاد استانداردهای ایمنی
گام دوم همکاری گسترده شرکت های فعال در صنعت هوش مصنوعی است که احتمالا با مشارکت نهادهای دولتی انجام خواهد شد.
هدف از این همکاری «ایجاد استانداردهای ایمنی مشترک و همچنین محدودیت‌هایی برای سرعت پیشرفت کنترل‌نشده هوش مصنوعی» خواهد بود.
این مرحله بر شرکت های هوش مصنوعی که در کشورهای دموکراتیک فعالیت می کنند متمرکز است. آمودی معتقد است که تصویب قوانین و ایجاد زیرساخت های نظارتی زمان بر است و به همین دلیل شرکت های این صنعت باید قبل از شکل گیری کامل چارچوب های قانونی برای تدوین استانداردهای ایمنی همکاری کنند.
بیشتر بخوانید: آنتروپیک چین را به سرقت هوش مصنوعی متهم کرد
چالش توافق با چین و روسیه
مرحله سوم سخت ترین خواهد بود. آمودی می گوید که دولت های مستبد مانند چین و روسیه باید با کاهش سرعت توسعه هوش مصنوعی موافقت کنند و مجموعه ای جهانی از استانداردهای ایمنی را اتخاذ کنند.
وی در عین حال تاکید می کند که آمریکا و سایر کشورهای دموکراتیک باید برتری تکنولوژیکی خود را نسبت به چین و دیگر دولت های اقتدارگرا حفظ کنند.
به گفته آمودی، محدود کردن دسترسی این کشورها به تراشه های قدرتمند و مقابله با روش هایی مانند «تقطیر» مدل های هوش مصنوعی مهم است.
این روش‌ها به شرکت‌ها این امکان را می‌دهند که با آموزش مدل‌های خود برای تقلید از رفتار یک مدل قدرتمندتر، به سرعت شکاف فناوری را پر کنند.
آمودی می گوید نگرانی او در مورد سرعت توسعه هوش مصنوعی ناشی از دو عامل اصلی است.
بیشتر بخوانید: Entropic فعالیت های مشکوک برای تولید سلاح های بیولوژیکی را خنثی کرد
گفتگو در مورد این post