موسسه DeepMind در مورد ایمنی و آینده AGI تحقیق می کند

Google DeepMind یک موسسه جدید برای گسترش بحث در مورد آن است AGI راه اندازی و ارائه پیشنهادات برای شفافیت و ارزیابی مدل های پیشرفته.

به گزارش سرویس هوش مصنوعی مجردهدف موسسه جدید ارائه دیدگاه های مختلف گوگل، گوگل دیپ مایند و جامعه تحقیقاتی جهانی در مورد AGI است. در اطلاعیه این موسسه آمده است: «آنها همیشه با یکدیگر توافق نخواهند کرد و احتمالاً با ظهور داده ها و اطلاعات بیشتر در مرزهای پرشتاب این حوزه، دیدگاه خود را تغییر خواهند داد».

مجموعه اول این موسسه شامل چهار مقاله است که به بررسی موضوعات مختلف می پردازد. این موضوعات شامل سیاست‌های اقتصادی برای مدیریت اختلالات احتمالی ناشی از AGI، حفظ خوانایی استدلال‌های مدل‌ها برای انسان، اصول مربوط به شکوفایی انسان، و چارچوبی برای ارزیابی مدل‌های پیشرفته هوش مصنوعی است.

محققان DeepMind در مورد کاهش شفافیت مدل ها هشدار دادند

در یکی از مقالات، روهین شاه و آنکا دراگان، محققان امنیتی DeepMind استدلال می‌کنند که کاهش شفافیت هوش مصنوعی، یعنی مشاهده و بررسی مرحله به مرحله فرآیند استدلال مدل دشوارتر می‌شود، اجتناب‌ناپذیر نیست.

آنها می گویند که معماری های جدید نظارت بر قدرتمندترین مدل ها را سخت تر می کند و توسعه دهندگان و تنظیم کننده ها باید با پیامدهای ایمنی روبرو شوند.

به گفته این محققان، یکی از راه حل ها می تواند محدود کردن «عمق سریال مبهم» باشد. این اصطلاح به مقدار محاسبات متوالی ای اشاره دارد که یک مدل می تواند بدون ارائه مسیر استدلالی قابل خواندن برای انسان انجام دهد.

گزینه دیگر این است که از توسعه دهندگان بخواهیم ثابت کنند که سیستم های کمتر شفاف هنوز به همان اندازه قابل نظارت هستند.

بیشتر بخوانید: مهارت‌های ربات‌ها توسط هوش مصنوعی عمیق گوگل افزایش می‌یابد

Hassabis چارچوبی برای ارزیابی مدل های پیشرفته پیشنهاد کرد

در مقاله دیگری، Hassabis ایجاد یک سازمان استانداردسازی برای مدل های پیشرفته هوش مصنوعی به رهبری ایالات متحده را پیشنهاد می کند.

بر اساس چارچوب پیشنهادی او، بدن مدل های پیشرفته هوش مصنوعی را ارزیابی خواهد کرد.

بر اساس این چارچوب، در مرحله اول، توسعه دهندگان مدل های خود را به صورت داوطلبانه و حداکثر 30 روز قبل از انتشار برای بررسی ارسال می کنند.

پس از اثبات کارایی سیستم ارزیابی، قبولی در آزمون های این موسسه می تواند به یکی از الزامات استقرار مدل های پیشرفته هوش مصنوعی در آمریکا تبدیل شود.

این آژانس در ابتدا تست های خود را با مشورت شرکت های هوش مصنوعی طراحی خواهد کرد، اما به توسعه ارزیابی های مستقل و اعلام نشده ادامه خواهد داد.

Hassabis این آزمون ها را “هلد-آوت” یا “هلد-آت” می نامد. هدف از این روش اجتناب از تنظیم مدل های مبتنی بر آزمایش های از پیش شناخته شده است.

حسابیس همچنین گفت: اگر جدیت شرایط ایجاب کند، می توان بر شدت این چارچوب افزود.

این روند حتی می تواند منجر به هماهنگی بین توسعه دهندگان مدل های پیشرفته برای کاهش سرعت توسعه این فناوری ها شود.

انتشار این مقالات در شرایطی انجام شده است که بحث ایمنی در صنعت هوش مصنوعی از بیان نگرانی‌های عمومی به پیشنهادات خاص برای افشای اطلاعات، نظارت خارجی و در صورت عقب ماندن پادمان‌ها، کاهش هماهنگ در سرعت توسعه مدل‌های پیشرفته در حال حرکت است.

این تغییر رویکرد در این هفته شتاب بیشتری گرفت و مدیران صنعت از بخش‌هایی از پیشنهاد داریو آمودی، مدیر عامل آنتروپیک برای «تعیین سرعت» برای توسعه هوش مصنوعی پیشرفته حمایت کردند.

بیشتر بخوانید: اولین ربات پینگ پنگ باز توسط Google DeepMind ایجاد شد