آیا گوگل به هوش مصنوعی خود بهبود یافته دست یافته است؟

شایعات در مورد پیگیری گوگل برای بهبود هوش مصنوعی، نگرانی‌هایی را در مورد خطرات این فناوری به همراه درخواست‌های Entropy، OpenAI و Elon Musk برای کاهش سرعت توسعه هوش مصنوعی افزایش داده است.

بر اساس این گزارش سرویس هوش مصنوعی یک مرحله ایجنجال امروز با انتشار نامه سرگشاده داریو آمودی، مدیرعامل Entropic آغاز شد. نامه ای که خواستار کنترل سرعت هوش مصنوعی می شود تا مدل های نسل جدید با هدف بزرگ تر تضمین ایمنی انسان به عنوان یک گونه هماهنگ باشند.

محتوای نامه عمودی

در این نامه، آمودی به طور خاص در مورد خطر “هوش مصنوعی خود-بهبود” یا RSI هشدار داد. او نوشت:

اولین نگرانی من این است که از حوالی تابستان امسال، سرعت پیشرفت هوش مصنوعی به طور چشمگیری افزایش یافته است و عامل اصلی آن افزایش توانایی هوش مصنوعی برای ساخت نسل بعدی سیستم‌های هوش مصنوعی است. این پدیده هوش مصنوعی خود-بهبود نامیده می‌شود و همانطور که ما و دیگران توضیح داده‌اند، در سراسر صنعت از جمله Entropic در حال وقوع است. با احتیاط زیاد دنبال می شود و حتی ممکن است اصلاً رعایت نشود.”

آمودی همچنین متعهد شد که Entropic به طور یکجانبه سرعت توسعه هوش مصنوعی خود را کنترل کند. او همچنین اعلام کرد که گروهی از ارزیاب‌های مستقل شخص ثالث، از جمله سازمان‌هایی مانند METR، سطح دسترسی مشابهی با کارکنان شرکت خواهند داشت. این ارزیابان وظیفه بررسی پایبندی Entropy به رویه‌ها و تعهدات ایمنی، گزارش حوادث و ارزیابی همسویی را نه تنها در مدل‌های تکمیل‌شده، بلکه در خطوط لوله آموزشی و فرآیندهای توسعه هوش مصنوعی بر عهده خواهند داشت.

بیشتر بخوانید: چرا اپل مسیر متفاوتی را برای هوش مصنوعی انتخاب کرده است؟

کنترل هوش مصنوعی خودبهبود

سام آلتمن، مدیر عامل OpenAI نیز با از این پیشنهاد حمایت کنید او نوشت که با آمودی موافق است و “ما باید سرعت توسعه هوش مصنوعی پیشرفته را کنترل کنیم”. وی تصریح کرد که این موضوع یکی از محورهای اصلی بحث در OpenAI در هفته های اخیر بوده است. آلتمن همچنین ایده استفاده از ارزیاب‌های مستقل با سطح دسترسی کارمندان را مثبت ارزیابی کرد و گفت که OpenAI نیز چنین مکانیزمی را اجرا خواهد کرد و جزئیات بیشتری را در آینده ارائه خواهد کرد. در مرحله بعد، پیشنهاد آمودی برای کنترل سرعت توسعه هوش مصنوعی با واکنش ایلان ماسک، مدیرعامل اسپیس ایکس و آلتمن مواجه شد. موضوعی که می تواند نشانه ای از نوعی هماهنگی بین برخی از بازیگران اصلی صنعت هوش مصنوعی باشد. در همین حال، OpenAI حتی برنامه خود را برای IPO امسال کنار گذاشته است.

مطالب مرتبط: اروپا یک مرکز هوش مصنوعی جدید دریافت می کند

با این حال، در حالی که اهداف اعلام شده کمپین در ظاهر معقول و خیرخواهانه به نظر می رسد، درخواست برای کاهش سرعت توسعه هوش مصنوعی خود-بهبود با شک و تردید قابل توجهی مواجه شده است. این تردیدها به ویژه پس از رفتارهای عجیب و غریب انسان دوستانه در چند روز گذشته تشدید شده است. بعد از اینکه OpenAI اعلام کرد راه حلی برای مسئله ریاضی هزاره ناویر-استوکس پیدا کرده است، چه اتفاقی افتاد. ابتدا، جیکوب کوکسون، یکی از اعضای Entropic استعفای خود را در ابتدای هفته اعلام کرد. اقدامی که گفته می‌شد در اعتراض به حرکت افسارگسیخته آنتروپیک به سوی ابرهوشی خودساز انجام شد. پس از آن، ایوان هابینگر، مدیر ارشد مدل سازی در Entropic، بیش از 10 درصد احتمال داد که هوش مصنوعی تمام انسان ها را در دهه آینده نابود کند. انتشار نامه امروز عمودی نیز این زنجیره جنجالی را تکمیل کرد.

با توجه به این مجموعه رویدادها، منتقدان متقاعد نشده اند که روایت آنتروپیک در مورد کنترل سرعت توسعه هوش مصنوعی با هدف افزایش ایمنی ارائه شده است. به عنوان مثال، نگرانی در مورد امکان شکستن رمزگذاری SHA-256، تحقیقات در زمینه محاسبات کوانتومی را متوقف نکرده است. همچنین، در آستانه آغاز هزاره جدید، نگرانی گسترده در مورد مشکل Y2K مانع از توسعه مداوم نرم افزار نشد. به گفته منتقدان Anthropic، کاهش سرعت پیشرفت تکنولوژی پاسخی به خطرات بالقوه هوش مصنوعی نیست.

حتما بخوانید: کشورها باید بین واشنگتن و ائتلاف هوش مصنوعی پکن یکی را انتخاب کنند

نقش چین

علاوه بر این، پیشنهاد Entropic و سایر شرکت‌ها به طور بالقوه می‌تواند وضعیتی را ایجاد کند که نمونه‌ای از “تصرف نظارتی” باشد. وضعیتی که با دخالت گسترده دولت و ایجاد موانع بسیار سنگین برای استارت آپ ها و همچنین توسعه دهندگان مدل های وزن باز همراه خواهد بود. آزمایشگاه‌های هوش مصنوعی چینی نیز از جمله بازیگرانی هستند که بر توسعه مدل‌های وزن باز تمرکز می‌کنند. اما ایجاد چنین شرایطی ممکن است یکی از اهداف پنهان این جنبش هماهنگ باشد. به خصوص در شرایطی که مدل‌های هوش مصنوعی چین همچنان جایگاه برتر OpenAI و Anthropic را تهدید می‌کنند. مشکلی که دیپسیک دوباره با مدل V4.1 Flash خود نشان داده است.

در نهایت، به نظر می رسد زمان هشدارهای Entropy در مورد RSI یا “هوش مصنوعی خود-بهبود” بسیار قابل تامل باشد، زیرا این هشدارها درست در زمانی است که شایعاتی مبنی بر دستیابی DeepMind گوگل به این نقطه عطف منتشر شده است. در خود-بهبودی بازگشتی، یک سیستم هوش مصنوعی می تواند برای طراحی، کدگذاری یا آموزش نسل بعدی خود استفاده شود و در این فرآیند، به صرفه جویی در مقیاس بزرگ و دستاوردهای بهره وری دست یابد.

شاید Amodei، Altman و Musk نمی خواهند DeepSik، Moonshot و Z.ai چین به همان سطح از توانایی برسند. در نهایت، اعمال محدودیت برای سرعت توسعه هوش مصنوعی در سطح جهانی نیازمند همکاری چین است. مشارکتی که بعید به نظر می رسد در آینده نزدیک به آن دست پیدا کند. در چنین شرایطی، به نظر می‌رسد که مدیران صنعت هوش مصنوعی و چهره‌های تأثیرگذار روی ایجاد نوعی «خندق محافظ» به رهبری دولت حساب باز کرده‌اند تا موقعیت فعلی خود را در برابر رقبای جدید حفظ کنند. البته، انصافاً، ایجاد محدودیت در سرعت توسعه هوش مصنوعی نیز هزینه آنتروپیک و OpenAI را به همراه خواهد داشت و آنها را مجبور می کند از بخشی از درآمد بالقوه خود چشم پوشی کنند. اینکه آزمایشگاه‌های هوش مصنوعی حاضر به پذیرش چنین هزینه‌ای هستند، نشان می‌دهد که پیشرفت چین در مسابقه هوش مصنوعی چقدر آنها را نگران و متزلزل کرده است.