OpenAI، Entropic و DeepMind برای مقابله با خطرات هوش مصنوعی مذاکره می کنند

OpenAI تایید این کار را با آنتروپیک و Google DeepMind وی در مورد ایمنی و خطرات هوش مصنوعی پیشرفته و امکان همکاری بین این شرکت ها صحبت کرد.

به گزارش سرویس هوش مصنوعی مجردکریس لیهین، مدیر سیاست جهانی OpenAI، گفت که این شرکت‌ها در حال بحث در مورد راه‌های مختلف برای همکاری در زمینه ایمنی هوش مصنوعی هستند.

او همچنین تاکید کرده است که OpenAI معتقد نیست که چنین همکاری هایی مستلزم معافیت از قوانین ضد تراست ایالات متحده است.

هشدار در مورد خطر خود-بهبود هوش فوق العاده

این روند پس از استعفای Jacob Coxon، محقق سابق OpenAI و Anthropic آغاز شد. پس از ترک این شرکت‌ها، کوکسون آنها را متهم کرد که برای دستیابی به هوش فوق‌العاده خوددرمانی بدون انجام اقدامات مسئول کافی برای کنترل خطرات آن، خیلی سریع مسابقه می‌دهند.

او هشدار داد که برخی از کارمندان این شرکت ها واقعاً معتقدند که هوش مصنوعی ممکن است تا پایان این دهه همه انسان ها را از بین ببرد.

کوکسون همچنین گفت که آزمایشگاه‌های هوش مصنوعی با جان انسان‌ها قمار می‌کنند.

این هشدار حتی از سوی همکاران سابق وی نیز نادیده گرفته نشد. ایوان هابینگر، مدیر علوم همسویی در آنتروپیک، علناً از بیانیه کاکسون حمایت کرد و گفت که او شخصا معتقد است که بیش از 10 درصد احتمال دارد که هوش مصنوعی همه انسان ها را در دهه آینده بکشد.

نظرات این دو محقق بحث گسترده تری را در مورد سرعت توسعه مدل های پیشرفته هوش مصنوعی برانگیخت و این سوال را مطرح کرد که آیا آزمایشگاه های پیشرو باید سرعت توسعه این فناوری را کاهش دهند.

بیشتر بخوانید: بیل گیتس هوش مصنوعی را با هوش فرازمینی مقایسه کرد. هشدار به دولت ها

پیشنهاد Entropic برای کاهش سرعت توسعه هوش مصنوعی

چند روز پس از این هشدارها، داریو آمودی، مدیر عامل آنتروپیک، مقاله ای با عنوان «ما باید در مرز قدم برداریم» منتشر کرد و از شرکت های هوش مصنوعی خواست تا سرعت توسعه قدرتمندترین سیستم های خود را کاهش دهند.

پیشنهاد آمودی شامل دسترسی دائمی به ارزیاب‌های ایمنی مستقل برای شرکت‌هایی است که مدل‌های پیشرفته را توسعه می‌دهند.

بر اساس این پیشنهاد، ارزیاب های شخص ثالث باید بتوانند به طور مستقل ایمنی مدل ها را تأیید کنند.

او همچنین خواستار توافق آزمایشگاه‌های هوش مصنوعی در مورد استانداردهای ایمنی مشترک و در نهایت حرکت به سمت هماهنگی بین‌المللی شد.

انتروپیک همچنین اعلام کرده است که اجرای این طرح را با استفاده از ارزیاب های مستقل آغاز خواهد کرد.

بیشتر بخوانید: محدود کردن Nvidia و Palantir از استفاده از مدل‌های پیشرفته هوش مصنوعی

از مدیران فناوری برای همکاری ایمنی حمایت کنید

سام آلتمن، مدیر عامل OpenAI نیز از ایده همکاری برای افزایش ایمنی هوش مصنوعی در شبکه اجتماعی X حمایت کرده است.

ایلان ماسک نیز از این پیشنهاد حمایت کرده است.

اگرچه بحث هایی بین OpenAI، Anthropic و Google DeepMind آغاز شده است، اما هیچ یک از این شرکت ها هنوز به طور رسمی اعلام نکرده اند که توسعه مدل های پیشرفته خود را متوقف یا محدود می کنند.

بنابراین، هنوز مشخص نیست که مذاکرات فعلی بین سه آزمایشگاه هوش مصنوعی به توافقات مشخص و الزام آور منتهی شود یا خیر.