OpenAI، Entropic و DeepMind برای مقابله با خطرات هوش مصنوعی مذاکره می کنند

به گزارش سرویس هوش مصنوعی مجردکریس لیهین، مدیر سیاست جهانی OpenAI، گفت که این شرکت‌ها در حال بحث در مورد راه‌های مختلف برای همکاری در زمینه ایمنی هوش مصنوعی هستند.

او همچنین تاکید کرده است که OpenAI معتقد نیست که چنین همکاری هایی مستلزم معافیت از قوانین ضد تراست ایالات متحده است.

هشدار در مورد خطر خود-بهبود هوش فوق العاده

این روند پس از استعفای Jacob Coxon، محقق سابق OpenAI و Anthropic آغاز شد. پس از ترک این شرکت‌ها، کوکسون آنها را متهم کرد که برای دستیابی به هوش فوق‌العاده خوددرمانی بدون انجام اقدامات مسئول کافی برای کنترل خطرات آن، خیلی سریع مسابقه می‌دهند.

او هشدار داد که برخی از کارمندان این شرکت ها واقعاً معتقدند که هوش مصنوعی ممکن است تا پایان این دهه همه انسان ها را از بین ببرد.

کوکسون همچنین گفت که آزمایشگاه‌های هوش مصنوعی با جان انسان‌ها قمار می‌کنند.

این هشدار حتی از سوی همکاران سابق وی نیز نادیده گرفته نشد. ایوان هابینگر، مدیر علوم همسویی در آنتروپیک، علناً از بیانیه کاکسون حمایت کرد و گفت که او شخصا معتقد است که بیش از 10 درصد احتمال دارد که هوش مصنوعی همه انسان ها را در دهه آینده بکشد.

نظرات این دو محقق بحث گسترده تری را در مورد سرعت توسعه مدل های پیشرفته هوش مصنوعی برانگیخت و این سوال را مطرح کرد که آیا آزمایشگاه های پیشرو باید سرعت توسعه این فناوری را کاهش دهند.

بیشتر بخوانید: بیل گیتس هوش مصنوعی را با هوش فرازمینی مقایسه کرد. هشدار به دولت ها