محققان هوش مصنوعی با انتشار ویدئویی نسبت به خطر ابر هوش هشدار دادند

جفری ایروینگ، محقق سابق OpenAI و Google DeepMind، در مصاحبه اخیر خود گفت که احتمال انقراض انسان تقریباً شبیه شیر یا خط است.

این مصاحبه یکی از حدود 12 مصاحبه ای است که با محققان هوش مصنوعی، از جمله کارمندان فعلی و سابق OpenAI، Google و Anthropic انجام شده است. موسسه تحقیقاتی پالیسید که خود را به عنوان یک موسسه غیرانتفاعی فعال در زمینه بررسی قابلیت ها و انگیزه های سیستم های هوش مصنوعی معرفی می کند، این مصاحبه ها را جمع آوری و در وب سایت frominside.ai منتشر کرده است.

هشدار در مورد خطر انقراض انسان

چند تن از محققان حاضر در این مجموعه مانند ایروینگ نسبت به احتمال نابودی انسان در نتیجه توسعه هوش مصنوعی هشدار داده اند. نیل ناندا، دانشمند محقق در گوگل دیپ مایند، گفت:

حداقل 10 درصد احتمال دارد که این فناوری باعث انقراض انسان شود و این رقم به طرز مضحکی زیاد است.

اظهارات ناندا و ایروینگ نیز پیشتر در گزارشی درباره جامعه فعال در زمینه ایمنی هوش مصنوعی مطرح شده بود. حوزه ای که تعریف دقیق آن، تعیین اقدامات در این زمینه و حتی توافق بر سر راه حلی خاص همچنان دشوار به نظر می رسد. این ویدئوها همچنین راه حل واحد و منسجمی برای مقابله با خطرات مورد بحث ارائه نمی دهند.

دانیل کوکوتایلو، محقق سابق OpenAI هشدار خود را با صراحت تر بیان کرد و گفت:

یک هوش مصنوعی فوق هوشمند اساساً قدرت خداگونه خواهد داشت. متأسفانه ما نمی دانیم چگونه آنها را کنترل کنیم. بنابراین، احتمالاً هیچ کس نمی تواند آنها را کنترل کند. این دقیقاً به همان اندازه خطرناک است که به نظر می رسد و نباید اجازه داد که اتفاق بیفتد.

بخش دیگری از ویدئو این سوال را مطرح می‌کند که آیا نگرانی‌های مطرح شده در مورد ابرهوش‌ها صرفاً هیاهو یا هیاهو هستند و چرا محققان روی فناوری‌ای کار می‌کنند که خودشان آن را بسیار خطرناک می‌دانند.

مری فونگ از گوگل گفت:

من فکر می کنم شما باید کاملاً به صحبت های من مشکوک باشید زیرا آزمایشگاهی که در آن کار می کنم به من حقوق می دهد.

نیل ناندا نیز دلیل ادامه فعالیت خود در این زمینه را بیان کرد:

اگر باور نمی‌کردم که کاری که انجام می‌دهم مستقیماً ریسک وجودی را کاهش می‌دهد، من را ترک می‌کردم… این شرکت‌ها قرار نیست ساختن این سیستم‌ها را فقط به خاطر ترک من متوقف کنند.