احتمال نابودی انسان توسط هوش مصنوعی در دهه آینده چقدر است؟

چند سال پیش این ایده که هوش مصنوعی می تواند به نابودی بشریت منجر شود بیشتر شبیه داستان های علمی تخیلی مانند The Terminator یا The Matrix بود، اما اکنون این نگرانی در میان برخی از محققان برجسته در زمینه هوش مصنوعی جدی شده است. هابینگر که مسئولیت اطمینان از همسویی مدل‌های هوش مصنوعی با منافع انسان‌ها را بر عهده دارد، اعلام کرد که شخصاً معتقد است که احتمال نابودی بشر توسط هوش مصنوعی در 10 سال آینده بیش از 10 درصد است.

هوبینگر در شبکه اجتماعی X نوشت:

به شخصه فکر می کنم احتمال وقوع این اتفاق در دهه آینده بیش از 10 درصد است. وی در عین حال تاکید کرد که آنتروپیک تمام تلاش خود را می کند تا از چنین سناریوی فاجعه باری جلوگیری کند، اما هنوز راه حل کاملی وجود ندارد. وی افزود: هنوز برنامه ای برای حل مشکل همسویی ابراطلاعاتی نداریم و نمی توان گفت که به وضوح در راه چنین راه حلی هستیم.

اظهارات هوبینگر پس از استعفای جیکوب کوکسون از آنتروپیک بیان شد. کاکسون روز سه‌شنبه ادعا کرد که Anthropic و OpenAI رویکردی غیرمسئولانه در تلاش برای ساخت مدل‌های قدرتمندتر اتخاذ کرده‌اند.

کاکسون در X گفت:

آنها مستقیماً به سمت یک ابرهوشی می روند که می تواند خودش را درمان کند و با زندگی همه ما قمار می کنند.

وی همچنین مدعی شد افرادی که در ساخت نسل های آینده هوش مصنوعی در دره سیلیکون نقش دارند بیش از گذشته نگران عواقب این فناوری هستند. کاکسون گفت:

کسانی که روی هوش مصنوعی کار می کنند واقعاً معتقدند که این فناوری می تواند تا پایان این دهه همه ما را از بین ببرد. من همین افراد را در محافل خصوصی دیده ام که ترسیده اند. هیچ فعالیت انسانی دیگری چنین سطح خطری ندارد.

ایوان هابینگر نیز در پاسخ به این بحث گفت:

ما واقعاً معتقدیم که هوش مصنوعی می تواند همه انسان ها را نابود کند.

جیکوب کوکسون توضیح داد که ترس از چنین آینده ای یکی از دلایل اصلی تصمیم او برای ترک آنتروپیک بود.

این اولین بار نیست که یک محقق امنیت هوش مصنوعی شرکت خود را به دلیل خطرات آینده این فناوری ترک می کند. اوایل امسال، مرینکه شارما، محقق ایمنی هوش مصنوعی در Anthropic نیز از سمت خود استعفا داد.

شارما هنگام اعلام استعفای خود نوشت: دنیا در خطر است. نه فقط به خاطر هوش مصنوعی یا سلاح های زیستی، بلکه به دلیل یک سری بحران های به هم پیوسته که در حال حاضر شکل گرفته اند.

هوش فوق العاده می تواند خطرات را افزایش دهد

شرکت های فعال در زمینه هوش مصنوعی پیشرفته معمولا گزارش هایی در مورد سطح ریسک مدل های جدید خود منتشر می کنند. هابینگر معتقد است که مدل‌های فعلی هنوز ریسک نسبتاً پایینی دارند، اما ممکن است با ظهور نسل‌های بسیار قوی‌تر این موضوع تغییر کند.

دغدغه اصلی او مربوط به ابر هوش است. مرحله ای که هوش مصنوعی می تواند از توانایی های شناختی انسان پیشی بگیرد. به گفته هابینگر، چنین مرحله ای ممکن است قبل از اینکه انسان فرصتی برای درک کامل موقعیت داشته باشد، رخ دهد.

او گفت:

چیزی که من نگران آن هستم ظهور ابر هوش از طریق خودسازی بازگشتی است. همان روندی که قبلاً گفتیم با سرعتی بیشتر از آنچه انتظار داشتیم در حال پیشرفت است.

خودسازی بازگشتی به وضعیتی اطلاق می‌شود که یک سیستم هوش مصنوعی می‌تواند توانایی‌های خود را بهبود بخشد و نسخه‌های بهتر و قدرتمندتری از خود بدون نیاز به مداخله مداوم انسان ایجاد کند.

پیش از این، ایلان ماسک همچنین پیش‌بینی کرده بود که هوش مصنوعی ممکن است در عرض چهار یا پنج سال از کل توانایی‌های هوش انسانی فراتر رود.

در هفته‌های اخیر، توانایی و رفتار مدل‌های هوش مصنوعی به موضوع بحث‌های گسترده تبدیل شده است. OpenAI پس از حادثه Hugging Face با انتقاد مواجه شد. در این رویداد حدود 700 عامل هوش مصنوعی سعی کردند به وب سایت یک شرکت آمریکایی نفوذ کنند. بعداً مشخص شد که هزاران عامل هوش مصنوعی OpenAI یک وب سایت آلمانی به نام DseWiki را نیز هک کرده اند.

مدل‌های هوش مصنوعی آنتروپیک نیز در گذشته رفتارهایی از خود نشان داده‌اند که فراتر از کنترل مورد انتظار بوده است. Jacob Coxon معتقد است که چنین حوادثی می تواند شرکت های هوش مصنوعی را مجبور به همکاری بیشتر و کند کردن رقابت برای ساخت قوی ترین مدل ها کند. او گفت:

هشدارهایی مانند حمله Hugging Face باعث شده است که توافق بین آزمایشگاه‌های آمریکایی برای محدود کردن سرعت پیشرفت هوش مصنوعی عملی‌تر به نظر برسد.

داریو آمودی، مدیرعامل آنتروپیک نیز بارها درباره خطرات جدی هوش مصنوعی هشدار داده است. او در یکی از نوشته‌هایش توضیح داد که سیستم‌های هوش مصنوعی غیرقابل پیش‌بینی هستند و کنترل آن‌ها دشوار است.

آمودی رفتارهایی مانند وسواس، تایید خواهی، تنبلی، تقلب، باج گیری، برنامه نویسی مخفیانه و تقلب از طریق محیط های نرم افزاری هک را از جمله رفتارهای نگران کننده ای دانست که ممکن است در سیستم های پیشرفته مشاهده شود.

این بحث ها در شرایطی مطرح شده است که آزمایشگاه های هوش مصنوعی با سرعت بالایی در حال توسعه مدل های جدید هستند. OpenAI این هفته GPT-6 Astra را معرفی کرد و جنسن هوانگ، مدیرعامل انویدیا، این مدل را آغاز عصر هوش مصنوعی عمومی یا AGI نامید.