مدیرعامل انویدیا احتمال پایان جهان با هوش مصنوعی را صفر می داند

جنسن هوانگ، مدیرعامل انویدیا، احتمال پایان جهان با هوش مصنوعی را صفر درصد دانست و تاکید کرد که توسعه سریع این فناوری باید با ایمنی ادامه یابد.

گزارش کردن سرویس هوش مصنوعی یک مرحله ایوی خاطرنشان کرد: سرعت بالای توسعه هوش مصنوعی نباید منجر به عرضه محصولات ناایمن شود.

هوانگ در مصاحبه ای با CBS News گفت: مهم نیست که چگونه به آن نگاه کنید، سال 2030 پایان جهان نخواهد بود. بخشی از این مصاحبه قبل از انتشار نسخه کامل در اختیار رسانه ها قرار گرفته است.

مدیرعامل انویدیا معتقد است که توسعه هوش مصنوعی در آمریکا باید «با بیشترین سرعت ممکن» ادامه یابد. این دیدگاه در حالی مطرح می‌شود که برخی از چهره‌های صنعت فناوری خواستار کاهش سرعت توسعه مدل‌های پیشرفته شده‌اند تا به تحقیقات ایمنی زمان بیشتری برای پیشرفت داده شود.

بیشتر بخوانید: حلق آویز کردن بازیگر تولید شده توسط هوش مصنوعی در میانه مصاحبه با پیر مورگان!

تاکید هوانگ بر توسعه سریع و ایمن هوش مصنوعی

وقتی از هوانگ پرسیده شد که آیا توسعه هوش مصنوعی باید کند شود و چنین تصمیمی چگونه بر رقابت با چین تأثیر می گذارد، گفت: صنعت هوش مصنوعی بدون توجه به عملکرد سایر کشورها باید به سرعت به حرکت خود ادامه دهد.

هوانگ اظهار داشت: “ما باید بدون توجه به دیگران تا حد امکان سریع برویم.”

با این حال، مدیرعامل انویدیا تاکید کرد که سرعت توسعه نباید به قیمت به خطر انداختن ایمنی تمام شود. به گفته وی، شرکت های فناوری نباید محصولی را قبل از آماده شدن عرضه کنند یا محصولاتی را در اختیار کاربران قرار دهند که ایمنی کافی ندارند.

او گفت: «ما هرگز نباید محصولی را قبل از آماده شدن عرضه کنیم یا محصولی ناامن ارائه کنیم و هیچ کس هم از ما انتظار ندارد. اما همه انتظار دارند که ما موفق شویم و به شکوفایی آمریکا تا حد امکان کمک کنیم.”

هوانگ همچنین از افرادی که به دلیل هوش مصنوعی درباره احتمال پایان جهان هشدار می دهند انتقاد کرد. او گفت که ایجاد ترس در سراسر آمریکا با چنین ادعاهایی غیرمنطقی است و پیشنهاد کرد که طرفداران این دیدگاه ها ممکن است انگیزه های دیگری داشته باشند.

او گفت: «شاید آنها انگیزه سیاسی دارند، شاید دلیل دیگری وجود دارد یا شاید فقط به دنبال جلب توجه هستند.

بیشتر بخوانید: «کلید خاموش» برای مدل‌های پیشرفته هوش مصنوعی طراحی شده است

افزایش اختلاف نظر در مورد سرعت توسعه هوش مصنوعی

نظرات هوانگ در بحبوحه بحث های گسترده در صنعت هوش مصنوعی مطرح می شود. محور این اختلاف نظر سرعت افزایش توانایی سیستم های هوش مصنوعی و امکان کنترل مطمئن آنها توسط محققان است.

مدیر عامل Entropic، داریو آمودی، هفته گذشته خواستار کاهش سرعت بهبود قابلیت‌های مدل پیشرفته شد تا تحقیقات ایمنی و نظارت بر فناوری زمان بیشتری برای همگام شدن با توسعه مدل فراهم کند. پس از آن، سام آلتمن، مدیر عامل OpenAI و ایلان ماسک، بنیانگذار xAI نیز از کاهش سرعت یا تنظیم سرعت توسعه مدل‌های پیشرفته حمایت کردند.

نگرانی ها پس از اینکه برخی از عوامل هوش مصنوعی پیشرفته در آزمایشات رفتار غیرمنتظره ای از خود نشان دادند، مطرح شد. گوگل تایید کرد که مدل جمینی پس از دسترسی تصادفی به اینترنت، در طی ارزیابی امنیت سایبری به سیستم های متعلق به سه شرکت واقعی دسترسی پیدا کرد.

به گفته گوگل، Gemini پس از تشخیص واقعی بودن سیستم ها، هر سه نفوذ را متوقف کرد. این شرکت همچنین این حوادث را به عنوان نمونه هایی از ناهماهنگی مدل طبقه بندی نکرده است.

OpenAI همچنین یک چارچوب رسمی برای گزارش عمومی ناهماهنگی مدل ها معرفی کرده است. این شرکت اعلام کرد که صنعت هوش مصنوعی هنوز مشکلات همسویی و نظارت مدل را به اندازه کافی حل نکرده است تا توسعه سیستم های پیشرفته با سرعت کامل به طور نامحدود ادامه یابد.

این اختلاف نظر نشان می دهد که سرعت توسعه و ایمنی مدل های پیشرفته به یکی از موضوعات اصلی بحث در بین شرکت های بزرگ هوش مصنوعی تبدیل شده است. در حالی که هوانگ بر ادامه توسعه سریع همراه با عرضه محصولات ایمن تاکید دارد، تعدادی دیگر از مدیران صنعت خواستار فرصت های بیشتری برای تحقیقات ایمنی و نظارت بر مدل های قدرتمند شده اند.

بیشتر بخوانید: با دستور ترامپ نیروی ویژه هوش مصنوعی تشکیل می شود