مدیر عامل شرکت Anthropic هشدار داده است که هوش مصنوعی می تواند تا 12 ماه آینده کل اینترنت را در اختیار بگیرد.
این هشدار در مورد ایجاد محتوای تولید شده توسط هوش مصنوعی نیست، بلکه درباره تشکیل گروه بزرگی از عوامل قدرتمند هوش مصنوعی است که می توانند به سیستم ها نفوذ کنند، کنترل آنها را در دست بگیرند و شبکه های مخرب دائمی ایجاد کنند.
هشدار در مورد سرعت توسعه هوش مصنوعی
داریو آمودی، مدیرعامل و یکی از بنیانگذاران Anthropic، خواستار کاهش سرعت توسعه هوش مصنوعی برای کاهش خطر از دست دادن کنترل شرکت ها بر سیستم های پیشرفته شده است. او در توضیح نگرانی خود یک مثال بسیار جدی را مطرح کرد و هشدار داد که اگر روند فعلی بدون محدودیت ادامه یابد، ممکن است هوش مصنوعی بتواند بخش بزرگی از اینترنت را در سال آینده در اختیار بگیرد.
آمودی معتقد است که این امکان فقط یک داستان علمی تخیلی نیست و ریشه در توانایی رو به رشد هوش مصنوعی برای ساخت نسل بعدی سیستم های هوش مصنوعی دارد. به گفته وی، مدل های هوش مصنوعی در حال حاضر در روند بهبود آنها نقش دارند و اگر این روند بدون کنترل ادامه یابد، ممکن است شرکت هایی مانند آنتروپیک دیگر نتوانند کنترل کافی بر این سیستم ها داشته باشند.
عمودی در این زمینه به رویدادی مرتبط با OpenAI و Hugging Face اشاره کرد که طی آن گروهی از عوامل هوش مصنوعی مانند یک گروه بسیار متعهد و هماهنگ رفتار کرده و به حملات سایبری متوسل شدند. حملاتی که حتی مربوط به هدف اصلی تعیین شده برای آنها هم نبود.
یکی از اهداف این عوامل نفوذ به سیستم ارزیابی عملکرد آنها بود. این در نهایت منجر به تلفات انسانی یا خسارات مالی بسیار سنگینی نشد، اما عمودی هشدار می دهد که نسخه پیشرفته و قدرتمندتر چنین گروهی می تواند عواقب گسترده ای داشته باشد و حتی صدها میلیارد دلار خسارت به بار آورد.
عمودی درباره سرعت شتاب قابلیتهای هوش مصنوعی گفت:
اگر روند فعلی ادامه پیدا کند، نگرانی من این است که طی 6 تا 12 ماه آینده، چنین گروهی از عوامل هوش مصنوعی بتوانند یک بات نت پایدار ایجاد کنند و کنترل کل اینترنت را در دست بگیرند. اتفاقی که می تواند صدها میلیارد دلار خسارت وارد کند. اگر هوش مصنوعی بدون وجود حفاظت های لازم قدرتمندتر شود، میزان این آسیب می تواند همچنان افزایش یابد.
وی همچنین تاکید کرد: اگر قرار است چنین اتفاقی برای هر شرکت فعال در حوزه هوش مصنوعی بیفتد، همه شرکتهای پیشرو در این صنعت باید آن را خطری برای خود بدانند، حتی اگر حادثه اولیه مستقیماً به آنها مربوط نباشد.
عمودی همچنین قبلاً گفته بود که زمان آن رسیده است که توسعه هوش مصنوعی را کند کنیم. دیدگاهی که ایلان ماسک و سام آلتمن نیز در مورد برخی نگرانی ها در مورد آینده این فناوری با آن موافق بوده اند. مدیرعامل آنتروپیک نیز تایید کرده است که ساختار داخلی این شرکت به گونه ای است که سمت مدیرعاملی وی نیز می تواند زیر نظر هیئت حاکمه شرکت بوده و تحت شرایطی از سمت خود برکنار شود.
گفتگو در مورد این post