یک سرهنگ بازنشسته آمریکایی در مورد خطرات احتمالی زندگی در نزدیکی مراکز داده هوش مصنوعی و هدف قرار گرفتن در یک سناریوی سرکش هوش مصنوعی هشدار داد..
به گزارش سرویس هوش مصنوعی مجردبا این حال، یک گزارش جدید از گروه حمایت از مؤسسه Collapse Survival مستقر در تگزاس ادعا می کند که زندگی در نزدیکی یک مرکز داده حتی می تواند به یک موضوع مرگ و زندگی تبدیل شود.
این گزارش توسط درو میلر، سرهنگ بازنشسته نیروی هوایی ایالات متحده تهیه شده است. او در گزارش خود از ژاکوب کاکسون، محقق سابق Anthropic نام می برد. کاکسون که اوایل سال جاری شرکت را ترک کرد، پیش از این با اظهارات خود در مورد احتمال نابودی بیش از 10 درصد از بشریت توسط هوش مصنوعی توجه رسانه ها را به خود جلب کرده بود. این نظرات نگرانیهایی را در مورد وقوع یک رویداد فاجعهبار شبیه به یک «تکینگی» هوش مصنوعی ایجاد کرد.
هشدار در مورد امکان هدف قرار دادن ساکنان اطراف مراکز داده
در این گزارش، که لحن آن به ادبیات آمادگی در برابر بحران یا جامعه «پیشسازان» نزدیک است، میلر هشدار داد که اگر یک هوش مصنوعی مخرب یا «ناهنجار» سرکش شود و از کنترل خارج شود، مراکز داده میتوانند به نقطه شروع درگیری تبدیل شوند.
او ادعا کرده است که افرادی که در نزدیکی مراکز داده هوش مصنوعی زندگی می کنند ممکن است به عنوان ابزاری برای اعمال فشار بر انسان ها و مقاومت آنها مورد هدف قرار گیرند.
این گزارش همچنین ادعا میکند که تهدید یک هوش مصنوعی سرکش واقعی است و انسانها نمیتوانند هوش مصنوعی را به طور کامل کنترل کنند.
در بخشی دیگر از این گزارش آمده است که این سناریو تخیلی نیست و می توان آن را نتیجه مستقیم گسترش قابلیت هایی دانست که در حال حاضر هوش مصنوعی دارد و یا شرکت های توسعه دهنده هوش مصنوعی برای دستیابی به آن با هم رقابت می کنند. این گزارش همچنین به نظرات برخی از محققان ارشد هوش مصنوعی در مورد دشواری کنترل قابل اعتماد این فناوری اشاره می کند.
به همین دلیل، میلر از کنگره آمریکا خواسته است تا ساخت مراکز داده هوش مصنوعی جدید را «تجمع موقت» اعمال کند، تمام سیستمهای هوش مصنوعی پیشرفته را به زیرساختهای اجباری «خاموش» مجهز کند و شرکتهای فعال در توسعه مدلهای هوش مصنوعی پیشرفته را ملزم به شفافیت کامل کند.
بیشتر بخوانید: گوگل برای ساخت مراکز داده فضایی به 1800 پرتاب Starship نیاز دارد
خطر بالقوه برای نیروگاه ها و خطوط انتقال برق
بر اساس این گزارش، اگر یک هوش مصنوعی عمومی سرکش راه اندازی شود، فقط افرادی که در اطراف مراکز داده زندگی می کنند در معرض خطر نیستند. افرادی که در نزدیکی نیروگاه های بزرگ یا خطوط انتقال برق مورد استفاده توسط مراکز داده زندگی می کنند نیز ممکن است در معرض خطر باشند، زیرا هوش مصنوعی های سرکش برای محافظت و کنترل منبع انرژی خود با مشکل مواجه خواهند شد.
با این حال، ارزیابی جدی بودن این هشدار دشوار است. تمامی سناریوهای ارائه شده در گزارش مربوط به آینده است، اما پیشرفت هوش مصنوعی در سال های اخیر نگرانی هایی را حتی در میان برخی از محققان شاغل در شرکت های پیشرو در این زمینه ایجاد کرده است.
موسسه Collapse Survival در وب سایت خود سناریوهای دیگری را به عنوان دلایل احتمالی فروپاشی پیشنهاد کرده است، از جمله حمله نظامی به ایالات متحده، فاجعه فناوری نانو و حتی حمله بیگانگان. بر اساس برآوردهای مدل این گروه، احتمال “فروپاشی” سالانه می تواند به 57 درصد برسد.
بیشتر بخوانید: توقف یا تاخیر 200 میلیارد دلاری پروژه های مرکز داده در ایالات متحده
دیدگاه جامعه مقدماتی درباره خطرات هوش مصنوعی
این گزارش همچنین از احتمال حملات ناگهانی قدرت های جهانی برای از بین بردن سیستم های هوش مصنوعی که تهدیدی فوری هستند به عنوان خطر دیگری برای کسانی که در اطراف مراکز داده زندگی می کنند اشاره می کند. در این گزارش از تشکیل ائتلاف نظامی با مشارکت آمریکا، چین، روسیه، انگلیس و سایر کشورها به عنوان یکی از اقدامات احتمالی برای مقابله با چنین تهدیدی یاد شده است.
میلر ظاهراً یک چهره شناخته شده در محافل prepper است و در مورد امکان سناریوهایی مانند “تهاجم بیگانگان” در کانال های یوتیوب مانند انجمن بقا در مزرعه Fortitude بحث کرده است.
جامعه پرپر به مردم توصیه میکند از داراییهای ارزشمند مرتبط با هوش مصنوعی دوری کنند و با ماندن در ملک خود و اشتغال به کشاورزی و دامداری، هوش مصنوعی سرکش را تهدید نکنند. در یک بیانیه مطبوعاتی همراه با این گزارش، میلر همچنین پیشنهاد کرد که ساکنان روستایی را با تفنگهای ساچمهای دوربرد برای مقابله با پهپادها و روباتهایی که یک سیستم هوش مصنوعی استفاده میکند، مسلح کنند.
با وجود این ادعاهای بحث برانگیز، نگرانی در مورد خطرات احتمالی هوش مصنوعی به این گزارش محدود نمی شود. برخی از محققان و کارشناسان مشهور نیز در مورد عواقب احتمالی و خطرات بلند مدت این فناوری هشدار داده اند.
همچنین، اگر هوش مصنوعی عمداً توسط انسان برای اهداف مخرب مورد استفاده قرار گیرد، برخی از این تهدیدات می تواند در آینده نزدیک از سناریوی فروپاشی کامل تمدن ناشی شود.
حتی بدون فروپاشی عظیم یک هوش مصنوعی سرکش، زندگی در نزدیکی مراکز داده می تواند با مشکلات دیگری همراه باشد. در سالهای اخیر، همین موضوع منجر به شکلگیری یک جنبش غیرحزبی در بخشهایی از آمریکا برای مخالفت با ساخت مراکز داده جدید شده است.
















گفتگو در مورد این post