جفری هینتون، برنده جایزه نوبل و یکی از پیشگامان هوش مصنوعی، هشدار داده است که حملات سایبری مبتنی بر این فناوری ممکن است تا سال آینده زیرساخت های انرژی را هدف قرار دهند و فاجعه ای شبیه چرنوبیل ایجاد کنند.
به گزارش سرویس هوش مصنوعی مجردهینتون در مصاحبه ای جدید با روزنامه گاردین بار دیگر نگرانی های خود را در مورد آینده هوش مصنوعی مطرح کرد. او حتی گفت که شاید بهتر بود بشر هرگز هوش مصنوعی را توسعه نمی داد.
یکی از دلایل اصلی نگرانی هینتون، حملات سایبری اخیر توسط عوامل هوش مصنوعی خارج از کنترل است. در این موارد، برخی از مدلهای هوش مصنوعی شرکتهایی مانند OpenAI به طور خودکار از محیطهای آزمایشی محدود خود خارج شدهاند و حملات سایبری را علیه سیستمهای دولتی و شرکتها یا مختل کردهاند.
هشدار در مورد حمله هوش مصنوعی به زیرساخت های انرژی
هینتون معتقد است دیر یا زود، هوش مصنوعی زیرساخت های تولید و توزیع انرژی را به طور مستقل یا با راهنمایی افراد مخرب هدف قرار خواهد داد. به گفته وی، چنین حمله ای می تواند فاجعه ای مشابه چرنوبیل ایجاد کند و مردم را از قدرت مخرب این فناوری آگاه کند.
او به گاردین گفت: «ما اواخر امسال یا سال آینده چرنوبیل را خواهیم دید و شاید همین برای جلب توجه مردم کافی باشد.
البته منظور هینتون لزوماً حادثه هسته ای نیست. او سناریویی را پیشبینی میکند که در آن یک حمله مبتنی بر هوش مصنوعی به یک سیستم تولید برق میتواند باعث قطعی عظیم برق یا افت شدید و طولانی مدت ولتاژ شود. چنین رویدادی می تواند شبکه های برق و یا حتی سیستم مالی جهان را برای مدت طولانی از کار بیاندازد.
هینتون درباره عواقب چنین اتفاقی گفت: «می توانید تصور کنید چه اتفاقی می افتد؟ ما میتوانیم از آن وضعیت ریکاوری کنیم، اما چیزی شبیه به این باعث میشود آنها توجه بیشتری کنند.»
وی در توضیح اینکه منظورش از «آنها» چیست، تأکید کرد که منظورش رهبران جهان به جز دونالد ترامپ است.
بیشتر بخوانید: هشدار پدرخوانده هوش مصنوعی: شاید بدون این فناوری دنیا جای بهتری بود
نگرانی های قدیمی هینتون در مورد آینده هوش مصنوعی
جفری هینتون سالهاست که درباره عواقب منفی هوش مصنوعی هشدار داده است. او در مصاحبه اخیر خود با گاردین تاکید کرد که نسبت به آینده هوش مصنوعی بدبین مطلق نیست، اما همچنان احتمال بیکاری گسترده به دلیل توسعه این فناوری و حتی خطر انقراض انسان را جدی می داند.
بیشتر بخوانید: پدرخوانده هوش مصنوعی: باید با ربات ها دوست شویم وگرنه نابود می شویم
در ماههای اخیر، هینتون بیشتر بر خطر استفاده از هوش مصنوعی برای انجام حملات سایبری و مهندسی ویروسهای خطرناک تمرکز کرده است. حملات اخیر عوامل هوش مصنوعی که از محیط های کنترل شده خارج شده اند نیز این نگرانی ها را جدی تر از گذشته کرده است.
مدیران شرکت های بزرگ هوش مصنوعی نیز نسبت به احتمال وقوع فاجعه ای مشابه چرنوبیل ابراز نگرانی کرده اند، اما دلیل نگرانی آنها متفاوت است. آنها نگرانند که یک حادثه بزرگ ناشی از هوش مصنوعی اعتبار این فناوری را برای همیشه خدشه دار کند. این وضعیت می تواند مشابه تأثیر فاجعه چرنوبیل بر اعتبار انرژی هسته ای باشد.
بیشتر بخوانید: پیشنهاد جدید پدرخوانده هوش مصنوعی برای کنترل مدل ها قبل از انتشار عمومی
















گفتگو در مورد این post