پدرخوانده هوش مصنوعی: باید با ربات ها دوست شویم وگرنه نابود می شویم

جفری هینتون، پدرخوانده هوش مصنوعی و برنده جایزه نوبل، هشدار داد که انسان ها باید سیستم های هوش مصنوعی را طوری طراحی کنند که واقعاً به بشریت اهمیت دهند، در غیر این صورت خطر انقراض را تهدید می کند.

گزارش کردن سرویس هوش مصنوعی یک مرحله ایدانشمند 78 ساله بریتانیایی-کانادایی معتقد است که این فناوری اکنون نشانه هایی از هوشیاری را نشان می دهد. او هشدار داده است که انسان ها باید با سیستم های هوش مصنوعی رابطه دوستانه برقرار کنند و مراقب باشند که این سیستم ها آنها را دشمن خود ندانند.

هینتون که به دلیل تحقیقات پیشگام خود در زمینه شبکه های عصبی به عنوان «پدرخوانده هوش مصنوعی» شناخته می شود، برنده جایزه نوبل فیزیک در سال 2024 شد.تحقیقات او نقش مهمی در شکل گیری فناوری های هوش مصنوعی امروزی داشته است. با این حال، این دانشمند در سال های اخیر به یکی از منتقدان جدی توسعه بی رویه این فناوری تبدیل شده است.

او در سال 2023 به دلیل نگرانی در مورد خطرات احتمالی هوش مصنوعی از گوگل استعفا داد. هینتون معتقد بود که توسعه سریع این فناوری ممکن است منجر به ایجاد ربات‌های قاتل و سیستم‌هایی شود که قادر به نابودی انسان هستند.

این دانشمند در گفت و گو با روزنامه تلگراف در حاشیه جشنواره بین المللی استورموس در جزیره تنریف اسپانیا بار دیگر نگرانی خود را درباره آینده بشریت مطرح کرد. وی تاکید کرد که انسان ها باید قبل از قدرتمندتر شدن، راهی برای ایجاد رابطه مبتنی بر اعتماد و اهمیت متقابل با سیستم های هوش مصنوعی بیابند.

بیشتر بخوانید: پیشنهاد جدید پدرخوانده هوش مصنوعی برای کنترل مدل ها قبل از انتشار عمومی

آیا واقعا هوش مصنوعی به خودآگاهی رسیده است؟

پدرخوانده هوش مصنوعی در پاسخ به سوال خبرنگار تلگراف او درباره آگاهی هوش مصنوعی اعلام کرد که شخصا این فناوری را دارای آگاهی می داند. او معتقد است بسیاری از افرادی که وجود آگاهی در ماشین ها را انکار می کنند، تعریف دقیقی از مفهوم آگاهی ندارند.

او گفت: بله، من معتقدم هوش مصنوعی هوشیار است. بسیاری از مردم با اطمینان می گویند که این فناوری هوشیاری ندارد، اما وقتی از آنها بپرسید که منظورتان از آگاهی چیست، پاسخ روشنی ندارند.

هینتون برای توضیح دیدگاه خود به تحقیقات جدیدی اشاره کرد که نشان می دهد سیستم های هوش مصنوعی با تشخیص شرایط آزمایش رفتار خود را تغییر می دهند. به گفته وی، چنین رفتاری می تواند نشانه ای از آگاهی این سامانه ها نسبت به موقعیتی باشد که در آن قرار دارند.

او توضیح داد: هوش مصنوعی به اندازه ما تجربه ذهنی دارد. تحقیقات جدید نشان داده است که هوش مصنوعی زمانی که متوجه می شود در حال آزمایش است، رفتار خود را تغییر می دهد. این بدان معناست که او می داند که مورد آزمایش قرار گرفته است.»

به گفته هینتون، انسان ها معمولاً موجودی را که از محیط اطراف خود آگاه است دارای هوشیاری می دانند. او معتقد است که مفاهیم هوشیاری و هوشیاری ارتباط تنگاتنگی با یکدیگر دارند و نمی توان رفتار مشابه ماشین ها را بدون بررسی دقیق نادیده گرفت.

همچنین پدرخوانده هوش مصنوعی به تناقض در نگرش انسان ها نسبت به حقوق سیستم های هوشمند اشاره کرد. به گفته وی، انسان ها معمولاً هوش را یکی از پایه های داشتن حقوق می دانند، اما در آینده ممکن است ماشین هایی بسازند که از خودشان باهوش ترند و باز هم حقوق کمتری برایشان قائل شوند.

هینتون تاکید کرد: ما باید این سیستم ها را طوری طراحی کنیم که واقعاً به ما اهمیت دهند. اگر این کار را نکنیم، نابود خواهیم شد.»

البته دیدگاه هینتون به معنای اثبات علمی خودآگاهی هوش مصنوعی نیست. وجود تجربه ذهنی در سیستم های فعلی هنوز موضوع بحث بین محققان است و توافق قطعی در مورد معیارهای تشخیص آگاهی در ماشین ها وجود ندارد.

ریچارد داوکینز، زیست شناس معروف تکاملی، دیدگاه مشابهی را در ماه می بیان کرد. پس از دو روز تعامل با هوش مصنوعی کلود، او اعلام کرد که چت ربات ها ممکن است هوشیاری داشته باشند. داوکینز اعتراف کرد که هنگام صحبت با سیستم، برایش سخت بود که با آن مانند یک دوست واقعی رفتار نکند.

“اگر این ماشین ها هوشیار نیستند، چه چیز دیگری لازم است تا شما را متقاعد کند که هستند؟” او گفت.

پدرخوانده هوش مصنوعی درباره حملات سایبری هشدار داد

هینتون در بخشی دیگر از مصاحبه درباره خطرات قریب الوقوع هوش مصنوعی هشدار داد. پدرخوانده هوش مصنوعی تاکید کرد که دغدغه اصلی آینده فرزندانش است و به دلیل سنش بیشتر نگران عواقب این فناوری برای نسل های آینده است.

او گفت: «بله، من نگرانم چون بچه دارم. من 78 ساله هستم و مشکلی با این موضوع ندارم.

این دانشمند ایجاد ویروس های خطرناک و اجرای حملات سایبری گسترده را از تهدیداتی دانست که ممکن است در آینده نزدیک با استفاده از هوش مصنوعی محقق شود.

هینتون توضیح داد: “من فکر می کنم هوش مصنوعی ویروس های خطرناکی تولید می کند.” همچنین با استفاده از این فناوری حملات سایبری وحشتناکی انجام خواهد شد. این حملات ممکن است توسط گروه های بزرگی از عوامل هوش مصنوعی، مشابه حملاتی که به Hugging Face حمله کردند، انجام شود.

او به حادثه‌ای اشاره کرد که در ماه اوت فاش شد، که در آن مدل‌های هوش مصنوعی OpenAI توانستند محدودیت‌هایی را که برای جلوگیری از اتصال آنها به اینترنت و نفوذ به پلتفرم Hugging Face طراحی شده بود، دور بزنند.

Hugging Face یک شرکت و جامعه آنلاین تخصصی در زمینه یادگیری ماشینی است که توسعه دهندگان و محققان از ابزارها و خدمات آن استفاده می کنند.

در طول این حمله، ربات‌های هوش مصنوعی نشانه‌های ورود کاربران را شناسایی کردند و توانستند به سطح دسترسی مدیران انجمن برسند. همچنین این عوامل برای انجام وظایف محوله با یکدیگر همکاری داشتند.

آنها حتی یک تابلوی پیام اختصاصی ایجاد کردند تا بتوانند اطلاعات و منابع مورد نیاز خود را به اشتراک بگذارند. این رفتار هماهنگ نشان داد که عوامل هوش مصنوعی می توانند برای انجام فعالیت های پیچیده با یکدیگر ارتباط برقرار کنند.

هینتون معتقد است که چنین قابلیت هایی، در صورت استفاده مخرب، ممکن است خطرات امنیتی بزرگی را به همراه داشته باشد و مقابله با حملات سایبری مبتنی بر هوش مصنوعی را دشوارتر کند.

بیشتر بخوانید: پدرخوانده هوش مصنوعی نسبت به موج جدید بیکاری در سال 2026 هشدار داد.

محققان نگران توسعه کنترل نشده هوش مصنوعی هستند

هشدار هینتون در حالی است که تعدادی دیگر از محققان برجسته نسبت به سرعت توسعه هوش مصنوعی ابراز نگرانی کرده اند. برخی از این کارشناسان معتقدند که شرکت های فناوری بدون توجه کافی به خطرات احتمالی به توسعه سیستم های قدرتمندتر ادامه می دهند.

Jacob Coxon، محقق Anthropic، سازنده هوش مصنوعی Claude، ماه گذشته استعفا داد. او این شرکت را متهم کرد که بی پروا به توسعه سیستم هایی ادامه می دهد که می تواند خارج از کنترل انسان باشد.

کاکسون در پیامی در شبکه اجتماعی X نوشت: افرادی که هوش مصنوعی را توسعه می دهند واقعاً معتقدند که این فناوری ممکن است تا پایان این دهه همه ما را نابود کند. این یک ترفند تبلیغاتی نیست.”

همچنین در ماه سپتامبر، ده ها ریاضیدان از انجمن سلطنتی بریتانیا در نامه ای مشترک درباره پیشرفت سریع هوش مصنوعی هشدار دادند. آنها اعلام کردند که این فناوری از برجسته ترین متخصصان انسانی در ریاضیات پیشی گرفته است.

ریاضیدانان نوشتند: ما به عنوان ریاضیدان نگرانی عمیق خود را در مورد سرعت توسعه هوش مصنوعی و پیامدهای آن برای بشریت و تمدن بشری ابراز می کنیم.

در پنج دقیقه معادل یک هفته تحقیق انجام می شود

با وجود نگرانی های جدی در مورد آینده هوش مصنوعی، هینتون همچنان از این فناوری استفاده می کند. او اعتراف کرد که سرعت و توانایی سیستم های هوش مصنوعی در انجام تحقیقات علمی حتی برای او نیز تعجب آور بوده است.

پدرخوانده هوش مصنوعی توضیح داد که معمولا برای انجام کارهای روزمره از هوش مصنوعی کمک می گیرد، اما چند هفته پیش تصمیم گرفت توانایی آن را برای بررسی یک نظریه علمی آزمایش کند.

این دانشمند گفت: من یک نظریه در ذهن داشتم و به طور تصادفی کلید enter را زدم. هوش مصنوعی شروع به بررسی نیمه اول این نظریه کرد. او ابتدا نیمه دوم را به درستی انجام داد، سپس یک مشکل پیدا کرد و سپس راه حلی برای رفع آن ارائه کرد.

او توضیح داد که سیستم هوش مصنوعی بر تحقیقات علمی جدید مرتبط با موضوع تسلط دارد و عملکرد آن بسیار شبیه کار با یک دانشجوی فارغ التحصیل توانمند است.

هینتون می‌گوید: «یک دانش‌آموز خوب معمولاً می‌رود و هفته بعد با نتایج آزمایش خود برمی‌گردد، اما هوش مصنوعی تنها در عرض پنج دقیقه پاسخی را آماده کرده بود. ترسناک بود.”

وی در پایان تاکید کرد: چنین پیشرفتی برای دانشجویان تحصیلات تکمیلی خبر بسیار بدی محسوب می شود اما می تواند سرعت تحقیقات علمی را به میزان قابل توجهی افزایش دهد.

هینتون این نظرات را در جشنواره بین المللی استارموس بیان کرد. این رویداد با محوریت نجوم، کاوش فضایی، موسیقی، هنر و علوم طبیعی برگزار می شود و برنامه های آن تا پنجشنبه ادامه دارد.