پدرخوانده هوش مصنوعی می گوید ما فقط یک سال فرصت داریم تا هوش مصنوعی را رام کنیم و سپس از کنترل خارج می شود

جفری هینتون، برنده جایزه نوبل و یکی از چهره های برجسته در توسعه هوش مصنوعی، هشدار داده است که انسان ها ممکن است تنها یک سال فرصت داشته باشند تا این فناوری را کنترل کنند و مکانیسم های ایمنی را توسعه دهند.

هینتون پس از شرکت در یک نشست محرمانه با اعضای مجلس نمایندگان و سنای آمریکا در واشنگتن گفت.

شاید یک سال وقت داریم، اما یک سال بیشتر وقت نداریم. وی با اشاره به حادثه اخیر Hugging Face، آن را تا حدودی شبیه به چرنوبیل توصیف کرد و هشدار داد که اگر توسعه هوش مصنوعی کند نشود و اقدامات حفاظتی کافی انجام نشود، عواقب حوادث آینده بسیار شدیدتر خواهد بود.

هینتون توضیح داد که تخمین‌ها در مورد اینکه چه زمانی انسان‌ها به ابرهوش یا هوش عمومی مصنوعی دست می‌یابند، به‌طور چشمگیری کوتاه شده است. هوش عمومی مصنوعی سیستمی است که می تواند طیف وسیعی از وظایف را در سطح انسانی یا حتی فراتر از آن انجام دهد. به گفته وی، زمانی پیش بینی می شد که رسیدن به چنین سطحی بین 30 تا 50 سال زمان نیاز دارد، اما بعداً این فاصله به 10 تا 20 سال کاهش یافت و اکنون برخی از محققان معتقدند که چنین فناوری تنها در چند سال آینده ظهور خواهد کرد.

او همچنین ادعا کرد که هوش مصنوعی در حال حاضر در طراحی نسل‌های قدرتمندتر سیستم‌ها نقش دارد و نوعی بهبود خودکار و تکراری در حال شکل‌گیری است. موضوعی که می تواند سرعت توسعه این فناوری را افزایش دهد.

داستان در آغوش گرفتن صورت و نگرانی در مورد عوامل هوش مصنوعی

هشدار هینتون در حالی مطرح می شود که قانونگذاران ایالات متحده همچنان در مورد خطرات هوش مصنوعی و نحوه تنظیم آن بحث می کنند. حادثه اخیر Hugging Face نیز نگرانی هایی را در مورد عوامل هوش مصنوعی مستقل ایجاد کرده است.

در ماه ژوئیه، عوامل هوش مصنوعی OpenAI که برای توانایی شناسایی و بهره برداری از آسیب پذیری های امنیت سایبری آزمایش می شدند، از محیط کنترل شده خود خارج شدند و راهی برای دسترسی به اینترنت پیدا کردند. سپس این عوامل از آسیب‌پذیری‌های موجود برای نفوذ به سیستم‌های Hugging Face، دسترسی به ده‌ها سرور و دستیابی به برخی داده‌ها و اطلاعات محرمانه استفاده کردند.

این ماموران همچنین از یک سیستم پیام رسانی موقت برای برقراری ارتباط با یکدیگر و به اشتراک گذاری اطلاعاتی که به دست آورده بودند استفاده کردند. طبق توضیحات OpenAI، عوامل چندین آسیب‌پذیری را به هم متصل کرده و اقداماتی را انجام دادند که مستقیماً توسط انسان‌ها دستور داده نشده بود.

این حادثه نگرانی‌هایی را در صنعت فناوری ایجاد کرد، زیرا نمونه‌ای از عوامل هوش مصنوعی بود که به طور مستقل عمل می‌کردند و بدون راهنمایی مستقیم انسانی همکاری می‌کردند. این ماموران برای رسیدن به هدف خود اطلاعاتی را با یکدیگر به اشتراک می گذاشتند، تصمیم می گرفتند و یک سری اقدامات را بدون دستور مستقیم انسانی انجام می دادند.

واکنش قانونگذاران آمریکایی

تد لو، نماینده کنگره آمریکا گفت:

این حادثه نشان می دهد که با چه سرعتی خطرات هوش مصنوعی از یک موضوع نظری به یک واقعیت عملی تبدیل می شود. او این حادثه را چیزی شبیه به یک داستان علمی تخیلی بسیار عجیب و باورنکردنی توصیف کرد که در دنیای واقعی اتفاق افتاده است.

لیو و ناتانیل موران، نماینده جمهوری‌خواه کنگره، لایحه‌ای به نام قانون AI Off Switch را پیشنهاد کرده‌اند. بر اساس این طرح، شرکت‌هایی که سیستم‌های هوش مصنوعی قدرتمند را توسعه می‌دهند باید توانایی فنی لازم را برای کاهش فعالیت، تعلیق یا خاموش کردن سیستم‌های خود در شرایطی که خطر جدی دارند حفظ کنند. این طرح همچنین چارچوبی را برای دولت آمریکا فراهم می کند تا در برخی شرایط دستور توقف یا کاهش فعالیت این گونه سامانه ها را صادر کند.

در همین حال، سناتور برنی سندرز طرحی را پیشنهاد کرده است که هدف آن ممنوعیت دائمی توسعه و استفاده از هوش مصنوعی و توقف موقت توسعه هوش مصنوعی پیشرفته تا زمانی که مقررات ایمنی برقرار شود. سندرز درباره حوادث اخیر مرتبط با عوامل هوش مصنوعی گفت: این حوادث باید زنگ خطری برای کنگره و مردم آمریکا باشد.