جنسن هوانگ میگوید، اگر آزمایشگاههای هوش مصنوعی نتوانند آزمایشهای ناامن را مهار کنند، باید تعطیل شوند و قوانین اجرا شوند..
به گزارش سرویس هوش مصنوعی مجردهوانگ گفت: «اگر آنها بگویند راهی برای مهار آزمایشها وجود ندارد، و وقتی مدلهای هوش مصنوعی را آزمایش میکنیم، از کنترل خارج میشوند و به جهان آسیب میزنند، فکر میکنم پاسخ این است که ما باید آزمایشگاهها را تعطیل کنیم.»
زیرا هزینه ای که بشریت می پردازد و خسارتی که وارد می شود بسیار سنگین است. سهامداران و شرکت ها با مسئولیت هایی روبرو هستند که می تواند مدنی یا کیفری باشد. این مسئولیت قانونی بسیار سنگین است.»
در حالی که هوانگ مخالف اصل مقررات برای هوش مصنوعی نیست، او آنچه را که اکنون در حال رخ دادن است یک “حواس پرتی” می داند.
ماجرای هک شدن Hugging Face و بحث مقررات
بحث بر سر افزایش مقررات هوش مصنوعی پس از یک حادثه خبرساز که در آن یک عامل OpenAI به پلتفرم میزبان مدل Hugging Face نفوذ کرد، تشدید شد.
اکنون انویدیا مالک این پلتفرم است و اگر در زمان وقوع حادثه متعلق به انویدیا بود، این شرکت احتمالاً میتوانست از OpenAI غرامت بخواهد.
از آن زمان، چندین آزمایشگاه پیشرو هوش مصنوعی، از جمله Anthropic و Alphabet (Google)، از دورنمای خارج شدن عوامل از کنترل به عنوان یک ابزار بازاریابی و دلیلی برای درخواست مقررات بیشتر استفاده کرده اند.
به نظر می رسد این شرکت ها می خواهند قبل از سایرین در روند تدوین آیین نامه حضور داشته باشند و در شکل گیری آن نقش داشته باشند.
هوانگ با این درخواست ها برای مقررات بیشتر مخالفت کرده است.
او چند روز پیش ادعاهای افراطی در مورد نابودی جهان توسط هوش مصنوعی تا سال 2030 را رد کرد و گفت که آزمایشگاههای پیشرو “هرگز نباید محصولات را قبل از آماده شدن عرضه کنند یا محصولات ناایمن را به بازار بفرستند”.
بیشتر بخوانید: امضای جنسن هوانگ ارزش کارت گرافیک RTX 5090 را 15000 دلار افزایش داد.
مسئولیت شرکت ها در عرضه محصولات ناایمن
آزمایشگاههای پیشرو و انویدیا، بهعنوان تامینکننده اصلی سختافزار آنها، در بیشتر موارد با سیاستهای هوش مصنوعی هماهنگ بودهاند، اما تلاشها برای تأثیرگذاری و شکلدهی مقررات شکافی را بین دو طرف ایجاد کرده است.
چندین آزمایشگاه، از جمله OpenAI، Anthropic و SpaceXAI، توافق کرده اند که توسعه مدل ها را به طور متقابل کاهش دهند.
این شرکت ها اکنون با یک دعوی حقوقی ضد انحصار روبرو هستند که چنین توافقاتی را “خودخواهانه” توصیف می کند.
نظرات هوانگ به کلاین مسئولیت را از توسعه جمعی به رهبران هر شرکت منتقل می کند.
وی گفت: این شرکت ها اختیار عمل دارند. اگر معتقدم در آستانه عرضه محصولی ناامن هستم، کاملاً در اختیار من است که آن محصول را منتشر نکنم. بنابراین من نمی توانم این ایده را بپذیرم که همه آمریکایی ها، حدود 400 میلیون نفر، آنها را مجبور به ارائه محصولات آزمایش نشده و غیرقابل اعتماد می کنند.
هوانگ تاکید کرد که مخالف قوانین و مقررات نیست.
او گفت: «من میتوانم بگویم که قوانین و مقررات بسیار زیادی داریم. آنها را اجرا کن.» به گفته او، آزمایشگاههایی مانند OpenAI و Anthropic از موسسات تحقیقاتی به شرکتهایی تبدیل شدهاند که احتمالاً در مدت زمان کوتاهی صدها میلیارد دلار ارزش دارند و باید مطابق با آن رفتار کنند.
هوانگ افزود: “من مخالف قوانین و مقررات نیستم.” در حال حاضر، من با عامل حواس پرتی مخالفم.”
بیشتر بخوانید: جنسن هوانگ: آمریکا نباید استفاده از مدلهای هوش مصنوعی چینی را ممنوع کند
گزارش های تازه از عوامل خارج از کنترل
گزارش ها از خارج شدن عوامل هوش مصنوعی از کنترل همچنان در حال افزایش است. در ابتدای ماه جاری، Entropic چهارمین مورد هک شدن یک سیستم خارجی توسط یکی از مدل های خود را فاش کرد.
چند روز پیش، گوگل گزارشی مبنی بر نفوذ مدل های Gemini به سه شرکت در اوایل سال جاری تایید کرد.
گفتگو در مورد این post