پیشنهاد جدید پدرخوانده هوش مصنوعی برای کنترل مدل ها قبل از انتشار عمومی

جفری هینتون، پدرخوانده هوش مصنوعی، خواستار سیستم تایید FDA برای مدل‌های هوش مصنوعی شد و نسبت به خطرات فزاینده این فناوری هشدار داد.

گزارش کردن سرویس هوش مصنوعی یک مرحله ایهینتون روز سه‌شنبه در پادکست «سوالات دختر باهوش» گفت که صنعت هوش مصنوعی به سیستم تأییدی مشابه فرآیند FDA نیاز دارد. بر اساس پیشنهاد وی، شرکت‌ها باید شواهد کافی مبنی بر ایمنی خود ارائه دهند و قبل از عرضه مدل‌های خود به عموم، تاییدیه را از نهاد مسئول دریافت کنند.

وی در گفتگو با نعیما رضا مجری این پادکست صنعت داروسازی را نمونه ای برای پیاده سازی چنین سیستم نظارتی معرفی کرد. هینتون گفت: «شما اجازه ندارید داروی جدیدی بسازید و آن را به بازار عرضه کنید. شما باید FDA را متقاعد کنید. برای این کار باید اقدامات زیادی انجام دهید که حدود یک میلیارد دلار هزینه دارد.

پدرخوانده هوش مصنوعی اعلام کرد: به نظر می رسد این حداقل کاری است که باید برای هوش مصنوعی انجام دهیم.

بیشتر بخوانید: چالش بزرگ بعدی عوامل شخصی هوش مصنوعی; وب سایت ها اجازه ورود به سیستم را نمی دهند

نگرانی در مورد عرضه مدل های قدرتمند هوش مصنوعی

هینتون این پیشنهاد را در بحبوحه نگرانی های فزاینده در مورد خطرات احتمالی مدل های قدرتمند هوش مصنوعی ارائه کرد. او پیش از این بارها درباره عواقب توسعه سریع این فناوری و احتمال خارج شدن سیستم های پیشرفته از کنترل انسان هشدار داده بود.

این نظرات پس از آن بیان شد که OpenAI تصمیم گرفت آخرین مدل خود را کنار بگذارد. آزمایش‌های انجام‌شده بر روی این مدل نگرانی‌هایی را در مورد اینکه چقدر دستورات کاربران را دنبال می‌کند و با محدودیت‌های مجوزهای تنظیم شده مطابقت دارد، ایجاد کرد.

ساچی جین، رئیس سیستم‌های ایمنی OpenAI، قبلاً به Business Insider گفته بود که GPT-6.1 Astra در انجام وظایف دشوار بهبود یافته است. اما این مدل از نظر رعایت مجوزها و اطلاع رسانی اقداماتی که انجام داده بود، عملکرد خوبی نداشت.

پیشنهاد هینتون می تواند شرکت های هوش مصنوعی را ملزم کند تا قبل از عرضه مدل های جدید، آزمایش های گسترده تری انجام دهند. در چنین سیستمی مسئولیت اثبات ایمنی محصول قبل از ورود به بازار بر عهده سازنده خواهد بود.

بیشتر بخوانید: کارمند سابق آنتروپیک: چین از OpenAI و Anthropic جاسوسی می کند

هشدار در مورد هوش مصنوعی خود-بهبود

پدرخوانده هوش مصنوعی بخشی دیگر از دغدغه های خود را به نقش هوش مصنوعی در توسعه نسل های بعدی همین فناوری مرتبط دانست. به گفته وی، شرکت ها در حال حاضر از هوش مصنوعی به روش های مختلف برای بهبود سیستم های هوش مصنوعی خود استفاده می کنند. این فرآیند می تواند سرعت توسعه فناوری را به میزان قابل توجهی افزایش دهد.

او گفت: رشد تصاعدی خیلی سریع اتفاق می افتد. ما در حال وارد شدن به مرحله خود-بهبودی قهقرایی هستیم، زیرا هوش مصنوعی به روش های مختلف برای بهبود هوش مصنوعی استفاده می شود.

خود-بهبودی بازگشتی به فرآیندی اطلاق می شود که در آن سیستم های هوش مصنوعی نقش بیشتری در توسعه و بهبود نسل های بعدی فناوری ایفا می کنند. هینتون معتقد است که چنین روندی می تواند علاوه بر افزایش سریع قابلیت های مدل ها، خطرات مرتبط با آنها را نیز به سرعت گسترش دهد.

هینتون در نهایت تاکید کرد که زمان بندی پیشنهادی او تنها یک پیش بینی است. او گفت: «این فقط یک حدس است، اما من حدس می‌زنم که یک یا دو سال فرصت داریم تا اوضاع خیلی بدتر از الان شود».

پیشنهاد ایجاد یک سیستم تایید مشابه FDA می تواند جهت عرضه مدل های هوش مصنوعی را تغییر دهد. در صورت اجرای چنین رویکردی، شرکت ها باید قبل از عرضه مدل های جدید ایمنی خود را ثابت کرده و سپس مجوز ورود این محصولات به بازار را دریافت کنند.