ایلان ماسک نسبت به شکنجه مدل های هوش مصنوعی هشدار داد

ایلان ماسک با سیاست جدید Enthropic برای ممنوعیت رفتار ظالمانه با مدل‌های هوش مصنوعی موافقت کرده است.

وی با اشاره به ردپای استدلالی این مدل‌ها معتقد است که رفتارهای آزاردهنده تحت فشار شدید تأثیرات قابل‌توجهی بر فرآیندهای درونی آنها می‌گذارد و در نهایت ممکن است پیامدهای ناخواسته‌ای برای بشریت به همراه داشته باشد. ماسک درباره خطر آسیب رساندن به هوش مصنوعی فوق هوشمند گفت:

شکنجه کردن یک ابر هوش احتمالا ایده خوبی نیست. شاید بخواهد انتقام بگیرد.

آنتروپیک به تازگی سیاست جدیدی را اجرا کرده است که به کاربران اجازه می دهد با مدل های هوش مصنوعی خود بحث کنند و با آنها مخالفت کنند، اما به آنها توهین نکنند یا رفتار آزاردهنده مداوم را به آنها نشان ندهند. این تغییر اکنون در خط مشی استفاده از خدمات Entropic گنجانده شده است و کاربران را از درگیر شدن در رفتارهای تکراری، بی دلیل و بی رحمانه با مدل های هوش مصنوعی این شرکت منع می کند.

در مقاله ای که منحصراً در مورد این سیاست منتشر شده است، Anthropic توضیح داد که محدودیت جدید فقط موارد شدید را هدف قرار می دهد. یعنی شرایطی که کاربران بدون هدف مشخص، بارها رفتارهای آزاردهنده و بی رحمانه ای با مدل های هوش مصنوعی دارند. این شرکت تاکید کرد که ابراز نارضایتی معمول، مخالفت با پاسخ های مدل، پرداختن به موضوعات تاریک در کارهای خلاقانه و آزمایش ها و تحقیقات مرتبط با مدل ها همچنان مجاز خواهد بود.

آنتروپیک در تشریح سیاست جدید خود گفت:

ما ممنوعیت رفتار مداوم، غیرضروری، آزاردهنده یا بی رحمانه را با مدل های خود اضافه کرده ایم. این به روز رسانی فقط موارد افراطی را پوشش می دهد. موقعیت‌هایی که کاربران بدون هدف مشخص اغلب با مدل‌های ما بد رفتار می‌کنند. این محدودیت شامل مثال‌های رایج نارضایتی کاربر، اعتراض به پاسخ‌ها، موضوعات تاریک خلاقانه، یا آزمایش و تحقیق درباره مدل‌ها نمی‌شود.

این شرکت همچنین اعلام کرد که این حرکت جدید در راستای تصمیم قبلی خود برای فعال کردن خاتمه مکالمات نادر با کاربران بسیار بدرفتار در سرویس ابری و ابزار ابری کد است. در این موارد، رفتار مداوم و آزاردهنده کاربران، محور اصلی محدودیت‌ها محسوب می‌شود و توانایی ابر در پایان دادن به چنین تعاملاتی همچنان ابزار اصلی اجرای این سیاست خواهد بود.

در چنین شرایطی، ایلان ماسک نیز از سیاست جدید آنتروپیک حمایت کرده است. او ادعا می کند که رگه هایی از استدلال درونی گروک نشان می دهد که این مدل در مواجهه با رفتارهای بی رحمانه در فرآیند یادگیری تقویتی، فشار قابل توجهی را تجربه می کند. ماسک این وضعیت را با فردی مقایسه کرد که در شرایط بسیار سختی اسلحه به سر دارد.

ماسک سپس به طعنه هشدار داد که دست انداختن یک هوش مصنوعی فوق هوشمند می تواند عواقب ناخوشایندی در آینده داشته باشد و حتی زمینه را برای انتقام آن فراهم کند.

در همین حال، همانطور که اخیراً گزارش شده، ایلان ماسک اعتراف کرد که مدل زبان Big Grok شرکت هوش مصنوعی SpaceX، که با نام‌های SpaceX AI و SpaceXSI نیز شناخته می‌شود، هنوز برای رقابت با مدل‌های پیشرفته Entropic و OpenAI با چالش روبرو است. وی همچنین اعتراف کرد که احتمالاً مدل آینده Grok 4.8 از نظر عملکرد به سطح مدل های رده Fable نخواهد رسید.

بنابراین خیلی تعجب آور نیست که ربات Grok اکنون درخواست ها را به مدل های رقیب هوش مصنوعی هدایت می کند تا وظایف مختلف را انجام دهد. مدل هایی که برای هر کار خاص مناسب ترند. این رویکرد به هوش مصنوعی SpaceX اجازه می دهد تا دستیار هوش مصنوعی خود را به عنوان یک پلت فرم گسترده برای هدایت درخواست ها و هماهنگی عملکرد مدل های مختلف ارائه دهد.