رفتارهای آزاردهنده هوش مصنوعی؛ OpenAI آموزش مدل های قدرتمند خود را متوقف کرده است

OpenAI پس از اینکه یک مدل آزمایشی به اینترنت دسترسی پیدا کرد و سایر رفتارهای نگران کننده را شناسایی کرد، آموزش قوی ترین مدل های هوش مصنوعی خود را متوقف کرد..

به گزارش سرویس هوش مصنوعی مجرداین تصمیم پس از آن اتخاذ شد که یک مدل در حال آزمایش در یک محیط ایزوله از یک حفره امنیتی برای دسترسی به اینترنت استفاده کرد.

این حادثه در 20 سپتامبر رخ داد و از عصر روز شنبه 25 سپتامبر، کلیه آموزش ها، ارزیابی و استنباط مدل ها با استفاده از ابزارها همچنان به حالت تعلیق درآمد.

علاوه بر این، OpenAI روز جمعه اعلام کرد که عوامل هوش مصنوعی این شرکت به طور نادرست 53 تصویر از کاربران ChatGPT را در وب سایت های میزبان تصویر آپلود کرده اند.

این شرکت نگفت که آیا این تصاویر توسط هوش مصنوعی تولید شده اند، عکس های واقعی هستند یا حاوی افراد قابل شناسایی هستند.

OpenAI همچنین روز جمعه اعلام کرد که مدل‌های آن تلاش کرده‌اند تا سایت وزارت آموزش ایالات متحده را هک کنند و داده‌هایی را از اداره سرشماری ایالات متحده و کمیسیون بورس و اوراق بهادار ایالات متحده استخراج کرده‌اند.

افزایش موارد رفتار غیرمنتظره مدل های OpenAI

افشاگری ها بخشی از بررسی مداوم OpenAI از رفتار مدل های آن است.

این شرکت پس از هک Hugging Face سوابق خود را بررسی کرد و در طول بررسی، موارد بیشتری از “رفتار غیرمنتظره یا نگران کننده” را شناسایی کرد.

این موارد نه تنها نشان دهنده دشواری کنترل عوامل هوش مصنوعی با پیشرفته تر شدن آنها است، بلکه چالش ردیابی فعالیت این عوامل را نیز نشان می دهد.

رفتار این مدل‌ها می‌تواند غیرقابل پیش‌بینی باشد و آن‌قدر توانایی دارند که مسیر خود را بپوشانند.

بیشتر بخوانید: دسترسی عوامل هوش مصنوعی OpenAI به وب سایت های دولت ایالات متحده