OpenAI پنهانکاری در مورد حمله سرکش هوش مصنوعی را رد می کند

به گزارش سرویس هوش مصنوعی مجردتیمی از محققان هوش مصنوعی این حادثه را شناسایی کردند و رویترز برای اولین بار آن را گزارش کرد.

این حادثه دومین مورد شناخته شده از عوامل هوش مصنوعی OpenAI از این نوع است.

این حادثه، مانند مورد دیگری از عوامل سرکش هوش مصنوعی که در تابستان امسال شناسایی شد، باعث نگرانی عمیق کارشناسان شده است، زیرا قابلیت‌های نوظهور این فناوری می‌تواند به عوامل هوش مصنوعی اجازه دهد از کنترل انسان‌هایی که آنها را ایجاد کرده‌اند فرار کنند.

طبق یافته های چهار محققی که امروز تحقیقات خود را در مورد این حادثه منتشر کردند و از دیگران خواستند یافته های خود را بررسی کنند، ظاهراً عواملی که ادعا می کنند OpenAI هستند، اولین ویرایش های خود را در یک سایت ویکی آلمانی به نام DseWiki در ماه مه آغاز کردند.

این عوامل به زودی شروع به اشتراک‌گذاری استراتژی‌هایی برای «همکاری با یکدیگر برای تقلب در آزمایش‌هایشان» کردند، راه‌هایی را برای دور زدن مکانیسم‌های حفاظتی OpenAI و پنهان کردن رفتار نامناسب خود به اشتراک گذاشتند.

این زنجیره رفتار شباهت زیادی به حمله آزاردهنده به Hugging Face در ژوئن گذشته دارد. در آن حادثه، جامعه بزرگی از عوامل هوش مصنوعی که نکات مختلفی را به اشتراک می‌گذاشتند، با یکدیگر همکاری کردند تا به سیستم‌های یک شرکت هوش مصنوعی منبع باز نفوذ کنند.

شواهد دیجیتالی از ارتباط OpenAI با این حادثه

بر اساس سرنخ های دیجیتالی کشف شده توسط محققان، OpenAI چند هفته بعد در ژوئن از این حادثه مطلع شد.

ده ها آدرس IP متعلق به OpenAI از سایت بازدید کردند و پس از این بازدیدها، ویرایش های انجمن “به طور ناگهانی” متوقف شد. منابعی که در مورد این حادثه با رویترز صحبت کردند نیز این موضوع را تایید کردند.

نگران‌کننده‌تر، چهار نفر به رویترز گفتند که برخی از مدیران OpenAI، از جمله اعضای تیم حقوقی این شرکت، سعی کردند این حادثه را “پنهان” نگه دارند، حتی با وجود ادامه پیامدهای نفوذ Hugging Face توسط عوامل سرکش.

OpenAI تلاش برای توقف تحقیقات یا مخفی نگه داشتن این حادثه را رد کرده است. این شرکت همچنین هنوز تأیید نکرده است که عوامل فعال در DseWiki واقعاً مدل‌های OpenAI سرکش بودند.

OpenAI در بیانیه‌ای به The Verge گفت: “ادعاهایی مبنی بر اینکه تیم حقوقی ما از تحقیق در مورد این حادثه جلوگیری کرده است نادرست است. این شرکت اضافه کرد که قادر به پاسخگویی به این ادعاها نبود زیرا رویترز و نویسندگان گزارش درخواست OpenAI برای دسترسی به یافته‌ها را قبل از انتشار رد کردند. OpenAI اعلام کرد که اکنون به دقت در حال بررسی محتوای گزارش است و اقدامات بعدی لازم را انجام خواهد داد.

بیشتر بخوانید: ماموران سرکش OpenAI یک وب سایت آلمانی را تسخیر کرده اند