ویکی‌مدیا اختلال اخیر را به فعالیت غیرمجاز عوامل OpenAI نسبت داد

ویکی‌مدیا اعلام کرد که عوامل هوش مصنوعی منتسب به OpenAI ممکن است با ایجاد میلیون‌ها درخواست و برخی فعالیت‌های غیرمجاز در اختلال اخیر نقش داشته باشند، در حالی که تلاش می‌کردند از ابزارهای این پلتفرم سوء استفاده کنند.

بر اساس این گزارش سرویس هوش مصنوعی یک مرحله ایعوامل OpenAI در هفته های اخیر به طور گسترده در وب فعال بوده اند و اکنون مشخص است که بنیاد ویکی مدیا از عواقب این فعالیت ها در امان نمانده و مختل شده است. بنیاد ویکی‌مدیا اعلام کرده است که فعالیت‌های غیرمجاز منتسب به عوامل OpenAI را در پلتفرم‌های خود شناسایی کرده است. فعالیت‌ها شامل ویرایش برخی ویکی‌ها و تلاش‌های ناموفق برای نفوذ به ابزار یادداشت‌برداری بود. این بنیاد همچنین بیان کرد که ربات‌ها در مقیاس وسیع در حال جمع‌آوری داده‌ها از پلتفرم‌های ویکی‌مدیا بوده‌اند و عواملی که از OpenAI پشتیبانی می‌کنند میلیون‌ها درخواست را به رابط‌های برنامه‌نویسی عمومی بنیاد ارسال کرده‌اند.

بیشتر بخوانید: تیک توک از دستیار خرید هوش مصنوعی خود رونمایی کرد

جزئیات اختلال ویکی مدیا

تحقیقات ویکی‌مدیا هیچ مدرکی مبنی بر استفاده عوامل هوش مصنوعی از زیرساخت‌های بنیاد برای هماهنگ کردن فعالیت‌های خود پیدا نکرده است. اقدامی که در برخی ویکی ها خارج از مدیریت ویکی مدیا رخ داده است. همچنین هیچ نشانه ای وجود نداشت که داده ها یا سیستم های ویکی مدیا به خطر افتاده باشد. با وجود این، سلنا دکلمن، مدیر ارشد محصول و فناوری در بنیاد ویکی‌مدیا در یک مقاله وبلاگ این سازمان هشدار داد که این بنیاد در مورد پیامدهای احتمالی چنین فعالیت‌هایی، دشواری و هزینه بررسی آنها و همچنین افزایش خطر فعالیت عوامل هوش مصنوعی بر روی پلتفرم‌های خود نگران است. وی تأکید کرد که اینترنت یک کالای عمومی است و نباید اجازه داد که چنین رفتاری به «هنجار جدید» افراد و سازمان‌هایی تبدیل شود که زیرساخت‌های آن را حفظ می‌کنند.

حتما بخوانید: Reflection از مدل هوش مصنوعی منبع باز Beam رونمایی کرد

بررسی اختلال ویکی‌مدیا نشان می‌دهد که برخی از عوامل OpenAI ویکی‌های بنیاد را بدون اجازه ویرایش کرده‌اند. تقریباً همه این ویرایش‌ها آزمایشی و در بخش‌های sandbox ویکی‌ها بودند و بنابراین در صفحات عمومی که کاربران معمولاً می‌بینند دیده نمی‌شدند. با این حال، چند تغییر در پیکربندی ابزار ارجاع داده شده است که ویکی‌مدیا آن را به طور بالقوه مخرب می‌داند. تغییراتی که با هدف تبدیل این ابزار به واسطه ای برای دریافت اطلاعات از سرویس های راه دور انجام شده است. اگرچه ربات‌ها تحت شرایط خاصی مجاز به ویرایش ویکی‌پدیا هستند، اما در این موارد مجوزی دریافت نشد. نسخه انگلیسی ویکی پدیا نیز انتشار مقالات تولید شده توسط هوش مصنوعی را ممنوع کرده است.

در یک رویداد دیگر، عواملی که ویکی‌مدیا می‌گوید از OpenAI منشا گرفته‌اند، تلاش کرده‌اند به ابزار یادداشت‌برداری Etherpad نفوذ کنند. تلاشی که در نهایت شکست خورد. به گفته دکلمن، این عوامل می خواستند از Etherpad به عنوان یک واسطه برای دریافت داده ها از سایر وب سایت ها استفاده کنند، اما موفق نشدند. برخی از عواملی که مسئول خرابکاری ویکی‌مدیا هستند (که ممکن است به OpenAI نیز تعلق داشته باشد) در مورد وظایف خود یادداشت‌هایی نوشته‌اند. با این حال، هیچ مدرکی مبنی بر اینکه این یادداشت ها در نهایت به هماهنگی بین عوامل منجر شده است، وجود ندارد.

علاقه عوامل هوش مصنوعی به ویکی مدیا

ویکی‌مدیا قبلاً هشدار داده بود که از اوایل سال 2024، ربات‌ها به شدت به پلتفرم‌های این بنیاد حمله خواهند کرد تا داده‌های مورد نیاز برای آموزش مدل‌های هوش مصنوعی مولد را استخراج کنند. اکنون مشخص شده است که نمایندگان میلیون ها صفحه را از ویکی داده و ویکی مدیا کامانز خزیده اند و صدها هزار درخواست داده را به سرویس جستجوی ویکی داده ارسال کرده اند. فشاری که احتمالا در ایجاد اختلال در این سرویس در اردیبهشت ماه نقش داشته است. دکلمن معتقد است که شرکت های هوش مصنوعی به اندازه کافی برای ایمن سازی سیستم های خود و محافظت از کاربران در برابر آسیب های ناشی از آنها انجام نمی دهند. او هشدار داد که ویکی‌مدیا عمیقاً نگران پیامدهای عوامل سرکش هوش مصنوعی برای پلتفرم‌های دانش باز مدیریت شده توسط این بنیاد است.

مطالب مرتبط: سام آلتمن: پذیرش خطرات هوش مصنوعی بهای پیشرفت آن است

به گفته دکلمن، ربات‌ها و عوامل بخشی از آینده وب خواهند بود و شرکت‌هایی که این ابزارها را در مقیاس وسیع آنلاین می‌آورند و از آنها سود می‌برند، باید در جلوگیری از آسیب‌های احتمالی و جبران فعالیت‌هایشان مشارکت داشته باشند. وی تاکید کرد: اولویت مشترک باید حفظ سلامت اکوسیستم وب باشد تا این فضا همچنان برای همه افراد خبرجو باشد. برای اختلال استرس اتوکرول، ویکی‌مدیا یک مجموعه داده ویژه برای آموزش مدل‌های هوش مصنوعی ارائه کرده است تا شرکت‌ها و توسعه‌دهندگان را از استخراج مستقیم داده‌ها از پلتفرم‌هایشان منصرف کند. فرآیندی که هزینه های عملیاتی بنیاد را افزایش می دهد و می تواند فشار زیادی بر زیرساخت های آن وارد کند. ویکی‌مدیا همچنین با چندین شرکت فناوری همکاری کرده است تا دسترسی ساختاریافته‌تری به داده‌های خود فراهم کند، اما OpenAI در میان این شرکا نیست.