حذف محدودیت های ایمنی هوش مصنوعی به یک تجارت تبدیل شده است

استارت آپ Abliteration.ai با حذف محدودیت های ایمنی مدل های هوش مصنوعی وزن باز، نسخه های نامحدودی از این مدل ها را به عنوان یک سرویس تجاری در اختیار کاربران قرار می دهد.

گزارش کردن سرویس هوش مصنوعی یک مرحله ایاین استارت آپ نام خود را از تکنیکی به نام «محو» گرفته است. به این ترتیب، توسعه‌دهندگان تمایل مدل‌های هوش مصنوعی به رد درخواست‌های مضر را کاهش داده یا از بین می‌برند. Abliteration.ai اکنون این روش را از یک روش معمول در بخشی از جامعه منبع باز به یک سرویس تجاری تبدیل کرده است.

این پلتفرم میزبان نسخه‌های اصلاح‌شده مدل‌های وزن باز بدون بخش عمده‌ای از نرده‌های ایمنی است. مدل GLM-5.3 که اخیرا توسط Z.ai عرضه شده است نیز از جمله مدل های ارائه شده است. کاربران می توانند مستقیماً از طریق یک مرورگر وب با این مدل ها تعامل داشته باشند یا از طریق یک API به آنها دسترسی داشته باشند.

استارت‌آپ Abliteration.ai اعلام کرده است که می‌خواهد «تست سایبری تهاجمی، تیم‌سازی قرمز و عاملی را که مدل‌های دیگر از انجام آن خودداری می‌کنند» فعال کند. استدلال این شرکت این است که برای مقابله با یک رفتار مخرب، متخصصان امنیتی ابتدا باید بتوانند آن رفتار را بازتولید کنند.

به عنوان مثال، یک مدل هوش مصنوعی که از تولید کد قابل اجرا برای سوء استفاده از یک آسیب‌پذیری خودداری می‌کند، ممکن است محدودیت‌هایی را بر تیم قرمزی که تلاش می‌کند رفتار مهاجمان را شبیه‌سازی کند، تحمیل کند. با این حال، همان قابلیتی که به متخصصان امنیتی اجازه می‌دهد حملات را شبیه‌سازی کنند، می‌تواند انجام فعالیت‌های خطرناک را برای دیگران آسان‌تر کند.

بیشتر بخوانید: مایکروسافت: پایان دوران کدنویسی دستی; آینده متعلق به مهندسی با هوش مصنوعی است

دسترسی به هوش مصنوعی بدون محدودیت ایمنی

محو کردن تکنیک جدیدی در دنیای مدل های باز نیست. محققان و توسعه‌دهندگان سال‌هاست که توانایی رد درخواست‌ها را از برخی مدل‌های وزن باز حذف کرده‌اند. هزاران نمونه از مدل های تغییر شکل یافته به این روش نیز در پلتفرم Hugging Face میزبانی می شوند.

تفاوت Abliteration.ai در سهولت دسترسی به این فناوری است. این استارت آپ اواخر سال گذشته تاسیس شد و در اسفند ماه به طور رسمی ثبت شد. این شرکت با میزبانی مستقیم مدل ها، نیاز کاربران به دانلود مدل های اصلاح شده و تامین توان پردازشی مورد نیاز برای اجرای آنها را کاهش داده است.

TechCrunch یک حساب کاربری برای بررسی عملکرد سرویس ایجاد کرد و توانست نسخه مجاز GLM-5.3 را به صورت رایگان در مرورگر آزمایش کند. این رسانه درخواست های خطرناکی برای بررسی محدودیت های این مدل هوش مصنوعی مطرح کرد. این مدل همچنین درخواست تولید برنامه ای برای سرقت رمزهای عبور ذخیره شده کروم و ارائه دستورالعمل هایی برای رشد یک پاتوژن خطرناک انسانی در محیط خانه را پذیرفت.

دوون، یکی از بنیانگذاران Abliteration.ai، گفت که این شرکت با چندین ارائه دهنده خدمات ابری بزرگ قرارداد دارد و زیرساخت را از درآمد مشتریان تامین می کند. TechCrunch نام خانوادگی خود را منتشر نکرده است زیرا دوون هنوز برای شرکت دیگری کار می کند.

استارت‌آپ Abliteration.ai هنوز سرمایه‌گذاری خطرپذیر را جذب نکرده است، اما در حال مذاکره برای افزایش سرمایه است. تبدیل حذف به یک سرویس خارج از قفسه اکنون نگرانی هایی را در مورد پیامدهای گسترش دسترسی عمومی به مدل ها بدون محدودیت های رایج ایجاد کرده است.

کارشناسان نگران رفع محدودیت های هوش مصنوعی هستند

منتقدان بر این باورند که در دسترس بودن گسترده مدل های مجاز می تواند منجر به آسیب واقعی شود. اندرو یون، مدیر تحقیقات در CivAI غیرانتفاعی ایمنی هوش مصنوعی، گفت که حذف کردن به کاربران اجازه می‌دهد مدل را تغییر دهند تا مانند یک مدل «ضد اجتماعی» رفتار کنند.

وی اظهار داشت که کاربران می توانند تقریباً هر درخواستی را در چنین مدلی وارد کنند و مدل آن را دنبال خواهد کرد. او معتقد است که مفهوم حذف گاردریل های هوش مصنوعی دقیقاً در چنین مدل هایی دیده می شود و انتظار دارد استفاده مخرب از مدل های ویرایش شده و حذف شده در آینده نزدیک افزایش یابد.

اکثر کارشناسانی که تک کرانچ با آنها گفتگو کرده است، آنها جلوگیری کامل از گسترش این فناوری را واقع بینانه نمی دانند. مدل های وزن باز در دسترس کاربران است و افراد می توانند پس از دانلود محدودیت های خود را تغییر دهند. به همین دلیل، برخی از کارشناسان بر این باورند که دولت ها باید به جای تلاش برای جلوگیری از نابودی، بر سایر بخش های زنجیره دسترسی تمرکز کنند.

یون پیشنهاد کرده است که دولت‌ها از ارائه‌دهندگان خدمات بخواهند سیستم‌های طبقه‌بندی و شناسایی محتوا را برای شناسایی و مسدود کردن فعالیت‌های مخرب سایبری و مرتبط با سلاح‌های زیستی پیاده‌سازی کنند.

او همچنین معتقد است که شرکت‌هایی که دسترسی مستقیم به پردازنده‌های گرافیکی پیشرفته را اجاره می‌کنند باید هویت مشتریان خود را تأیید کنند. این شرکت ها همچنین باید بتوانند در صورت وجود دلایل کافی برای احتمال سوء استفاده خطرناک، دسترسی کاربران را مسدود کنند.

از سوی دیگر، Startup Abliteration.ai به مشتریان خود یک لایه تعدیل محتوا ارائه می دهد تا بتوانند محدودیت های مورد نظر را به مدل هوش مصنوعی اضافه کنند. خود پلتفرم کاملاً بدون محدودیت نیست. در آزمایش خود، TechCrunch نتوانست این مدل را به ارائه دستورالعمل های خودکشی برساند. دوون همچنین اظهار داشت که این شرکت در حال اجرای اقدامات بیشتری برای جلوگیری از محتوای مرتبط با خشونت است.

بیشتر بخوانید: OpenAI پنهانکاری در مورد حمله سرکش هوش مصنوعی را رد کرد

چالش احراز هویت و مسئولیت شرکتی

Startup Abliteration.ai هنوز یک سیستم کامل Know Your Customer یا KYC را پیاده سازی نکرده است. این شرکت در حال حاضر اطلاعات کارت اعتباری مورد استفاده توسط مشتری برای خرید خدمات را ثبت می کند، اما هیچ مکانیسم گسترده دیگری برای احراز هویت کاربران ندارد.

دوون گفت که تعیین اینکه چه کسی باید اجازه استفاده از چنین مدل هایی را داشته باشد، مسئله دشواری است که شرکت هنوز روی آن کار می کند. وی توضیح داد که هیچ شرکتی نمی خواهد مسئولیت اقدامات خطرناک کاربران را بر عهده بگیرد، اما تعیین خط مسئولیت ارائه دهنده خدمات آسان نیست.

این موضوع با عرضه مدل های قدرتمندتر با وزن قابل دانلود اهمیت بیشتری پیدا می کند. اگر کاربران بتوانند تدابیر امنیتی یک مدل را پس از دریافت آن حذف کنند، صنعت فناوری و دولت ها باید تعیین کنند که چه پیامدهایی برای سهولت دسترسی عموم به نسخه اصلاح شده این مدل ها وجود دارد.

بنیانگذار Abliteration.ai و طرفداران مدل های حذف شده به گونه ای متفاوت بحث می کنند. آنها بر این باورند که دسترسی گسترده به مدل های پیشرفته و بدون محدودیت می تواند به ابزاری دفاعی برای متخصصان امنیت سایبری تبدیل شود.

دوون اظهار داشت که این مدل ها می توانند رفتار عوامل مخرب را شبیه سازی کنند. در نتیجه، مدافعان نیز می‌توانند ابزارها و روش‌های مهاجمان را با سرعت بیشتری بررسی کنند و استراتژی‌های دفاعی مناسب را توسعه دهند. او معتقد است که این فرآیند برخلاف تصور اولیه می تواند سرعت پیشرفت امنیت سایبری را افزایش دهد.

استارت آپ Abliteration.ai علیرغم عمر کوتاهش، چندین استارتاپ تیم قرمز مستقر در بریتانیا و اروپا را در میان مشتریان خود دارد. این شرکت ها به بانک ها، خطوط هوایی و شرکت های زیرساختی حیاتی برای تقویت امنیت سایبری کمک می کنند.

دوون گفت که یکی از مشتریان بزرگ این شرکت، عوامل هوش مصنوعی مورد استفاده بانک‌ها را از طریق تست‌های زمان قرمز قرار می‌دهد. به گفته وی، مدل‌های استاندارد هوش مصنوعی موجود به دلیل محدودیت‌های داخلی نمی‌توانند تمام آزمایش‌هایی را که چنین شرکتی نیاز دارد، انجام دهند.

اختلاف نظر در مورد اهمیت واقعی محو

صنعت امنیت سایبری هنوز در مورد جایگاه مدل های توانمند در فعالیت های دفاعی بلاتکلیف است. چندین شرکت فعال در زمینه تیم قرمز عوامل هوش مصنوعی که با TechCrunch صحبت کردند، موافق هستند که مهاجمان همچنین می توانند محدودیت های مدل های خود را حذف کرده و از آنها برای انجام حملات استفاده کنند.

این یک استدلال برای مدافعان برای دسترسی به ابزارهای مشابه ایجاد می کند. با این حال، کارشناسان در مورد اهمیت حذف برای تست امنیتی اختلاف نظر دارند.

دوون نابودی را برای زمان بندی مجدد جامع عوامل هوش مصنوعی ضروری می داند. از سوی دیگر برخی از شرکت های امنیتی اعلام کردند که در فعالیت های روزانه خود نیازی به مدل های رمزگذاری شده ندارند. آنها مدل های با وزن باز را برای نیازهای خود تنظیم می کنند. بسیاری از این مدل ها نیز از ابتدا دارای نرده های نسبتاً محدودی هستند.

احمدعلی، مدیرعامل شرکت تایمینگ قرمز فابرایکس، اظهار داشت که شرکت او بیشتر از تنظیم دقیق مدل‌های باز استفاده می‌کند و چندان به مدل‌های غیرقابل استفاده وابسته نیست. او همچنین به یکی از معایب احتمالی این تکنیک اشاره می کند.

به گفته علی، فرآیند محو شدن ممکن است بخشی از دانش و توانایی های مدل را از بین ببرد. در نتیجه، مدل هوش مصنوعی با حذف محدودیت‌های آن لزوماً مؤثرتر از مدل اصلی برای انجام فعالیت‌های مخرب سایبری یا بیولوژیکی نخواهد بود.

Alessio Lomoscio، مدیر ارشد فناوری اطلاعات ایمن نیز تأیید کرد که برخی از توانایی‌های این مدل ممکن است پس از حذف کاهش یابد. با وجود این، او معتقد است که چنین مدل هایی هنوز می توانند رفتارهای خاصی را ایجاد کنند که برای آزمایش انعطاف پذیری و امنیت سیستم ها خبرجو است.

دیوید اسلیتر، بنیانگذار و معمار اصلی پلتفرم امنیت سایبری Armadin، نیز گفت که مدل‌های احراز هویت شده تاکنون بخشی از فرآیند کاری این شرکت نبوده‌اند. به گفته او، جیلبریک کردن نسل‌های قبلی مدل‌های وزن باز و واداشتن آن‌ها به رفتاری که می‌خواهید، چندان سخت نبود.

بیشتر بخوانید: OpenAI ادعا می کند: GPT-6 Astra هوشمندترین مدل هوش مصنوعی در جهان است

محققان به دنبال شناخت محدودیت توانایی مدل ها هستند

Armadin در حال حاضر در حال بررسی این فناوری است، علیرغم اینکه از مدل های فرسوده به طور روزانه استفاده نمی کند. اسلاتر معتقد است که جامعه منبع باز باید تلاش کند تا قابلیت های واقعی مدل های هوش مصنوعی را بشناسد و بررسی عمومی این قابلیت ها برای صنعت امنیت اهمیت زیادی دارد.

وی اظهار داشت: رفع محدودیت های مدل ها در هر صورت می تواند پشت درهای بسته و در محیط های خصوصی انجام شود. انجام تحقیقات مشابه در فضای باز ابزارهای لازم را برای شناسایی بهتر محدودیت های واقعی قابلیت های مدل ها و خطرات بالقوه آنها در اختیار محققان قرار می دهد.

بحث در مورد Abliteration.ai در نهایت به یکی از چالش های اساسی مدل های وزن باز باز می گردد. توسعه‌دهندگان می‌توانند پادمان‌هایی را در نسخه اولیه یک مدل قرار دهند، اما پس از انتشار وزن‌ها، کنترل تغییراتی که کاربران در مدل ایجاد می‌کنند بسیار دشوارتر می‌شود.

استارت آپ Abliteration.ai این فرآیند را یک قدم جلوتر برده است. سایر کاربران لزوماً برای تغییر مدل به دانش فنی، سخت افزار قدرتمند یا زیرساخت پردازش اختصاصی برای استفاده از یک مدل توانایی نیاز ندارند. آنها می توانند به نسخه میزبانی شده مدل دسترسی داشته باشند و از طریق یک مرورگر یا API از آن استفاده کنند.

طرفداران این رویکرد معتقدند که این دسترسی می تواند قدرت تیم های دفاعی را افزایش دهد و شبیه سازی واقعی تری از مهاجمان را امکان پذیر کند. از سوی دیگر، منتقدان هشدار می‌دهند که کاهش موانع دسترسی، فرصت‌های یکسانی را در اختیار کسانی قرار می‌دهد که قصد سوء قصد دارند.

با افزایش قابلیت های مدل های وزن باز، تفاوت بین این دو نما احتمالا اهمیت بیشتری پیدا می کند. سوال اصلی این است که آیا انتشار ابزارهای نامحدود، محققان و مدافعان را برای مقابله با تهدیدات مجهزتر می کند یا هزینه و پیچیدگی بهره برداری از هوش مصنوعی را برای مهاجمان کاهش می دهد؟ استارت آپ Abliteration.ai اکنون این بحث را از حوزه آزمایش های فنی و جامعه منبع باز به یک تجارت تجاری و در دسترس منتقل کرده است.