قبل از انتشار عمومی مدل جدید هوش مصنوعی خود، استارت آپ جدید Moonshot AI بال های خود را هک می کند تا ضمن حفظ قدرت برنامه نویسی، از سوء استفاده سایبری جلوگیری کند.
به گزارش بخش اخبار فناوری زوم‌تک به نقل از Digital Trends، استارت‌آپ هوش مصنوعی چینی Moonshot AI عمداً توانایی‌های هک آخرین مدل هوش مصنوعی خود را محدود می‌کند. این یک چالش بزرگ و رو به رشد در صنعت را برجسته می‌کند: چگونه شرکت‌ها می‌توانند هوش مصنوعی را بدون تسهیل حملات سایبری قدرتمندتر کنند؟
این شرکت در تاریخ 24 اکتبر از مدل کیمی K3.1 Pro رونمایی کرد و آن را یک مدل بسیار توانا و باز وزن با حدود 3 تریلیون پارامتر توضیح داده شده بر خلاف سرویس‌های سنتی هوش مصنوعی که به طور کامل از طریق سرورهای ارائه‌دهنده اجرا می‌شوند، مدل‌های وزن باز به توسعه‌دهندگان اجازه می‌دهند فایل‌های مدل پایه را دانلود کنند، آنها را بر روی سیستم‌های خود اجرا کنند، و نحوه عملکردشان را تغییر دهند.
Moonshot اعلام کرد که داده‌های مربوط به امنیت سایبری را از مجموعه داده‌های آموزشی و محیط‌های آموزشی تقویتی مدل حذف کرده است تا توانایی آن در انجام عملیات سایبری تهاجمی را کاهش دهد. مهارت های عمومی برنامه نویسی و کدنویسی حفظ شده است. این شرکت قصد دارد تا Model Weights را در 4 نوامبر منتشر کند تا در دسترس جامعه توسعه دهندگان گسترده‌تری قرار گیرد.
کاهش قابلیت های هک بدون آسیب رساندن به قدرت برنامه نویسی
تست های داخلی مون شات نشان می دهد که این اقدامات امنیتی و محدودیتی تاثیر محسوسی داشته است. مدل کیمی K3.1 Pro در معیار امنیت سایبری اختصاصی این شرکت – که شامل یافتن و بهره برداری از آسیب پذیری های نرم افزاری در یک محیط کنترل شده است – امتیاز 81 درصد این در حالی است که همین نسخه بدون اعمال اقدامات کاهش ریسک امتیاز 90.5 درصد را کسب کرده بود.
این تغییر نشان دهنده کاهش 9.5 درصدی امتیاز گزارش شده است. با این حال، این نتایج هنوز به طور مستقل تأیید نشده اند و گزارش ها نشان می دهد که این مدل هنوز هم بهتر از مدل قبلی خود عمل می کند.
این تمایز مهم است زیرا از همان قابلیت‌های هوش مصنوعی می‌توان هم در دفاع و هم در حمله استفاده کرد. تیم های امنیتی می توانند هوش مصنوعی شناسایی نقاط ضعف نرم افزار قبل از سوء استفاده مجرمان از آنها. برعکس، مهاجمان همچنین می‌توانند از مدل‌هایی استفاده کنند که کد می‌نویسند، ابزارهای نرم‌افزاری را مستقر می‌کنند و وظایف چند مرحله‌ای را برای خودکارسازی و خودکارسازی بخش‌هایی از حمله انجام می‌دهند.
مون شات استدلال می کند که هوش مصنوعی با وزن باز می تواند به سازمان ها کمک کند تا نرم افزارهای قدیمی یا فراموش شده را بررسی و ایمن کنند. اما زمانی که فایل‌های مدل به‌طور گسترده توزیع می‌شوند، توسعه‌دهنده اصلی کنترل کمتری بر استفاده از آنها و اینکه آیا اقدامات امنیتی به قوت خود باقی می‌مانند، دارد.
نگرانی های امنیتی هوش مصنوعی در حال تبدیل شدن به یک موضوع سیاست جهانی است
تصمیم مون شات در حالی اتخاذ می شود که دولت ها و شرکت های فناوری نگران هستند که هوش مصنوعی قدرتمندتر می تواند حملات سایبری پیچیده را ارزان تر و آسان تر کند. چین همچنین کنترل‌های صادراتی جدیدی را پیشنهاد کرده است که فناوری‌های تولید بدافزار مبتنی بر هوش مصنوعی و برخی ابزارهای کشف آسیب‌پذیری به کمک هوش مصنوعی را هدف قرار می‌دهد. این پیشنهادات هنوز در مرحله رایزنی عمومی است.
برای مشاغل و کاربران عادی، ابعاد این خطر فراتر از رایانه های شخصی است. حملات خودکار بیشتر می‌تواند بر سازمان‌های مسئول حفاظت فشار وارد کند اطلاعات شخصی، سیستم های مالی و زیرساخت های حیاتی افزایش در عین حال، محدود کردن بیش از حد تحقیقات امنیتی هوش مصنوعی نیز می‌تواند آسیب‌پذیری‌ها را کشف نشده باقی بگذارد.
مدل کیمی K3.1 Pro همچنین دارای یک پنجره زمینه است. یک میلیون توکن که به آن اجازه می دهد تا حجم عظیمی از اطلاعات را در یک زمان پردازش کند. علاوه بر این، Moonshot یک نسخه Highspeed را نیز معرفی کرده است که می گوید 2-3 برابر سریعتر از مدل استاندارد کار می کند.
آزمایش بزرگ بعدی زمانی انجام می شود که مون شات وزن مدل ها را در 4 نوامبر منتشر کند. در آن زمان، توسعه‌دهندگان و محققان امنیتی دسترسی بیشتری برای کشف قابلیت‌های آن خواهند داشت، در حالی که صنعت با یک سوال دشوار مواجه است: آیا اقدامات امنیتی پس از در دسترس قرار گرفتن یک مدل هوش مصنوعی قدرتمند برای استفاده مستقل، می‌تواند موثر باقی بماند؟
گفتگو در مورد این post