Cloudflare یک فایروال هوش مصنوعی می سازد

Cloudflare در حال توسعه یک فایروال هوش مصنوعی است و از ابزارهای هوش مصنوعی خود برای دفاع در برابر حملات سایبری مبتنی بر هوش مصنوعی استفاده می کند.

به گزارش تکناک، تحقیقات نشان می دهد که تهدیدات امنیتی جدیدی در حوزه هوش مصنوعی در حال ظهور است. در همین حال، Cloudflare در حال توسعه فایروال خود برای مدل‌های هوش مصنوعی مولد است تا از آنها در برابر حملات سایبری احتمالی یا سایر تهدیدات مخرب محافظت کند. همچنین، این شرکت در حال توسعه ابزارهای هوش مصنوعی داخلی خود برای دفاع در برابر هوش مصنوعی مخرب است.

PCMG می نویسد که فایروال هوش مصنوعی Cloudflare برای شناسایی حملات احتمالی قبل از وقوع آنها طراحی شده است. این فایروال یک برنامه وب است. یعنی می تواند ترافیک مشکوک مخرب را مسدود کند. فایروال فوق از استانداردهای موجود در فایروال های دیگر استفاده خواهد کرد. اما همچنین می تواند دستورات ارسال شده توسط کاربران هوش مصنوعی را تجزیه و تحلیل کند تا حملات را قبل از اجرا شناسایی کند.

فن آوری های جدید راه های جدیدی را برای حملات سایبری بالقوه باز می کند. با این حال، توجه داشته باشید که فایروال هوش مصنوعی Cloudflare به این معنی است که وب سایت ها و ابزارهای هوش مصنوعی که از آن استفاده می کنند، ابتدا ورودی کاربر را از طریق Cloudflare قبل از رسیدن به هوش مصنوعی تولید کننده فیلتر می کنند. همچنین، یک فایروال هوش مصنوعی اساساً می تواند درخواست های مولد هوش مصنوعی را رهگیری کند و آنها را برای تهدیدات احتمالی اسکن کند.

فایروال هوش مصنوعی Cloudflare همچنین می تواند ورودی کاربر را به روش های دیگری فیلتر کند. این فایروال برای جلوگیری از دستکاری مدل‌های هوش مصنوعی در ورودی‌هایی طراحی شده است که می‌تواند باعث ایجاد پاسخ‌های جعلی یا خطرناک توسط مدل هوش مصنوعی توهم‌آمیز شود. علاوه بر این، مشتریان می‌توانند سفارش‌هایی را که در دسته‌های نامناسب قرار می‌گیرند مسدود کنند. البته اگر نگران باشند که چنین دستوراتی باعث شود هوش مصنوعی از “زبان سمی، توهین آمیز یا مشکل ساز” استفاده کند.

در حالی که این شرکت چنین مواردی را نمونه هایی از حملات “تزریق فرمان” می نامد، مشخص نیست که در نتیجه چند درخواست واقعی کاربر فیلتر شده است. ناگفته نماند، Cloudflare این هفته از “هوش مصنوعی دفاعی” خود برای مشاغل رونمایی کرد که از مدل های هوش مصنوعی برای تجزیه و تحلیل وب سایت ها برای تهدیدات بالقوه مبتنی بر هوش مصنوعی استفاده می کند.

با توجه به اینکه تحقیقات اخیر نشان می دهد که دستیارهای هوش مصنوعی می توانند برای گسترش کرم ها (نوعی بدافزار خودتکثیر شونده) استفاده شوند، توسعه فایروال های هوش مصنوعی و سایر روش های پیشگیری تعجب آور نیست. در محیط آزمایشی، این کرم توانست دستیاران ایمیل هوش مصنوعی را با فریب دادن مدل‌های هوش مصنوعی که آنها را در ارسال ایمیل‌های اسپم و استخراج اطلاعات شخصی نیرو می‌دهند، مختل کند.

ارسال شده توسط CloudFlare فایروال هوش مصنوعی ایجاد می کند اولین بار در TechKnock – اخبار دنیای فناوری ظاهر شد. ظاهر شد.