متا از ابزارهای هوش مصنوعی جدید برای شناسایی تبلیغات مخرب و سوء استفاده جنسی از کودکان رونمایی کرد

شرکت متا از توسعه و عرضه ابزار مبتنی بر هوش مصنوعی اعلام کرده است که آنها برای شناسایی و مسدود کردن تبلیغات فریبنده ای طراحی شده اند که به طور مخفیانه کاربران را به سمت محتوای غیرقانونی هدایت می کنند و سوء استفاده جنسی از کودکان (CSAM) راهنمایی می کنند

به گزارش بخش اخبار فناوری خبرجو به نقل از تک کرانچ، این تبلیغات که به آنها تابلوی راهنما گفته می شود، از نظر ظاهری بسیار معمولی و بی ضرر به نظر می رسند، اما لینک ها و مسیرهای تعبیه شده در آنها کاربران را به سمت وب سایت ها و کانال های خارجی حاوی محتوای مضر هدایت می کند. متا اعلام کرده است که در نیمه اول سال 2026 علیه 33.2 میلیون مورد چنین محتوایی در سراسر جهان اقدام کرده است.

عملکرد سیستم های متا هوشمند و آمار نظارت بر محتوای کلیدی

بر اساس گزارش های رسمی متا، سیستم های خودکار این شرکت موفق شده اند بیش از 97 درصد از محتوای غیرقانونی را قبل از گزارش توسط کاربران به صورت هوشمند شناسایی و حذف کنند. این رقم نشان دهنده افزایش اتکا به شبکه های اجتماعی است فیس بوک و اینستاگرام به الگوریتم های پیشرفته برای تمیز کردن فضای مجازی

همچنین در کشور هند در مدت مشابه شش ماهه متا در مقابل 5.3 میلیون مورد محتوای مربوط به بهره کشی جنسی از کودکان بیش از 98 درصد آنها قبل از دریافت هرگونه گزارش یا شکایت عمومی توسط سیستم های داخلی شناسایی شدند. این سرکوب پس از آن تشدید شد که وزارت فناوری اطلاعات هند در ماه ژوئیه در مورد چنین تبلیغاتی در اینستاگرام اطلاعیه ای صادر کرد و مدیران ارشد متا را احضار کرد. در پی این حادثه، متا متعهد شد که گزارش های ایمنی کودکان را مستقیماً به پورتال جرایم سایبری هند (I4C) ارسال کند.

ابزارهای هوش مصنوعی جدید متا چگونه کار می کنند؟

فناوری های متا جدید فراتر از بررسی ظاهر و متن تبلیغات هستند. سیستم های هوش مصنوعی جدید نه تنها محتوای ظاهری تبلیغات را اسکن می کنند، بلکه مقصد نهایی لینک ها را نیز تحلیل می کنند. با استفاده از این قابلیت امکان پذیر است مسدود کردن وب سایت های مخربکانال های متخلف و حساب های کاربری مرتبط با آنها ارائه می شود.

1. قابلیت Red-Teaming و شبیه سازی حملات سایبری

یکی از مهم ترین نوآوری های متا استفاده از عوامل هوش مصنوعی برای تست نفوذ و ارزیابی مکانیسم های امنیتی آن (Red-Teaming) است. این هوش مصنوعی فعالانه به دنبال یافتن نقاط ضعف و حفره هایی است که بهره برداران ممکن است برای دور زدن سیستم های حفاظتی از آنها استفاده کنند. تشخیص زودهنگام این حفره ها به متا کمک می کند تا از روش های جدید نفوذ قبل از گسترش آنها جلوگیری کند.

2. شناسایی حساب های کاربری بازسازی شده

یکی دیگر از چالش های بزرگ شبکه های اجتماعی، بازگشت مجرمان سایبری با حساب های جدید پس از مسدود شدن حساب قبلی است. متا سیستم های خود را برای شناسایی الگوهای رفتاری کاربرانی که پس از بستن حساب های خود حساب های جدید ایجاد می کنند، ارتقا داده است تا از فعال شدن مجدد آنها جلوگیری کند.

3. اسکن های تکمیلی و هوشمند

متا همچنین اسکن‌های مبتنی بر هوش مصنوعی را برای کشف محتوایی که ممکن است از سیستم‌های قدیمی‌تر پنهان شده باشد، فعال کرده است. این شرکت اعلام کرده است که با کسب اطلاعات بیشتر در مورد نحوه عملکرد این شبکه های سازمان یافته، سیگنال ها و معیارهای جدیدی را به الگوریتم های خود اضافه خواهد کرد.

فشارهای نظارتی و توسعه ابزارهای حمایتی برای والدین

افزایش فشار نظارتی از سوی دولت و نهادهای بین المللی، غول های فناوری را مجبور به اتخاذ تدابیر امنیتی جدی تری کرده است. در این راستا پیام رسان واتس اپ در ماه سپتامبر، کنترل های جدیدی را برای والدین معرفی کرد. این ابزارها به والدین اجازه می‌دهد تا نحوه استفاده نوجوانان از کانال‌ها را محدود کنند، مشاهده به‌روزرسانی‌های وضعیت را کنترل کنند و از اضافه شدن فرزندانشان به گروه‌های ناشناخته جلوگیری کنند. همچنین امکان دریافت اطلاعیه در مورد فعالیت های گروهی ویژه برای والدین وجود دارد.