کشف شبکه مخفی ابزارهای برهنه تحت پوشش برنامه های کاربردی هوش مصنوعی ایمن

صدها برنامه کاربردی هوش مصنوعی که ظاهر بی ضرری دارند، ابزارهای پنهانی برای حذف و تولید دیپ‌فیک غیراخلاقی دارند.

به گزارش بخش اخبار فناوری خبرجو به نقل از Digital Trends، یک برنامه ویرایش عکس حیوان خانگی یا یک برنامه ورزشی هوش مصنوعی که بسیار بی ضرر به نظر می رسد ممکن است در واقع ابزارهای برهنه مبتنی بر هوش مصنوعی را پنهان کند. طبق تحقیقات منتشر شده توسط مجله WIRED، صدها برنامه کاربردی در فروشگاه Google Play و اپل اپ استور آنها کشف شده اند که به عنوان ویرایشگر عکس حیوانات، معلمان زبان، مربیان ورزشی و سایر برنامه های رایج ظاهر می شوند.

این برنامه‌های به ظاهر عادی، تحت شرایط خاص، کاملاً مخفیانه به یک رابط کاربری مخفی تغییر می‌کنند که دیپ‌فیک‌های غیراخلاقی و نگران‌کننده ایجاد می‌کند. پژوهشگران موسسه پزشکی قانونی هوش مصنوعی آنها این شبکه گسترده را که شامل بیش از 400 برنامه کاربردی و دامنه مرتبط است، کشف کرده اند.

چگونه برنامه های کاربردی هوش مصنوعی معمولی ژنراتورهای دیپ فیک را پنهان می کردند؟

این برنامه‌ها از یک ترفند هوشمندانه در سمت سرور برای پنهان کردن قابلیت‌های حذف استفاده کردند. هنگامی که شخصی یک برنامه را نصب می کند، برنامه اطلاعاتی مانند مکان، زبان، شناسه دستگاه و نحوه آشنایی برنامه را به یک سرور راه دور ارسال می کند. سپس سرور تصمیم می گیرد که آیا نسخه امن برنامه را به کاربر نشان دهد یا رابط وب پنهان را فعال کند.

لایه مخفی این برنامه ها ده ها الگوی عمیق دیپ فیک را ارائه می دهد که به کاربران امکان می دهد تصاویر واقعی افراد را آپلود کرده و آنها را در صحنه های غیراخلاقی از جمله موارد تهدید و خشونت قرار دهند. به گفته محققان، محرک های خاصی نیز می توانند این رابط پنهان را آشکار کنند. به عنوان مثال، نصب یک برنامه پس از کلیک بر روی یک تبلیغ فیس بوک یا اینستاگرام.

کاربران می‌توانند ارز دیجیتال را برای تولید دیپ‌فیک غیراخلاقی خریداری کنند و طبق گزارش‌ها، این شبکه از تبلیغات فریبنده در پلتفرم‌های شرکت استفاده می‌کند. متابا استفاده از نام‌های تجاری جعلی و حساب‌های بدون فالوور پخش می‌شود. این تحقیق نشان داد که برخی از این برنامه‌ها حتی پرداخت‌ها را از طریق می‌پذیرند Apple Pay و Google Pay آنها لیست ظاهری خود را پذیرفتند و رده بندی سنی مناسب برای همه سنین هیچ هشداری به کاربران ناآگاه نداد.

چه کسانی پشت این برنامه های مخرب هستند؟

WIRED گزارش می دهد که بیشتر شبکه متعلق به توسعه دهندگان چینی و یک شرکت ثبت شده در هنگ کنگ به نام است KeLing Technology Limited ردیابی کرده است؛ شرکتی که پس از تماس محققان، ردپای آنلاین خود را پاک کرد. یکی از محبوب‌ترین برنامه‌های این شبکه قبل از حذف گوگل بیش از 100000 بار دانلود شده بود و اپل پس از اطلاع از این طرح، 19 برنامه دیگر از جمله یک برنامه عکس حیوانات خانگی را از فروشگاه خود حذف کرد. او زندگی خواهد کرد همچنین

اپل گفت که برنامه ها در ابتدا با قوانین مطابقت داشتند، اما توسعه دهندگان بعداً رفتار برنامه را تغییر دادند. اخیراً، اپ استور قوانین خود را در مورد حذف برنامه ها و ترفندهای طعمه و تغییر نیز به روز کرده است. متا اعلام کرده است که KeLing را از تبلیغات در سال 2025 منع خواهد کرد و از آن زمان تاکنون با 11600 حساب تبلیغاتی، 5200 کاربر و 209 برنامه مرتبط با این طرح برخورد کرده است.

ممنوعیت برنامه های برهنگی اتحادیه اروپا تنها تا یک ماه دیگر اجرایی می شود. با این حال، حتی پس از پایان تحقیقات WIRED، تبلیغات مشابه همچنان ظاهر می‌شوند و نشان می‌دهند که این اپراتورهای جعلی عمیق هوش مصنوعی تا چه حد به دنبال راه‌هایی برای پیشبرد برنامه‌های خود هستند.