آسیب‌پذیری دیپ‌فیک Taylor Swift برطرف شده است

چندی پیش، تصاویر دیپ فیک خواننده مشهور آمریکایی تیلور سوئیفت به سرعت در فضای مجازی پخش شد و X را مجبور کرد جستجوهای مربوط به خواننده را مسدود کند.

به گزارش TechNock، هفته گذشته، عکس‌های دیپ‌فیک تیلور سوئیفت خواننده آمریکایی به سرعت در فضای مجازی پخش شد و بحث‌های دیگری را در مورد سوء استفاده از هوش مصنوعی به راه انداخت. این در حالی است که شبکه اجتماعی X مجبور شد جست و جوهای مربوط به این خواننده را مسدود کند.

اکنون، 404Media گزارش می دهد که مایکروسافت تغییراتی را در هوش مصنوعی Designer اعمال کرده است که ظاهراً توسط یک کانال تلگرام برای تولید تصاویر ناشایست استفاده شده است.

بر اساس بررسی ۴۰۴ مدیا، تصاویر دیپ فیک این سلبریتی به هوش مصنوعی طراح مایکروسافت نسبت داده شده است.

نئووین او می نویسد که اگرچه مایکروسافت محدودیت هایی را برای جلوگیری از تولید تصاویر زشت اعمال کرده است، اما کاربران به جای استفاده مستقیم از نام ها در دستور، این محدودیت ها را با غلط املایی نام ها یا توصیف فعالیت های جنسی دور می زنند.

مایکروسافت در بیانیه ای به 404Media اعلام کرد که هیچ مدرکی دال بر استفاده از هوش مصنوعی طراح برای ایجاد تصاویر تیلور سویفت پیدا نکرده است. نماینده مایکروسافت در ادامه توضیح داد:

کد رفتار ما استفاده از ابزار برای ایجاد محتوای بزرگسالان یا نامناسب را ممنوع می کند. هرگونه تلاش مکرر برای تولید محتوای مغایر با خط‌مشی‌های ما ممکن است منجر به از دست دادن دسترسی به سرویس شود.

مایکروسافت هنوز بیانیه رسمی خود را در مورد این موضوع منتشر نکرده است. اما مدیر عامل مایکروسافت، ساتیا نادلا، در مصاحبه با شبکه خبری NBC اعلام کرد:

من فکر می کنم وقتی دنیای آنلاین دنیای امنی باشد همه ما سود می بریم. بنابراین، من فکر نمی‌کنم کسی بخواهد دنیای آنلاین ناامنی برای تولیدکنندگان محتوا و مصرف‌کنندگان محتوا داشته باشد. پس وظیفه ماست که در این زمینه سریع عمل کنیم.

ویدئو

404Media اعلام کرد که پس از انتشار بررسی، به نظر می رسد مایکروسافت آسیب پذیری را برطرف کرده است و استفاده از تمام دستورات یا عبارات برای دور زدن مسدود کردن کلمات کلیدی دیگر در طراحی هوش مصنوعی کار نخواهد کرد. با این حال، گفته می‌شود که تلگرام هنوز تصمیمی نگرفته و کانال‌های مرتبط همچنان فعال هستند و به دنبال راه‌هایی برای بهره‌برداری از سایر سرویس‌های هوش مصنوعی برای تولید تصاویر عمیق غیراخلاقی از افراد مشهور هستند. علاوه بر این، کاربران در 4chan اعلام کردند که راه‌های دیگری برای دور زدن ممنوعیت‌های Bing و Designer پیدا کرده‌اند.

این خبر در زمان بدی برای مایکروسافت آمده است. زیرا کمیسیون تجارت فدرال (FTC) به تازگی اعلام کرده است که تحقیقاتی را در مورد سرمایه گذاری مایکروسافت در شرکت های سازنده هوش مصنوعی آغاز کرده است. گزارش دیگری در اوایل این ماه همچنین ادعا کرد که FTC و وزارت دادگستری (DOJ) در حال بررسی رابطه مایکروسافت با OpenAI هستند.

پست رفع آسیب‌پذیری عمیق تیلور سوئیفت اولین بار در Tekknock – اخبار دنیای فناوری ظاهر شد. ظاهر شد.