اپل قوانین اپ استور را تشدید کرد. رویارویی جدی با کاربردهای هوش مصنوعی

اقدام جدید اپل برای مقابله با تولید تصاویر مستهجن بدون رضایت مردم

مفهوم امنیت و حریم خصوصی در عصر هوش مصنوعی وارد مرحله جدیدی شده است. جایی که استفاده نادرست از ابزار بصری می تواند صدمات جبران ناپذیری به بار آورد.

به گزارش بخش اخبار خبرجو به نقل از دیجیتال ترندز، شرکت اپل سخت تر کردن قوانین اپ استور است با AI Nudify Apps که بدون رضایت مردم تصاویر ناپسندی از واقعیت تولید می کنند باید به شدت برخورد شود. دستورالعمل‌های به‌روز شده از توسعه‌دهندگان می‌خواهد که به طور فعال از انتشار جلوگیری کنند تصویرسازی صمیمی غیر توافقیاز جمله محتوای تولید شده توسط ابزارهای هوش مصنوعی، جلوگیری و حذف آنها. این اقدام ماه‌ها پس از آن صورت می‌گیرد که مقامات سانفرانسیسکو از اپل و گوگل خواسته بودند تا چنین برنامه‌هایی را مسدود کنند. اپل اکنون انتظارات خود را شفاف‌تر کرده است و مشخص می‌کند که در صورت پنهان کردن ویژگی‌های مضر در طول فرآیند بررسی، چه عواقبی در انتظار توسعه‌دهندگان است.

اپل از توسعه دهندگان می خواهد که از یک ممنوعیت ساده فراتر بروند

اپل رسما دستورالعمل بررسی برنامه به روز شده است تا به صراحت شامل شود محتوای زشت تولید شده توسط هوش مصنوعی بر اساس قوانین جدید، برنامه‌هایی که محتوای تولید شده توسط کاربر را میزبانی می‌کنند باید مکانیسم‌های حفاظتی برای فیلتر کردن محتوای نامناسب، راه‌هایی برای گزارش محتوای توهین‌آمیز، توانایی مسدود کردن حساب‌های مخرب و پاسخ به شکایات داشته باشند. همچنین توسعه دهندگان برنامه آنها باید فعالانه از انتشار تصاویر برهنه بدون رضایت جلوگیری کرده و آنها را پاکسازی کنند. کسانی که از اجرای اقدامات امنیتی کافی امتناع می ورزند یا پس از دریافت اخطار به تخلفات رسیدگی نمی کنند، با خطر حذف از اپ استور مواجه خواهند شد.

این غول فناوری همچنین در حال سرکوب توسعه دهندگانی است که هدف واقعی برنامه را در طول فرآیند ارزیابی و بررسی پنهان می کنند. قوانین جدید بر ممنوعیت طولانی مدت اپل برای ویژگی های پنهان، غیرفعال یا ثبت نشده تاکید می کند. از جمله برنامه هایی که قابلیت حذف هوش مصنوعی را فقط پس از تایید نهایی برنامه فعال می کنند. اپل اعلام کرده است که می تواند برنامه های توهین آمیز را حذف کند و حساب های توسعه دهنده آنها را در برنامه توسعه دهندگان اپل مسدود کند. این شرکت همچنین تصریح کرده است که برنامه‌هایی که قاچاق انسان یا کودک آزاری را تسهیل می‌کنند حذف شده و از انتشار در روش‌های توزیع جایگزین منع شده‌اند.

تشدید قوانین اپ استور پس از ماه ها انتقاد و فشار قانونی

این به‌روزرسانی پس از ماه‌ها بررسی و انتقاد شدید درباره ظاهر اپلیکیشن‌های هوش مصنوعی برهنه در فروشگاه اپل منتشر شد. در ماه جولای، دیوید چیو، دادستان شهر سانفرانسیسکو، نامه های هشداردهنده ای به اپل و گوگل ارسال کرد و از آنها خواست تا برنامه هایی را که قادر به تولید تصاویر مستهجن بدون رضایت هستند، حذف کنند. این اقدام به دنبال تحقیق در مورد ابزارهای هوش مصنوعی است که می تواند به صورت دیجیتالی لباس افراد را برهنه کند. در همان زمان، مناقشات پیرامون استفاده از مدل هوش مصنوعی Grok برای تولید دیپ فیک های جنسی (Sexual Deepfakes) سوالاتی را در مورد نحوه برخورد پلتفرم ها با سوء استفاده های هوش مصنوعی تشدید کرد. اپل می‌گوید اپلیکیشن‌های برهنگی مدت‌هاست که قوانین آن را نقض کرده‌اند، بنابراین تغییرات اخیر باید به‌عنوان گسترش صریح حفاظت‌های موجود در نظر گرفته شود، نه یک ممنوعیت کاملاً جدید.

چالش اصلی؛ آیا قوانین جدید اپل در عمل موفق خواهند بود؟

سوال بزرگتر این است که آیا قوانین واضح تر منجر به اجرای بهتر نظارت بر اپ استور می شود یا خیر. روی کاغذ، اپل می‌تواند قابلیت‌های حذف را ممنوع کند، اما توسعه‌دهندگانی که عملکرد مضر برنامه را پنهان می‌کنند یا پس از تایید آن را در کد قرار می‌دهند، همچنان می‌توانند روند بررسی را به چالش بکشند. دستورالعمل های به روز شده به اپل مبنای روشن تری برای اقدام می دهد. از جمله حذف برنامه ها و مسدود کردن حساب های توسعه دهنده. اما برای کسی که تصاویرش بدون رضایت دستکاری شده است، فاصله بین یک برنامه ممنوعه و برنامه ای که هرگز وارد فروشگاه نمی شود بسیار زیاد است. اپل قوانین را سخت‌تر کرده است و اکنون باید مطمئن شود که این برنامه‌ها دیگر از دست بازبین‌ها نمی‌افتند.