برای جلوگیری از دسترسی عوامل هوش مصنوعی به محتوای مکالمات کاربران، پیام رسان سیگنال به طور پیش فرض امنیت صفحه را فعال می کند و از اپل، گوگل و مایکروسافت می خواهد که ابزارهای خاصی را برای محافظت از حریم خصوصی ارائه دهند.
به گزارش سرویس هوش مصنوعی تکناک، سیگنال که بیش از یک دهه است به عنوان یکی از پیام رسان های متمرکز بر حریم خصوصی شناخته می شود، با تهدیدات جدیدی ناشی از گسترش هوش مصنوعی در سیستم عامل های تلفن همراه مواجه است. این شرکت میگوید دستیارهای هوشمندی مانند سیری اپل و جمنا گوگل به بخشهای مختلف iOS و اندروید راه پیدا کردهاند و ممکن است به اطلاعاتی که روی صفحه نمایش داده میشود دسترسی داشته باشند.
این دسترسی می تواند پیام های خصوصی کاربران را نیز در معرض خطر قرار دهد. به گفته سیگنال، عوامل هوش مصنوعی ممکن است محتوای مکالمات را بخوانند و اطلاعات حاصل را به سرورهای ابری ارسال کنند. در چنین شرایطی ممکن است حریم خصوصی همه افرادی که در گفتگو حضور دارند به خطر بیفتد.
غیرفعال کردن اسکرین شات پیش فرض در صورت شناسایی هوش مصنوعی
پیام رسان سیگنال برای کاهش این خطر تصمیم گرفته است دسترسی عوامل هوش مصنوعی به محتوای صفحه اپلیکیشن را محدود کند. یکی از اقدامات این شرکت، غیرفعال کردن قابلیت ضبط اسکرین شات در شرایطی است که دسترسی هوش مصنوعی تشخیص داده می شود.
این تصمیم به ویژه برای دستیارهایی که به عنوان پنجره های شناور روی صفحه نمایش ظاهر می شوند، مهم است. به عنوان مثال، Jamnai می تواند محتوای صفحه را زمانی که به عنوان یک پنجره شناور فعال می شود، بخواند. در نتیجه ممکن است این دستیار به صورت ناخواسته به پیام های خصوصی کاربران دسترسی پیدا کند.
سیگنال اعلام کرده است که ویژگی امنیتی صفحه نمایش به طور پیش فرض با شناسایی دسترسی هوش مصنوعی فعال می شود. با این حال، کاربران همچنان می توانند در صورت نیاز به ضبط اسکرین شات، این محدودیت را به صورت دستی غیرفعال کنند.
با این حال، سیگنال تاکید می کند که این اقدام تنها یک گام اولیه برای مقابله با مشکل است و نمی تواند تمام نگرانی های مربوط به دسترسی هوش مصنوعی به داده های کاربر را برطرف کند.
این شرکت می گوید برنامه های متمرکز بر حریم خصوصی ابزارهای فنی قوی برای جلوگیری از تضعیف امنیت برنامه توسط عوامل هوش مصنوعی ندارند. از سوی دیگر، شرکتهای بزرگ فناوری نیز راه آسانی برای محدود کردن دسترسی هوش مصنوعی به دادههای برنامههای خود بدون به خطر انداختن عملکرد اصلی برنامه، به توسعهدهندگان ارائه نکردهاند.
درخواست سیگنال از اپل، گوگل و مایکروسافت
سیگنال معتقد است که سازندگان سیستم عامل باید اطلاعات فنی دقیق تری در مورد نحوه عملکرد عوامل هوش مصنوعی منتشر کنند. این شرکت می گوید که بدون مستندات واضح و مشخصات فنی قابل اعتماد، توسعه راه حل های موثر برای محافظت از داده های کاربران دشوار خواهد بود.
به منظور درک بهتر رفتار عوامل هوش مصنوعی، سیگنال حتی تحقیقات پزشکی قانونی دیجیتال را در سیستم عامل های اندروید و iOS انجام داده است تا مشخص کند این ابزارها هنگام دسترسی به داده های برنامه چه اقداماتی انجام می دهند.
این شرکت اکنون دو درخواست اصلی از اپل، گوگل و مایکروسافت دارد. اول، توسعه دهندگان باید بتوانند برنامه های خود را از دسترسی و پردازش داده ها توسط هوش مصنوعی به روشی ساده و مستند حذف کنند. این محدودیت همچنین باید خواندن محتوای صفحه، دسترسی به فایل، اعلان ها، رابط های برنامه نویسی و سایر قابلیت های سیستم عامل را نیز پوشش دهد.
درخواست دوم سیگنال مربوط به انتشار مشخصات فنی و مستندات دقیق تر در مورد عملکرد عوامل هوش مصنوعی است. این اطلاعات باید به طور خاص نحوه دسترسی و پردازش داده ها را روشن کند.
نوشته شده است نیووینسیگنال همچنین هشدار داده است که استفاده از روش های محاسباتی مخفی به تنهایی نمی تواند این مشکل را حل کند. به گفته این شرکت، حتی با وجود این روش ها، هنوز تعیین سطح حفاظت از حریم خصوصی به عهده ارائه دهندگان فناوری است.
با وجود این نگرانی ها، سیگنال به همکاری برخی شرکت ها خوش بین است. این پیام رسان می گوید اپل و گوگل در حال مذاکره برای بهبود نحوه تعامل هوش مصنوعی با برنامه های متمرکز بر حریم خصوصی هستند. سیگنال همچنین اعلام کرده است که ممکن است به زودی جزئیات بیشتری در مورد این مشکل منتشر کند و از سایر برنامه های حفظ حریم خصوصی خواسته است تا برای توسعه استانداردهای مشترک با آن همکاری کنند.
















گفتگو در مورد این post