از Muse Meta تا Dots Open AI. حریم خصوصی کاربر چقدر امن است؟

آسیب پذیری های امنیتی و جمع آوری انبوه داده ها

اگرچه داده های کاربران Muse جدا از داده های سایر کاربران نگهداری می شود، اما Meta همچنان به داده های ذخیره شده در ماشین مجازی دسترسی دارد. این شرکت اعلام کرده است که قصد دارد تا پایان سال قابلیتی را معرفی کند که به طور قابل تاییدی دسترسی متا به داده های داخل ماشین مجازی را از طریق روش های رمزنگاری مسدود می کند.

در همین حال، یک محقق امنیتی به سرعت آسیب‌پذیری روز صفر را در Muse شناسایی کرد که می‌توانست به مهاجمان اجازه دهد کنترل ابزار را در دست بگیرند. این آسیب‌پذیری بعداً اصلاح شد، اما کشف آن نگرانی‌هایی را در مورد احتمال حملات خارجی ایجاد کرد.

وب سایت 404 Media همچنین گزارش داد که چندین مشکل امنیتی جدی در روزهای پایانی قبل از انتشار Muse شناسایی شده است. یکی از این مشکلات می توانست به کاربران امکان دسترسی به پایگاه داده های داخلی متا را بدهد.

روش جمع‌آوری و اشتراک‌گذاری داده‌ها توسط Muse نیز انتقاداتی را برانگیخته است. به طور پیش فرض، این ابزار به Meta اجازه می دهد تا از اطلاعاتی که کاربران برای آموزش مدل های خود وارد می کنند استفاده کند، اگرچه کاربران می توانند این گزینه را غیرفعال کنند.

یکی از خبرنگاران شرکت اعلام کرد که میوز پیام های خصوصی خود را بدون درخواست او دانلود کرده و خوانده است. یک کاربر یوتیوب همچنین گفت که این ابزار آدرس او را از طریق Marketplace در اختیار یک غریبه قرار داده است. در هر دو مورد، Muse ظاهراً همانطور که طراحی شده بود کار می کرد، اما کاربران از میزان دسترسی آن بی اطلاع بودند.

Wired همچنین گزارش داد که این پلتفرم پروفایل های دقیقی از دوستان و اعضای خانواده کاربران ایجاد می کند. این رفتارها لزوماً بی ارتباط با تاریخچه متا در جمع آوری داده ها نیستند، اما با این ادعا که Muse یک محصول متمایز حریم خصوصی است، همخوانی ندارد.

پاسخ OpenAI با معرفی عامل هوش مصنوعی Dots

OpenAI در اواخر سپتامبر و زمانی که Dots را معرفی کرد، به این نگرانی ها پرداخت. در رویداد DevDay، الکساندر آمبیریکوس، مدیر محصول Codex در OpenAI، گفت که این شرکت در حال تلاش برای ساخت «قابل اعتمادترین، ایمن‌ترین و مطمئن‌ترین دستیار» است.

آلتمن همچنین نمونه هایی از کنترل کاربر بر رفتار Dots را نشان داد. به عنوان مثال، کاربران می توانند قانونی تعیین کنند که دستیار هرگز خریدی بالاتر از مقدار مشخصی انجام ندهد.

گلن کوتس، رئیس پلتفرم اپلیکیشن OpenAI، گفت که این شرکت از نظر ارائه با متا متفاوت است، زیرا متا محصول هوش مصنوعی با 1.2 میلیارد کاربر ندارد. او اضافه کرد که OpenAI در تلاش است تا با دقت بیشتری از خطاهایی که هنگام انتشار Muse گزارش شده است جلوگیری کند.

برای جذب مشتریان سازمانی، OpenAI چارچوبی را برای کنترل بیشتر بر داده ها نیز معرفی کرده است. این چارچوب شامل گزینه‌هایی برای حفظ صفر است، به این معنی که هیچ داده‌ای در سرورهای OpenAI ذخیره نمی‌شود.

Dots تاکنون با رسوایی گسترده حریم خصوصی روبرو نشده است. البته این ابزار فقط در طرح های اشتراک ChatGPT با قیمت 100 دلار یا بیشتر موجود است و احتمالا تعداد کاربران کمتر است.

با این حال، حتی اگر شرکت‌ها اقدامات امنیتی بیشتری انجام دهند، ممکن است کاربران همچنان در ارائه اطلاعات شخصی خود به عوامل هوش مصنوعی مردد باشند. این ابزارها گاهی برای انجام کارهای مختلف به اطلاعات حساس نیاز دارند.

به عنوان مثال، آلیسون جانسون، خبرنگار در آستانهوقتی ربات از او خواست که اطلاعات بانکی خود را در طول یک کار مرتبط وارد کند، احساس ناراحتی کرد. Muse از یکپارچگی با سرویس پرداخت Stripe برای دریافت چنین اطلاعاتی استفاده می کند.

بیشتر بخوانید: OpenAI از رفتار غیرمنتظره چندین عامل هوش مصنوعی دیگر خبر داد