یک رخنه امنیتی در Fireworks مکالمات کاربران Notion AI را فاش کرد

یک نقض امنیتی در زیرساخت هوش مصنوعی Fireworks متن مکالمات کاربران هوش مصنوعی را در کمتر از 1٪ از فضاهای کاری افشا کرد.

بر اساس این گزارش خدمات امنیت سایبری یک مرحله ایپلتفرم فضای کاری دیجیتال Notion این موضوع را فاش کرده است. این افشاگری اندکی پس از هوش مصنوعی Fireworks انجام شد تایید شد در 23 اکتبر، یک مهاجم از طریق یک ارائه دهنده خدمات ابری شخص ثالث وارد محیط توسعه شرکت شد و ابرداده منابع، اطلاعات صورتحساب، وزن مدل و مجموعه داده های برخی از مشتریان را به خطر انداخت.

Fireworks AI هدف یک حمله امنیتی دیگر در اوایل اکتبر بود. در آن حادثه، هکرها به متغیرهای محیطی حاوی کلیدها و توکن‌های API دسترسی پیدا کردند که به عنوان داده‌های محرمانه برای تعداد محدودی از حساب‌های کاربری ذخیره می‌شدند.

بیشتر بخوانید: داده های حساس هزاران کاربر به دلیل نقص امنیتی Grok در معرض قرار گرفت

Notion پس از دریافت اخطاری از Fireworks در تاریخ 2 نوامبر در مورد افشای یک مجموعه داده، از امکان افشای متن مکالمات کاربران آگاه شد. طبق اطلاعات اولیه، این مجموعه داده حاوی داده های آزمایش مصنوعی بود. در پاسخ به این نقض امنیتی در Fireworks AI، پلتفرم Notion ترافیک ورودی و خروجی خود را به Fireworks قطع کرد، تمام داده های خود را از سیستم های ارائه دهنده حذف کرد و اجرای فرآیندهای آموزشی مدل را تا 3 نوامبر متوقف کرد. با این حال، Fireworks در 8 نوامبر تأیید کرد که اطلاعات مشتری، از جمله اطلاعات کاربر Notion، در معرض مهاجمان قرار گرفته است.

پلتفرم Notion چیست؟

Notion یک فضای کاری ابری برای یادداشت برداری، تولید سند، ایجاد دایره المعارف داخلی، مدیریت پروژه و ردیابی وظایف است. همچنین این پلتفرم دارای یک دستیار هوش مصنوعی اختصاصی است که می تواند به سوالات پاسخ دهد، مطالب را خلاصه کند و به کاربران در پیش نویس متون کمک کند.

Fireworks AI زیرساختی را برای اجرای برخی از مدل های وزن آزاد در Notion AI و تجزیه و تحلیل مکالمات ذخیره شده برای Insights فراهم می کند. این ویژگی به مدیران فضای کاری اجازه می دهد تا نحوه استفاده اعضای تیم از ابزارهای هوش مصنوعی را مشاهده و بررسی کنند. داده‌های افشا شده متعلق به مجموعه داده‌های ویژگی Insights است. قابلیتی که اکنون غیرفعال شده است.

حتما بخوانید: گوگل ضعف امنیتی حالت ناشناس کروم را برطرف می کند

Notion در به‌روزرسانی اعلامیه خود نوشت: «پس از تجزیه و تحلیل مجموعه داده‌ای که Fireworks AI در 8 نوامبر در اختیار ما قرار داد، متوجه شدیم که حاوی متن مکالمات کاربر با Notion AI است که برای ویژگی Insights استفاده شده است. در مورد اکثر فضاهای کاری آسیب دیده، امکان اختصاص دادن این مکالمات به کاربران یا فضاهای کاری خاص وجود نداشت. غیر قابل انتساب به این معنی است که متن مکالمات فاقد اطلاعاتی برای شناسایی کسانی است که آنها را نوشته اند یا به کدام فضای کاری تعلق دارند. همچنین این متن ها شامل نتایج فراخوانی ابزارها نمی شد. همراه با این اطلاعیه، Notion صفحه پرسش‌های متداول در مورد این حادثه منتشر کرده و تاکید کرده است که Fireworks طبق قرارداد متعهد شده است که هیچ داده‌ای را از Notion حفظ نکند.

برای خواندن بیشتر: آسیب‌پذیری امنیتی ChatGPT امکان سرقت اطلاعات کاربر را فراهم می‌کرد

اقدامات لازم برای مقابله با رخنه امنیتی در آتش بازی

به گفته Notion، کمتر از یک درصد از کاربران این پلتفرم تحت تاثیر این رخنه امنیتی قرار گرفته اند. صاحبان فضاهای کاری که ممکن است داده‌های آن‌ها افشا شده باشد، باید اطلاعات مربوط به حادثه را از طریق بخش بررسی حوادث امنیتی نسخه وب Notion دسک‌تاپ بررسی کنند و پیوندی را برای اعضای فضای کاری ارائه دهند تا همه بتوانند متن مکالمات خود را دانلود کنند. Notion به کاربران آسیب‌دیده توصیه کرده است که گذرواژه‌ها، کلیدهای API یا سایر اطلاعات احراز هویتی را که در چت‌های تحت تأثیر این حادثه وارد کرده‌اند، تغییر دهند. این شرکت تاکید کرده است که کاربرانی که نه خود و نه مدیر فضای کاری‌شان هیچ اطلاعیه‌ای درباره این حادثه دریافت نکرده‌اند، در حال حاضر نیازی به اقدام خاصی ندارند، زیرا به احتمال زیاد جزو گروه کاربران آسیب‌دیده نیستند.