زنی از چت بات کلود به عنوان دفتر خاطرات استفاده کرد و توسط پلیس دستگیر شد

یک زن در فلوریدا پس از اینکه سیستم های امنیتی Anthropic ورودی های او را در دفتر خاطرات دیجیتال کلود شناسایی کردند، دستگیر شد. او در این پست ها ظاهرا از برنامه ریزی برای ارتکاب جرم صحبت کرده است.

این زن آمریکایی از چت ربات کلود Entropic مانند یک دفترچه خاطرات شخصی استفاده کرد و افکار روزانه خود را یادداشت کرد. با این حال، در یک پست، او ادعا می‌کند که یک کلانتری فلوریدا را تهدید کرده است. سیستم های امنیتی آنتروپیک این پیام ها را شناسایی کرده و متعاقبا منجر به دستگیری وی شد.

این زن به عنوان کارلی میشل هلر، 30 ساله، ساکن بونیتا اسپرینگز، فلوریدا شناسایی شده است. او ظاهراً از کلود برای ضبط افکار خود استفاده کرده است، اما در یکی از پست های خود در 26 سپتامبر، او در مورد برنامه ریزی برای حمله به دفتر کلانتر شهرستان لی نوشت.

بر اساس گزارش دستگیری منتشر شده توسط خبرگزاری وینک، متن این پیام به شرح زیر است:

من می خواهم همین الان به کلانتری شلیک کنم.

روز بعد، حدود ساعت 1:07 بامداد، پیام دیگری از همان حساب کلود ارسال شد. هلر در این پیام ظاهرا به داشتن اسلحه جدید اشاره کرده و نوشته است:

این 100% آخرین فرصت است، تمام شد. امروز یه اسلحه جدید گرفتم

با توجه به ماهیت تهدیدات ایجاد شده، مکالمه هلر با کلود توسط سیستم های امنیتی Entropic شناسایی شد و برای بررسی بیشتر به تیم انسانی ارجاع شد. بر اساس این گزارش دستگیری، این تیم پس از بررسی موضوع با نیروی انتظامی تماس گرفتند.

پس از هشدار، مأموران به خانه هلر در بونیتا اسپرینگز رفتند و بدون هیچ گونه حادثه ای او را بازداشت کردند. پس از آن، یک کارآگاه اطلاعاتی از اداره کلانتری شهرستان لی تحقیقات را به عهده گرفت. هلر با اتهامات کتبی تهدید به خشونت مواجه است.

انتروپیک چگونه پلیس را مطلع کرد؟

چت ربات‌های هوش مصنوعی مانند Claude و ChatGPT برای ارائه پاسخ‌های خبرجو و تعامل مکالمه و در عین حال حفظ سطحی از حریم خصوصی کاربر طراحی شده‌اند. با این حال، این پلتفرم‌ها دارای سیستم‌های ایمنی برای شناسایی محتوای بالقوه خطرناک یا ممنوع هستند. در برخی موارد، این سیستم‌ها یک مکالمه را برای بررسی بیشتر علامت‌گذاری می‌کنند و اگر محتوا نگرانی‌های جدی‌تری ایجاد کند، متخصصان انسانی وارد عمل می‌شوند.

سیاست‌های آنتروپیک استفاده از محصولات آن را برای تسهیل یا ترویج خشونت و ارعاب ممنوع می‌کند. این شرکت همچنین مکانیزمی برای رسیدگی به درخواست‌های دولت و سازمان‌های مجری قانون دارد. Entropic می گوید که در شرایط اضطراری محدود که خطر مرگ یا آسیب جدی بدنی وجود دارد، ممکن است اطلاعات کاربر را در اختیار مجریان قانون قرار دهد.

با این حال، این روند به این معنی نیست که هر مکالمه نگران کننده با یک چت ربات هوش مصنوعی به طور خودکار به پلیس گزارش می شود. با این حال، اگر یک گفتگو شامل یک تهدید جدی و معتبر برای شرکت باشد، مکانیسم‌های ایمنی و واکنش اضطراری Entropy می‌توانند وارد عمل شوند.

در این مورد، پیام های تهدید کننده ابتدا توسط سیستم های امنیتی خودکار Entropic شناسایی شدند. سپس با توجه به ماهیت تهدیدات احتمالی، مکالمه برای تحقیقات به یک تیم انسانی ارجاع شد و طبق گزارش دستگیری، این تیم با نیروی انتظامی تماس گرفتند.