Entropic سیستمی برای نظارت بر فعالان ضد هوش مصنوعی و پیش بینی اعتراضات می سازد

آنتروپیک سیستمی برای نظارت بر اعتراضات ضد هوش مصنوعی و پیش بینی تهدیدها و برخی مکالمات ایجاد می کند کلود به پلیس نیز گزارش داده است.

به گزارش سرویس هوش مصنوعی مجردآمریکن پرسپکت برای اولین بار خبر مربوط به سیستم آنتروپیک را منتشر کرد.

این نشریه با مقامات ارشد امنیتی آنتروپیک گفتگو کرده و با بررسی آگهی های استخدام این شرکت تصویری از ابعاد این سامانه به دست آورده است.

به نوشته این نشریه، آنتروپیک علاوه بر رصد اعتراضات در اطراف دفاتر خود، رویکردی مشابه «پیشگیری از وقوع جرم قبل از وقوع» را برای شناسایی اغتشاشات احتمالی دنبال می کند.

برای نشان دادن این رویکرد، American Prospect به حادثه ای اشاره می کند که Keon Ellison و Zach Melvin، مدیران عملیات امنیتی در Anthropic، و James Neufeld، مدیر عامل Samdesk، گزارش دادند.

الیسون گفت: «سال گذشته، یکی از مدیران ما در حال سفر به یکی از شهرهای بزرگ بود که از طریق سامدسک اطلاعاتی درباره یک اعتراض برنامه ریزی شده دریافت کردیم. به گفته وی، زمان اعتراض به دلیل اشتباه در مجوزهای پلیس با یک ساعت تاخیر مواجه شد و سامدسک حدود 60 دقیقه زودتر به تیم امنیتی اطلاع داد که برگزارکنندگان زمان اعتراض را تغییر داده اند.

الیسون ادامه داد: «آن ساعت بسیار مهمی بود. بدون آن، مدیران ما از جلسات خود خارج می شدند و مستقیماً به مرکز ناآرامی ها می رفتند.

“آنچه می توانست به یک موقعیت بسیار استرس زا تبدیل شود تا حد زیادی با شناسایی اولیه از طریق Samdesk و ارائه این اطلاعات مدیریت شد.”

نظارت اولیه بر اعتراضات

فراتر از پیش بینی اعتراضات، مواردی نیز وجود داشته است که آنتروپیک مکالمات با چت ربات هوش مصنوعی کلود خود را به پلیس گزارش داده است.

با وجود افزایش درخواست ها برای تقویت مکانیسم های ایمنی مدل های زبان بزرگ، رویکرد آنتروپیک در این زمینه مشکوک توصیف شده است.

استاندارد سانفرانسیسکو در ماه آگوست گزارش داد که آنتروپیک پس از آن که مردی در سانفرانسیسکو به کلود گفت که اسلحه دارد و مدیر عامل شرکت، داریو آمودی را در معرض اسلحه قرار داد، آنتروپیک موضوع را به پلیس گزارش داد.

با این حال، زمانی که آنتروپیک این مکالمه را به پلیس منطقه خلیج سانفرانسیسکو گزارش داد، شرکت از انتشار رونوشت های این مرد به پلیس خودداری کرد.

آمریکن پرسپکت آن را گزارشی بدون شواهد مشخص مبنی بر تخلف توصیف کرد.

بیشتر بخوانید: Entropic کنترل کلیدهای رمزنگاری را به مشتریان ارائه داد

حرکت از واکنش به پیش بینی تهدیدات

مدیر امنیت آنتروپیک درباره هدف این رویکرد گفت: هدف انتقال عملیات از دریافت اطلاعات واکنشی به جمع آوری اطلاعات پیشگیرانه، پیش بینی کننده و فعال برای تعامل و مدیریت تهدیدات است.

بر اساس این توضیحات، Entropic قصد دارد با استفاده از اطلاعات جمع آوری شده، تهدیدات بالقوه را قبل از وقوع شناسایی و مدیریت کند.

این رویکرد شامل نظارت بر فعالیت های اعتراضی در اطراف دفاتر شرکت و بررسی اطلاعات مربوط به تهدیدات احتمالی است.

بیشتر بخوانید: یک میلیاردمین GPT-6 Astra OpenAI در کدگذاری مغلوب Fable 5.1 آنتروپیک شد.