Entropic سیستمی برای نظارت بر فعالان ضد هوش مصنوعی و پیش بینی اعتراضات می سازد

به گزارش سرویس هوش مصنوعی مجردآمریکن پرسپکت برای اولین بار خبر مربوط به سیستم آنتروپیک را منتشر کرد.

این نشریه با مقامات ارشد امنیتی آنتروپیک گفتگو کرده و با بررسی آگهی های استخدام این شرکت تصویری از ابعاد این سامانه به دست آورده است.

به نوشته این نشریه، آنتروپیک علاوه بر رصد اعتراضات در اطراف دفاتر خود، رویکردی مشابه «پیشگیری از وقوع جرم قبل از وقوع» را برای شناسایی اغتشاشات احتمالی دنبال می کند.

برای نشان دادن این رویکرد، American Prospect به حادثه ای اشاره می کند که Keon Ellison و Zach Melvin، مدیران عملیات امنیتی در Anthropic، و James Neufeld، مدیر عامل Samdesk، گزارش دادند.

الیسون گفت: «سال گذشته، یکی از مدیران ما در حال سفر به یکی از شهرهای بزرگ بود که از طریق سامدسک اطلاعاتی درباره یک اعتراض برنامه ریزی شده دریافت کردیم. به گفته وی، زمان اعتراض به دلیل اشتباه در مجوزهای پلیس با یک ساعت تاخیر مواجه شد و سامدسک حدود 60 دقیقه زودتر به تیم امنیتی اطلاع داد که برگزارکنندگان زمان اعتراض را تغییر داده اند.

الیسون ادامه داد: «آن ساعت بسیار مهمی بود. بدون آن، مدیران ما از جلسات خود خارج می شدند و مستقیماً به مرکز ناآرامی ها می رفتند.

“آنچه می توانست به یک موقعیت بسیار استرس زا تبدیل شود تا حد زیادی با شناسایی اولیه از طریق Samdesk و ارائه این اطلاعات مدیریت شد.”

نظارت اولیه بر اعتراضات

فراتر از پیش بینی اعتراضات، مواردی نیز وجود داشته است که آنتروپیک مکالمات با چت ربات هوش مصنوعی کلود خود را به پلیس گزارش داده است.

با وجود افزایش درخواست ها برای تقویت مکانیسم های ایمنی مدل های زبان بزرگ، رویکرد آنتروپیک در این زمینه مشکوک توصیف شده است.

استاندارد سانفرانسیسکو در ماه آگوست گزارش داد که آنتروپیک پس از آن که مردی در سانفرانسیسکو به کلود گفت که اسلحه دارد و مدیر عامل شرکت، داریو آمودی را در معرض اسلحه قرار داد، آنتروپیک موضوع را به پلیس گزارش داد.

با این حال، زمانی که آنتروپیک این مکالمه را به پلیس منطقه خلیج سانفرانسیسکو گزارش داد، شرکت از انتشار رونوشت های این مرد به پلیس خودداری کرد.

آمریکن پرسپکت آن را گزارشی بدون شواهد مشخص مبنی بر تخلف توصیف کرد.

بیشتر بخوانید: Entropic کنترل کلیدهای رمزنگاری را به مشتریان ارائه داد