بسیاری از مردم می دانند که برای انجام برخی کارها، به خصوص کارهای حساس، نباید زیاد به هوش مصنوعی اعتماد کرد. بنابراین تعجب آور نیست که بشنویم که یک کارآگاه پلیس در بریتانیا به اتهام استفاده از Copilot برای کمک به تصمیم گیری در پرونده های جنایی تحت تحقیق است.
این افسر ارشد پلیس در دربی‌شایر به دلیل اتهامات سوء رفتار حرفه‌ای جدی با تحقیقات اداره مستقل رفتار پلیس (IOPC) مواجه است. به گزارش بی بی سی، این تحقیقات در ماه اوت آغاز شد. پس از اینکه پلیس دربی‌شایر داوطلبانه موضوع را در 23 ژوئن، پس از بررسی داخلی استفاده کارآگاه از هوش مصنوعی، به دیده‌بان گزارش داد.
این اتهامات فراتر از استفاده از دستیار هوش مصنوعی مایکروسافت برای بررسی اشتباهات املایی و تصحیح دستور زبان است. گفته می شود که این افسر از هوش مصنوعی برای تدوین تصمیمات خط مشی، ارزیابی و مدیریت ریسک و توجیه تصمیمات اتخاذ شده در طول تحقیقات جنایی استفاده کرده است. وی همچنین متهم است که اطلاعات عملیاتی حساس و اطلاعات شخصی مربوط به پرونده ها را در این ابزار وارد کرده است.
پلیس دربی‌شایر استفاده از Copilot را برای افسران خود در می 2025 تأیید کرد. هدف از این مجوز کمک به وظایفی مانند تهیه گزارش‌ها و خلاصه‌سازی اطلاعات بود. با این حال، استفاده از این ابزار مشمول محدودیت هایی بود که ورود داده های عملیاتی، حساس یا شخصی را ممنوع می کرد.
امیلی بری، مدیر ارتباطات دیده بان رفتار پلیس مستقل بریتانیا، گفت:
این اتهامات جدی بوده و بررسی دقیق و مستقل آنها اقدامی ضروری و درست تلقی می شود.
انتظار می رود بازرسان استفاده کارآگاه از Copilot را بین ماه مه 2025 تا ژوئن 2026 بررسی کنند تا مشخص کنند که آیا استانداردهای حرفه ای نقض شده است یا خیر. این افسر اخطاریه ای مبنی بر تخلف حرفه ای جدی دریافت کرد، اما هنوز نتیجه نهایی در مورد تخلف وی اعلام نشده است.
استفاده از هوش مصنوعی برای تهیه اسناد پلیسی در کشورهای دیگر نیز رواج یافته بود. گزارش های قبلی حاکی از آن بود که برخی از ادارات پلیس آمریکا به استفاده از ابزار Exxon’s Draft One روی آورده اند. ابزاری که پیش نویس گزارش های پلیس را با تجزیه و تحلیل صداهای ضبط شده توسط دوربین های نصب شده بر روی لباس افسران تولید می کند. از افسران خواسته شد تا متون تولید شده را بررسی و تأیید کنند، اما نگرانی‌ها در مورد گنجاندن اطلاعات نادرست و افزایش اتکا به نوشتن خودکار وجود داشت.
در ابتدای سال جاری نمونه ای عجیب از اشتباه هوش مصنوعی در تهیه اسناد پلیس منتشر شد. در یوتا، یک گزارش تولید شده توسط هوش مصنوعی ادعا کرد که یک افسر پلیس به قورباغه تبدیل شده است. این خطا زمانی رخ داد که نرم‌افزار صدای انیمیشن انیمیشن پرنسس و قورباغه دیزنی را که در پس‌زمینه پخش می‌شد دریافت کرد و به اشتباه تفسیر کرد. خوشبختانه یک انسان قبل از ارسال گزارش متوجه این خطا شد.
این داستان نیز یادآور تجربه سامسونگ در سال 2023 است. زمانی که کارمندان شرکت اطلاعات مربوط به کدهای مخفی و جلسات داخلی را در ChatGPT وارد کردند. همانطور که در آن زمان گزارش شد، تلاش برای سرعت بخشیدن به عملیات روزانه منجر به برون سپاری داده های شرکت به یک سرویس خارجی شد.
به طور کلی، این مورد یک بار دیگر نگرانی هایی را در مورد استفاده از ابزارهای هوش مصنوعی در فعالیت های حساس ایجاد کرده است. به ویژه زمانی که تصمیمات مهم حقوقی و امنیتی یا اطلاعات محرمانه افراد و سازمان ها در میان باشد.
گفتگو در مورد این post