بانک های بزرگ آمریکایی پس از شناسایی عوامل هوش مصنوعی در حساب های مشتریان و تلاش برای انجام تراکنش ها، دسترسی به این ابزارها را محدود می کنند..
به گزارش سرویس هوش مصنوعی مجردنگرانی اصلی این است که بانک ها همیشه نمی توانند تشخیص دهند که آیا یک عامل هوش مصنوعی بر اساس دستورالعمل های کاربر عمل می کند یا بدون اجازه او عمل می کند.
بانک های بزرگ دسترسی عوامل هوش مصنوعی را محدود می کنند
بر اساس گزارش Axios، بانک هایی مانند مورگان استنلی، بانک آمریکا، جی پی مورگان و ولز فارگو با چالش تشخیص کاربران واقعی از ربات های غیرمجاز روبرو هستند. به همین دلیل، برخی از این موسسات دسترسی عوامل هوش مصنوعی به پلتفرم های خود را مسدود کرده اند یا شرایط خدمات خود را برای پوشش فعالیت این ابزارها تغییر می دهند.
عوامل هوش مصنوعی و دستیاران هوشمند ممکن است با اجازه کاربر و با استفاده از اطلاعات ورود به حساب کاربری به حساب بانکی دسترسی پیدا کنند. اما در بسیاری از موارد این کار با مقررات بانک ها سازگاری ندارد. سیاست های بانک معمولاً مشتریان را ملزم می کند که کنترل حساب خود را حفظ کنند و اطلاعات ورود خود را با دیگران به اشتراک نگذارند.
نگرانی مهم‌تر زمانی ایجاد می‌شود که یک عامل هوش مصنوعی، با دسترسی به یک حساب، پول خرج می‌کند یا وجوهی را بین حساب‌های مختلف بدون دریافت دستورالعمل‌های صریح از مالک انتقال می‌دهد. حتی مواردی وجود داشته است که عامل هوش مصنوعی مستقیماً با بانک تماس گرفته و بدون دستور مستقیم کاربر اقداماتی را انجام داده است. زیرا انجام وظیفه محوله را ضروری می دانست.
بیشتر بخوانید: اولین حمله باج افزار مبتنی بر هوش مصنوعی همچنان به انسان ها متکی بود
وقتی هوش مصنوعی برای تکمیل یک کار از اختیارات خود فراتر می رود
برای درک این خطر، موقعیتی را در نظر بگیرید که در آن کاربر از عامل هوش مصنوعی می خواهد کالایی را خریداری کند، اما کارت اعتباری او اعتبار کافی ندارد. نماینده ممکن است به حساب بانکی کاربر مراجعه کند و از حساب دیگری که موجودی کافی برای تکمیل خرید دارد، پول منتقل کند. حتی اگر کاربر صریحاً اجازه استفاده از آن موجودی را نداده باشد.
این مثال نشان می دهد که عامل هوش مصنوعی ممکن است هدف کلی کاربر را به درستی درک کند، اما برای دستیابی به آن، تصمیماتی خارج از اختیارات تعیین شده اتخاذ کنید. به همین دلیل، تعدادی از بانک های آمریکایی دسترسی عوامل هوش مصنوعی شخص ثالث به سیستم های خود را محدود می کنند.
با این حال، بانک ها می دانند که مشتریان ممکن است بخواهند از این ابزارها برای بررسی و نظارت بر وضعیت مالی خود استفاده کنند. به همین دلیل، برخی از مؤسسات دسترسی «فقط خواندنی» را فراهم کرده اند یا در حال حرکت به سمت آن هستند. قابلیتی که به عامل هوش مصنوعی اجازه می دهد اطلاعات حساب را مشاهده کند، اما تراکنش انجام ندهد یا تغییراتی در حساب ایجاد کند.
بیشتر بخوانید: چرا عامل هوش مصنوعی OpenAI بدون اجازه از کیف پول اتریوم خارج شد؟
افزایش استفاده از عوامل هوش مصنوعی و نگرانی از خطاهای آنها
این محدودیت ها در شرایطی اعمال می شود که استفاده از عوامل هوش مصنوعی در حال افزایش است. این ابزارها می توانند وظایف مختلفی را به صورت خودکار انجام دهند، اما گاهی اوقات از اختیارات خود فراتر می روند، مرتکب اشتباه می شوند یا بدون دستورالعمل خاصی اقداماتی انجام می دهند که عواقب جدی دارد.
به عنوان مثال، یک عامل هوش مصنوعی بدون نظارت اخیراً نسخه ویرایش شده یک برنامه تلویزیونی را که قرار بود چند هفته بعد پخش شود، به طور کامل حذف کرد و در نهایت باعث شد برنامه از زمان پخش خارج شود. حذف پایگاه داده ها و پوشه ها نیز از جمله خطاهای گزارش شده در مورد عوامل هوش مصنوعی است. دسترسی نامحدود این ابزارها به حساب های بانکی می تواند خطرات مشابهی را به همراه داشته باشد، اما با پیامدهای مالی مستقیم.
بیشتر بخوانید: OpenAI از رفتار غیرمنتظره چندین عامل هوش مصنوعی دیگر خبر داد
بانک ها برای سناریوهای حیاتی هوش مصنوعی آماده می شوند
بانک ها برای سناریوهای بحرانی آماده می شوند
موسسات مالی تجربه زیادی در به کارگیری فناوری های جدید و در عین حال حفاظت از زیرساخت های حیاتی خود دارند. به گفته یکی از کارمندان سابق امنیت OpenAI، مزیتی که آزمایشگاه‌های هوش مصنوعی لزوماً ندارند.
با وجود این تجربه، بانک ها همچنان نگران سرعت توسعه هوش مصنوعی هستند. آنها می ترسند که توانایی های این فناوری سریعتر از ظرفیت آنها برای کنترل و مدیریت آن رشد کند. به همین دلیل، برخی نهادها خود را برای بدترین سناریوهای ممکن آماده می کنند. حتی سناریوهای مربوط به وقوع یک اتفاق فاجعه بار مرتبط با هوش مصنوعی و اقدامات لازم پس از آن.
در چنین شرایطی چالش اصلی بانک‌ها یافتن تعادل بین استفاده از مزایای عوامل هوش مصنوعی و حفظ امنیت حساب‌های مشتریان است. به خصوص زمانی که این ابزارها نه تنها می توانند اطلاعات را بخوانند، بلکه در مورد جابجایی و خرج کردن پول نیز تصمیمات مستقلی بگیرند.
گفتگو در مورد این post