شرکت هایی مانند دلتا، آمازون و چندین بانک بزرگ دسترسی عوامل هوش مصنوعی به خدمات آنلاین خود را به دلیل نگرانی های امنیتی محدود کرده اند.
به گزارش سرویس هوش مصنوعی مجردشرکت های بزرگ فناوری مانند OpenAI، Meta و Google در تلاش هستند تا استفاده از عوامل هوش مصنوعی را گسترش دهند. این ابزارها می توانند با کمترین دخالت کاربر در وب جستجو کنند و بسیاری از کارهای آنلاین را به صورت خودکار انجام دهند. با وجود این، تعداد مشاغلی که دسترسی این نمایندگان را به خدمات خود محدود می کنند در حال افزایش است.
این محدودیت ها می تواند برنامه های کاربران را برای سپردن وظایفی مانند رزرو سفر و مدیریت مالی به دستیاران هوشمند مختل کند. به عنوان مثال، خطوط هوایی دلتا از پذیرش رزروهای انجام شده توسط عوامل هوش مصنوعی خودداری می کند. بانک JPMorgan Chase و Charles Schwab Financial Services نیز اعلام کردهاند که دسترسی رباتهای خودکار به حسابهای مشتریان را به دلیل نگرانیهای امنیتی محدود کردهاند.
عوامل هوش مصنوعی در آمازون و Yelp با موانع جدیدی روبرو هستند
این محدودیت ها نه تنها مربوط به خدمات بانکی و رزرو سفر است، بلکه شامل دسترسی عوامل هوش مصنوعی به داده های کسب و کار نیز می شود. به عنوان مثال، پلتفرم Yelp اعلام کرده است که این ابزارها باید مجوز تجاری بگیرند و برای استفاده از اطلاعات آن هزینه ای بپردازند.
در همین حال، آمازون سیاست سختگیرانه تری برای جلوگیری از خریدهای خودکار دارد. این شرکت علاوه بر مسدود کردن استارتاپ عامل تدارکات هوش مصنوعی Perplexity، سال گذشته علیه آن شکایت کرد. آمازون ادعا می کند که Perplexity با وجود دریافت هشدارهای متعدد به دسترسی خودکار به وب سایت فروشگاه ادامه می دهد. به گزارش Verge، آمازون تاکید کرده است که بارها از این استارتاپ خواسته است تا فعالیت ربات خود را در پلتفرم آمازون متوقف کند.
بیشتر بخوانید: چرا عامل هوش مصنوعی OpenAI بدون اجازه از کیف پول اتریوم خارج شد؟
کسبوکارها بین سهولت استفاده و خطرات عملکرد خودکار هوش مصنوعی درگیر هستند
برخی از کاربران همچنین گزارش داده اند که عوامل هوش مصنوعی دیگر قادر به فعالیت در وب سایت های Cars.com و Amtrak نیستند. این گزارشها احتمال محدودیتهای جدید در دسترسی ابزارهای خودکار به این خدمات را افزایش داده است، اگرچه هنوز مشخص نیست که آیا این اختلالات به دلیل سیاستهای جدید شرکت است یا دلایل فنی دیگری دارد.
چالش اصلی تنها به توانایی فنی هوش مصنوعی محدود نمی شود. یک عامل هوشمند ممکن است بتواند یک بلیط هواپیما پیدا کند، محصول مناسب را برای خرید انتخاب کند، یا بخش های مختلف وب سایت بانک را بررسی کند. با این حال، انجام نهایی این فعالیت ها به مجوز و مجوز دسترسی از ارائه دهندگان خدمات بستگی دارد. بنابراین، حتی پیشرفته ترین عوامل هوش مصنوعی بدون همکاری وب سایت ها نمی توانند تمام وظایف کاربر را به طور مستقل انجام دهند.
بیشتر بخوانید: مامور هوش مصنوعی متهم به حذف فصل دوم یک برنامه تلویزیونی شد
دامنه این محدودیت ها زمانی افزایش می یابد که عوامل هوش مصنوعی به اطلاعات شخصی، حساب های بانکی یا سیستم های پرداخت دسترسی پیدا کنند. فعالیت مستقل این ابزارها بدون نظارت کافی انسانی می تواند امنیت اطلاعات کاربران را به خطر بیندازد و کسب و کارها را با مشکلات جدی مواجه کند.
نگرانی در مورد عملکرد هوش مصنوعی به مسائل امنیتی محدود نمی شود. پیش از این در ایرلند، انتشار اطلاعات نامعتبر توسط چت بات ها واکنش هایی را به همراه داشت. نمایندگان ایرلندی پارلمان اروپا این موضوع را با وزیر بهداشت در میان گذاشتند، پس از آن که برخی از چت بات ها زنان دارای بارداری حساس را به وب سایت های ضد سقط جنین هدایت کردند. این موضوع نگرانی هایی را در مورد صحت اطلاعات ارائه شده توسط هوش مصنوعی و پیامدهای استفاده از آن در موضوعات حساس ایجاد کرد.
بیشتر بخوانید: عامل جدید Rabbit AI به دستگاه R1 نیاز ندارد
















گفتگو در مورد این post