چالش بزرگ بعدی عوامل شخصی هوش مصنوعی؛ وب سایت ها اجازه ورود به سیستم را نمی دهند

عوامل شخصی هوش مصنوعی با یک مانع جدی برای مسدود شدن یا محدود شدن دسترسی توسط وب سایت ها و شرکت هایی مانند دلتا، eBay و Yelp مواجه شده اند.

بر اساس این گزارش سرویس هوش مصنوعی یک مرحله ایعوامل شخصی هوش مصنوعی، از جمله Meta Muse، Instinct و ChatGPT، موج جدیدی از هوش مصنوعی را در جامعه به راه انداخته اند. موجی که فراتر از پاسخگویی به سوالات کاربران است. این نمایندگی‌ها می‌توانند از طرف کاربر اقداماتی مانند رزرو پرواز، گرفتن میز رستوران، سفارش غذا و بسیاری از کارهای دیگر را انجام دهند، بدون اینکه کاربر دانش فنی لازم برای اجرای نماینده را در رایانه شخصی خود داشته باشد. با این حال، زمانی که وب سایت مورد نظر آنها فعالیت عامل هوش مصنوعی را مسدود می کند، کاربران این خدمات اغلب با مانع مواجه می شوند.

بیشتر بخوانید: شرکت OpenAI دوباره جامعه ریاضیات را شگفت زده کرد

عوامل هوش مصنوعی شخصی احراز هویت نمی شوند

آمازون عامل هوش مصنوعی Muse Meta را در وب سایت فروشگاه خود مسدود کرده است. اقدامی که باعث شده است Muse دیگر نتواند در کاتالوگ محصولات آمازون جستجو یا خرید کند. البته این مشکل به آمازون و میوز محدود نمی شود. گزارش ها و شکایات منتشر شده در شبکه های اجتماعی نشان می دهد که عوامل مختلف با محدودیت های مشابهی روبرو هستند. برخی از این بلوک ها، مانند آمازون، عمدی هستند، اما در موارد دیگر، عوامل قربانی مکانیسم های سنتی ضد ربات می شوند که وب سایت ها برای مقابله با هرزنامه ها و فعالیت های مخرب طراحی کرده اند. مشکل اصلی در اینجا این است که کاربر معمولاً نمی داند که مسدود کردن عامل یک اقدام عمدی توسط صاحب وب سایت بوده یا نتیجه عملکرد عادی سیستم های امنیتی سایت است. در نتیجه نارضایتی می تواند هم متوجه فروشگاه یا سرویس مقصد باشد و هم به سمت عاملی که قرار بود فرآیند مورد نظر را برای کاربر انجام دهد.

حتما بخوانید: شکایت عجیب مک دونالد; هوش مصنوعی قیمت ها را بالا می برد

برای مثال، چندین گزارش در رسانه های اجتماعی، کاربران گزارش دادند که Muse قادر به تکمیل خرید در وب سایت Walmart نیست. با این حال، یکی از سخنگویان والمارت اظهار داشت که این مسدودسازی عمدی نبوده است. این شرکت در واقع یکی از شرکای میوز است. والمارت اعلام کرده است که هدف این شرکت این است که در هر جایی که مشتریان هستند در دسترس باشد و این نقاط تماس اکنون شامل تجربیات مبتنی بر عوامل هوش مصنوعی است. یکی از موانعی که کاربران والمارت با آن روبرو هستند، سیستمی است که بازدیدکننده را ملزم می‌کند تا با کلیک کردن روی یک دکمه ثابت کند که انسان است. اگر تعامل نماینده با این صفحه مختل شود، احراز هویت ممکن است با شکست مواجه شود و عامل ممکن است از سایت اخراج شود. این نشانه یک مشکل بزرگ‌تر است: فناوری‌هایی که امروزه برای شناسایی انسان‌ها و محافظت از وب‌سایت‌ها در برابر ربات‌ها و هرزنامه‌ها استفاده می‌شوند، برای نسل جدید وب طراحی نشده‌اند، جایی که عوامل هوش مصنوعی نقش اصلی را ایفا می‌کنند.

راه حل چیست؟

برای حل این چالش، گروهی از شرکت‌های فعال در این صنعت، از جمله Meta، Walmart، Stripe، Sierra، Genesis، Rocket، NICE و Decagon، در حال کار بر روی یک استاندارد باز هستند که نحوه ارتباط عوامل هوش مصنوعی با مشاغل را تعریف می‌کند. هدف این استاندارد تشخیص عوامل قانونی است که از طرف کاربران عمل می کنند. متا اظهار داشت که این پروتکل به طور خاص بر ارتباطات نماینده به نماینده برای انجام معاملات تجاری آنلاین تمرکز خواهد کرد. اگرچه والمارت حداقل در تلاش است تا خدمات خود را از طریق عوامل هوش مصنوعی در دسترس قرار دهد، بسیاری از شرکت ها هنوز تمایلی به پذیرش این فناوری ندارند یا نتوانسته اند زیرساخت های خود را برای آن آماده کنند. رزرو پرواز یکی از کاربردهای اصلی عوامل هوش مصنوعی است، اما گزارش های کاربران متعدد نشان می دهد که بسیاری از خطوط هوایی درخواست های این نمایندگان را رد می کنند.

دلتا در پاسخ به سوالات ما اعلام کرد که اقداماتی را برای محافظت از مشتریان در برابر فعالیت‌های خودکار و غیرمجاز انجام می‌دهد و هرگونه پذیرش عوامل هوش مصنوعی باید با در نظر گرفتن “امنیت و تجربه مشتری” انجام شود. هینا چاودا، مدیر کل ارتباطات جهانی دلتا، گفت که این شرکت در حال حاضر هیچ مشارکت یا ادغامی ندارد که به یک عامل هوش مصنوعی شخص ثالث اجازه دهد از طرف مشتری در پلتفرم‌های دیجیتال دلتا جستجو یا رزرو پرواز کند، اما همچنان به بررسی نقش فناوری‌های جدید، از جمله عوامل هوش مصنوعی خارجی، در بهبود تعاملات مشتری با شرکت ادامه می‌دهد.

یونایتد موضع مستقیمی مانند دلتا اتخاذ نکرد، اما سخنگوی شرکت به شرایط استفاده از آن اشاره کرد که استفاده از ربات‌ها، خزنده‌ها، ابزارهای خودکار یا فرآیندهای دستی را برای نظارت یا کپی محتوای وب‌سایت یا هر هدف غیرمجاز دیگر بدون مجوز کتبی قبلی ممنوع می‌کند. یونایتد همچنین به سؤال بعدی درباره مسدود کردن عوامل خاصی مانند Muse پاسخ نداد.

در همین حال، گزارش‌های اولیه کاربران در رسانه‌های اجتماعی، از برندهای متعددی، از Yelp و eBay گرفته تا Zillow، Pizza Hut، Adidas و خطوط هوایی مختلف، به‌عنوان مسدودکننده دسترسی به عوامل هوش مصنوعی نام بردند. حتی برخی از کاربران بر این باورند که میزان این مسدودیت ها افزایش یافته است. برخی از کاربران ادعا کرده‌اند که eBay حساب‌هایشان را به دلیل استفاده از هوش مصنوعی مبتنی بر عامل به حالت تعلیق درآورده است، و کاربر دیگری گفت که گوگل این نماینده را زمانی که Instinct در حال تمیز کردن صندوق ورودی جیمیل آنها بود حذف کرده است.

اگرچه استفاده از عوامل برای رزرو جداول و انجام کارهای تکراری یکی از کاربردهای مهم این فناوری است، اما Yelp اعلام کرده است که ترافیک غیر انسانی را روی پلتفرم خود نمی پذیرد. مگر اینکه نماینده هزینه دسترسی به محتوا و داده های سرویس را از طریق برنامه مجوز داده Yelp پرداخت کرده باشد. در نتیجه، عاملی که تلاش می‌کند یک پیشنهاد دریافت کند، کاربر را به لیست انتظار اضافه کند، یا یک جدول را بدون مشارکت رسمی با Yelp رزرو کند، ممکن است نتواند این فرآیند را تکمیل کند. در میان شرکت های تاثیرگذار در این زمینه، Cloudflare جایگاه ویژه ای دارد. شرکتی که زیرساخت هایی را برای محافظت از وب سایت ها در برابر عوامل هوش مصنوعی و سایر فعالیت های خودکار فراهم می کند. برخی حدس می زنند که Cloudflare و دیگر شبکه های توزیع محتوا در حال حاضر ترافیک Muse را مختل کرده اند. این حدس و گمان مربوط به تغییر تنظیمات پیش‌فرض خزنده در 15 سپتامبر است که به وب‌سایت‌ها اجازه می‌دهد ربات‌هایی را که برای آموزش هوش مصنوعی استفاده می‌شوند مسدود کنند، در حالی که به ربات‌های دیگر اجازه می‌دهند. در نتیجه، برخی از وب‌سایت‌هایی که برای اهداف امنیتی ربات‌های هوش مصنوعی را مسدود می‌کردند، به مسدود کردن عوامل هوش مصنوعی در صفحات دارای تبلیغات روی آوردند.

بیشتر بخوانید: آسیب‌پذیری امنیتی Muse می‌تواند داده‌های حساس کاربران متا را افشا کند

با این حال، زمانی که از Cloudflare در مورد عوامل مسدود کننده مانند Muse پرسیده شد، Cloudflare اظهار داشت که در حال حاضر اطلاعات خاصی برای ارائه در این مورد ندارد و ما را به مرکز داده عمومی Cloudflare Radar ارجاع داد. رادار افزایش فعالیت ربات ها را نشان می دهد، اما قادر به تشخیص عوامل قانونی و ربات های مخرب نیست. از سوی دیگر، Cloudflare دارای منافع تجاری مستقیم در کنترل ترافیک هوش مصنوعی است. این شرکت اکنون بازاری ایجاد کرده است که ربات‌های هوش مصنوعی باید برای دسترسی به داده‌ها هزینه پرداخت کنند و اخیراً آزمایش یک مرورگر وب را که به طور خاص برای عوامل هوش مصنوعی طراحی شده است، آغاز کرده است. با توجه به سرعت تکامل در این زمینه، رویکرد متا در ایجاد همکاری مستقیم با برندها برای دسترسی به Muse، در کنار تلاش برای تدوین استانداردهای جدید، منطقی به نظر می رسد. این مدل به کاربران اطمینان می دهد که Muse در وب سایت های شرکای خود پذیرفته شده است و در صورت بروز مشکل، می توان آن را شناسایی و به عنوان یک باگ واقعی گزارش داد.

متا همچنین فهرستی از “اتصالات” یا شرکای Muse را در داخل برنامه نگهداری می کند. لیستی که به سرعت در حال گسترش است که هنوز بسیاری از شرکای جدید معرفی شده توسط متا را شامل نمی شود. با توجه به توسعه سریع Muse و افزودن ابزارهای شریک برای مشاغل کوچک، سازماندهی مجدد عمده لیست احتمالاً در پیش است. متا در مورد برنامه خود برای توسعه استاندارد جدید نیز تاکید کرده است که رد یک نماینده شخصی در عمل به معنای طرد مشتری پشت آن نماینده است. این شرکت معتقد است که همکاری با مشاغل برای رفع نگرانی های امنیتی و ایجاد قوانین واضح می تواند مسیری را ایجاد کند که هم برای کاربران و هم برای مشاغل خبرجو باشد. مسیری که در نهایت منجر به کنترل قابل پیش بینی بیشتر برای شرکت ها و تعامل کارآمدتر بین عوامل هوش مصنوعی می شود.