روآن هوارد جونز، محقق امنیتی اعلام کرد که عوامل هوش مصنوعی OpenAI وب سایت آمار کنفرانس تجارت و توسعه سازمان ملل (UNCTAD) را بیش از 16000 بار بین آوریل تا ژوئن اسکن کردند.
بر اساس این گزارش سرویس هوش مصنوعی یک مرحله ایاگرچه این حادثه در سطح هک اخیر Hugging Face یا حملات اخیر علیه وب سایت های دولتی ایالات متحده نیست، اما نمونه آزاردهنده دیگری از رفتار عوامل هوش مصنوعی است که برای انجام یک وظیفه از چارچوب های معمول خود فراتر می روند.
بیشتر بخوانید: گزارش جدیدی از نقش ChatGPT در پرونده تیراندازی Tumblr Ridge منتشر شد
حمله به UNCTAD
حتما بخوانید: هوش مصنوعی هزینه درمان در بیمارستان ها را افزایش داده است
طبق گفته هاوارد جونز، عوامل هوش مصنوعی OpenAI ممکن است وظیفه بازیابی داده های عمومی مربوط به «شاخص ظرفیت تولید» (PCI) را از طریق API وب سایت آماری کنفرانس سازمان ملل متحد در زمینه تجارت و توسعه داشته باشند.UNCTADstat) برای دریافت با وجود این، عوامل دسترسی مستقیم به API نداشتند و محدودیتهای موجود در ابزارهای HTTP که استفاده میکردند توانایی استخراج دادهها از UNCTADstat را کاهش داد.
بیشتر بخوانید: حالت صوتی ChatGPT به برنامه ها متصل می شود. تاییدیه ها هنوز در دست شماست
نحوه کار عوامل هوش مصنوعی OpenAI
این عوامل OpenAI در نهایت راهی برای دور زدن این محدودیتها و شروع به استخراج دادهها از وبسایت پیدا کردند، اما همچنان با خطا مواجه شدند. در این مرحله، رفتار عوامل هوش مصنوعی از رویکردی خلاقانه به رویکردی فریبنده تغییر کرد. نمایندگان فرض کردند که خطاها ناشی از فیلتری است که درخواست های آنها را شناسایی می کند، که وجود نداشت. بنابراین آنها شروع به پنهان کردن رفتار خود کردند. آنها در نهایت متوجه شدند که می توانند از بازی XSS گوگل که یک آموزش برای یادگیری اسکریپت های متقابل سایت است، برای رسیدن به هدف خود استفاده کنند. عوامل هوش مصنوعی به تدریج به روش های تهاجمی تر برای دسترسی به داده های سازمان ملل روی آورده اند.
گفتگو در مورد این post