عوامل هوش مصنوعی می توانند شما را قربانی ایمیل های فیشینگ کنند

گسترش عوامل هوش مصنوعی خطر حملات فیشینگ ایمیل بر اساس دستورات مخفی را افزایش داده است.

بر اساس این گزارش سرویس هوش مصنوعی یک مرحله ایشناسایی ایمیل های فیشینگ مشکوک معمولاً دشوار نیست. این پیام‌ها اغلب کاربران را با جعل هویت سازمان‌های قانونی یا وعده‌های پیشنهادی به ظاهر وسوسه‌انگیز اما غیرواقعی، به سرقت اطلاعات هویتی آنها سوق می‌دهند. با این حال، عامل هوش مصنوعی شما ممکن است خیلی متشخص نباشد.

شرکت امنیت سایبری Malwarebytes در مقاله ای جدید هشدار داده است که دستیاران هوش مصنوعی در برابر حملات تزریقی آسیب پذیر هستند. در این حملات، هکرها یا حتی عوامل هوش مصنوعی مخرب دستورالعمل های مخفی را در محتوای پیام ها تعبیه می کنند تا بر رفتار سیستم هوش مصنوعی قربانی تأثیر بگذارند.

بیشتر بخوانید: تب سرمایه گذاری هوش مصنوعی ممکن است فروکش کند

آسیب پذیری هوش مصنوعی در برابر ایمیل های فیشینگ

بر اساس توضیحات Malwarebytesاین دستورات اغلب به گونه ای پنهان می شوند که توسط انسان قابل خواندن نیستند، اما همچنان برای پردازش در دسترس سیستم هوش مصنوعی هستند. حل این مشکل با توصیه به کاربران برای بررسی دقیق ایمیل ها امکان پذیر نیست. شرکت های فناوری باید به دقت کنترل کنند که دستیاران هوش مصنوعی چگونه داده ها را غربال می کنند و اطلاعات مربوطه را از پیام های ایمیل استخراج می کنند.

Apollo Raines، توسعه‌دهنده سرویس بررسی کد مبتنی بر هوش مصنوعی ShipItClean، به Malwarebytes توضیح داد: «نقص اصلی این است که مدل نمی‌تواند بین متنی که باید بخواند و دستورالعمل‌هایی که باید دنبال کند، تمایز قائل شود. وی تاکید کرد: حذف محتوای پنهان قبل از ورود به مدل یک اقدام ضروری است و همه ارائه دهندگان این فناوری باید چنین مکانیزمی را اجرا کنند.

حتما بخوانید: بانک ها درهای خود را به روی عوامل هوش مصنوعی بستند

به گفته Raines، کاربرانی که نسبت به ایمیل‌های فیشینگ احتیاط می‌کنند باید رویکردی محتاطانه نسبت به دستیار هوش مصنوعی خود بی‌اعتماد کنند. آسیب پذیری مدل های هوش مصنوعی برای فرمان حملات تزریقی سال هاست که شناخته شده است. با این حال، گسترش ابزارهای دستیار هوش مصنوعی، مانند Meta’s Muse، می تواند این تهدید را به سطح جدی تری برساند.

عوامل مستقل می توانند زنجیره ای از وظایف را بدون نظارت انسان اجرا کنند و در نتیجه فرصت های بیشتری برای سوء استفاده از دستورات مخرب پنهان در محتوا ایجاد کنند. محققان قبلاً چنین نقصی را در مرورگرهای مجهز به هوش مصنوعی شناسایی کرده بودند. محصولاتی که البته هنوز نتوانسته اند جایگاه قابل توجهی در بازار پیدا کنند. همچنین در Moltbook، یک شبکه اجتماعی غیرمتعارف که برای عوامل هوش مصنوعی طراحی شده است، ربات‌هایی دیده شده‌اند که حملات تزریق فرمان علیه یکدیگر می‌فروشند.

راه حل چیست؟

اکنون که دستیارهای پیشرفته هوش مصنوعی وارد جریان اصلی استفاده میلیون‌ها نفر در سراسر جهان شده‌اند، خطر فریب این ابزارها توسط دستورات مخفی در ایمیل‌های فیشینگ می‌تواند بیشتر از همیشه باشد. برای کاهش این خطر، Malwarebytes توصیه می کند که حداقل در حال حاضر، نظارت انسانی بخشی از فرآیند استفاده از هوش مصنوعی باقی بماند. این شرکت گفت: «نیازی نیست ابزارهای هوش مصنوعی مورد استفاده برای مدیریت ایمیل را کنار بگذارید، اما باید در نظر بگیرید که چه وظایفی را به آن‌ها محول می‌کنید و چه مجوزهایی را به آن‌ها می‌دهید».

بیشتر بخوانید: آیا حملات سایبری هوش مصنوعی سیستم مالی جهان را از بین می برد؟

این توصیه به ویژه برای اقدامات حساس با پیامدهای مالی جدی، از جمله پرداخت‌ها و تغییر اطلاعات حساب پرداخت فروشنده، مهم است. Malwarebytes تاکید کرد که چنین اقداماتی باید مشروط به تایید انسان باشد.

این تهدید در یک لحظه حساس مطرح می شود. زمانی که تعداد زیادی از کاربران مایلند اطلاعات ورود به حساب ایمیل و اطلاعات کارت اعتباری خود را در اختیار عوامل هوش مصنوعی شرکت هایی قرار دهند که به افشای اطلاعات شخصی معروف هستند. در عین حال، پیشرفت در فناوری همچنین به کلاهبرداران مزیت قابل توجهی می دهد. Raines وضعیت را به عنوان یک “مسابقه تسلیحاتی” می بیند که در آن “هر ترفند جدیدی برای رمزگذاری محتوا یک حفره امنیتی جدید ایجاد می کند.”