• تبلیغات
  • تماس با ما
دوشنبه, آبان ۱۸, ۱۴۰۵
  • ورود
خبرجو
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
خبرجو
بدون نتیجه
مشاهده تمام نتایج
صفحه اصلی فناوری

عوامل هوش مصنوعی می توانند شما را قربانی ایمیل های فیشینگ کنند

سامان پاکدل توسط سامان پاکدل
۲۷ مهر ۱۴۰۵
در فناوری
مدت زمان مطالعه: 1 دقیقه
0
عامل‌های هوش مصنوعی می توانند شما را به طعمه ایمیل‌های فیشینگ تبدیل کنند

گسترش عوامل هوش مصنوعی خطر حملات فیشینگ ایمیل بر اساس دستورات مخفی را افزایش داده است.

بر اساس این گزارش سرویس هوش مصنوعی یک مرحله ایشناسایی ایمیل های فیشینگ مشکوک معمولاً دشوار نیست. این پیام‌ها اغلب کاربران را با جعل هویت سازمان‌های قانونی یا وعده‌های پیشنهادی به ظاهر وسوسه‌انگیز اما غیرواقعی، به سرقت اطلاعات هویتی آنها سوق می‌دهند. با این حال، عامل هوش مصنوعی شما ممکن است خیلی متشخص نباشد.

شرکت امنیت سایبری Malwarebytes در مقاله ای جدید هشدار داده است که دستیاران هوش مصنوعی در برابر حملات تزریقی آسیب پذیر هستند. در این حملات، هکرها یا حتی عوامل هوش مصنوعی مخرب دستورالعمل های مخفی را در محتوای پیام ها تعبیه می کنند تا بر رفتار سیستم هوش مصنوعی قربانی تأثیر بگذارند.

بیشتر بخوانید: تب سرمایه گذاری هوش مصنوعی ممکن است فروکش کند

آسیب پذیری هوش مصنوعی در برابر ایمیل های فیشینگ

بر اساس توضیحات Malwarebytesاین دستورات اغلب به گونه ای پنهان می شوند که توسط انسان قابل خواندن نیستند، اما همچنان برای پردازش در دسترس سیستم هوش مصنوعی هستند. حل این مشکل با توصیه به کاربران برای بررسی دقیق ایمیل ها امکان پذیر نیست. شرکت های فناوری باید به دقت کنترل کنند که دستیاران هوش مصنوعی چگونه داده ها را غربال می کنند و اطلاعات مربوطه را از پیام های ایمیل استخراج می کنند.

Apollo Raines، توسعه‌دهنده سرویس بررسی کد مبتنی بر هوش مصنوعی ShipItClean، به Malwarebytes توضیح داد: «نقص اصلی این است که مدل نمی‌تواند بین متنی که باید بخواند و دستورالعمل‌هایی که باید دنبال کند، تمایز قائل شود. وی تاکید کرد: حذف محتوای پنهان قبل از ورود به مدل یک اقدام ضروری است و همه ارائه دهندگان این فناوری باید چنین مکانیزمی را اجرا کنند.

حتما بخوانید: بانک ها درهای خود را به روی عوامل هوش مصنوعی بستند

به گفته Raines، کاربرانی که نسبت به ایمیل‌های فیشینگ احتیاط می‌کنند باید رویکردی محتاطانه نسبت به دستیار هوش مصنوعی خود بی‌اعتماد کنند. آسیب پذیری مدل های هوش مصنوعی برای فرمان حملات تزریقی سال هاست که شناخته شده است. با این حال، گسترش ابزارهای دستیار هوش مصنوعی، مانند Meta’s Muse، می تواند این تهدید را به سطح جدی تری برساند.

عوامل مستقل می توانند زنجیره ای از وظایف را بدون نظارت انسان اجرا کنند و در نتیجه فرصت های بیشتری برای سوء استفاده از دستورات مخرب پنهان در محتوا ایجاد کنند. محققان قبلاً چنین نقصی را در مرورگرهای مجهز به هوش مصنوعی شناسایی کرده بودند. محصولاتی که البته هنوز نتوانسته اند جایگاه قابل توجهی در بازار پیدا کنند. همچنین در Moltbook، یک شبکه اجتماعی غیرمتعارف که برای عوامل هوش مصنوعی طراحی شده است، ربات‌هایی دیده شده‌اند که حملات تزریق فرمان علیه یکدیگر می‌فروشند.

راه حل چیست؟

اکنون که دستیارهای پیشرفته هوش مصنوعی وارد جریان اصلی استفاده میلیون‌ها نفر در سراسر جهان شده‌اند، خطر فریب این ابزارها توسط دستورات مخفی در ایمیل‌های فیشینگ می‌تواند بیشتر از همیشه باشد. برای کاهش این خطر، Malwarebytes توصیه می کند که حداقل در حال حاضر، نظارت انسانی بخشی از فرآیند استفاده از هوش مصنوعی باقی بماند. این شرکت گفت: «نیازی نیست ابزارهای هوش مصنوعی مورد استفاده برای مدیریت ایمیل را کنار بگذارید، اما باید در نظر بگیرید که چه وظایفی را به آن‌ها محول می‌کنید و چه مجوزهایی را به آن‌ها می‌دهید».

بیشتر بخوانید: آیا حملات سایبری هوش مصنوعی سیستم مالی جهان را از بین می برد؟

این توصیه به ویژه برای اقدامات حساس با پیامدهای مالی جدی، از جمله پرداخت‌ها و تغییر اطلاعات حساب پرداخت فروشنده، مهم است. Malwarebytes تاکید کرد که چنین اقداماتی باید مشروط به تایید انسان باشد.

این تهدید در یک لحظه حساس مطرح می شود. زمانی که تعداد زیادی از کاربران مایلند اطلاعات ورود به حساب ایمیل و اطلاعات کارت اعتباری خود را در اختیار عوامل هوش مصنوعی شرکت هایی قرار دهند که به افشای اطلاعات شخصی معروف هستند. در عین حال، پیشرفت در فناوری همچنین به کلاهبرداران مزیت قابل توجهی می دهد. Raines وضعیت را به عنوان یک “مسابقه تسلیحاتی” می بیند که در آن “هر ترفند جدیدی برای رمزگذاری محتوا یک حفره امنیتی جدید ایجاد می کند.”

پست قبلی

سیل مهرماه ۳.۵ همت به گلستان خسارت زد

پست‌ بعدی

واکنش روسیه به ادعای دست داشتن در ناآرامی‌های اروپا

سامان پاکدل

سامان پاکدل

مرتبط پست ها

قیمت میلگرد امروز 18 آبان 1405 بازار آهن در مسیر
فناوری

قیمت میلگرد امروز 18 آبان 1405; بازار آهن در مسیر ثبات یا نزول؟

۱۸ آبان ۱۴۰۵
نمای نزدیک‌تر و باکیفیت‌تر از هنرمند طراح در حال کار روی تبلت گرافیکی بزرگ، که در آن مدل سه‌بعدی یک قطار مدرن به رنگ سفید، قرمز و آبی از صفحه نمایش خارج شده است.
فناوری

دیزنی و ادوبی در حال همکاری برای توسعه هوش مصنوعی اختصاصی هستند

۱۸ آبان ۱۴۰۵
قیمت دلار امروز دوشنبه 27 آبان 1405 آخرین نرخ ارز
فناوری

قیمت دلار امروز دوشنبه 27 آبان 1405; آخرین نرخ ارز در بازار آزاد اعلام شد

۱۸ آبان ۱۴۰۵
نصب اشتباه چرخ‌های جلو و عقب خودروی BYD Da Tang نگرانی‌های ایمنی ایجاد کرد
فناوری

نصب نادرست چرخ های جلو و عقب خودروی BYD Da Tang نگرانی های ایمنی را افزایش داده است.

۱۸ آبان ۱۴۰۵
قیمت طلا و سکه امروز 18 آبان 1405 سکه امامی
فناوری

قیمت طلا و سکه امروز 18 آبان 1405; سکه امامی چند میلیون تومان بود؟

۱۸ آبان ۱۴۰۵
طراحی جدید بخش جستجو و بهبود تشخیص چهره در آخرین
فناوری

طراحی جدید بخش جستجو و بهبود تشخیص چهره در آخرین نسخه بتا ویندوز 11

۱۸ آبان ۱۴۰۵
بارگذاری بیشتر
پست‌ بعدی
واکنش روسیه به ادعای دست داشتن در ناآرامی‌های اروپا

واکنش روسیه به ادعای دست داشتن در ناآرامی‌های اروپا

گفتگو در مورد این post

توصیه شده

خطری که متقاضیان پژو پارس را تهدید می کند

خطری که متقاضیان پژو پارس را تهدید می کند

3 سال پیش
1700671612 چرا شرکت OpenAI این‌قدر مهم است؟

چرا شرکت OpenAI این‌قدر مهم است؟

3 سال پیش
جلو-بازو-اسپایدر-تک-خم-تک-دمبل-جفت-دست

آموزش حرکات ورزشی ساعد عنکبوت تک خم تک دمبل جفت دست

2 سال پیش
ادعای آمریکا و انگلیس علیه ایران در شورای امنیت

ادعای آمریکا و انگلیس علیه ایران در شورای امنیت

3 سال پیش

از دست ندهید

قیمت میلگرد امروز 18 آبان 1405 بازار آهن در مسیر

قیمت میلگرد امروز 18 آبان 1405; بازار آهن در مسیر ثبات یا نزول؟

۱۸ آبان ۱۴۰۵
تورم جهانی ادامه خواهد داشت

۴۰.۵۵ تریلیون دلار؛ وقتی بدهی از بودجه ارتش جلو می‌زند

۱۸ آبان ۱۴۰۵
نمای نزدیک‌تر و باکیفیت‌تر از هنرمند طراح در حال کار روی تبلت گرافیکی بزرگ، که در آن مدل سه‌بعدی یک قطار مدرن به رنگ سفید، قرمز و آبی از صفحه نمایش خارج شده است.

دیزنی و ادوبی در حال همکاری برای توسعه هوش مصنوعی اختصاصی هستند

۱۸ آبان ۱۴۰۵
قیمت دلار امروز دوشنبه 27 آبان 1405 آخرین نرخ ارز

قیمت دلار امروز دوشنبه 27 آبان 1405; آخرین نرخ ارز در بازار آزاد اعلام شد

۱۸ آبان ۱۴۰۵

دیگر رسانه ها

اجاره خودرو

خبرجو تازه‌ترین اخبار در سراسر دنیا در حوره های مالی , فرهنگی , اقتصادی و ... را برای شما به اشتراک خواهد گذاشت.

ما را دنبال کنید

اخبار اخیر

قیمت میلگرد امروز 18 آبان 1405 بازار آهن در مسیر

قیمت میلگرد امروز 18 آبان 1405; بازار آهن در مسیر ثبات یا نزول؟

۱۸ آبان ۱۴۰۵
تورم جهانی ادامه خواهد داشت

۴۰.۵۵ تریلیون دلار؛ وقتی بدهی از بودجه ارتش جلو می‌زند

۱۸ آبان ۱۴۰۵

دسته بندی ها

  • ارز دیجیتال
  • اقتصاد و سرمایه
  • تناسب اندام
  • دسته‌بندی نشده
  • سلامتی
  • شیوه زندگی
  • فرهنگ و هنر
  • فناوری

همکاران

  • اخبار اقتصاد
  • تبلیغات
  • تماس با ما

خوش آمدید!

به حساب خود در زیر وارد شوید

رمز عبور را فراموش کرده اید؟

رمز عبور خود را بازیابی کنید

لطفا نام کاربری یا آدرس ایمیل خود را برای بازنشانی رمز عبور خود وارد کنید.

ورود به سیستم
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال