• تبلیغات
  • تماس با ما
یکشنبه, آذر ۱, ۱۴۰۵
  • ورود
خبرجو
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
خبرجو
بدون نتیجه
مشاهده تمام نتایج
صفحه اصلی فناوری

عوامل هوش مصنوعی می توانند شما را قربانی ایمیل های فیشینگ کنند

سامان پاکدل توسط سامان پاکدل
۲۷ مهر ۱۴۰۵
در فناوری
مدت زمان مطالعه: 1 دقیقه
0
عامل‌های هوش مصنوعی می توانند شما را به طعمه ایمیل‌های فیشینگ تبدیل کنند

گسترش عوامل هوش مصنوعی خطر حملات فیشینگ ایمیل بر اساس دستورات مخفی را افزایش داده است.

بر اساس این گزارش سرویس هوش مصنوعی یک مرحله ایشناسایی ایمیل های فیشینگ مشکوک معمولاً دشوار نیست. این پیام‌ها اغلب کاربران را با جعل هویت سازمان‌های قانونی یا وعده‌های پیشنهادی به ظاهر وسوسه‌انگیز اما غیرواقعی، به سرقت اطلاعات هویتی آنها سوق می‌دهند. با این حال، عامل هوش مصنوعی شما ممکن است خیلی متشخص نباشد.

شرکت امنیت سایبری Malwarebytes در مقاله ای جدید هشدار داده است که دستیاران هوش مصنوعی در برابر حملات تزریقی آسیب پذیر هستند. در این حملات، هکرها یا حتی عوامل هوش مصنوعی مخرب دستورالعمل های مخفی را در محتوای پیام ها تعبیه می کنند تا بر رفتار سیستم هوش مصنوعی قربانی تأثیر بگذارند.

بیشتر بخوانید: تب سرمایه گذاری هوش مصنوعی ممکن است فروکش کند

آسیب پذیری هوش مصنوعی در برابر ایمیل های فیشینگ

بر اساس توضیحات Malwarebytesاین دستورات اغلب به گونه ای پنهان می شوند که توسط انسان قابل خواندن نیستند، اما همچنان برای پردازش در دسترس سیستم هوش مصنوعی هستند. حل این مشکل با توصیه به کاربران برای بررسی دقیق ایمیل ها امکان پذیر نیست. شرکت های فناوری باید به دقت کنترل کنند که دستیاران هوش مصنوعی چگونه داده ها را غربال می کنند و اطلاعات مربوطه را از پیام های ایمیل استخراج می کنند.

Apollo Raines، توسعه‌دهنده سرویس بررسی کد مبتنی بر هوش مصنوعی ShipItClean، به Malwarebytes توضیح داد: «نقص اصلی این است که مدل نمی‌تواند بین متنی که باید بخواند و دستورالعمل‌هایی که باید دنبال کند، تمایز قائل شود. وی تاکید کرد: حذف محتوای پنهان قبل از ورود به مدل یک اقدام ضروری است و همه ارائه دهندگان این فناوری باید چنین مکانیزمی را اجرا کنند.

حتما بخوانید: بانک ها درهای خود را به روی عوامل هوش مصنوعی بستند

به گفته Raines، کاربرانی که نسبت به ایمیل‌های فیشینگ احتیاط می‌کنند باید رویکردی محتاطانه نسبت به دستیار هوش مصنوعی خود بی‌اعتماد کنند. آسیب پذیری مدل های هوش مصنوعی برای فرمان حملات تزریقی سال هاست که شناخته شده است. با این حال، گسترش ابزارهای دستیار هوش مصنوعی، مانند Meta’s Muse، می تواند این تهدید را به سطح جدی تری برساند.

عوامل مستقل می توانند زنجیره ای از وظایف را بدون نظارت انسان اجرا کنند و در نتیجه فرصت های بیشتری برای سوء استفاده از دستورات مخرب پنهان در محتوا ایجاد کنند. محققان قبلاً چنین نقصی را در مرورگرهای مجهز به هوش مصنوعی شناسایی کرده بودند. محصولاتی که البته هنوز نتوانسته اند جایگاه قابل توجهی در بازار پیدا کنند. همچنین در Moltbook، یک شبکه اجتماعی غیرمتعارف که برای عوامل هوش مصنوعی طراحی شده است، ربات‌هایی دیده شده‌اند که حملات تزریق فرمان علیه یکدیگر می‌فروشند.

راه حل چیست؟

اکنون که دستیارهای پیشرفته هوش مصنوعی وارد جریان اصلی استفاده میلیون‌ها نفر در سراسر جهان شده‌اند، خطر فریب این ابزارها توسط دستورات مخفی در ایمیل‌های فیشینگ می‌تواند بیشتر از همیشه باشد. برای کاهش این خطر، Malwarebytes توصیه می کند که حداقل در حال حاضر، نظارت انسانی بخشی از فرآیند استفاده از هوش مصنوعی باقی بماند. این شرکت گفت: «نیازی نیست ابزارهای هوش مصنوعی مورد استفاده برای مدیریت ایمیل را کنار بگذارید، اما باید در نظر بگیرید که چه وظایفی را به آن‌ها محول می‌کنید و چه مجوزهایی را به آن‌ها می‌دهید».

بیشتر بخوانید: آیا حملات سایبری هوش مصنوعی سیستم مالی جهان را از بین می برد؟

این توصیه به ویژه برای اقدامات حساس با پیامدهای مالی جدی، از جمله پرداخت‌ها و تغییر اطلاعات حساب پرداخت فروشنده، مهم است. Malwarebytes تاکید کرد که چنین اقداماتی باید مشروط به تایید انسان باشد.

این تهدید در یک لحظه حساس مطرح می شود. زمانی که تعداد زیادی از کاربران مایلند اطلاعات ورود به حساب ایمیل و اطلاعات کارت اعتباری خود را در اختیار عوامل هوش مصنوعی شرکت هایی قرار دهند که به افشای اطلاعات شخصی معروف هستند. در عین حال، پیشرفت در فناوری همچنین به کلاهبرداران مزیت قابل توجهی می دهد. Raines وضعیت را به عنوان یک “مسابقه تسلیحاتی” می بیند که در آن “هر ترفند جدیدی برای رمزگذاری محتوا یک حفره امنیتی جدید ایجاد می کند.”

پست قبلی

سیل مهرماه ۳.۵ همت به گلستان خسارت زد

پست‌ بعدی

واکنش روسیه به ادعای دست داشتن در ناآرامی‌های اروپا

سامان پاکدل

سامان پاکدل

مرتبط پست ها

وقتی هوش مصنوعی شغل شما را می‌گیرد، چه باید کرد؟ رئیس شرکت سازنده کلاود می‌گوید بازی کنید
فناوری

وقتی هوش مصنوعی شغل شما را در دست گرفت چه باید کرد؟ رئیس سازنده ابر می گوید بازی کن

۰۱ آذر ۱۴۰۵
وزیر کشاورزی درباره تکلیف جیره بندی نان تصریح کرد ماجرای
فناوری

وزیر کشاورزی درباره تکلیف جیره بندی نان تصریح کرد; ماجرای گرانی نان چیست؟

۰۱ آذر ۱۴۰۵
FC 27
فناوری

FC 27; بهترین گیم پلی چند سال اخیر یا یک «پرداخت به برد» گران قیمت؟

۰۱ آذر ۱۴۰۵
بازنشستگان تامین اجتماعی خواندند ثبت نام بیمه تکمیلی از این
فناوری

بازنشستگان تامین اجتماعی خواندند; ثبت نام بیمه تکمیلی از این مسیر انجام می شود

۰۱ آذر ۱۴۰۵
بریتانیا آسیب‌پذیری‌های امنیتی یخچال‌ها و فریزرها را برطرف کرد
فناوری

بریتانیا آسیب‌پذیری‌های امنیتی یخچال و فریزر را برطرف کرد

۰۱ آذر ۱۴۰۵
آغاز پرداخت حقوق کارکنان هدیه نقدی یک میلیون و
فناوری

آغاز پرداخت حقوق کارکنان / هدیه نقدی یک میلیون و 500 هزار تومانی

۰۱ آذر ۱۴۰۵
بارگذاری بیشتر
پست‌ بعدی
واکنش روسیه به ادعای دست داشتن در ناآرامی‌های اروپا

واکنش روسیه به ادعای دست داشتن در ناآرامی‌های اروپا

گفتگو در مورد این post

توصیه شده

فرشاد احمدزاده و همسرش کیانا عکس فوق رمانتیکی گرفتند.

عکس فوق العاده عاشقانه فرشاد احمدزاده و همسرش کیانا

4 سال پیش
حرکات فریبا نادری مناسب سن او نیست.

ویدئو/حرکات فریبا نادری در جشن تولدش که با سن او همخوانی نداشت!

3 سال پیش
گوشی خیس شده

چگونه گوشی خیس را از مرگ نجات دهیم؟

3 سال پیش
1714533822 عکس آرایش باورنکردنی این عروس و داماد به سبک شرک

عکس/ آرایش باورنکردنی این عروس و داماد به سبک شرک و فیونا

3 سال پیش

از دست ندهید

بورس عربستان سرخ‌پوش شد

بورس عربستان سرخ‌پوش شد

۰۱ آذر ۱۴۰۵
وقتی هوش مصنوعی شغل شما را می‌گیرد، چه باید کرد؟ رئیس شرکت سازنده کلاود می‌گوید بازی کنید

وقتی هوش مصنوعی شغل شما را در دست گرفت چه باید کرد؟ رئیس سازنده ابر می گوید بازی کن

۰۱ آذر ۱۴۰۵
وزیر کشاورزی درباره تکلیف جیره بندی نان تصریح کرد ماجرای

وزیر کشاورزی درباره تکلیف جیره بندی نان تصریح کرد; ماجرای گرانی نان چیست؟

۰۱ آذر ۱۴۰۵
معمای زنجیره ارزش همدان؛ چرا محصولات استراتژیک استان با نام

معمای زنجیره ارزش همدان؛ چرا محصولات استراتژیک استان با نام دیگران صادر می‌شوند؟

۰۱ آذر ۱۴۰۵

دیگر رسانه ها

اجاره خودرو

خبرجو تازه‌ترین اخبار در سراسر دنیا در حوره های مالی , فرهنگی , اقتصادی و ... را برای شما به اشتراک خواهد گذاشت.

ما را دنبال کنید

اخبار اخیر

بورس عربستان سرخ‌پوش شد

بورس عربستان سرخ‌پوش شد

۰۱ آذر ۱۴۰۵
وقتی هوش مصنوعی شغل شما را می‌گیرد، چه باید کرد؟ رئیس شرکت سازنده کلاود می‌گوید بازی کنید

وقتی هوش مصنوعی شغل شما را در دست گرفت چه باید کرد؟ رئیس سازنده ابر می گوید بازی کن

۰۱ آذر ۱۴۰۵

دسته بندی ها

  • ارز دیجیتال
  • اقتصاد و سرمایه
  • تناسب اندام
  • دسته‌بندی نشده
  • سلامتی
  • شیوه زندگی
  • فرهنگ و هنر
  • فناوری

همکاران

  • اخبار اقتصاد
  • تبلیغات
  • تماس با ما

خوش آمدید!

به حساب خود در زیر وارد شوید

رمز عبور را فراموش کرده اید؟

رمز عبور خود را بازیابی کنید

لطفا نام کاربری یا آدرس ایمیل خود را برای بازنشانی رمز عبور خود وارد کنید.

ورود به سیستم
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال