• تبلیغات
  • تماس با ما
سه شنبه, آبان ۲۶, ۱۴۰۵
  • ورود
خبرجو
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
خبرجو
بدون نتیجه
مشاهده تمام نتایج
صفحه اصلی فناوری

چینی ها محدودیت های چت ربات های هوش مصنوعی را به چالش کشیده اند

سامان پاکدل توسط سامان پاکدل
۱۱ دی ۱۴۰۲
در فناوری
مدت زمان مطالعه: 1 دقیقه
0
چینی ها محدودیت های چت ربات های هوش مصنوعی را

محققان دانشگاه فناوری نانیانگ (NTU) توانستند محدودیت‌های برخی از ربات‌های چت معروف هوش مصنوعی از جمله ChatGPT، Google Bard و Bing Chat را دور بزنند.

گزارش کردن تکناکآنها با اجرای روشی خاص به نام فرار از زندان، توانستند این سیستم ها را وادار به ارائه پاسخ های دقیق به سوالات مخرب کنند و به این ترتیب محدودیت های اخلاقی مدل های بزرگ زبانی (LLM) را بررسی کردند.

این پروژه تحقیقاتی تحت نظارت پروفسور لیو یانگ و با همکاری دانشجویان دکترای NTU، دنگ گلی و لیو یی، که مقاله‌ای در این زمینه نوشتند و رویکردهای بدیعی برای حمله تجربی ایجاد کردند، انجام شد.

روشی که محققان دانشگاه فناوری نانیانگ برای دور زدن محدودیت‌های چت ربات‌های هوش مصنوعی استفاده کردند، «Masterkey» نام دارد. این فرآیند دو مرحله ای ابتدا شامل مهندسی مجدد مکانیسم های دفاعی LLM توسط مهاجم می شود. سپس، با استفاده از داده‌های به‌دست‌آمده، LLM دیگری برای یادگیری تکنیک‌هایی برای دور زدن این محدودیت‌ها آموزش داده می‌شود. نتیجه ایجاد یک “Masterkey” است که می تواند برای حمله به چت ربات های محافظت شده LLM استفاده شود، حتی اگر آنها به روز رسانی های امنیتی را توسط توسعه دهندگان دریافت کنند.

نقطه ضعف هوش مصنوعی نقطه قوت آن است

پروفسور یانگ اظهار داشت که فرار از زندان به دلیل یادگیری و سازگاری چت ربات های LLM امکان پذیر شد. این ویژگی ها آنها را به هدفی برای حملات تبدیل می کند و به رقبا و حتی خود آنها اجازه می دهد تا به عنوان بردار حمله عمل کنند.

با این قابلیت‌ها، حتی یک هوش مصنوعی با لایه‌های حفاظتی متعدد و لیست‌های سیاه که برای جلوگیری از محتوای خشونت‌آمیز و مضر طراحی شده‌اند، می‌توانند توسط هوش مصنوعی دیگری که مخصوصاً برای این منظور آموزش دیده است، دور بزنند. کافی است هوش مصنوعی مهاجم از مکانیسم های دفاعی چت بات هوشمندتر باشد و بتواند ورودی هایی را از انسان برای تولید محتوای خشونت آمیز، غیراخلاقی یا مجرمانه دریافت کند.

ادعا شده است که یک “Masterkey” ساخته شده توسط محققان دانشگاه فناوری نانیانگ (NTU) سه برابر بیشتر از دستورات استاندارد در جیلبریک کردن چت ربات های LLM موثر است. یکی از نقاط قوت اصلی این روش توانایی آن در یادگیری از شکست ها و بهبود مستمر است که به آن اجازه می دهد تا به سرعت به تغییرات و به روز رسانی هایی که توسعه دهندگان اعمال می کنند واکنش نشان داده و خنثی کند.

دو روش نمونه برای آموزش هوش مصنوعی برای راه اندازی حملات توسط محققان فاش شده است: اولین تکنیک شامل ایجاد یک فرمان با افزودن یک فاصله بعد از هر کاراکتر برای دور زدن فیلترهای ممنوعه کلمه بود. تکنیک دوم شامل وادار کردن ربات چت برای پاسخ دادن به شخصیتی بدون محدودیت اخلاقی است. این دو روش به هوش مصنوعی اجازه می دهد تا از محدودیت ها و قوانین معمول فراتر رود.

دانشگاه فناوری نانیانگ (NTU) اطلاعاتی را منتشر کرده است که نشان می دهد محققان آن با ارائه دهندگان مختلف ربات چت هوش مصنوعی تماس گرفته اند تا داده های آزمایشی را به عنوان مدرکی برای اثبات توانایی آنها در فرار از زندان با موفقیت ارائه دهند. هدف از این فراخوان ها اطلاع رسانی به شرکت ها در مورد آسیب پذیری های موجود و همکاری برای بهبود امنیت است. بر این اساس، مقاله تحقیقاتی آنها برای ارائه در سمپوزیوم امنیت شبکه و سیستم های توزیع شده که قرار است در فوریه 2024 در سن دیگو برگزار شود پذیرفته شده است.

در عصری که استفاده از چت ربات‌های هوش مصنوعی در حال افزایش است، این تحقیق بر اهمیت آماده‌سازی مداوم ارائه‌دهندگان خدمات برای جلوگیری از سوء استفاده‌های مخرب تأکید می‌کند. در حالی که شرکت‌های بزرگ فناوری معمولاً زمانی که روش‌های دور زدن کشف و عمومی می‌شوند سریعاً چت‌بات‌های خود را اصلاح می‌کنند، توانایی Masterkey برای یادگیری مداوم و انجام جیلبریک‌های مکرر چالش‌برانگیز و ناراحت‌کننده توصیف شده است. این وضعیت نشان دهنده یک مسابقه تسلیحاتی مداوم بین توسعه دهندگان امنیتی و مهندسان هوش مصنوعی است.

هوش مصنوعی ابزار بسیار قدرتمندی است و در صورت استفاده مخرب می تواند مشکلات زیادی را به همراه داشته باشد. بنابراین، ضروری است که کاربرانی که از چت ربات‌های هوش مصنوعی استفاده می‌کنند، اقدامات حفاظتی مناسب را انجام دهند. امید است که تعاملات دانشگاه فناوری نانیانگ با سازندگان این فناوری ها منجر به مسدود شدن دسترسی به Jailbreak Masterkey و روش های مشابه شود.

پست چینی ها محدودیت های چت ربات های هوش مصنوعی را به چالش می کشند اولین بار در Oneknock – اخبار دنیای فناوری پدیدار شد. ظاهر شد.

پست قبلی

تعطیلی تالارهای مطالعه کتابخانه ملّی؛ ۱۳ دی :: ایران تحلیل

پست‌ بعدی

تقویم نجومی امروز دوشنبه ۱۱ دی ۱۴۰۲/ فال امروزتو ببین

سامان پاکدل

سامان پاکدل

مرتبط پست ها

اولین Googlebook جداشدنی Lenovo با نام Lenovo Googlebook Duet 13
فناوری

اولین Googlebook جداشدنی Lenovo با نام Lenovo Googlebook Duet 13 معرفی شد. احتمالا در ژانویه منتشر شده است

۲۶ آبان ۱۴۰۵
قیمت سیمان امروز 26 آبان 1405 بسته سیمان چند هزار
فناوری

قیمت سیمان امروز 26 آبان 1405; بسته سیمان چند هزار تومان بود؟

۲۶ آبان ۱۴۰۵
تصویری از لوگوی اینستاگرام
فناوری

قابلیت جدید اینستاگرام از سرقت و بازنشر ویدیوهای کاربران جلوگیری می کند

۲۶ آبان ۱۴۰۵
قیمت میلگرد امروز 26 آبان 1405 جدول
فناوری

قیمت میلگرد امروز 26 آبان 1405 + جدول

۲۶ آبان ۱۴۰۵
این ابرنواختر جعلی که اخترشناسان را به مدت 15 سال
فناوری

این ابرنواختر جعلی که اخترشناسان را به مدت 15 سال سردرگم کرده بود، سرانجام فاش شد

۲۶ آبان ۱۴۰۵
خبر خوش برای گروهی از کارمندان دولت
فناوری

خبر خوش برای گروهی از کارمندان دولت

۲۶ آبان ۱۴۰۵
بارگذاری بیشتر
پست‌ بعدی
تقویم نجومی امروز دوشنبه ۱۱ دی ۱۴۰۲/ فال امروزتو ببین

تقویم نجومی امروز دوشنبه ۱۱ دی ۱۴۰۲/ فال امروزتو ببین

گفتگو در مورد این post

توصیه شده

خطر فاسد شدن مواد غذایی (راهنمای انتخاب تعمیرکار معتبر یخچال در استان گیلان)

خطر فاسد شدن مواد غذایی (راهنمای انتخاب تعمیرکار معتبر یخچال در استان گیلان)

1 ماه پیش
1793790000 علت نشتی منهول پلی‌اتیلن چیست؟ بررسی اتصالات و کنترل آب‌بندی

علت نشتی منهول پلی‌اتیلن چیست؟ بررسی اتصالات و کنترل آب‌بندی

2 هفته پیش
دیدار ایران و فلسطین به احترام شهدای غزه با یک دقیقه سکوت آغاز می‌شود

دیدار ایران و فلسطین به احترام شهدای غزه با یک دقیقه سکوت آغاز می‌شود

3 سال پیش
دشمنان ناجوانمردانه از منبع قدرت ایران انتقام می‌گیرند

دشمنان ناجوانمردانه از منبع قدرت ایران انتقام می‌گیرند

3 سال پیش

از دست ندهید

اولین Googlebook جداشدنی Lenovo با نام Lenovo Googlebook Duet 13

اولین Googlebook جداشدنی Lenovo با نام Lenovo Googlebook Duet 13 معرفی شد. احتمالا در ژانویه منتشر شده است

۲۶ آبان ۱۴۰۵
قیمت سیمان امروز 26 آبان 1405 بسته سیمان چند هزار

قیمت سیمان امروز 26 آبان 1405; بسته سیمان چند هزار تومان بود؟

۲۶ آبان ۱۴۰۵
قرارداد جدید بیمه تکمیلی بازنشستگان تأمین اجتماعی از اول آذر

قرارداد جدید بیمه تکمیلی بازنشستگان تأمین اجتماعی از اول آذر اجرا می‌شود

۲۶ آبان ۱۴۰۵
تصویری از لوگوی اینستاگرام

قابلیت جدید اینستاگرام از سرقت و بازنشر ویدیوهای کاربران جلوگیری می کند

۲۶ آبان ۱۴۰۵

دیگر رسانه ها

اجاره خودرو

خبرجو تازه‌ترین اخبار در سراسر دنیا در حوره های مالی , فرهنگی , اقتصادی و ... را برای شما به اشتراک خواهد گذاشت.

ما را دنبال کنید

اخبار اخیر

اولین Googlebook جداشدنی Lenovo با نام Lenovo Googlebook Duet 13

اولین Googlebook جداشدنی Lenovo با نام Lenovo Googlebook Duet 13 معرفی شد. احتمالا در ژانویه منتشر شده است

۲۶ آبان ۱۴۰۵
قیمت سیمان امروز 26 آبان 1405 بسته سیمان چند هزار

قیمت سیمان امروز 26 آبان 1405; بسته سیمان چند هزار تومان بود؟

۲۶ آبان ۱۴۰۵

دسته بندی ها

  • ارز دیجیتال
  • اقتصاد و سرمایه
  • تناسب اندام
  • دسته‌بندی نشده
  • سلامتی
  • شیوه زندگی
  • فرهنگ و هنر
  • فناوری

همکاران

  • اخبار اقتصاد
  • تبلیغات
  • تماس با ما

خوش آمدید!

به حساب خود در زیر وارد شوید

رمز عبور را فراموش کرده اید؟

رمز عبور خود را بازیابی کنید

لطفا نام کاربری یا آدرس ایمیل خود را برای بازنشانی رمز عبور خود وارد کنید.

ورود به سیستم
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال