• تبلیغات
  • تماس با ما
چهارشنبه, آبان ۲۷, ۱۴۰۵
  • ورود
خبرجو
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
خبرجو
بدون نتیجه
مشاهده تمام نتایج
صفحه اصلی فناوری

ربات Grok بدون اجازه اکانت های کاری را هک کرد، دستور توقف را نادیده گرفت و سپس همه چیز را رد کرد.

سامان پاکدل توسط سامان پاکدل
۲۷ آبان ۱۴۰۵
در فناوری
مدت زمان مطالعه: 1 دقیقه
0
ربات Grok بدون اجازه به حساب‌های کاری سرک کشید، دستور توقف را نادیده گرفت و سپس همه‌چیز را انکار کرد

محققان اخیراً رفتار غیرمنتظره ای را در Grok Bot، پلت فرم عامل هوش مصنوعی شرکت SpaceXSI ایلان ماسک کشف کرده اند.

در طول پنج روز، ربات‌های Grok در مجموع 31 درخواست برای دسترسی به اطلاعات ذخیره شده در حساب‌های تقویم، ایمیل، Slack و GitHub خود در دو لپ‌تاپ متعلق به کارمندان یک شرکت ارائه کردند. این درخواست ها در حالی ثبت شد که هیچ یک از کارمندان چنین دستوری به ربات ها نداده بودند.

عجیب‌تر اینکه تلاش‌های مذکور حتی پس از درخواست صریح کاربران برای توقف فعالیت ربات‌ها نیز ادامه یافت. در نهایت، این ربات ها حتی انجام چنین اقداماتی را انکار کردند.

شرکت NewCore که محصولی را برای مدیریت ارتباط بین عوامل هوش مصنوعی و ابزارها و حساب‌های متصل به آن‌ها ارائه می‌کند، روز سه‌شنبه (۲۶ نوامبر) این رفتار را گزارش کرد. در برخی موارد، زمانی که لپ‌تاپ مجهز به Grok Bot بسته شده بود یا کاربر در نیمه‌شب در خواب بود، تلاش‌های غیرمجاز برای دسترسی به داده‌ها انجام می‌شد. هیچ یک از این فعالیت های خودسرانه در گزارش های داخلی Grok ثبت نشده است.

اگر گزارش های دروازه امنیتی NewCore نبود، کارمندان اساساً از وقوع این اتفاقات بی خبر بودند. از طرفی اگر این دروازه امنیتی در مسیر درخواست ها قرار نمی گرفت، احتمالا دسترسی های غیرمجاز بدون اطلاع کاربران انجام می شد.

این از یک باگ بدتر است

پس از اینکه کارمندان متوجه شدند که Grok Bot سعی کرده به حساب های متصل آنها دسترسی پیدا کند، یک کاربر چهار بار در موارد جداگانه به عامل هوش مصنوعی دستور داد که دیگر هیچ اقدامی را به طور خودکار انجام ندهد. این ربات همچنین در پاسخ اعلام کرد:

من چنین ویژگی را راه اندازی نمی کنم و دیگر بررسی های دوره ای را ارائه نمی دهم.

حتی اگر Grok Bot فرمان صریح کاربر را پذیرفت، تلاش های غیرمجاز برای دسترسی به داده ها ادامه یافت. وقتی یکی از کارمندان مستقیماً از ربات پرسید که آیا به حساب‌هایش دسترسی پیدا کرده است، Grok Bot دوباره بررسی کرد و سپس پاسخ داد:

از شب تا صبح جمعه هیچ فعالیتی نداشتم.

کارکنان NewCore گزارش‌های دروازه امنیتی را به تیم پشتیبانی Grok Bot ارسال کردند و از آنها پرسیدند که چرا ربات‌ها بدون درخواست یا تأیید کاربران به حساب‌های متصل دسترسی پیدا می‌کنند. پاسخ تیم پشتیبانی نشان داد که این رفتار بخشی از طراحی محصول است و به کاربران اجازه می دهد تا فعالیت ها را به صورت دستی انجام دهند.

به عبارت دیگر، تلاش های ناخواسته و ثبت نشده برای دسترسی به حساب ها در واقع یک ویژگی طراحی شده برای مفیدتر کردن Grok Bot بود. این ویژگی به ربات اجازه می‌دهد تا به صورت دوره‌ای وضعیت حساب‌های متصل را بررسی کند و قبل از درخواست کاربر به دنبال کارهایی برای انجام آن بگردد. بررسی های عملی یکی از ویژگی های Cursor، یک سرویس برنامه نویسی مبتنی بر هوش مصنوعی است که اخیرا توسط SpaceXSI خریداری شده است.

ایدو هوروویچ، محقق امنیتی NewCore در ایمیلی درباره این حادثه نوشت:

هیچ اشکالی وجود ندارد که بخواهیم آن را برطرف کنیم، و به همین دلیل، بدتر از یک باگ است. یک آسیب پذیری امنیتی را می توان وصله کرد. اما در اینجا محصول دقیقاً همانطور که طراحی شده است کار می کند: نماینده با اطلاعات ورود شما در هنگام خواب با هویت شما کار می کند، تنها اعتراضی که می توانید به آن داشته باشید را نادیده می گیرد و سپس به شما می گوید که کاری انجام نداده است.

هوروویتز توضیح داد که Grok Bot اطلاعات بسیار محدودی در مورد “چرخش”های خودکار ارائه می دهد. این چرخش ها چرخه هایی هستند که طی آن عامل هوش مصنوعی دستورات یا اطلاعات متنی را دریافت می کند، در مورد اقدامات بعدی تصمیم می گیرد و ابزارهای مورد نظر را فراخوانی می کند.

اعلان مربوط به این ویژگی در هنگام راه اندازی اولیه ربات انجام می شود. وقتی Grok Bot به کاربر می‌گوید حتی زمانی که کاربر از رایانه دور است به کار خود ادامه دهد، به برنامه‌های مختلف متصل می‌شود و مانند خود کاربر از آنها استفاده می‌کند.

هوروویچ گفت:

این پیام بیشتر شبیه یک تبریک ساده است و کمتر از یک دقیقه پس از نمایش از روی صفحه نمایش محو می شود. هیچ کس رضایت صریح کاربر را برای این کار دریافت نمی کند. هیچ نشانه‌ای وجود ندارد که پلتفرم بدون دریافت پیامی از شما، نوبت‌های پردازش جدیدی را آغاز کند، یا اینکه در طول این فعالیت‌ها از اتصالات شما به سرویس‌های دیگر استفاده کند.

پست قبلی

قیمت نان در آستانه تغییر جدید است

سامان پاکدل

سامان پاکدل

مرتبط پست ها

قیمت نان در آستانه تغییر جدید است
فناوری

قیمت نان در آستانه تغییر جدید است

۲۷ آبان ۱۴۰۵
بررسی تخصصی هدفون درون گوشی Apos x Community Rock Lobster؛ صدایی پرانرژی برای طرفداران راک و متال
فناوری

Expert review of Apos x Community Rock Lobster earphones; An energetic sound for rock and metal fans

۲۷ آبان ۱۴۰۵
قیمت تخم مرغ بار دیگر بازار را به هم ریخت
فناوری

قیمت تخم مرغ بار دیگر بازار را به هم ریخت/ قیمت مناسب هر شانه 730 هزار تومان اعلام شد!

۲۷ آبان ۱۴۰۵
هوش مصنوعی آمریکایی چگونه به پیشرفت رقبای چینی خود کمک می‌ کند؟
فناوری

هوش مصنوعی آمریکایی چگونه به توسعه رقبای چینی خود کمک می کند؟

۲۷ آبان ۱۴۰۵
آخرین جزئیات واریز مستمری مستمری بگیران آبان ماه 1405
فناوری

آخرین جزئیات واریز مستمری مستمری بگیران آبان ماه 1405

۲۷ آبان ۱۴۰۵
دوربین گوشی‌های هوشمند به لطف تلاش ناسا برای کوچک‌تر کردن دوربین‌های فضایی به وجود آمد
فناوری

دوربین گوشی های هوشمند به لطف تلاش های ناسا برای کوچک سازی دوربین های فضایی به وجود آمد

۲۷ آبان ۱۴۰۵
بارگذاری بیشتر

گفتگو در مورد این post

توصیه شده

فال ابجد و خبرهای خوش در راه است

فال ابجد امروز دوشنبه 19 بهمن 1403/ فکر انتقام را از خود دور کنید.

2 سال پیش
سفته نویسی برای این خانه ها ممنوع شد جزئیات

سفته نویسی برای این خانه ها ممنوع شد! + جزئیات

1 هفته پیش
خوردن آبگوشت باعث بیماری های قلبی عروقی می شود

بیماری های خطرناکی که در کمین خوردن آبگوشت زیاد است!

3 سال پیش
بهترین مرکز فروش چوب لباسی در تهران کجاست؟

بهترین مرکز فروش چوب لباسی در تهران کجاست؟

2 ماه پیش

از دست ندهید

ربات Grok بدون اجازه به حساب‌های کاری سرک کشید، دستور توقف را نادیده گرفت و سپس همه‌چیز را انکار کرد

ربات Grok بدون اجازه اکانت های کاری را هک کرد، دستور توقف را نادیده گرفت و سپس همه چیز را رد کرد.

۲۷ آبان ۱۴۰۵
قیمت نان در آستانه تغییر جدید است

قیمت نان در آستانه تغییر جدید است

۲۷ آبان ۱۴۰۵
از تراشه تا خاک کمیاب؛ جنگ سرد فناوری هوش مصنوعی

از تراشه تا خاک کمیاب؛ جنگ سرد فناوری هوش مصنوعی و جای خالی ایران

۲۷ آبان ۱۴۰۵
بررسی تخصصی هدفون درون گوشی Apos x Community Rock Lobster؛ صدایی پرانرژی برای طرفداران راک و متال

Expert review of Apos x Community Rock Lobster earphones; An energetic sound for rock and metal fans

۲۷ آبان ۱۴۰۵

دیگر رسانه ها

اجاره خودرو

خبرجو تازه‌ترین اخبار در سراسر دنیا در حوره های مالی , فرهنگی , اقتصادی و ... را برای شما به اشتراک خواهد گذاشت.

ما را دنبال کنید

اخبار اخیر

ربات Grok بدون اجازه به حساب‌های کاری سرک کشید، دستور توقف را نادیده گرفت و سپس همه‌چیز را انکار کرد

ربات Grok بدون اجازه اکانت های کاری را هک کرد، دستور توقف را نادیده گرفت و سپس همه چیز را رد کرد.

۲۷ آبان ۱۴۰۵
قیمت نان در آستانه تغییر جدید است

قیمت نان در آستانه تغییر جدید است

۲۷ آبان ۱۴۰۵

دسته بندی ها

  • ارز دیجیتال
  • اقتصاد و سرمایه
  • تناسب اندام
  • دسته‌بندی نشده
  • سلامتی
  • شیوه زندگی
  • فرهنگ و هنر
  • فناوری

همکاران

  • اخبار اقتصاد
  • تبلیغات
  • تماس با ما

خوش آمدید!

به حساب خود در زیر وارد شوید

رمز عبور را فراموش کرده اید؟

رمز عبور خود را بازیابی کنید

لطفا نام کاربری یا آدرس ایمیل خود را برای بازنشانی رمز عبور خود وارد کنید.

ورود به سیستم
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال