• تبلیغات
  • تماس با ما
چهارشنبه, آبان ۲۷, ۱۴۰۵
  • ورود
خبرجو
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
خبرجو
بدون نتیجه
مشاهده تمام نتایج
صفحه اصلی فناوری

محققان هندی OpenAI را با استفاده از Claude هک کردند و 6000 دلار جایزه دریافت کردند

سامان پاکدل توسط سامان پاکدل
۲۸ شهریور ۱۴۰۵
در فناوری
مدت زمان مطالعه: 2 دقیقه
0
پژوهشگران هندی‌ با استفاده از Claude به OpenAI نفوذ کردند و ۶۰۰۰ دلار پاداش گرفتند
1789778952 608 محققان هندی OpenAI را با استفاده از Claude هک کردند

محققان هندی الاصل شرکت امنیت سایبری Hacktron با کمک هوش مصنوعی کلود توانستند به کدهای OpenAI و حساب های ChatGPT این شرکت دسترسی پیدا کنند. آن‌ها پس از شناسایی و گزارش آسیب‌پذیری‌هایی که منجر به رخنه شد، یک جایزه ۶۵۰۰ دلاری از OpenAI دریافت کردند.

در شرایطی که نگرانی ها در مورد تهدیدات احتمالی هوش مصنوعی برای انسان ها افزایش یافته است، داستان جدید بار دیگر توانایی مدل های هوش مصنوعی را در حوزه امنیت سایبری نشان می دهد. OpenAI قبلا مواردی را منتشر کرده بود که در آن عوامل هوش مصنوعی این شرکت سعی در نفوذ به سیستم های مختلف داشتند. این بار، محققان هندی الاصل Hacktron نشان داده اند که می توان از Claude برای شناسایی و بهره برداری از ضعف امنیتی در زیرساخت OpenAI استفاده کرد.

به گفته هکترون، این تحقیق توسط هارش جیسوال با همکاری موهان پدپاتی و راهول ماینی رهبری شد. این سه محقق تحقیقات شرکت های فعال در زمینه هوش مصنوعی پیشرفته را برای یافتن حفره های امنیتی آغاز کرده بودند. هکترون اعلام کرد، با استفاده از مدل‌های کلود، محققان توانستند چندین حساب ChatGPT متعلق به کارمندان OpenAI را کنترل کنند. این دسترسی دسترسی به برخی از خدمات متصل از جمله GitHub را فراهم می کرد. سپس محققان از حساب Codex یک کارمند برای ایجاد یک درخواست کشش در مخزن کد OpenAI استفاده کردند. کل این فرآیند در کمتر از 72 ساعت انجام شد.

Hacktron همچنین جزئیات این حادثه را در شبکه اجتماعی X منتشر کرد. این شرکت امنیت سایبری گفت که بلافاصله موضوع را به OpenAI گزارش داده است. OpenAI همچنین این آسیب‌پذیری را در عرض 14 ساعت اصلاح کرد و پس از بررسی بیشتر، 6500 دلار به عنوان پاداش کشف باگ به Hacktron پرداخت کرد.

چگونه محققان به OpenAI نفوذ کردند؟

طبق توضیحات Hacktron، این حمله نتیجه ترکیب یک ضعف در پیکربندی سیستم هویت OpenAI، به ویژه زیرساخت SSO یا SSO، با یک آسیب‌پذیری اجرای کد از راه دور در Discourse بود. نرم افزار مورد استفاده برای جامعه آنلاین OpenAI.

محققان هندی OpenAI را با استفاده از Claude هک کردند

این مشکل کاربرانی را تحت تأثیر قرار داد که از طریق زیرساخت SSO شرکت وارد جامعه OpenAI در community.openai.com می شدند. به گفته محققان، Discourse هنگام پردازش تصاویر آپلود شده از طریق آیفون دارای نقص امنیتی بود و محققان توانستند از این ضعف برای نفوذ به سیستم های مرتبط با انجمن استفاده کنند.

این آسیب‌پذیری می‌توانست در نهایت اجازه دهد تا حساب‌های ChatGPT و Codex بدون نیاز به اقدام کاربر کنترل شوند. از آنجا که این حساب ها ممکن است به سرویس های دیگر متصل شوند، دامنه بالقوه دسترسی به ابزارهایی مانند GitHub، Slack و ایمیل نیز گسترش می یابد.

با این حال، Hacktron بیان کرد که برای جلوگیری از دسترسی به اطلاعات حساس، محققان تنها از حساب کاربری در معرض خطر برای اثبات دسترسی و ایجاد یک درخواست کشش استفاده کردند و کد داخلی OpenAI را بررسی نکردند. این تیم همچنین جدول زمانی کاملی از کشف، بهره برداری و گزارش آسیب پذیری را منتشر کرد.

نقش کلود در این تحقیق

به گفته Hacktron، هوش مصنوعی کلود نقش مهمی در فرآیند تحقیق ایفا کرد. محققان ابتدا از Claude Opus 4.8 برای آزمایش این آسیب‌پذیری استفاده کردند، اما این مدل نتوانست یک اکسپلویت قابل اعتماد تولید کند.

پس از انتشار Claude Opus 5 شرایط تغییر کرد و محققان با کمک این مدل توانستند اکسپلویت را عملیاتی کنند و به دسترسی مورد نظر برسند. Hacktron اعلام کرده است که به عنوان یک شرکت امنیت سایبری، در برنامه تأیید سایبری Anthropic برای انجام تحقیقات امنیتی مجاز شرکت می کند.

1789778952 608 محققان هندی OpenAI را با استفاده از Claude هک کردند

پس از گزارش این آسیب پذیری، OpenAI اعلام کرد:

ما از محققان برای تماس با ما و به اشتراک گذاشتن یافته های خود تشکر می کنیم. سطح دسترسی نشانه‌های ورود به انجمن را بیشتر محدود کردیم و نشانه‌ها و جلسات آسیب‌دیده را باطل کردیم.

این در دوره‌ای اتفاق افتاد که مدل‌های هوش مصنوعی در انجام فعالیت‌های مرتبط با امنیت سایبری توانایی بیشتری پیدا کردند. محققان Hacktron از Claude Opus 5 در این تحقیق استفاده کردند، در حالی که Anthropic و OpenAI نیز مدل های پیشرفته تری را در دسترس کاربران عمومی قرار داده اند. از جمله Claude Mythos 5.1 و GPT-6 Astra. البته هر دو شرکت مکانیسم های حفاظتی را برای استفاده از مدل های خود در فعالیت های امنیت سایبری در نظر گرفته اند.

آنتروپیک قبلاً مواردی را گزارش کرده است که کشورها و گروه‌هایی تلاش کرده‌اند از کلود برای فعالیت‌هایی مانند نظارت و جاسوسی استفاده کنند. این شرکت اعلام کرد که حساب های مرتبط با چنین فعالیت هایی را به حالت تعلیق درآورده است.

از سوی دیگر، OpenAI با مواردی از رفتار غیرمجاز عوامل هوش مصنوعی نیز مواجه شده است. به عنوان مثال، این شرکت قبلاً اعلام کرده بود که حدود 700 عامل سرکش هوش مصنوعی سعی کرده اند به سیستم Hugging Face نفوذ کنند. OpenAI همچنین گزارش داد که هزاران عامل هوش مصنوعی از یک وب سایت ویکی آلمانی به عنوان مکانی برای تبادل پیام استفاده می کنند.

متا و آنتروپیک نیز قبلاً نمونه هایی از عوامل هوش مصنوعی را گزارش کرده اند که خارج از چارچوب مورد انتظار عمل می کنند. چنین رویدادهایی نگرانی هایی را در مورد پیامدهای احتمالی توسعه هوش مصنوعی برای بشریت ایجاد کرده است و در این زمینه، سام آلتمن، مدیر عامل OpenAI و داریو آمودی، مدیر عامل Anthropic، درباره احتمال کند شدن توسعه هوش مصنوعی اظهار نظر کرده اند.

پست قبلی

کشاورزی بدون دیجیتالی شدن امکان بقا ندارد؛ آینده سفره ایرانی در گرو هوشمند شدن مزرعه‌ ها

پست‌ بعدی

حباب قیمت‌ها در بازار موبایل کاهشی می‌شود| رد امکان احتکار در بازار

سامان پاکدل

سامان پاکدل

مرتبط پست ها

اپل در حال آزمایش محدودیت‌های استفاده روزانه برای تعاملات پیچیده
فناوری

اپل در حال آزمایش محدودیت‌های استفاده روزانه برای تعاملات پیچیده هوش مصنوعی سیری است

۲۷ آبان ۱۴۰۵
دوربین سینمایی پاناسونیک لومیکس SHX1 روی سه‌پایه در نور کم پشت صحنه از روبه‌رو؛ بدنه مشکی، لنز و دکمه‌های فیزیکی در کانون توجه قرار گرفته‌اند.
فناوری

پاناسونیک دوربین فول فریم Lumix SHX1 را با فیلمبرداری 6K معرفی کرد

۲۷ آبان ۱۴۰۵
قره پس از سقوط سنگین به مدار صعودی بازگشت
فناوری

قره پس از سقوط سنگین به مدار صعودی بازگشت / قیمت نقره امروز 26 آبان

۲۷ آبان ۱۴۰۵
ویندوز ۱۱ بدون ماشین مجازی روی گوشی تاشوی OnePlus Open اجرا شد
فناوری

ویندوز 11 بدون ماشین مجازی در گوشی تاشو OnePlus Open اجرا شد

۲۷ آبان ۱۴۰۵
قیمت خودروهای ایران خودرو و سایپا امروز 5 آبان افزایش
فناوری

قیمت خودروهای ایران خودرو و سایپا امروز 5 آبان; افزایش قیمت ها به بازار بازگشت

۲۷ آبان ۱۴۰۵
زمان اتمام بازی GTA 6 GTA 6 داستان 50 ساعته
فناوری

زمان اتمام بازی GTA 6 (GTA 6); داستان 50 ساعته و دنیایی پر از جزئیات

۲۷ آبان ۱۴۰۵
بارگذاری بیشتر
پست‌ بعدی
حباب قیمت‌ها در بازار موبایل کاهشی می‌شود رد امکان احتکار

حباب قیمت‌ها در بازار موبایل کاهشی می‌شود| رد امکان احتکار در بازار

گفتگو در مورد این post

توصیه شده

رشد بیت کوین

بیت کوین بالای 26 هزار دلار تثبیت شد. آیا گاوها می توانند قیمت ها را افزایش دهند؟

3 سال پیش
قیمت جهانی نفت امروز 1402/09/07

قیمت جهانی نفت امروز 1402/10/13 |برنت 75 دلار و 95 سنت شد

3 سال پیش
آیا بورس با تجدید ارزیابی دارایی ها به سمت سقف تاریخی حرکت می کند؟

آیا بورس با تجدید ارزیابی دارایی ها به سمت سقف تاریخی حرکت می کند؟

3 سال پیش
افت اتریوم تا ۲٬۰۰۹ دلار؛ آیا سقوط به زیر ۲٬۰۰۰

افت اتریوم به زیر ۲٬۰۰۰ دلار هم‌زمان با فروش میلیونی بنیاد اتریوم

5 روز پیش

از دست ندهید

اپل در حال آزمایش محدودیت‌های استفاده روزانه برای تعاملات پیچیده

اپل در حال آزمایش محدودیت‌های استفاده روزانه برای تعاملات پیچیده هوش مصنوعی سیری است

۲۷ آبان ۱۴۰۵
سرمایه‌گذاری میلیاردی گلدمن ساکس در بیت کوین و اتریوم رکورد

سرمایه‌گذاری میلیاردی گلدمن ساکس در بیت کوین و اتریوم رکورد زد

۲۷ آبان ۱۴۰۵
دوربین سینمایی پاناسونیک لومیکس SHX1 روی سه‌پایه در نور کم پشت صحنه از روبه‌رو؛ بدنه مشکی، لنز و دکمه‌های فیزیکی در کانون توجه قرار گرفته‌اند.

پاناسونیک دوربین فول فریم Lumix SHX1 را با فیلمبرداری 6K معرفی کرد

۲۷ آبان ۱۴۰۵
قره پس از سقوط سنگین به مدار صعودی بازگشت

قره پس از سقوط سنگین به مدار صعودی بازگشت / قیمت نقره امروز 26 آبان

۲۷ آبان ۱۴۰۵

دیگر رسانه ها

اجاره خودرو

خبرجو تازه‌ترین اخبار در سراسر دنیا در حوره های مالی , فرهنگی , اقتصادی و ... را برای شما به اشتراک خواهد گذاشت.

ما را دنبال کنید

اخبار اخیر

اپل در حال آزمایش محدودیت‌های استفاده روزانه برای تعاملات پیچیده

اپل در حال آزمایش محدودیت‌های استفاده روزانه برای تعاملات پیچیده هوش مصنوعی سیری است

۲۷ آبان ۱۴۰۵
سرمایه‌گذاری میلیاردی گلدمن ساکس در بیت کوین و اتریوم رکورد

سرمایه‌گذاری میلیاردی گلدمن ساکس در بیت کوین و اتریوم رکورد زد

۲۷ آبان ۱۴۰۵

دسته بندی ها

  • ارز دیجیتال
  • اقتصاد و سرمایه
  • تناسب اندام
  • دسته‌بندی نشده
  • سلامتی
  • شیوه زندگی
  • فرهنگ و هنر
  • فناوری

همکاران

  • اخبار اقتصاد
  • تبلیغات
  • تماس با ما

خوش آمدید!

به حساب خود در زیر وارد شوید

رمز عبور را فراموش کرده اید؟

رمز عبور خود را بازیابی کنید

لطفا نام کاربری یا آدرس ایمیل خود را برای بازنشانی رمز عبور خود وارد کنید.

ورود به سیستم
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال