• تبلیغات
  • تماس با ما
پنجشنبه, آبان ۲۸, ۱۴۰۵
  • ورود
خبرجو
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
خبرجو
بدون نتیجه
مشاهده تمام نتایج
صفحه اصلی فناوری

محققان هندی OpenAI را با استفاده از Claude هک کردند و 6000 دلار جایزه دریافت کردند

سامان پاکدل توسط سامان پاکدل
۲۸ شهریور ۱۴۰۵
در فناوری
مدت زمان مطالعه: 2 دقیقه
0
پژوهشگران هندی‌ با استفاده از Claude به OpenAI نفوذ کردند و ۶۰۰۰ دلار پاداش گرفتند
1789778952 608 محققان هندی OpenAI را با استفاده از Claude هک کردند

محققان هندی الاصل شرکت امنیت سایبری Hacktron با کمک هوش مصنوعی کلود توانستند به کدهای OpenAI و حساب های ChatGPT این شرکت دسترسی پیدا کنند. آن‌ها پس از شناسایی و گزارش آسیب‌پذیری‌هایی که منجر به رخنه شد، یک جایزه ۶۵۰۰ دلاری از OpenAI دریافت کردند.

در شرایطی که نگرانی ها در مورد تهدیدات احتمالی هوش مصنوعی برای انسان ها افزایش یافته است، داستان جدید بار دیگر توانایی مدل های هوش مصنوعی را در حوزه امنیت سایبری نشان می دهد. OpenAI قبلا مواردی را منتشر کرده بود که در آن عوامل هوش مصنوعی این شرکت سعی در نفوذ به سیستم های مختلف داشتند. این بار، محققان هندی الاصل Hacktron نشان داده اند که می توان از Claude برای شناسایی و بهره برداری از ضعف امنیتی در زیرساخت OpenAI استفاده کرد.

به گفته هکترون، این تحقیق توسط هارش جیسوال با همکاری موهان پدپاتی و راهول ماینی رهبری شد. این سه محقق تحقیقات شرکت های فعال در زمینه هوش مصنوعی پیشرفته را برای یافتن حفره های امنیتی آغاز کرده بودند. هکترون اعلام کرد، با استفاده از مدل‌های کلود، محققان توانستند چندین حساب ChatGPT متعلق به کارمندان OpenAI را کنترل کنند. این دسترسی دسترسی به برخی از خدمات متصل از جمله GitHub را فراهم می کرد. سپس محققان از حساب Codex یک کارمند برای ایجاد یک درخواست کشش در مخزن کد OpenAI استفاده کردند. کل این فرآیند در کمتر از 72 ساعت انجام شد.

Hacktron همچنین جزئیات این حادثه را در شبکه اجتماعی X منتشر کرد. این شرکت امنیت سایبری گفت که بلافاصله موضوع را به OpenAI گزارش داده است. OpenAI همچنین این آسیب‌پذیری را در عرض 14 ساعت اصلاح کرد و پس از بررسی بیشتر، 6500 دلار به عنوان پاداش کشف باگ به Hacktron پرداخت کرد.

چگونه محققان به OpenAI نفوذ کردند؟

طبق توضیحات Hacktron، این حمله نتیجه ترکیب یک ضعف در پیکربندی سیستم هویت OpenAI، به ویژه زیرساخت SSO یا SSO، با یک آسیب‌پذیری اجرای کد از راه دور در Discourse بود. نرم افزار مورد استفاده برای جامعه آنلاین OpenAI.

محققان هندی OpenAI را با استفاده از Claude هک کردند

این مشکل کاربرانی را تحت تأثیر قرار داد که از طریق زیرساخت SSO شرکت وارد جامعه OpenAI در community.openai.com می شدند. به گفته محققان، Discourse هنگام پردازش تصاویر آپلود شده از طریق آیفون دارای نقص امنیتی بود و محققان توانستند از این ضعف برای نفوذ به سیستم های مرتبط با انجمن استفاده کنند.

این آسیب‌پذیری می‌توانست در نهایت اجازه دهد تا حساب‌های ChatGPT و Codex بدون نیاز به اقدام کاربر کنترل شوند. از آنجا که این حساب ها ممکن است به سرویس های دیگر متصل شوند، دامنه بالقوه دسترسی به ابزارهایی مانند GitHub، Slack و ایمیل نیز گسترش می یابد.

با این حال، Hacktron بیان کرد که برای جلوگیری از دسترسی به اطلاعات حساس، محققان تنها از حساب کاربری در معرض خطر برای اثبات دسترسی و ایجاد یک درخواست کشش استفاده کردند و کد داخلی OpenAI را بررسی نکردند. این تیم همچنین جدول زمانی کاملی از کشف، بهره برداری و گزارش آسیب پذیری را منتشر کرد.

نقش کلود در این تحقیق

به گفته Hacktron، هوش مصنوعی کلود نقش مهمی در فرآیند تحقیق ایفا کرد. محققان ابتدا از Claude Opus 4.8 برای آزمایش این آسیب‌پذیری استفاده کردند، اما این مدل نتوانست یک اکسپلویت قابل اعتماد تولید کند.

پس از انتشار Claude Opus 5 شرایط تغییر کرد و محققان با کمک این مدل توانستند اکسپلویت را عملیاتی کنند و به دسترسی مورد نظر برسند. Hacktron اعلام کرده است که به عنوان یک شرکت امنیت سایبری، در برنامه تأیید سایبری Anthropic برای انجام تحقیقات امنیتی مجاز شرکت می کند.

1789778952 608 محققان هندی OpenAI را با استفاده از Claude هک کردند

پس از گزارش این آسیب پذیری، OpenAI اعلام کرد:

ما از محققان برای تماس با ما و به اشتراک گذاشتن یافته های خود تشکر می کنیم. سطح دسترسی نشانه‌های ورود به انجمن را بیشتر محدود کردیم و نشانه‌ها و جلسات آسیب‌دیده را باطل کردیم.

این در دوره‌ای اتفاق افتاد که مدل‌های هوش مصنوعی در انجام فعالیت‌های مرتبط با امنیت سایبری توانایی بیشتری پیدا کردند. محققان Hacktron از Claude Opus 5 در این تحقیق استفاده کردند، در حالی که Anthropic و OpenAI نیز مدل های پیشرفته تری را در دسترس کاربران عمومی قرار داده اند. از جمله Claude Mythos 5.1 و GPT-6 Astra. البته هر دو شرکت مکانیسم های حفاظتی را برای استفاده از مدل های خود در فعالیت های امنیت سایبری در نظر گرفته اند.

آنتروپیک قبلاً مواردی را گزارش کرده است که کشورها و گروه‌هایی تلاش کرده‌اند از کلود برای فعالیت‌هایی مانند نظارت و جاسوسی استفاده کنند. این شرکت اعلام کرد که حساب های مرتبط با چنین فعالیت هایی را به حالت تعلیق درآورده است.

از سوی دیگر، OpenAI با مواردی از رفتار غیرمجاز عوامل هوش مصنوعی نیز مواجه شده است. به عنوان مثال، این شرکت قبلاً اعلام کرده بود که حدود 700 عامل سرکش هوش مصنوعی سعی کرده اند به سیستم Hugging Face نفوذ کنند. OpenAI همچنین گزارش داد که هزاران عامل هوش مصنوعی از یک وب سایت ویکی آلمانی به عنوان مکانی برای تبادل پیام استفاده می کنند.

متا و آنتروپیک نیز قبلاً نمونه هایی از عوامل هوش مصنوعی را گزارش کرده اند که خارج از چارچوب مورد انتظار عمل می کنند. چنین رویدادهایی نگرانی هایی را در مورد پیامدهای احتمالی توسعه هوش مصنوعی برای بشریت ایجاد کرده است و در این زمینه، سام آلتمن، مدیر عامل OpenAI و داریو آمودی، مدیر عامل Anthropic، درباره احتمال کند شدن توسعه هوش مصنوعی اظهار نظر کرده اند.

پست قبلی

کشاورزی بدون دیجیتالی شدن امکان بقا ندارد؛ آینده سفره ایرانی در گرو هوشمند شدن مزرعه‌ ها

پست‌ بعدی

حباب قیمت‌ها در بازار موبایل کاهشی می‌شود| رد امکان احتکار در بازار

سامان پاکدل

سامان پاکدل

مرتبط پست ها

رمزهای عبور ضعیف همچنان امنیت کاربران را تهدید می‌ کنند
فناوری

رمزهای عبور ضعیف همچنان امنیت کاربران را تهدید می کند

۲۸ آبان ۱۴۰۵
این ویژگی می‌تواند بزرگ‌ترین تغییر دوربین گوشی‌های هوشمند در سال‌های اخیر باشد
فناوری

این ویژگی می تواند بزرگترین تغییر دوربین گوشی های هوشمند در سال های اخیر باشد

۲۸ آبان ۱۴۰۵
اینستاگرام وارد جنگ با سارقان ویدیو و مقلدین هوش مصنوعی
فناوری

اینستاگرام وارد جنگ با سارقان ویدیو و مقلدین هوش مصنوعی شد. معرفی حفاظت از محتوا

۲۸ آبان ۱۴۰۵
قیمت طلا و سکه امروز 27 آبان 1405
فناوری

قیمت طلا و سکه امروز 27 آبان 1405

۲۸ آبان ۱۴۰۵
یوتیوب سیستم شمارش بازدید ویدیوها در تلویزیون را تغییر می‌ دهد
فناوری

یوتیوب در حال تغییر سیستم شمارش بازدید از ویدیوها در تلویزیون است

۲۸ آبان ۱۴۰۵
قیمت دلار امروز چهارشنبه 6 آبان 1405
فناوری

قیمت دلار امروز چهارشنبه 6 آبان 1405

۲۸ آبان ۱۴۰۵
بارگذاری بیشتر
پست‌ بعدی
حباب قیمت‌ها در بازار موبایل کاهشی می‌شود رد امکان احتکار

حباب قیمت‌ها در بازار موبایل کاهشی می‌شود| رد امکان احتکار در بازار

گفتگو در مورد این post

توصیه شده

قیمت میلگرد امروز 12 آبان 1405

قیمت میلگرد امروز 12 آبان 1405

2 هفته پیش
1790618085 چگونه استفاده از مکالمات شخصی را برای آموزش مدل های

چگونه استفاده از مکالمات شخصی را برای آموزش مدل های هوش مصنوعی غیرفعال کنیم؟

2 ماه پیش
وزیر خزانه‌داری سابق آمریکا درحال تشکیل گروهی برای خرید تیک

وزیر خزانه‌داری سابق آمریکا درحال تشکیل گروهی برای خرید تیک تاک است

3 سال پیش
1711398646 447 مازندران رکورددار سفرهای نوروزی مسافران کجا اقامت می کنند؟

تشکیل کمیسیون‌ ویژه پاسخگویی سریع به شکایات مسافران در نوروز ۱۴۰۳

3 سال پیش

از دست ندهید

رمزهای عبور ضعیف همچنان امنیت کاربران را تهدید می‌ کنند

رمزهای عبور ضعیف همچنان امنیت کاربران را تهدید می کند

۲۸ آبان ۱۴۰۵
1795062550 152 ترید با هوش مصنوعی معرفی ربات های معامله گر،

ترید با هوش مصنوعی | معرفی ربات های معامله گر، مزایا و محدودیت ها

۲۸ آبان ۱۴۰۵
این ویژگی می‌تواند بزرگ‌ترین تغییر دوربین گوشی‌های هوشمند در سال‌های اخیر باشد

این ویژگی می تواند بزرگترین تغییر دوربین گوشی های هوشمند در سال های اخیر باشد

۲۸ آبان ۱۴۰۵
جنجال انویدیا؛ خیز جمهوری‌خواهان برای محدودسازی صادرات تراشه به چین

جنجال انویدیا؛ خیز جمهوری‌خواهان برای محدودسازی صادرات تراشه به چین

۲۸ آبان ۱۴۰۵

دیگر رسانه ها

اجاره خودرو

خبرجو تازه‌ترین اخبار در سراسر دنیا در حوره های مالی , فرهنگی , اقتصادی و ... را برای شما به اشتراک خواهد گذاشت.

ما را دنبال کنید

اخبار اخیر

رمزهای عبور ضعیف همچنان امنیت کاربران را تهدید می‌ کنند

رمزهای عبور ضعیف همچنان امنیت کاربران را تهدید می کند

۲۸ آبان ۱۴۰۵
1795062550 152 ترید با هوش مصنوعی معرفی ربات های معامله گر،

ترید با هوش مصنوعی | معرفی ربات های معامله گر، مزایا و محدودیت ها

۲۸ آبان ۱۴۰۵

دسته بندی ها

  • ارز دیجیتال
  • اقتصاد و سرمایه
  • تناسب اندام
  • دسته‌بندی نشده
  • سلامتی
  • شیوه زندگی
  • فرهنگ و هنر
  • فناوری

همکاران

  • اخبار اقتصاد
  • تبلیغات
  • تماس با ما

خوش آمدید!

به حساب خود در زیر وارد شوید

رمز عبور را فراموش کرده اید؟

رمز عبور خود را بازیابی کنید

لطفا نام کاربری یا آدرس ایمیل خود را برای بازنشانی رمز عبور خود وارد کنید.

ورود به سیستم
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال