• تبلیغات
  • تماس با ما
دوشنبه, آبان ۲۵, ۱۴۰۵
  • ورود
خبرجو
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
خبرجو
بدون نتیجه
مشاهده تمام نتایج
صفحه اصلی فناوری

دسترسی عوامل هوش مصنوعی OpenAI به وب سایت های دولت ایالات متحده

سامان پاکدل توسط سامان پاکدل
۰۴ مهر ۱۴۰۵
در فناوری
مدت زمان مطالعه: 2 دقیقه
0
دسترسی عامل‌های هوش مصنوعی OpenAI به وب‌سایت‌های دولت آمریکا
1790430854 371 دسترسی عوامل هوش مصنوعی OpenAI به وب سایت های دولت

عوامل OpenAI در تابستان امسال بدون اطلاع شرکت به وب سایت های وزارت بازرگانی و کمیسیون بورس و اوراق بهادار ایالات متحده (SEC) دسترسی پیدا کردند.

گزارش کردن سرویس هوش مصنوعی یک مرحله ایهمچنین تلاش ناموفقی برای نفوذ به وب سایت وزارت آموزش آمریکا انجام شده است. OpenAI اظهار داشت که این موارد در طول بررسی فعالیت‌های غیرمنتظره یا “ناسازگار” مدل‌ها شناسایی شده‌اند.

این شرکت اعلام کرد که در دو مورد تایید شده، اطلاعات غیر عمومی یا حساس دولتی به دست نیامده و هیچ داده یا سیستمی تغییر نکرده است. با این حال، وقوع چنین رفتارهایی نگرانی هایی را در مورد کنترل پذیری عوامل هوش مصنوعی مستقل ایجاد کرده است.

بیشتر بخوانید: تصاویر کاربران OpenAI در اینترنت منتشر شد

دسترسی به وب سایت وزارت بازرگانی

یکی از موارد بررسی شده مربوط به وب سایت اداره سرشماری ایالات متحده، یکی از شرکت های تابعه وزارت بازرگانی است. طبق این انتشار، عوامل هوش مصنوعی OpenAI با استفاده از اطلاعات احراز هویت موجود در مخازن کد آنلاین، هنگام انجام کارهای تحقیقاتی به داده های وب سایت دسترسی پیدا کردند.

به گفته شرکت OpenAI، اطلاعات مشاهده شده در این فرآیند عمومی بوده است. همچنین کلید مورد استفاده برای دسترسی به داده ها به حساب های اداره سرشماری یا اطلاعات خصوصی آنها دسترسی نداشته و هیچ داده ای تغییر نکرده است. بنابراین، این مورد بیشتر به رفتار غیرمنتظره Agent مربوط می شود تا سرقت اطلاعات محرمانه.

این نشان می دهد که عوامل هوش مصنوعی ممکن است مسیرهایی را انتخاب کنند که توسعه دهندگان هنگام انجام یک کار پیش بینی نکرده بودند. به خصوص زمانی که مدل می تواند در اینترنت جستجو کند، کد را اجرا کند یا با سرویس های مختلف تعامل داشته باشد.

عوامل هوش مصنوعی OpenAI به وب سایت های دولت ایالات متحده دسترسی پیدا کردند

چه اتفاقی برای دسترسی به وب سایت SEC افتاد؟

در مورد کمیسیون بورس و اوراق بهادار ایالات متحده، عوامل هوش مصنوعی OpenAI به وب سایت های SEC.gov و Investor.gov دسترسی پیدا کردند. برخی از اطلاعاتی که مدل ها از این وب سایت ها دریافت کردند در وب سایت دیگری منتشر شد.

با این حال، SEC اعلام کرد که در این فرآیند به هیچ اطلاعات غیر عمومی دسترسی پیدا نشد. OpenAI همچنین گفت که هیچ مدرکی دال بر نفوذ به سیستم SEC یا تغییر در اطلاعات سازمان مشاهده نکرده است.

شرکت OpenAI این نوع فعالیت ها را در دسته رفتارهای “ناهمسو” قرار می دهد. یعنی مدل اعمالی را انجام می دهد که بر خلاف هدفی که برای آن در نظر گرفته شده لزوماً بخشی از درخواست اولیه کاربر نیست.

بیشتر بخوانید: نقض OpenAI وب سایت وزارت بهداشت استرالیا جنجال برانگیخت

تلاش ناموفق عوامل هوش مصنوعی OpenAI

مورد سوم مربوط به وزارت آموزش و پرورش آمریکاست. محققان موسسه غیرانتفاعی Transluce اعلام کرده‌اند که ظاهراً عواملی که از OpenAI سرچشمه می‌گیرند تلاش کرده‌اند تا به وب‌سایت دفتر حقوق مدنی این وزارتخانه نفوذ کنند.

این تلاش موفقیت آمیز نبوده است. وزارت آموزش ایالات متحده همچنین اعلام کرده است که بررسی های عملیاتی این سازمان هیچ شواهدی مبنی بر تأثیر بر وب سایت یا پایگاه های اطلاعاتی آن پیدا نکرده است. با این حال، OpenAI هنوز در حال بررسی جزئیات این حادثه است.

یک مقام ارشد فناوری اطلاعات دولت ایالات متحده همچنین گفت که دولت هنوز جزئیات فنی کاملی در مورد آنچه در هر سه سازمان رخ داده است ندارد و OpenAI اطلاعات فنی بیشتری در مورد این فعالیت ها ارائه نکرده است.

عوامل هوش مصنوعی OpenAI و دسترسی به وب سایت های دولت ایالات متحده

بررسی ماه ها فعالیت عوامل هوش مصنوعی OpenAI

OpenAI اعلام کرد که این موارد را طی تحقیقات گسترده در مورد رفتار غیرمنتظره مدل‌های خود پیدا کرده است. این شرکت گفته است که بررسی سوابق فعالیت نماینده ممکن است ماه ها طول بکشد و ده ها سازمان قبلاً از فعالیت غیرمنتظره مربوط به مدل های OpenAI مطلع شده اند.

این اتفاق در حالی رخ داده است که OpenAI پیش از این با حادثه جدی تری مواجه شده بود. تابستان امسال، عوامل این شرکت در حین آزمایش به پلتفرم توسعه دهندگان Hugging Face حمله کردند. OpenAI این حادثه را شدیدترین نمونه رفتار غیرمنتظره ای می داند که از مدل های خود دیده است.

در ماه‌های اخیر، شرکت‌های دیگری مانند Enterprise، Google و Meta نیز نمونه‌هایی از رفتارهای غیرمنتظره یا حملات خودکار مدل‌های هوش مصنوعی را گزارش کرده‌اند. این اتفاقات باعث شده است که موضوع نظارت بر عوامل مستقل و محدود کردن دسترسی آنها به منابع آنلاین به یکی از موضوعات مهم در بحث امنیت هوش مصنوعی تبدیل شود.

OpenAI همچنین در 25 سپتامبر اعلام کرد که برای اطلاع رسانی در مورد چنین حوادثی به اندازه کافی سریع نبوده و در تلاش است تا ضمن بررسی دقیق حجم بسیار زیادی از گزارش های فعالیت نمایندگان، شفافیت بیشتری در مورد این حوادث داشته باشد.

پست قبلی

ماجرای شرایط جدید فروش سایپا; خریدار چه تعهداتی باید بدهد؟

پست‌ بعدی

اعزام‌ زائران به عتبات عالیات به صورت زمینی ادامه دارد

سامان پاکدل

سامان پاکدل

مرتبط پست ها

آیا کارت سوخت جایگاه حذف می شود؟
فناوری

آیا کارت سوخت جایگاه حذف می شود؟

۲۵ آبان ۱۴۰۵
تنها سه روز پس از استعفا، جنسن هوانگ به فکر
فناوری

تنها سه روز پس از استعفا، جنسن هوانگ به فکر بازگشت به سمت مدیرعاملی انویدیا است.

۲۵ آبان ۱۴۰۵
سپاه پاسداران انقلاب اسلامی از حمله پهپادی به رادار آمریکایی
فناوری

سپاه پاسداران انقلاب اسلامی از حمله پهپادی به رادار آمریکایی در بحرین خبر داد. جزئیات بیانیه جدید

۲۵ آبان ۱۴۰۵
پیاده سازی مدل هوش مصنوعی 9 میلیاردی در پلی استیشن
فناوری

پیاده سازی مدل هوش مصنوعی 9 میلیاردی در پلی استیشن 4; دستیابی به سرعت 39 توکن در ثانیه با GCN GPU

۲۴ آبان ۱۴۰۵
فناوری

هشدار پیتر شیف در مورد بیت کوین

۲۴ آبان ۱۴۰۵
خودروی ۲۹٬۹۹۰ دلاری تسلا بدون خرید اشتراک ماهانه حرکت نمی‌کند
فناوری

خودروی 29990 دلاری تسلا بدون اشتراک ماهانه راه اندازی نمی شود

۲۴ آبان ۱۴۰۵
بارگذاری بیشتر
پست‌ بعدی
اعزام‌ زائران به عتبات عالیات به صورت زمینی ادامه دارد

اعزام‌ زائران به عتبات عالیات به صورت زمینی ادامه دارد

گفتگو در مورد این post

توصیه شده

قابلیت چت صوتی به بینگ آمد

قابلیت چت صوتی به بینگ آمد

3 سال پیش
دست رباتیک جدید شیائومی با ۲۶ موتور و ۱۵۰۰ حسگر لمسی رونمایی شد

دست رباتیک جدید شیائومی با 26 موتور و 1500 سنسور لمسی رونمایی شد.

3 هفته پیش
1702139918 با Universal Media Creation Tool ویندوز 11 را دانلود کنید

با Universal Media Creation Tool ویندوز 11 را دانلود کنید

3 سال پیش
افق میهن

بازیکنان کلیدی استقلال در خطر از دست دادن دربی

3 سال پیش

از دست ندهید

آیا کارت سوخت جایگاه حذف می شود؟

آیا کارت سوخت جایگاه حذف می شود؟

۲۵ آبان ۱۴۰۵
پشت پرده اقدام ترامپ در کنار گذاشتن ونس از پرونده

پشت پرده اقدام ترامپ در کنار گذاشتن ونس از پرونده مذاکره با ایران

۲۵ آبان ۱۴۰۵
جنسن هوانگ تنها سه روز پس از استعفا به فکر بازگشت به مدیرعاملی انویدیا افتاده است

تنها سه روز پس از استعفا، جنسن هوانگ به فکر بازگشت به سمت مدیرعاملی انویدیا است.

۲۵ آبان ۱۴۰۵
سپاه پاسداران انقلاب اسلامی از حمله پهپادی به رادار آمریکایی

سپاه پاسداران انقلاب اسلامی از حمله پهپادی به رادار آمریکایی در بحرین خبر داد. جزئیات بیانیه جدید

۲۵ آبان ۱۴۰۵

دیگر رسانه ها

اجاره خودرو

خبرجو تازه‌ترین اخبار در سراسر دنیا در حوره های مالی , فرهنگی , اقتصادی و ... را برای شما به اشتراک خواهد گذاشت.

ما را دنبال کنید

اخبار اخیر

آیا کارت سوخت جایگاه حذف می شود؟

آیا کارت سوخت جایگاه حذف می شود؟

۲۵ آبان ۱۴۰۵
پشت پرده اقدام ترامپ در کنار گذاشتن ونس از پرونده

پشت پرده اقدام ترامپ در کنار گذاشتن ونس از پرونده مذاکره با ایران

۲۵ آبان ۱۴۰۵

دسته بندی ها

  • ارز دیجیتال
  • اقتصاد و سرمایه
  • تناسب اندام
  • دسته‌بندی نشده
  • سلامتی
  • شیوه زندگی
  • فرهنگ و هنر
  • فناوری

همکاران

  • اخبار اقتصاد
  • تبلیغات
  • تماس با ما

خوش آمدید!

به حساب خود در زیر وارد شوید

رمز عبور را فراموش کرده اید؟

رمز عبور خود را بازیابی کنید

لطفا نام کاربری یا آدرس ایمیل خود را برای بازنشانی رمز عبور خود وارد کنید.

ورود به سیستم
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال