• تبلیغات
  • تماس با ما
چهارشنبه, آبان ۲۷, ۱۴۰۵
  • ورود
خبرجو
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
خبرجو
بدون نتیجه
مشاهده تمام نتایج
صفحه اصلی فناوری

ارسال هشدارهای رفتار مشکوک هوش مصنوعی به 100 سازمان توسط OpenAI

سامان پاکدل توسط سامان پاکدل
۱۰ مهر ۱۴۰۵
در فناوری
مدت زمان مطالعه: 1 دقیقه
0
1790957357 ارسال هشدارهای رفتار مشکوک هوش مصنوعی به 100 سازمان توسط

OpenAI اعلامیه کرد درباره فعالیت نابرابر عوامل هوش مصنوعی به بیش از صد سازمان اطلاعات و بررسی ۵۰ پتابایت داده شروع شده است.

به گزارش سرویس هوش مصنوعی مجرداین شرکت اعلام کرد که هیچ یک از آنچه که OpenAI آن را «فعالیت ناهنجار توسط عوامل هوش مصنوعی» می‌نامد، هرگز به اندازه حمله Hugging Face نبوده است.

OpenAI پس از اینکه مدل‌هایش در طی یک تست امنیتی ناموفق، یک حمله مبتنی بر عامل را به پلتفرم هوش مصنوعی Hugging Face انجام دادند، تحقیق می‌کند.

این شرکت همچنین با مجموعه ای از حوادث دیگر با شدت های متفاوت از جمله هک سیستم های مدیکر در استرالیا مواجه شده است. این حادثه خشم مقامات استرالیا را برانگیخته است.

با افزایش فشار، OpenAI و مدیر عامل شرکت سام آلتمن آموزش برخی از مدل ها را متوقف کردند و مدل دیگری را که عملکرد آن “پسرفت” کرده بود، لغو کردند.

این شرکت همچنین برنامه های عرضه اولیه خود را به عقب انداخته است و با شکایتی روبرو است که احتمالاً یکی از اولین دعاوی مرتبط با این حوادث است.

گرگ براکمن، رئیس OpenAI نیز روز دوشنبه اعلام کرد که دیگر به یک ابر PAC طرفدار هوش مصنوعی کمک مالی نخواهد کرد.

اطلاع رسانی به بیش از 100 سازمان

OpenAI در یک پست وبلاگی اعلام کرد که به بیش از 100 سازمان در مورد “فعالیت ناشناس توسط عوامل هوش مصنوعی” اطلاع داده است.

معیارهای این دسته شامل مواردی است که یک عامل هوش مصنوعی “ممکن است مکانیسم های امنیتی را دور زده باشد”، دسترسی به یک سرویس را مختل کرده باشد، یا به طور دیگری به وب سایت آسیب رسانده باشد. این تعریف لزوماً به معنای دسترسی نماینده به داده های محدود نیست.

این شرکت توضیح داد که مدل‌های آن به روش‌های مختلفی با اینترنت تعامل دارند تا درخواست‌های کاربران را برآورده کنند. این فعالیت ها از خزیدن وب سایت ها تا دانلود نرم افزار را شامل می شود.

OpenAI اضافه کرد که در برخی موارد، این مدل‌ها از دسترسی به اینترنت به روشی استفاده می‌کردند که شرکت انتظارش را نداشت یا پس از بررسی متوجه شد که محدودیت‌های مناسبی برای آنها اعمال نشده است.

این شرکت همچنین اعلام کرد که در حال توسعه استانداردهایی برای اطلاعات خصوصی به سازمان ها و انتشار عمومی یافته ها است.

تحت این رویکرد، OpenAI اطلاعات کلی تری در مورد رفتار مدل های خود منتشر می کند، اما جزئیات همه حوادث را عمومی نمی کند.

OpenAI نیز در این زمینه با انتقاداتی مواجه شده است. گزارش ها حاکی از آن است که لحن نامه این شرکت به مقامات استرالیایی در مورد حادثه مدیکر یکی از عواملی بوده است که آنها را عصبانی کرده است.

بیشتر بخوانید: ورود OpenAI به بازار سهام تا اطلاع ثانوی ممنوع است. شرط سام آلتمن چیست؟

بررسی 50 پتابایت داده

OpenAI اعلام کرده است که تحقیقات داخلی این حوادث شامل جست‌وجوی حدود 50 پتابایت داده می‌شود و چندین ماه طول می‌کشد تا تکمیل شود.

این شرکت همچنین گفته است که اجرای فرآیندهای مورد نیاز برای این بررسی روزانه بیش از 500000 دلار هزینه دارد.

در ایالات متحده، قانون کلاهبرداری و سوء استفاده رایانه ای به دادستان ها اختیارات گسترده ای برای پیگیری دسترسی و دستکاری غیرمجاز در سیستم های رایانه ای می دهد. با این حال، کارشناسان حقوقی در مورد دشواری طرح اتهامات جنایی علیه OpenAI بحث کرده اند.

به گفته این کارشناسان، دادستان های چنین پرونده ای باید مواردی مانند قصد تیم توسعه و وجود یا عدم وجود سازوکارهای حفاظتی معقول را بررسی کنند.

در سطح فدرال، این موضوع ممکن است هنوز به مرحله عمل نرسد، زیرا رئیس جمهور دونالد ترامپ با مقررات مخالفت کرده و آشکارا از شرکت‌های هوش مصنوعی خواسته است تا «پلیس یکدیگر» را انجام دهند.

روز پنجشنبه OpenAI همچنین اعلام کرد که سه محقق امنیتی را از شرکت حذف کرده است.

گزارش ها دلیل این اقدام را افشای محتوای داخلی سازمان های فعال در حوزه ایمنی هوش مصنوعی عنوان کردند.

این تحولات زمانی رخ داد که سم آلتمن پیشنهاد داد که شرکت‌های برق با OpenAI برای کمک به ایمن کردن شبکه‌های برق در سراسر آمریکا قرارداد ببندند.

بیشتر بخوانید: OpenAI تراشه Jalapeño را با کمک هوش مصنوعی در 9 ماه طراحی کرد

پست قبلی

دخل و خرج ایرانیان با این خبر مختل شد

پست‌ بعدی

پاکستان: نشست توافق مکه برای بررسی تعامل سیاسی با انصارالله برگزار می‌شود

سامان پاکدل

سامان پاکدل

مرتبط پست ها

اپل در حال آزمایش محدودیت‌های استفاده روزانه برای تعاملات پیچیده
فناوری

اپل در حال آزمایش محدودیت‌های استفاده روزانه برای تعاملات پیچیده هوش مصنوعی سیری است

۲۷ آبان ۱۴۰۵
دوربین سینمایی پاناسونیک لومیکس SHX1 روی سه‌پایه در نور کم پشت صحنه از روبه‌رو؛ بدنه مشکی، لنز و دکمه‌های فیزیکی در کانون توجه قرار گرفته‌اند.
فناوری

پاناسونیک دوربین فول فریم Lumix SHX1 را با فیلمبرداری 6K معرفی کرد

۲۷ آبان ۱۴۰۵
قره پس از سقوط سنگین به مدار صعودی بازگشت
فناوری

قره پس از سقوط سنگین به مدار صعودی بازگشت / قیمت نقره امروز 26 آبان

۲۷ آبان ۱۴۰۵
ویندوز ۱۱ بدون ماشین مجازی روی گوشی تاشوی OnePlus Open اجرا شد
فناوری

ویندوز 11 بدون ماشین مجازی در گوشی تاشو OnePlus Open اجرا شد

۲۷ آبان ۱۴۰۵
قیمت خودروهای ایران خودرو و سایپا امروز 5 آبان افزایش
فناوری

قیمت خودروهای ایران خودرو و سایپا امروز 5 آبان; افزایش قیمت ها به بازار بازگشت

۲۷ آبان ۱۴۰۵
زمان اتمام بازی GTA 6 GTA 6 داستان 50 ساعته
فناوری

زمان اتمام بازی GTA 6 (GTA 6); داستان 50 ساعته و دنیایی پر از جزئیات

۲۷ آبان ۱۴۰۵
بارگذاری بیشتر
پست‌ بعدی
پاکستان نشست توافق مکه برای بررسی تعامل سیاسی با انصارالله

پاکستان: نشست توافق مکه برای بررسی تعامل سیاسی با انصارالله برگزار می‌شود

گفتگو در مورد این post

توصیه شده

رونمایی از لوازم خانگی هوشمند مشترک اپل و ال جی

رونمایی از لوازم خانگی هوشمند مشترک اپل و ال جی; آغاز یک امپراتوری جدید با طراحی مینیمال

1 ماه پیش
گسترش پذیرش جهانی ریپل و کاردانو

گسترش پذیرش جهانی ریپل و کاردانو

4 سال پیش
افق میهن

در تامین ارز بازرگانی محدودیتی نداریم| دلار حواله‌ای حدود ۴۱ هزار تومان

3 سال پیش
هزینه اجاره پارکینگ نجومی شد 500 هزار تومان غیر ممکن

هزینه اجاره پارکینگ نجومی شد/ 500 هزار تومان غیر ممکن!

3 سال پیش

از دست ندهید

اپل در حال آزمایش محدودیت‌های استفاده روزانه برای تعاملات پیچیده

اپل در حال آزمایش محدودیت‌های استفاده روزانه برای تعاملات پیچیده هوش مصنوعی سیری است

۲۷ آبان ۱۴۰۵
سرمایه‌گذاری میلیاردی گلدمن ساکس در بیت کوین و اتریوم رکورد

سرمایه‌گذاری میلیاردی گلدمن ساکس در بیت کوین و اتریوم رکورد زد

۲۷ آبان ۱۴۰۵
دوربین سینمایی پاناسونیک لومیکس SHX1 روی سه‌پایه در نور کم پشت صحنه از روبه‌رو؛ بدنه مشکی، لنز و دکمه‌های فیزیکی در کانون توجه قرار گرفته‌اند.

پاناسونیک دوربین فول فریم Lumix SHX1 را با فیلمبرداری 6K معرفی کرد

۲۷ آبان ۱۴۰۵
قره پس از سقوط سنگین به مدار صعودی بازگشت

قره پس از سقوط سنگین به مدار صعودی بازگشت / قیمت نقره امروز 26 آبان

۲۷ آبان ۱۴۰۵

دیگر رسانه ها

اجاره خودرو

خبرجو تازه‌ترین اخبار در سراسر دنیا در حوره های مالی , فرهنگی , اقتصادی و ... را برای شما به اشتراک خواهد گذاشت.

ما را دنبال کنید

اخبار اخیر

اپل در حال آزمایش محدودیت‌های استفاده روزانه برای تعاملات پیچیده

اپل در حال آزمایش محدودیت‌های استفاده روزانه برای تعاملات پیچیده هوش مصنوعی سیری است

۲۷ آبان ۱۴۰۵
سرمایه‌گذاری میلیاردی گلدمن ساکس در بیت کوین و اتریوم رکورد

سرمایه‌گذاری میلیاردی گلدمن ساکس در بیت کوین و اتریوم رکورد زد

۲۷ آبان ۱۴۰۵

دسته بندی ها

  • ارز دیجیتال
  • اقتصاد و سرمایه
  • تناسب اندام
  • دسته‌بندی نشده
  • سلامتی
  • شیوه زندگی
  • فرهنگ و هنر
  • فناوری

همکاران

  • اخبار اقتصاد
  • تبلیغات
  • تماس با ما

خوش آمدید!

به حساب خود در زیر وارد شوید

رمز عبور را فراموش کرده اید؟

رمز عبور خود را بازیابی کنید

لطفا نام کاربری یا آدرس ایمیل خود را برای بازنشانی رمز عبور خود وارد کنید.

ورود به سیستم
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال