• تبلیغات
  • تماس با ما
پنجشنبه, آبان ۲۸, ۱۴۰۵
  • ورود
خبرجو
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
خبرجو
بدون نتیجه
مشاهده تمام نتایج
صفحه اصلی فناوری

یکی از کارکنان تیم امنیتی OpenAI استعفا داد. “زمان آزمون و خطا به پایان رسیده است”

سامان پاکدل توسط سامان پاکدل
۱۲ مهر ۱۴۰۵
در فناوری
مدت زمان مطالعه: 2 دقیقه
0
یکی از کارکنان تیم ایمنی OpenAI استعفا داد؛ «زمان آزمون و خطا تمام شده است»
دسترسی ویرایشگر مکان نما به مدل های OpenAI را قطع

دیوید رابینسون، کارمند سابق تیم ایمنی OpenAI، پس از استعفا از رویکرد این شرکت به ایمنی هوش مصنوعی انتقاد کرد و هشدار داد که تمرکز بر توسعه سریع می‌تواند خطر شکست‌های جدی را افزایش دهد.

بله کانال زوم تککارت هدیه

رابینسون در مقاله‌ای با عنوان «از OpenAI استعفا دادم زیرا فرهنگ آن شکسته شده است» که در The Atlantic منتشر شد، رابینسون گفت که شرکت‌های هوش مصنوعی، از جمله OpenAI، به اندازه کافی در توسعه فناوری‌های پیشرفته محتاط نیستند و باید قبل از ساخت سیستم‌های قدرتمندتر، به تخصص ایمنی و تحقیق بیشتر توجه کنند.

رابینسون از فرهنگ توسعه سریع OpenAI انتقاد کرد

رابینسون که حدود سه سال و نیم در OpenAI کار کرده است، در تهیه گزارش های ایمنی مربوط به عرضه محصولات مهم این شرکت مشارکت داشته است. او معتقد است که فرهنگ توسعه سریع و رویکردی که OpenAI آن را «استقرار تکراری» می‌نامد، اجازه می‌دهد مشکلات پس از وقوع شناسایی و رفع شوند. رویکردی که به گفته وی با افزایش توانایی سیستم های هوش مصنوعی می تواند پیامدهای جدی تری داشته باشد.

او تاکید کرده است که «زمان آزمون و خطا به پایان رسیده است» و سیستم‌های هوش مصنوعی پیشرفته به مکانیزم‌های ایمنی مشابه صنایعی مانند انرژی هسته‌ای و هوانوردی نیاز دارند. به گفته رابینسون، هرچه صنعت هوش مصنوعی مدل‌ها را قوی‌تر کند، وضعیت خطرناک‌تر می‌شود، در حالی که مسائل ایمنی و همسویی حل نشده باقی می‌مانند.

تمرکز بیشتر روی ایمنی و همسویی هوش مصنوعی

رابینسون همچنین خواستار توجه بیشتر به همسویی هوش مصنوعی با ارزش های انسانی شد. وی معتقد است معیارهای فعلی برای سنجش میزان انطباق مدل‌های هوش مصنوعی با ارزش‌های انسانی هنوز کافی نیست و با افزایش توانایی مدل‌ها، این موضوع اهمیت بیشتری پیدا می‌کند.

وی همچنین گفت: ایجاد تغییرات اساسی در فرهنگ و ساختار شرکت از درون دشوار بوده است، زیرا تیم ها به قدری درگیر سرعت پیشرفت بوده اند که زمان کافی برای بررسی تغییرات اساسی و اجرای آنها نداشته اند. به همین دلیل، رابینسون معتقد است ایجاد انگیزه های قوی تر برای ایمنی از خارج از شرکت می تواند بخش مهمی از راه حل باشد.

پاسخ OpenAI به نگرانی های امنیتی

در پاسخ به نگرانی های مطرح شده، OpenAI اعلام کرده است که تغییرات قابل توجهی برای تقویت امنیت در محیط های تحقیقاتی و آزمایشی خود ایجاد می کند. این شرکت همچنین گفته است که آموزش مدل ها را به گونه ای گسترش می دهد که مدل ها علاوه بر انجام وظایف، مسئولانه عمل کنند و همکاری با ارزیاب های مستقل و نظارت بلادرنگ را افزایش می دهد.

استعفای رابینسون در بحبوحه نگرانی های فزاینده در مورد ایمنی مدل های قدرتمند و رفتار عوامل هوش مصنوعی در شرکت های بزرگ در این زمینه صورت می گیرد. او معتقد است که برای مدیریت ریسک های نسل جدید سیستم های هوش مصنوعی، دیگر نمی توان تنها به شناسایی مشکلات پس از بروز آنها اتکا کرد.

به این پست امتیاز دهید

پست قبلی

خرید آسان و سریع 10000 دلار ارز از “بله” بانک ملی ایران + لیست شعب منتخب

پست‌ بعدی

فرانسه ۵۰۰ دبیرستان را پس از اعتراضات دانش‌آموزی تعطیل کرد

سامان پاکدل

سامان پاکدل

مرتبط پست ها

یوتیوب سیستم شمارش بازدید ویدیوها در تلویزیون را تغییر می‌ دهد
فناوری

یوتیوب در حال تغییر سیستم شمارش بازدید از ویدیوها در تلویزیون است

۲۸ آبان ۱۴۰۵
قیمت دلار امروز چهارشنبه 6 آبان 1405
فناوری

قیمت دلار امروز چهارشنبه 6 آبان 1405

۲۸ آبان ۱۴۰۵
جدیدترین افشای اطلاعات درباره iPhone Duo 2 از ناامیدی دیگری برای طرفداران اپل حکایت دارد
فناوری

آخرین اطلاعات فاش شده در مورد آیفون Duo 2 یک ناامیدی دیگر برای طرفداران اپل است

۲۸ آبان ۱۴۰۵
قیمت جهانی هر اونس طلا امروز چقدر است؟
فناوری

قیمت جهانی هر اونس طلا امروز چقدر است؟

۲۸ آبان ۱۴۰۵
Google Wallet بالاخره برای آیفون عرضه شد اما هنوز Apple
فناوری

Google Wallet بالاخره برای آیفون عرضه شد. اما هنوز Apple Wallet را رد نکنید!

۲۸ آبان ۱۴۰۵
سهمیه بنزین اسنپ و تپسی صدای رانندگان را درآورد
فناوری

سهمیه بنزین اسنپ و تپسی صدای رانندگان را درآورد!

۲۸ آبان ۱۴۰۵
بارگذاری بیشتر
پست‌ بعدی
فرانسه ۵۰۰ دبیرستان را پس از اعتراضات دانش‌آموزی تعطیل کرد

فرانسه ۵۰۰ دبیرستان را پس از اعتراضات دانش‌آموزی تعطیل کرد

گفتگو در مورد این post

توصیه شده

1714240268 آپارتمان در تهران نایاب شد دلالان املاک کجا رفتند؟

آپارتمان در تهران نایاب شد/ دلالان املاک کجا رفتند؟

3 سال پیش
تماشا کنید؛ خودروی نسل دوم Roadster تسلا از روی خودروها می‌پرد و در هوا می‌چرخد

تماشا کنید خودروی نسل دوم Roadster تسلا از روی خودروها می‌پرد و در هوای می‌چرخد

1 ماه پیش
۱۶۵ میلیارد تومان برای مشارکت در ساخت آزادراه تهران

۱۶۵ میلیارد تومان برای مشارکت در ساخت آزادراه تهران

3 سال پیش
اولین حضور ایران به عنوان عضو صاحب رای در نشست

اولین حضور ایران به عنوان عضو صاحب رای در نشست دبیران شورای امنیت شانگهای

3 سال پیش

از دست ندهید

یوتیوب سیستم شمارش بازدید ویدیوها در تلویزیون را تغییر می‌ دهد

یوتیوب در حال تغییر سیستم شمارش بازدید از ویدیوها در تلویزیون است

۲۸ آبان ۱۴۰۵
قیمت دلار امروز چهارشنبه 6 آبان 1405

قیمت دلار امروز چهارشنبه 6 آبان 1405

۲۸ آبان ۱۴۰۵
تاکید مدیرعامل بانک ملت بر توسعه تأمین مالی زنجیره‌ای با

تاکید مدیرعامل بانک ملت بر توسعه تأمین مالی زنجیره‌ای با همکاری شبکه بانکی

۲۸ آبان ۱۴۰۵
جدیدترین افشای اطلاعات درباره iPhone Duo 2 از ناامیدی دیگری برای طرفداران اپل حکایت دارد

آخرین اطلاعات فاش شده در مورد آیفون Duo 2 یک ناامیدی دیگر برای طرفداران اپل است

۲۸ آبان ۱۴۰۵

دیگر رسانه ها

اجاره خودرو

خبرجو تازه‌ترین اخبار در سراسر دنیا در حوره های مالی , فرهنگی , اقتصادی و ... را برای شما به اشتراک خواهد گذاشت.

ما را دنبال کنید

اخبار اخیر

یوتیوب سیستم شمارش بازدید ویدیوها در تلویزیون را تغییر می‌ دهد

یوتیوب در حال تغییر سیستم شمارش بازدید از ویدیوها در تلویزیون است

۲۸ آبان ۱۴۰۵
قیمت دلار امروز چهارشنبه 6 آبان 1405

قیمت دلار امروز چهارشنبه 6 آبان 1405

۲۸ آبان ۱۴۰۵

دسته بندی ها

  • ارز دیجیتال
  • اقتصاد و سرمایه
  • تناسب اندام
  • دسته‌بندی نشده
  • سلامتی
  • شیوه زندگی
  • فرهنگ و هنر
  • فناوری

همکاران

  • اخبار اقتصاد
  • تبلیغات
  • تماس با ما

خوش آمدید!

به حساب خود در زیر وارد شوید

رمز عبور را فراموش کرده اید؟

رمز عبور خود را بازیابی کنید

ورود به سیستم
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال