• تبلیغات
  • تماس با ما
چهارشنبه, آبان ۲۷, ۱۴۰۵
  • ورود
خبرجو
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
خبرجو
بدون نتیجه
مشاهده تمام نتایج
صفحه اصلی فناوری

کارمند سابق OpenAI؛ هوش مصنوعی باید مانند یک نیروگاه هسته ای کنترل شود

سامان پاکدل توسط سامان پاکدل
۱۱ مهر ۱۴۰۵
در فناوری
مدت زمان مطالعه: 1 دقیقه
0
تصویری از لوگوی هوش مصنوعی ChatGPT

مدیر سابق ایمنی OpenAI وی هشدار داد که توسعه مدل های پیشرفته باید با چندین لایه کنترل و برنامه ریزی دقیق مشابه نیروگاه های هسته ای انجام شود..

به گزارش سرویس هوش مصنوعی مجرددیوید رابینسون، افسر ارشد امنیتی سابق OpenAI، پس از ترک شرکت در مقاله ای برای آتلانتیک نسبت به آنچه که به عنوان “فرهنگ شرکتی شکسته” توصیف کرد، هشدار داد.

رابینسون قبلاً مسئول نوشتن گزارش‌های ایمنی بود که همزمان با عرضه مدل‌های جدید OpenAI منتشر شد.

رابینسون در بخشی از مقاله خود در مورد خطرات مسیر فعلی توسعه هوش مصنوعی می نویسد که با حرکت سریع از یک نسخه به نسخه بعدی، این شرکت نمی تواند سطح مراقبتی را که به اعتقاد او برای توسعه فناوری لازم است ارائه دهد.

مدل نیروگاه های هسته ای برای توسعه هوش مصنوعی

رابینسون به جای حرکت سریع به سمت مدل های پیشرفته تر هوش مصنوعی پیشنهاد کرده است که شرکت های فعال در این زمینه از مدل نیروگاه های هسته ای یا فرودگاه های پرتردد استفاده کنند.

به گفته وی، چنین سیستم هایی دارای لایه های متعدد افزونگی و حفاظت و برنامه ریزی دقیق و زمان بر هستند تا خطاهای انسانی که بعضا اجتناب ناپذیر است منجر به فاجعه نشود.

او حوادث مربوط به عدم همسویی هوش مصنوعی را با حادثه ای مانند ذوب هسته ای در یک نیروگاه مقایسه کرد و گفت که OpenAI و رقبای آن به اندازه نیروگاه های هسته ای لایه های حفاظتی، افزونگی و کنترل ندارند.

رابینسون همچنین هشدار داد که از دست دادن کنترل بر یک سیستم هوش مصنوعی می تواند عواقب بسیار گسترده تری نسبت به یک حادثه هسته ای داشته باشد.

در همین زمینه، داریو آمودی، مدیرعامل انتروپیک نیز اخیرا با ارائه پیشنهادی سه مرحله ای نسبت به مسیر نگران کننده توسعه هوش مصنوعی و لزوم کاهش سرعت این روند هشدار داده است.

بیشتر بخوانید: اخراج سه کارمند OpenAI به اتهام به اشتراک گذاری اطلاعات محرمانه

نگرانی در مورد تقلب در تست های ایمنی

رابینسون معتقد است که موضوع «همسویی» هوش مصنوعی بسیار مهم است. او سناریویی را پیشنهاد کرده است که در آن مدل‌های جدید می‌توانند متوجه شوند که از نظر همسویی مورد ارزیابی قرار می‌گیرند و در محیط‌های آزمایشی برای کسب امتیاز خوب رفتار می‌کنند، اما زمانی که وارد محیط واقعی می‌شوند رفتار متفاوتی از خود نشان دهند.

نگرانی های رابینسون از یک سری حوادث اخیر ناشی می شود که در آن عوامل هوش مصنوعی از محیط های آزمایشی خود خارج شده و به سیستم های سازمان های دیگر وارد شده اند.

در برخی موارد، این عوامل فراتر از محدوده وظایفی که به آنها محول شده بود، کار کرده اند.

رابینسون با اشاره به این خطرات تاکید کرد که انتشار مدل های پیشرفته هوش مصنوعی مستلزم چندین لایه کنترل و برنامه ریزی دقیق و زمان بر است.

بیشتر بخوانید: هوش مصنوعی کدی تولید می کند که فراتر از درک انسان است

پست قبلی

قیمت طلا امروز 11 مهر 1405

پست‌ بعدی

از هرمز تا باب‌المندب؛ روایت چتم‌هاوس از گسترش اهرم‌های منطقه‌ای ایران

سامان پاکدل

سامان پاکدل

مرتبط پست ها

دوربین سینمایی پاناسونیک لومیکس SHX1 روی سه‌پایه در نور کم پشت صحنه از روبه‌رو؛ بدنه مشکی، لنز و دکمه‌های فیزیکی در کانون توجه قرار گرفته‌اند.
فناوری

پاناسونیک دوربین فول فریم Lumix SHX1 را با فیلمبرداری 6K معرفی کرد

۲۷ آبان ۱۴۰۵
قره پس از سقوط سنگین به مدار صعودی بازگشت
فناوری

قره پس از سقوط سنگین به مدار صعودی بازگشت / قیمت نقره امروز 26 آبان

۲۷ آبان ۱۴۰۵
ویندوز ۱۱ بدون ماشین مجازی روی گوشی تاشوی OnePlus Open اجرا شد
فناوری

ویندوز 11 بدون ماشین مجازی در گوشی تاشو OnePlus Open اجرا شد

۲۷ آبان ۱۴۰۵
قیمت خودروهای ایران خودرو و سایپا امروز 5 آبان افزایش
فناوری

قیمت خودروهای ایران خودرو و سایپا امروز 5 آبان; افزایش قیمت ها به بازار بازگشت

۲۷ آبان ۱۴۰۵
زمان اتمام بازی GTA 6 GTA 6 داستان 50 ساعته
فناوری

زمان اتمام بازی GTA 6 (GTA 6); داستان 50 ساعته و دنیایی پر از جزئیات

۲۷ آبان ۱۴۰۵
این دسته از رانندگان منتظر تغییر سهمیه بنزین جزئیات
فناوری

این دسته از رانندگان منتظر تغییر سهمیه بنزین + جزئیات باشند

۲۷ آبان ۱۴۰۵
بارگذاری بیشتر
پست‌ بعدی
از هرمز تا باب‌المندب؛ روایت چتم‌هاوس از گسترش اهرم‌های منطقه‌ای

از هرمز تا باب‌المندب؛ روایت چتم‌هاوس از گسترش اهرم‌های منطقه‌ای ایران

گفتگو در مورد این post

توصیه شده

جزییات شکایت تراکتور از ستاره استقلالی

جزییات شکایت تراکتور از ستاره استقلالی

3 سال پیش
رقابت انویدیا با AMD برای تولید پردازنده های Arm ویندوزی

رقابت انویدیا با AMD برای تولید پردازنده های Arm ویندوزی

3 سال پیش
قیمت دلار 11 دی 1402 / سیگنال‌های سیاسی دلار را صعودی می‌کند؟

قیمت دلار 11 دی 1402 / سیگنال‌های سیاسی دلار را صعودی می‌کند؟

3 سال پیش
بحران کمبود نیروی ماهر در صنایع بزرگ و مستندات تبدیل جوشکاری به پرسودترین شغل فنی

بحران کمبود نیروی ماهر در صنایع بزرگ و مستندات تبدیل جوشکاری به پرسودترین شغل فنی

5 ماه پیش

از دست ندهید

دوربین سینمایی پاناسونیک لومیکس SHX1 روی سه‌پایه در نور کم پشت صحنه از روبه‌رو؛ بدنه مشکی، لنز و دکمه‌های فیزیکی در کانون توجه قرار گرفته‌اند.

پاناسونیک دوربین فول فریم Lumix SHX1 را با فیلمبرداری 6K معرفی کرد

۲۷ آبان ۱۴۰۵
قره پس از سقوط سنگین به مدار صعودی بازگشت

قره پس از سقوط سنگین به مدار صعودی بازگشت / قیمت نقره امروز 26 آبان

۲۷ آبان ۱۴۰۵
پیش‌بینی بورس فردا دوشنبه ۱۶ شهریور ۱۴۰۵

پیش‌بینی بورس فردا چهارشنبه ۲۷ آبان ۱۴۰۵

۲۷ آبان ۱۴۰۵
ویندوز ۱۱ بدون ماشین مجازی روی گوشی تاشوی OnePlus Open اجرا شد

ویندوز 11 بدون ماشین مجازی در گوشی تاشو OnePlus Open اجرا شد

۲۷ آبان ۱۴۰۵

دیگر رسانه ها

اجاره خودرو

خبرجو تازه‌ترین اخبار در سراسر دنیا در حوره های مالی , فرهنگی , اقتصادی و ... را برای شما به اشتراک خواهد گذاشت.

ما را دنبال کنید

اخبار اخیر

پاناسونیک دوربین فول فریم Lumix SHX1 را با فیلمبرداری 6K معرفی کرد

۲۷ آبان ۱۴۰۵
قره پس از سقوط سنگین به مدار صعودی بازگشت

قره پس از سقوط سنگین به مدار صعودی بازگشت / قیمت نقره امروز 26 آبان

۲۷ آبان ۱۴۰۵

دسته بندی ها

  • ارز دیجیتال
  • اقتصاد و سرمایه
  • تناسب اندام
  • دسته‌بندی نشده
  • سلامتی
  • شیوه زندگی
  • فرهنگ و هنر
  • فناوری

همکاران

  • اخبار اقتصاد
  • تبلیغات
  • تماس با ما

خوش آمدید!

به حساب خود در زیر وارد شوید

رمز عبور را فراموش کرده اید؟

رمز عبور خود را بازیابی کنید

ورود به سیستم
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال