• تبلیغات
  • تماس با ما
شنبه, آبان ۳۰, ۱۴۰۵
  • ورود
خبرجو
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
خبرجو
بدون نتیجه
مشاهده تمام نتایج
صفحه اصلی فناوری

پیشنهاد جدید پدرخوانده هوش مصنوعی برای کنترل مدل ها قبل از انتشار عمومی

سامان پاکدل توسط سامان پاکدل
۱۵ مهر ۱۴۰۵
در فناوری
مدت زمان مطالعه: 1 دقیقه
0
پیشنهاد تازه پدرخوانده هوش مصنوعی برای کنترل مدل‌ها پیش از عرضه عمومی

جفری هینتون، پدرخوانده هوش مصنوعی، خواستار سیستم تایید FDA برای مدل‌های هوش مصنوعی شد و نسبت به خطرات فزاینده این فناوری هشدار داد.

گزارش کردن سرویس هوش مصنوعی یک مرحله ایهینتون روز سه‌شنبه در پادکست «سوالات دختر باهوش» گفت که صنعت هوش مصنوعی به سیستم تأییدی مشابه فرآیند FDA نیاز دارد. بر اساس پیشنهاد وی، شرکت‌ها باید شواهد کافی مبنی بر ایمنی خود ارائه دهند و قبل از عرضه مدل‌های خود به عموم، تاییدیه را از نهاد مسئول دریافت کنند.

وی در گفتگو با نعیما رضا مجری این پادکست صنعت داروسازی را نمونه ای برای پیاده سازی چنین سیستم نظارتی معرفی کرد. هینتون گفت: «شما اجازه ندارید داروی جدیدی بسازید و آن را به بازار عرضه کنید. شما باید FDA را متقاعد کنید. برای این کار باید اقدامات زیادی انجام دهید که حدود یک میلیارد دلار هزینه دارد.

پدرخوانده هوش مصنوعی اعلام کرد: به نظر می رسد این حداقل کاری است که باید برای هوش مصنوعی انجام دهیم.

بیشتر بخوانید: چالش بزرگ بعدی عوامل شخصی هوش مصنوعی; وب سایت ها اجازه ورود به سیستم را نمی دهند

نگرانی در مورد عرضه مدل های قدرتمند هوش مصنوعی

هینتون این پیشنهاد را در بحبوحه نگرانی های فزاینده در مورد خطرات احتمالی مدل های قدرتمند هوش مصنوعی ارائه کرد. او پیش از این بارها درباره عواقب توسعه سریع این فناوری و احتمال خارج شدن سیستم های پیشرفته از کنترل انسان هشدار داده بود.

این نظرات پس از آن بیان شد که OpenAI تصمیم گرفت آخرین مدل خود را کنار بگذارد. آزمایش‌های انجام‌شده بر روی این مدل نگرانی‌هایی را در مورد اینکه چقدر دستورات کاربران را دنبال می‌کند و با محدودیت‌های مجوزهای تنظیم شده مطابقت دارد، ایجاد کرد.

ساچی جین، رئیس سیستم‌های ایمنی OpenAI، قبلاً به Business Insider گفته بود که GPT-6.1 Astra در انجام وظایف دشوار بهبود یافته است. اما این مدل از نظر رعایت مجوزها و اطلاع رسانی اقداماتی که انجام داده بود، عملکرد خوبی نداشت.

پیشنهاد هینتون می تواند شرکت های هوش مصنوعی را ملزم کند تا قبل از عرضه مدل های جدید، آزمایش های گسترده تری انجام دهند. در چنین سیستمی مسئولیت اثبات ایمنی محصول قبل از ورود به بازار بر عهده سازنده خواهد بود.

بیشتر بخوانید: کارمند سابق آنتروپیک: چین از OpenAI و Anthropic جاسوسی می کند

هشدار در مورد هوش مصنوعی خود-بهبود

پدرخوانده هوش مصنوعی بخشی دیگر از دغدغه های خود را به نقش هوش مصنوعی در توسعه نسل های بعدی همین فناوری مرتبط دانست. به گفته وی، شرکت ها در حال حاضر از هوش مصنوعی به روش های مختلف برای بهبود سیستم های هوش مصنوعی خود استفاده می کنند. این فرآیند می تواند سرعت توسعه فناوری را به میزان قابل توجهی افزایش دهد.

او گفت: رشد تصاعدی خیلی سریع اتفاق می افتد. ما در حال وارد شدن به مرحله خود-بهبودی قهقرایی هستیم، زیرا هوش مصنوعی به روش های مختلف برای بهبود هوش مصنوعی استفاده می شود.

خود-بهبودی بازگشتی به فرآیندی اطلاق می شود که در آن سیستم های هوش مصنوعی نقش بیشتری در توسعه و بهبود نسل های بعدی فناوری ایفا می کنند. هینتون معتقد است که چنین روندی می تواند علاوه بر افزایش سریع قابلیت های مدل ها، خطرات مرتبط با آنها را نیز به سرعت گسترش دهد.

هینتون در نهایت تاکید کرد که زمان بندی پیشنهادی او تنها یک پیش بینی است. او گفت: «این فقط یک حدس است، اما من حدس می‌زنم که یک یا دو سال فرصت داریم تا اوضاع خیلی بدتر از الان شود».

پیشنهاد ایجاد یک سیستم تایید مشابه FDA می تواند جهت عرضه مدل های هوش مصنوعی را تغییر دهد. در صورت اجرای چنین رویکردی، شرکت ها باید قبل از عرضه مدل های جدید ایمنی خود را ثابت کرده و سپس مجوز ورود این محصولات به بازار را دریافت کنند.

پست قبلی

خبرهای مهم در مورد مرغ منجمد/سالمونلا در راه است!

پست‌ بعدی

داستان طاعون روسیه چیست و چقدر جای نگرانی دارد؟

سامان پاکدل

سامان پاکدل

مرتبط پست ها

فناوری

قیمت سکه ایرانی امروز شنبه 9 آبان 1405; جدول امتیاز اوزان مختلف

۳۰ آبان ۱۴۰۵
تصویری از یک هکر پشت سیستم
فناوری

رایانه های کوانتومی می توانند امنیت بانک ها و ارزهای دیجیتال را تهدید کنند

۳۰ آبان ۱۴۰۵
فناوری

خرید سریع با اقساط 5 ساله + شرایط

۳۰ آبان ۱۴۰۵
فناوری

دانشمندان هزاران اسکلت باستانی را بررسی کردند و حقیقت عجیبی در مورد رشد انسان کشف کردند

۳۰ آبان ۱۴۰۵
فناوری

بازار برنج پاکستان گران شده است.

۳۰ آبان ۱۴۰۵
قابلیت هوش مصنوعی جدید گوگل کروم با اسکرین شات به
فناوری

قابلیت هوش مصنوعی جدید گوگل کروم با اسکرین شات به جنگ کلاهبرداران اینترنتی می رود. یادآوری یادآوری ویندوز؟

۳۰ آبان ۱۴۰۵
بارگذاری بیشتر
پست‌ بعدی
طاعون روسی

داستان طاعون روسیه چیست و چقدر جای نگرانی دارد؟

گفتگو در مورد این post

توصیه شده

وزارت خزانه داری آمریکا: یک فرد و سه نهاد را که مسئول تسهیل جریان کمک‌های مالی ایران به نیرو‌های یمن هستند تحریم کردیم

وزارت خزانه داری آمریکا: یک فرد و سه نهاد را که مسئول تسهیل جریان کمک‌های مالی ایران به نیرو‌های یمن هستند تحریم کردیم

3 سال پیش
آموزش حرکات ورزشی خم شدن آرنج پهلوی نشر یک دست

آموزش حرکات ورزشی خم شدن آرنج پهلوی نشر یک دست

2 سال پیش
داریوش فرهنگ از ازدواجش با خانم بازیگر افشاگری کرد.

ویدئو/ افشاگری تلخ این بازیگر از ازدواجش با این بازیگر!

4 سال پیش
فروش فوری ایران خودرو با شرایط پایان اقساط فقط برای

فروش فوری ایران خودرو با شرایط پایان اقساط فقط برای مشتریان معتبر + تحویل 60 روزه

3 سال پیش

از دست ندهید

قیمت سکه ایرانی امروز شنبه 9 آبان 1405 جدول امتیاز

قیمت سکه ایرانی امروز شنبه 9 آبان 1405; جدول امتیاز اوزان مختلف

۳۰ آبان ۱۴۰۵
بیش از ۴۰۷ هزار تخلف رانندگی در یک هفته در

بیش از ۴۰۷ هزار تخلف رانندگی در یک هفته در اصفهان ثبت شد

۳۰ آبان ۱۴۰۵
تصویری از یک هکر پشت سیستم

رایانه های کوانتومی می توانند امنیت بانک ها و ارزهای دیجیتال را تهدید کنند

۳۰ آبان ۱۴۰۵
خرید سریع با اقساط 5 ساله شرایط

خرید سریع با اقساط 5 ساله + شرایط

۳۰ آبان ۱۴۰۵

دیگر رسانه ها

اجاره خودرو

خبرجو تازه‌ترین اخبار در سراسر دنیا در حوره های مالی , فرهنگی , اقتصادی و ... را برای شما به اشتراک خواهد گذاشت.

ما را دنبال کنید

اخبار اخیر

قیمت سکه ایرانی امروز شنبه 9 آبان 1405 جدول امتیاز

قیمت سکه ایرانی امروز شنبه 9 آبان 1405; جدول امتیاز اوزان مختلف

۳۰ آبان ۱۴۰۵
بیش از ۴۰۷ هزار تخلف رانندگی در یک هفته در

بیش از ۴۰۷ هزار تخلف رانندگی در یک هفته در اصفهان ثبت شد

۳۰ آبان ۱۴۰۵

دسته بندی ها

  • ارز دیجیتال
  • اقتصاد و سرمایه
  • تناسب اندام
  • دسته‌بندی نشده
  • سلامتی
  • شیوه زندگی
  • فرهنگ و هنر
  • فناوری

همکاران

  • اخبار اقتصاد
  • تبلیغات
  • تماس با ما

خوش آمدید!

به حساب خود در زیر وارد شوید

رمز عبور را فراموش کرده اید؟

رمز عبور خود را بازیابی کنید

ورود به سیستم
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال