• تبلیغات
  • تماس با ما
شنبه, آبان ۳۰, ۱۴۰۵
  • ورود
خبرجو
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
خبرجو
بدون نتیجه
مشاهده تمام نتایج
صفحه اصلی فناوری

پیشنهاد جدید پدرخوانده هوش مصنوعی برای کنترل مدل ها قبل از انتشار عمومی

سامان پاکدل توسط سامان پاکدل
۱۵ مهر ۱۴۰۵
در فناوری
مدت زمان مطالعه: 1 دقیقه
0
پیشنهاد تازه پدرخوانده هوش مصنوعی برای کنترل مدل‌ها پیش از عرضه عمومی

جفری هینتون، پدرخوانده هوش مصنوعی، خواستار سیستم تایید FDA برای مدل‌های هوش مصنوعی شد و نسبت به خطرات فزاینده این فناوری هشدار داد.

گزارش کردن سرویس هوش مصنوعی یک مرحله ایهینتون روز سه‌شنبه در پادکست «سوالات دختر باهوش» گفت که صنعت هوش مصنوعی به سیستم تأییدی مشابه فرآیند FDA نیاز دارد. بر اساس پیشنهاد وی، شرکت‌ها باید شواهد کافی مبنی بر ایمنی خود ارائه دهند و قبل از عرضه مدل‌های خود به عموم، تاییدیه را از نهاد مسئول دریافت کنند.

وی در گفتگو با نعیما رضا مجری این پادکست صنعت داروسازی را نمونه ای برای پیاده سازی چنین سیستم نظارتی معرفی کرد. هینتون گفت: «شما اجازه ندارید داروی جدیدی بسازید و آن را به بازار عرضه کنید. شما باید FDA را متقاعد کنید. برای این کار باید اقدامات زیادی انجام دهید که حدود یک میلیارد دلار هزینه دارد.

پدرخوانده هوش مصنوعی اعلام کرد: به نظر می رسد این حداقل کاری است که باید برای هوش مصنوعی انجام دهیم.

بیشتر بخوانید: چالش بزرگ بعدی عوامل شخصی هوش مصنوعی; وب سایت ها اجازه ورود به سیستم را نمی دهند

نگرانی در مورد عرضه مدل های قدرتمند هوش مصنوعی

هینتون این پیشنهاد را در بحبوحه نگرانی های فزاینده در مورد خطرات احتمالی مدل های قدرتمند هوش مصنوعی ارائه کرد. او پیش از این بارها درباره عواقب توسعه سریع این فناوری و احتمال خارج شدن سیستم های پیشرفته از کنترل انسان هشدار داده بود.

این نظرات پس از آن بیان شد که OpenAI تصمیم گرفت آخرین مدل خود را کنار بگذارد. آزمایش‌های انجام‌شده بر روی این مدل نگرانی‌هایی را در مورد اینکه چقدر دستورات کاربران را دنبال می‌کند و با محدودیت‌های مجوزهای تنظیم شده مطابقت دارد، ایجاد کرد.

ساچی جین، رئیس سیستم‌های ایمنی OpenAI، قبلاً به Business Insider گفته بود که GPT-6.1 Astra در انجام وظایف دشوار بهبود یافته است. اما این مدل از نظر رعایت مجوزها و اطلاع رسانی اقداماتی که انجام داده بود، عملکرد خوبی نداشت.

پیشنهاد هینتون می تواند شرکت های هوش مصنوعی را ملزم کند تا قبل از عرضه مدل های جدید، آزمایش های گسترده تری انجام دهند. در چنین سیستمی مسئولیت اثبات ایمنی محصول قبل از ورود به بازار بر عهده سازنده خواهد بود.

بیشتر بخوانید: کارمند سابق آنتروپیک: چین از OpenAI و Anthropic جاسوسی می کند

هشدار در مورد هوش مصنوعی خود-بهبود

پدرخوانده هوش مصنوعی بخشی دیگر از دغدغه های خود را به نقش هوش مصنوعی در توسعه نسل های بعدی همین فناوری مرتبط دانست. به گفته وی، شرکت ها در حال حاضر از هوش مصنوعی به روش های مختلف برای بهبود سیستم های هوش مصنوعی خود استفاده می کنند. این فرآیند می تواند سرعت توسعه فناوری را به میزان قابل توجهی افزایش دهد.

او گفت: رشد تصاعدی خیلی سریع اتفاق می افتد. ما در حال وارد شدن به مرحله خود-بهبودی قهقرایی هستیم، زیرا هوش مصنوعی به روش های مختلف برای بهبود هوش مصنوعی استفاده می شود.

خود-بهبودی بازگشتی به فرآیندی اطلاق می شود که در آن سیستم های هوش مصنوعی نقش بیشتری در توسعه و بهبود نسل های بعدی فناوری ایفا می کنند. هینتون معتقد است که چنین روندی می تواند علاوه بر افزایش سریع قابلیت های مدل ها، خطرات مرتبط با آنها را نیز به سرعت گسترش دهد.

هینتون در نهایت تاکید کرد که زمان بندی پیشنهادی او تنها یک پیش بینی است. او گفت: «این فقط یک حدس است، اما من حدس می‌زنم که یک یا دو سال فرصت داریم تا اوضاع خیلی بدتر از الان شود».

پیشنهاد ایجاد یک سیستم تایید مشابه FDA می تواند جهت عرضه مدل های هوش مصنوعی را تغییر دهد. در صورت اجرای چنین رویکردی، شرکت ها باید قبل از عرضه مدل های جدید ایمنی خود را ثابت کرده و سپس مجوز ورود این محصولات به بازار را دریافت کنند.

پست قبلی

خبرهای مهم در مورد مرغ منجمد/سالمونلا در راه است!

پست‌ بعدی

داستان طاعون روسیه چیست و چقدر جای نگرانی دارد؟

سامان پاکدل

سامان پاکدل

مرتبط پست ها

از سنجش محیط تا کنترل تجهیزات؛ یک پروژه کاربردی با چند ماژول ساده
فناوری

از اندازه گیری محیطی تا کنترل تجهیزات؛ یک پروژه کاربردی با چند ماژول ساده

۳۰ آبان ۱۴۰۵
قیمت سکه ایرانی امروز شنبه 9 آبان 1405 جدول امتیاز
فناوری

قیمت سکه ایرانی امروز شنبه 9 آبان 1405; جدول امتیاز اوزان مختلف

۳۰ آبان ۱۴۰۵
تصویری از یک هکر پشت سیستم
فناوری

رایانه های کوانتومی می توانند امنیت بانک ها و ارزهای دیجیتال را تهدید کنند

۳۰ آبان ۱۴۰۵
خرید سریع با اقساط 5 ساله شرایط
فناوری

خرید سریع با اقساط 5 ساله + شرایط

۳۰ آبان ۱۴۰۵
دانشمندان هزاران اسکلت باستانی را بررسی کردند و به حقیقتی عجیب درباره پیشرفت بشر پی بردند
فناوری

دانشمندان هزاران اسکلت باستانی را بررسی کردند و حقیقت عجیبی در مورد رشد انسان کشف کردند

۳۰ آبان ۱۴۰۵
بازار برنج پاکستان گران شده است
فناوری

بازار برنج پاکستان گران شده است.

۳۰ آبان ۱۴۰۵
بارگذاری بیشتر
پست‌ بعدی
طاعون روسی

داستان طاعون روسیه چیست و چقدر جای نگرانی دارد؟

گفتگو در مورد این post

توصیه شده

احترام به حاکمیت و تمامیت ارضی عراق از اصول اثبات شده جمهوری اسلامی ایران است

احترام به حاکمیت و تمامیت ارضی عراق از اصول اثبات شده جمهوری اسلامی ایران است

3 سال پیش
رونمایی از هویت جدید برند داریک

داریک با بازتعریف مسیر برند، از هویت و استراتژی بصری جدید خود رونمایی کرد

2 ماه پیش
فروشگاه اینترنتی ایوانترا نمایندگی محصولات اسپانول؛ خرید اصل و مطمئن محصولات اسپانیایی

فروشگاه اینترنتی ایوانترا نمایندگی محصولات اسپانول؛ خرید اصل و مطمئن محصولات اسپانیایی

2 هفته پیش
میلیارد

شکست سنگین 5.7 میلیارد دلاری اپل در دادگاه؛ ارتعاشات تاپتیک موتور آیفون دردسرساز شد

2 ماه پیش

از دست ندهید

بای پس معده و تاثیر آن بر سلامت قلب، قند

بای پس معده و تاثیر آن بر سلامت قلب، قند خون و متابولیسم

۳۰ آبان ۱۴۰۵
از سنجش محیط تا کنترل تجهیزات؛ یک پروژه کاربردی با چند ماژول ساده

از اندازه گیری محیطی تا کنترل تجهیزات؛ یک پروژه کاربردی با چند ماژول ساده

۳۰ آبان ۱۴۰۵
قیمت سکه ایرانی امروز شنبه 9 آبان 1405 جدول امتیاز

قیمت سکه ایرانی امروز شنبه 9 آبان 1405; جدول امتیاز اوزان مختلف

۳۰ آبان ۱۴۰۵
بیش از ۴۰۷ هزار تخلف رانندگی در یک هفته در

بیش از ۴۰۷ هزار تخلف رانندگی در یک هفته در اصفهان ثبت شد

۳۰ آبان ۱۴۰۵

دیگر رسانه ها

اجاره خودرو

خبرجو تازه‌ترین اخبار در سراسر دنیا در حوره های مالی , فرهنگی , اقتصادی و ... را برای شما به اشتراک خواهد گذاشت.

ما را دنبال کنید

اخبار اخیر

بای پس معده و تاثیر آن بر سلامت قلب، قند

بای پس معده و تاثیر آن بر سلامت قلب، قند خون و متابولیسم

۳۰ آبان ۱۴۰۵
از سنجش محیط تا کنترل تجهیزات؛ یک پروژه کاربردی با چند ماژول ساده

از اندازه گیری محیطی تا کنترل تجهیزات؛ یک پروژه کاربردی با چند ماژول ساده

۳۰ آبان ۱۴۰۵

دسته بندی ها

  • ارز دیجیتال
  • اقتصاد و سرمایه
  • تناسب اندام
  • دسته‌بندی نشده
  • سلامتی
  • شیوه زندگی
  • فرهنگ و هنر
  • فناوری

همکاران

  • اخبار اقتصاد
  • تبلیغات
  • تماس با ما

خوش آمدید!

به حساب خود در زیر وارد شوید

رمز عبور را فراموش کرده اید؟

رمز عبور خود را بازیابی کنید

لطفا نام کاربری یا آدرس ایمیل خود را برای بازنشانی رمز عبور خود وارد کنید.

ورود به سیستم
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال