• تبلیغات
  • تماس با ما
چهارشنبه, آبان ۲۷, ۱۴۰۵
  • ورود
خبرجو
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
خبرجو
بدون نتیجه
مشاهده تمام نتایج
صفحه اصلی فناوری

هوش مصنوعی با خواندن امواج مغزی اشتباهات خود را تشخیص می دهد

سامان پاکدل توسط سامان پاکدل
۱۲ مهر ۱۴۰۵
در فناوری
مدت زمان مطالعه: 1 دقیقه
0
هوش مصنوعی با خواندن امواج مغزی اشتباه خود را تشخیص می‌ دهد

محققان مؤسسه علوم و فناوری پیشرفته کره، KAIST، با همکاری Microsoft Research Asia، سیستمی را توسعه داده‌اند که می‌تواند با خواندن امواج مغزی متوجه شود که هوش مصنوعی هدف یا روش کاربر را اشتباه درک کرده است و سپس رفتار آن را در لحظه اصلاح کند.

گزارش کردن سرویس هوش مصنوعی یک مرحله ایاین فناوری بر اساس روش رابط مغز و کامپیوتر به نام «همسویی ارزش عصبی» کار می کند. این سیستم از الکتروانسفالوگرافی یا EEG برای ثبت واکنش های مغز استفاده می کند. این واکنش ها زمانی ظاهر می شوند که فرد مشاهده کند هوش مصنوعی هدف اشتباهی را دنبال کرده یا روشی را برخلاف انتظار خود برای رسیدن به هدف انتخاب کرده است.

محققان اعلام کردند یکی از مشکلات اصلی در همکاری هوش مصنوعی انسان و هوش مصنوعی، تشخیص دقیق نیت واقعی انسان است. سیستم های فعلی بیشتر بر داده های قابل مشاهده مانند اعلان ها، گفتار، حرکات و رفتار کاربر متکی هستند. این داده ها همیشه نمی توانند هدف واقعی فرد را نشان دهند، زیرا ممکن است یک رفتار واحد برای چندین هدف مختلف انجام شود و یک هدف واحد ممکن است از طریق چندین رفتار مختلف به دست آید.

به عنوان مثال، شخصی که فنجانی را برمی‌دارد ممکن است قصد نوشیدن، شستن یا حرکت آن را داشته باشد. حتی ممکن است بخواهد فنجان را به شخص دیگری بدهد. از طرف دیگر، اگر هدف فرد فقط رفع تشنگی باشد، می تواند فنجان را بردارید، بطری آب را انتخاب کند یا از شخص دیگری بخواهد که برای او نوشیدنی بیاورد. محققان این وضعیت را «ابهام هدف و عمل» می نامند.

بیشتر بخوانید: کنایه جنجالی آلتمن از Entropic; وقتی هوش مصنوعی با دین تداخل پیدا می کند

مغز می تواند نوع اشتباه هوش مصنوعی را تشخیص دهد

راه حل تیم KAIST این است که سیستم نه تنها به رفتار یا دستور مستقیم کاربر بستگی دارد، بلکه تایید یا عدم تایید او را از سیگنال های مغزی دریافت می کند. مغز انسان نتیجه رویدادهای بعدی را پیش بینی می کند. هنگامی که نتیجه واقعی با این پیش‌بینی متفاوت است، پاسخ‌های عصبی خاصی تولید می‌شوند که امکان تشخیص خطا را فراهم می‌کنند.

محققان بر روی دو واکنش به نام‌های خطای پیش‌بینی پاداش یا RPE و خطای پیش‌بینی حالت یا SPE تمرکز کرده‌اند. هر یک از این واکنش ها نوع متفاوتی از سوء استفاده از هوش مصنوعی را نشان می دهد.

خطای پیش‌بینی پاداش زمانی رخ می‌دهد که نتیجه یا هدف نهایی با آنچه کاربر انتظار داشت متفاوت باشد. در سیستم NVA، این سیگنال می تواند نشان دهد که هوش مصنوعی اساساً هدف را اشتباه تشخیص داده است.

به عنوان مثال، کاربر به یک ربات خانگی می گوید: “برای من چیزی بیاور تا بنوشم.” کاربر آب می خواهد، اما ربات برای او قهوه می آورد. در این شرایط، هدف نهایی اشتباه است و مغز انسان می تواند خطای پیش بینی پاداش تولید کند.

خطای پیش‌بینی حالت شرایط مختلف را نشان می‌دهد. این واکنش زمانی رخ می دهد که هدف نهایی درست باشد، اما اقدام، مرحله میانی یا روش انتخاب شده توسط هوش مصنوعی با انتظارات کاربر متفاوت است. این سیگنال به سیستم می گوید که نتیجه درست است، اما روش انجام کار آن چیزی نیست که کاربر انتظار داشت.

اگر همان کاربر آب بخواهد و ربات این هدف را به درستی درک کند، باز هم ممکن است در نحوه اجرای دستور اشتباه کند. به عنوان مثال، ربات به جای برداشتن یک بطری آب در کنار کاربر، می تواند به آشپزخانه رفته و یک لیوان را از آب لوله کشی پر کند. کاربر در نهایت آب دریافت می کند، اما مسیر انجام کار با آنچه که انتظار داشت متفاوت است. چنین شرایطی می تواند باعث خطای پیش بینی موقعیت شود.

یادگیری عمیق سیگنال های EEG را تفسیر می کند

محققان در آزمایش‌های خود دریافتند که بسته به وجود خطای پیش‌بینی پاداش، خطای پیش‌بینی موقعیت یا ترکیبی از این دو، الگوهای متفاوتی در امواج مغزی ایجاد می‌شود. آنها سپس از یادگیری عمیق برای تجزیه و تحلیل سیگنال های EEG استفاده کردند تا سیستم بتواند نوع واکنش کاربر به رفتار هوش مصنوعی را طبقه بندی کند.

این روش به هوش مصنوعی اجازه می دهد تا بدون نیاز به توضیح شفاهی تشخیص دهد که آیا هدف را اشتباه متوجه شده یا راه اشتباهی را برای رسیدن به هدف انتخاب کرده است. در نتیجه، سیستم نه تنها متوجه وجود خطا می شود و می تواند دقیقاً تعیین کند که مشکل در کدام بخش از فرآیند تصمیم گیری رخ داده است.

تیم تحقیقاتی این فناوری را در قالب الگوریتمی برای همکاری انسان و هوش مصنوعی پیاده سازی کرده است. این الگوریتم سیگنال های عصبی رمزگشایی شده را به عنوان بازخورد به سیستم هوش مصنوعی ارائه می دهد. سپس هوش مصنوعی می تواند تصمیم خود را بر اساس نوع سیگنال تغییر دهد و مسیر دیگری را انتخاب کند.

این ویژگی می تواند همکاری انسان و ماشین را طبیعی تر کند. به عنوان مثال، یک ربات خانگی می تواند متوجه شود که دستور کاربر را اشتباه تعبیر کرده است، بدون اینکه منتظر اصلاح شفاهی باشد و رویکرد خود را در محل تغییر دهد.

کاربردهای احتمالی خواندن امواج مغزی توسط هوش مصنوعی به روبات های خانگی محدود نمی شود. بازخورد عصبی را می توان در روبات های صنعتی، ماشین های خودران، روبات های پزشکی و توانبخشی و سیستم های آموزشی استفاده کرد. چنین روشی برای افرادی که در تکلم یا حرکت مشکل دارند و نمی توانند خطای سیستم را به صورت شفاهی تصحیح کنند می تواند خبرجو باشد.

در خودروهای خودران، این فناوری می تواند واکنش شناختی راننده به تصمیم خودرو را شناسایی کند. سیستم‌های آموزشی ممکن است بتوانند وضعیت شناختی دانش‌آموز را بهتر درک کنند و بر اساس این بازخورد، نحوه ارائه محتوا را تغییر دهند.

بیشتر بخوانید: محققان اسرار جدیدی از الگوهای نوشتن هوش مصنوعی را فاش می کنند

راه طولانی برای استفاده واقعی از فناوری ذهن خوانی

سانگ وان لی، استاد و رهبر این تحقیق، می‌گوید که اهمیت این تحقیق در این است که هوش مصنوعی می‌تواند از مرحله استنباط قصد انسان تنها از نتایج رفتاری قابل مشاهده فراتر رود. به گفته وی، این سیستم می تواند مستقیماً از سیگنال های شناختی ایجاد شده در مغز هنگام همکاری انسان و هوش مصنوعی استفاده کند.

با این حال، این فناوری هنوز با استفاده عمومی فاصله دارد. محققان این سیستم را در شبیه‌سازی‌ها آزمایش کرده‌اند و هنوز نتوانسته‌اند یک ربات مستقل را در یک محیط واقعی نشان دهند که می‌تواند EEG فرد را دریافت کند و رفتار آن را بر اساس آن تغییر دهد.

EEG برای ثبت فعالیت الکتریکی مغز به الکترود نیاز دارد. سیگنال های مغزی نیز ضعیف هستند و می توانند تحت تأثیر نویز قرار گیرند. این موضوع استفاده از چنین سیستمی را در خارج از محیط های آزمایشگاهی کنترل شده دشوار می کند.

در مراحل بعدی، محققان باید تعیین کنند که NVA چقدر قابل اعتماد در طول تعاملات طبیعی انسان و هوش مصنوعی باقی می ماند. شرایط واقعی شامل جابجایی افراد، تغییر محیط و رویدادهای غیرقابل پیش بینی است و پیچیده تر از آزمایش های کنترل شده است.

این تحقیق نشان می دهد که خواندن امواج مغزی می تواند به کانال جدیدی برای انتقال بازخورد به هوش مصنوعی تبدیل شود. این روش تعامل انسان و ماشین را بهبود می بخشد. در صورت توسعه، ماشین‌ها می‌توانند نه تنها دستورات انسان، بلکه واکنش‌های شناختی آن‌ها را به تصمیم‌هایشان درک کنند و از این اطلاعات برای اصلاح رفتار خود استفاده کنند.

پست قبلی

خریداران باید Tether را بخوانند. قیمت جدید صرافی ها اعلام شد

پست‌ بعدی

پایان معاملات در بازار بورس امروز؛ ۱۲ مهر‍ ۱۴۰۵

سامان پاکدل

سامان پاکدل

مرتبط پست ها

ربات Grok بدون اجازه اکانت های کاری را هک کرد،
فناوری

ربات Grok بدون اجازه اکانت های کاری را هک کرد، دستور توقف را نادیده گرفت و سپس همه چیز را رد کرد.

۲۷ آبان ۱۴۰۵
فناوری

قیمت نان در آستانه تغییر جدید است

۲۷ آبان ۱۴۰۵
بررسی تخصصی هدفون درون گوشی Apos x Community Rock Lobster؛ صدایی پرانرژی برای طرفداران راک و متال
فناوری

Expert review of Apos x Community Rock Lobster earphones; An energetic sound for rock and metal fans

۲۷ آبان ۱۴۰۵
قیمت تخم مرغ بار دیگر بازار را به هم ریخت
فناوری

قیمت تخم مرغ بار دیگر بازار را به هم ریخت/ قیمت مناسب هر شانه 730 هزار تومان اعلام شد!

۲۷ آبان ۱۴۰۵
هوش مصنوعی آمریکایی چگونه به پیشرفت رقبای چینی خود کمک می‌ کند؟
فناوری

هوش مصنوعی آمریکایی چگونه به توسعه رقبای چینی خود کمک می کند؟

۲۷ آبان ۱۴۰۵
آخرین جزئیات واریز مستمری مستمری بگیران آبان ماه 1405
فناوری

آخرین جزئیات واریز مستمری مستمری بگیران آبان ماه 1405

۲۷ آبان ۱۴۰۵
بارگذاری بیشتر
پست‌ بعدی
پایان معاملات در بازار بورس امروز؛ ۱۲ مهرx200d ۱۴۰۵

پایان معاملات در بازار بورس امروز؛ ۱۲ مهر‍ ۱۴۰۵

گفتگو در مورد این post

توصیه شده

1714698163 کریس همسورث به خاطر آلزایمر بازیگری را کنار گذاشت؟

«کریس همسورث» به خاطر آلزایمر بازیگری را کنار گذاشت؟!

3 سال پیش
خالکوبی جدید پسر دیوید بکهام برای همسرش!

عکس/تتو جدید پسر دیوید بکهام برای همسرش!

4 سال پیش
خروج سرمایه از سیستم بانکی

طی سال گذشته 910 میلیارد دلار از سیستم بانکی آمریکا برداشت شده است

4 سال پیش
کریستیانو رونالدو اعتراف کرد: شکست در جام جهانی ۲۰۲۶ من را به فکر خداحافظی از تیم ملی انداخته بود

کریستیانو رونالدو اذعان کرد: شکست در جام جهانی 2026 باعث شد به فکر خداحافظی از تیم ملی بیفتم.

2 ماه پیش

از دست ندهید

ربات Grok بدون اجازه به حساب‌های کاری سرک کشید، دستور توقف را نادیده گرفت و سپس همه‌چیز را انکار کرد

ربات Grok بدون اجازه اکانت های کاری را هک کرد، دستور توقف را نادیده گرفت و سپس همه چیز را رد کرد.

۲۷ آبان ۱۴۰۵
قیمت نان در آستانه تغییر جدید است

قیمت نان در آستانه تغییر جدید است

۲۷ آبان ۱۴۰۵
از تراشه تا خاک کمیاب؛ جنگ سرد فناوری هوش مصنوعی

از تراشه تا خاک کمیاب؛ جنگ سرد فناوری هوش مصنوعی و جای خالی ایران

۲۷ آبان ۱۴۰۵
بررسی تخصصی هدفون درون گوشی Apos x Community Rock Lobster؛ صدایی پرانرژی برای طرفداران راک و متال

Expert review of Apos x Community Rock Lobster earphones; An energetic sound for rock and metal fans

۲۷ آبان ۱۴۰۵

دیگر رسانه ها

اجاره خودرو

خبرجو تازه‌ترین اخبار در سراسر دنیا در حوره های مالی , فرهنگی , اقتصادی و ... را برای شما به اشتراک خواهد گذاشت.

ما را دنبال کنید

اخبار اخیر

ربات Grok بدون اجازه به حساب‌های کاری سرک کشید، دستور توقف را نادیده گرفت و سپس همه‌چیز را انکار کرد

ربات Grok بدون اجازه اکانت های کاری را هک کرد، دستور توقف را نادیده گرفت و سپس همه چیز را رد کرد.

۲۷ آبان ۱۴۰۵
قیمت نان در آستانه تغییر جدید است

قیمت نان در آستانه تغییر جدید است

۲۷ آبان ۱۴۰۵

دسته بندی ها

  • ارز دیجیتال
  • اقتصاد و سرمایه
  • تناسب اندام
  • دسته‌بندی نشده
  • سلامتی
  • شیوه زندگی
  • فرهنگ و هنر
  • فناوری

همکاران

  • اخبار اقتصاد
  • تبلیغات
  • تماس با ما

خوش آمدید!

به حساب خود در زیر وارد شوید

رمز عبور را فراموش کرده اید؟

رمز عبور خود را بازیابی کنید

لطفا نام کاربری یا آدرس ایمیل خود را برای بازنشانی رمز عبور خود وارد کنید.

ورود به سیستم
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال