هوش مصنوعی با خواندن امواج مغزی اشتباهات خود را تشخیص می دهد

محققان مؤسسه علوم و فناوری پیشرفته کره، KAIST، با همکاری Microsoft Research Asia، سیستمی را توسعه داده‌اند که می‌تواند با خواندن امواج مغزی متوجه شود که هوش مصنوعی هدف یا روش کاربر را اشتباه درک کرده است و سپس رفتار آن را در لحظه اصلاح کند.

گزارش کردن سرویس هوش مصنوعی یک مرحله ایاین فناوری بر اساس روش رابط مغز و کامپیوتر به نام «همسویی ارزش عصبی» کار می کند. این سیستم از الکتروانسفالوگرافی یا EEG برای ثبت واکنش های مغز استفاده می کند. این واکنش ها زمانی ظاهر می شوند که فرد مشاهده کند هوش مصنوعی هدف اشتباهی را دنبال کرده یا روشی را برخلاف انتظار خود برای رسیدن به هدف انتخاب کرده است.

محققان اعلام کردند یکی از مشکلات اصلی در همکاری هوش مصنوعی انسان و هوش مصنوعی، تشخیص دقیق نیت واقعی انسان است. سیستم های فعلی بیشتر بر داده های قابل مشاهده مانند اعلان ها، گفتار، حرکات و رفتار کاربر متکی هستند. این داده ها همیشه نمی توانند هدف واقعی فرد را نشان دهند، زیرا ممکن است یک رفتار واحد برای چندین هدف مختلف انجام شود و یک هدف واحد ممکن است از طریق چندین رفتار مختلف به دست آید.

به عنوان مثال، شخصی که فنجانی را برمی‌دارد ممکن است قصد نوشیدن، شستن یا حرکت آن را داشته باشد. حتی ممکن است بخواهد فنجان را به شخص دیگری بدهد. از طرف دیگر، اگر هدف فرد فقط رفع تشنگی باشد، می تواند فنجان را بردارید، بطری آب را انتخاب کند یا از شخص دیگری بخواهد که برای او نوشیدنی بیاورد. محققان این وضعیت را «ابهام هدف و عمل» می نامند.

بیشتر بخوانید: کنایه جنجالی آلتمن از Entropic; وقتی هوش مصنوعی با دین تداخل پیدا می کند

مغز می تواند نوع اشتباه هوش مصنوعی را تشخیص دهد

راه حل تیم KAIST این است که سیستم نه تنها به رفتار یا دستور مستقیم کاربر بستگی دارد، بلکه تایید یا عدم تایید او را از سیگنال های مغزی دریافت می کند. مغز انسان نتیجه رویدادهای بعدی را پیش بینی می کند. هنگامی که نتیجه واقعی با این پیش‌بینی متفاوت است، پاسخ‌های عصبی خاصی تولید می‌شوند که امکان تشخیص خطا را فراهم می‌کنند.

محققان بر روی دو واکنش به نام‌های خطای پیش‌بینی پاداش یا RPE و خطای پیش‌بینی حالت یا SPE تمرکز کرده‌اند. هر یک از این واکنش ها نوع متفاوتی از سوء استفاده از هوش مصنوعی را نشان می دهد.

خطای پیش‌بینی پاداش زمانی رخ می‌دهد که نتیجه یا هدف نهایی با آنچه کاربر انتظار داشت متفاوت باشد. در سیستم NVA، این سیگنال می تواند نشان دهد که هوش مصنوعی اساساً هدف را اشتباه تشخیص داده است.

به عنوان مثال، کاربر به یک ربات خانگی می گوید: “برای من چیزی بیاور تا بنوشم.” کاربر آب می خواهد، اما ربات برای او قهوه می آورد. در این شرایط، هدف نهایی اشتباه است و مغز انسان می تواند خطای پیش بینی پاداش تولید کند.

خطای پیش‌بینی حالت شرایط مختلف را نشان می‌دهد. این واکنش زمانی رخ می دهد که هدف نهایی درست باشد، اما اقدام، مرحله میانی یا روش انتخاب شده توسط هوش مصنوعی با انتظارات کاربر متفاوت است. این سیگنال به سیستم می گوید که نتیجه درست است، اما روش انجام کار آن چیزی نیست که کاربر انتظار داشت.

اگر همان کاربر آب بخواهد و ربات این هدف را به درستی درک کند، باز هم ممکن است در نحوه اجرای دستور اشتباه کند. به عنوان مثال، ربات به جای برداشتن یک بطری آب در کنار کاربر، می تواند به آشپزخانه رفته و یک لیوان را از آب لوله کشی پر کند. کاربر در نهایت آب دریافت می کند، اما مسیر انجام کار با آنچه که انتظار داشت متفاوت است. چنین شرایطی می تواند باعث خطای پیش بینی موقعیت شود.

یادگیری عمیق سیگنال های EEG را تفسیر می کند

محققان در آزمایش‌های خود دریافتند که بسته به وجود خطای پیش‌بینی پاداش، خطای پیش‌بینی موقعیت یا ترکیبی از این دو، الگوهای متفاوتی در امواج مغزی ایجاد می‌شود. آنها سپس از یادگیری عمیق برای تجزیه و تحلیل سیگنال های EEG استفاده کردند تا سیستم بتواند نوع واکنش کاربر به رفتار هوش مصنوعی را طبقه بندی کند.

این روش به هوش مصنوعی اجازه می دهد تا بدون نیاز به توضیح شفاهی تشخیص دهد که آیا هدف را اشتباه متوجه شده یا راه اشتباهی را برای رسیدن به هدف انتخاب کرده است. در نتیجه، سیستم نه تنها متوجه وجود خطا می شود و می تواند دقیقاً تعیین کند که مشکل در کدام بخش از فرآیند تصمیم گیری رخ داده است.

تیم تحقیقاتی این فناوری را در قالب الگوریتمی برای همکاری انسان و هوش مصنوعی پیاده سازی کرده است. این الگوریتم سیگنال های عصبی رمزگشایی شده را به عنوان بازخورد به سیستم هوش مصنوعی ارائه می دهد. سپس هوش مصنوعی می تواند تصمیم خود را بر اساس نوع سیگنال تغییر دهد و مسیر دیگری را انتخاب کند.

این ویژگی می تواند همکاری انسان و ماشین را طبیعی تر کند. به عنوان مثال، یک ربات خانگی می تواند متوجه شود که دستور کاربر را اشتباه تعبیر کرده است، بدون اینکه منتظر اصلاح شفاهی باشد و رویکرد خود را در محل تغییر دهد.

کاربردهای احتمالی خواندن امواج مغزی توسط هوش مصنوعی به روبات های خانگی محدود نمی شود. بازخورد عصبی را می توان در روبات های صنعتی، ماشین های خودران، روبات های پزشکی و توانبخشی و سیستم های آموزشی استفاده کرد. چنین روشی برای افرادی که در تکلم یا حرکت مشکل دارند و نمی توانند خطای سیستم را به صورت شفاهی تصحیح کنند می تواند خبرجو باشد.

در خودروهای خودران، این فناوری می تواند واکنش شناختی راننده به تصمیم خودرو را شناسایی کند. سیستم‌های آموزشی ممکن است بتوانند وضعیت شناختی دانش‌آموز را بهتر درک کنند و بر اساس این بازخورد، نحوه ارائه محتوا را تغییر دهند.

بیشتر بخوانید: محققان اسرار جدیدی از الگوهای نوشتن هوش مصنوعی را فاش می کنند

راه طولانی برای استفاده واقعی از فناوری ذهن خوانی

سانگ وان لی، استاد و رهبر این تحقیق، می‌گوید که اهمیت این تحقیق در این است که هوش مصنوعی می‌تواند از مرحله استنباط قصد انسان تنها از نتایج رفتاری قابل مشاهده فراتر رود. به گفته وی، این سیستم می تواند مستقیماً از سیگنال های شناختی ایجاد شده در مغز هنگام همکاری انسان و هوش مصنوعی استفاده کند.

با این حال، این فناوری هنوز با استفاده عمومی فاصله دارد. محققان این سیستم را در شبیه‌سازی‌ها آزمایش کرده‌اند و هنوز نتوانسته‌اند یک ربات مستقل را در یک محیط واقعی نشان دهند که می‌تواند EEG فرد را دریافت کند و رفتار آن را بر اساس آن تغییر دهد.

EEG برای ثبت فعالیت الکتریکی مغز به الکترود نیاز دارد. سیگنال های مغزی نیز ضعیف هستند و می توانند تحت تأثیر نویز قرار گیرند. این موضوع استفاده از چنین سیستمی را در خارج از محیط های آزمایشگاهی کنترل شده دشوار می کند.

در مراحل بعدی، محققان باید تعیین کنند که NVA چقدر قابل اعتماد در طول تعاملات طبیعی انسان و هوش مصنوعی باقی می ماند. شرایط واقعی شامل جابجایی افراد، تغییر محیط و رویدادهای غیرقابل پیش بینی است و پیچیده تر از آزمایش های کنترل شده است.

این تحقیق نشان می دهد که خواندن امواج مغزی می تواند به کانال جدیدی برای انتقال بازخورد به هوش مصنوعی تبدیل شود. این روش تعامل انسان و ماشین را بهبود می بخشد. در صورت توسعه، ماشین‌ها می‌توانند نه تنها دستورات انسان، بلکه واکنش‌های شناختی آن‌ها را به تصمیم‌هایشان درک کنند و از این اطلاعات برای اصلاح رفتار خود استفاده کنند.