آیا کلود اکنون می تواند خواب ببیند؟ Entropic به دنبال توسعه حافظه شبیه انسان برای هوش مصنوعی است

اکنون Entropic در حال بررسی ایده مشابهی است. آخرین تحقیقات این شرکت قابلیتی را در فضای ابری بررسی می‌کند که به آن اجازه می‌دهد تجربیات گذشته را در زمان خرابی مرور کند، خاطرات نادرست را تصحیح کند و آنچه را که آموخته است برای مکالمات آینده سازماندهی کند. انتروپیک این فرآیند را رویا می نامد، اگرچه ارتباط چندانی با رویا دیدن انسان ندارد.

این روش به ابر اجازه می دهد تا تعاملات قبلی خود را در زمان های بیکاری بررسی کند. هوش مصنوعی می‌تواند اطلاعات نادرست را شناسایی کند، یادداشت‌های موجود را بهبود بخشد، و دانش ساخت‌یافته‌ای را برای استفاده در جلسات بعدی ایجاد کند. ایده اصلی این فرآیند از نحوه تثبیت و سازماندهی خاطرات در مغز انسان در هنگام خواب الهام گرفته شده است.

تحقیقات آنتروپیک چندین بخش مختلف این سیستم را بررسی می کند. آزمایش‌ها نشان می‌دهد که انتخاب هوشمند اطلاعات برای ذخیره‌سازی و نگهداری منظم حافظه می‌تواند عملکرد هوش مصنوعی را در انجام کارهای پیچیده و طولانی‌مدت بهبود بخشد.

Cloud می تواند اطلاعات مفیدی را در فایل های حافظه در حین انجام وظایف مختلف ذخیره کند. با این حال، تعیین اینکه کدام اطلاعات ارزش نگهداری دارد یک چالش مهم است. ثبت تمام تعاملات باعث انباشت اطلاعات غیر ضروری می شود و نادیده گرفتن جزئیات مهم ممکن است جلسات آینده را از اطلاعات مورد نیاز محروم کند.

Entropic از Pokémon Red برای بررسی این مشکل استفاده کرد. جایی که کلود باید در دنیای بازی حرکت می کرد و نشان های قهرمانی به دست می آورد. محققان عملکرد این دو مدل را پس از حدود 10000 مرحله بازی مقایسه کردند.

مدل Sonnet 3.7 تقریباً تمام اطلاعاتی را که با آن مواجه می شد ثبت کرد. پوشه حافظه این مدل شامل 413 فایل در 225 پوشه مختلف بود و در مجموع نزدیک به 978 هزار کاراکتر اطلاعات داشت. با وجود این حجم عظیم داده های ذخیره شده، این مدل تنها موفق به کسب یک امتیاز شد.

در مقابل، Claude Fable 5 رویکردی کاملا متفاوت داشت. این مدل تنها 10 فایل را در سه مسیر مختلف نگهداری می کرد و میزان اطلاعات ذخیره شده به حدود 43400 کاراکتر می رسید. Cloud با وجود داشتن حافظه بسیار کمتر، چهار نشان در طول بازی به دست آورد.

سیستم حافظه کوچک‌تر استراتژی‌های مسیریابی و درس‌هایی که مدل در طول بازی آموخته را در اولویت قرار می‌دهد. او همچنین یک پرونده مرکزی برای ثبت اهداف فعلی و کارهایی که قرار است در آینده انجام دهد نیز داشت.

این روش به Cloud کمک کرد تا از پردازش مکرر اطلاعاتی که از طریق رابط کاربری خود بازی در دسترس بود جلوگیری کند. در عین حال، یافته های ارزشمندی که ممکن است بین جلسات مختلف گم شده باشند در حافظه باقی می مانند.

خواب دیدن چگونه خطاهای حافظه را تصحیح می کند؟

فایل های حافظه ممکن است حاوی اطلاعات نادرستی باشند. موضوعی که وقتی جلسات بعدی هوش مصنوعی با این اطلاعات به عنوان یک واقعیت قطعی برخورد می کند، مشکلات بیشتری ایجاد می کند. در آزمایش دیگری با استفاده از بازی پوکمون، Entropic نشان داد که چگونه فرآیند رویا می‌تواند چنین خطاهایی را اصلاح کند.

ابر در ابتدا مکان یک مرکز پوکمون در نزدیکی کوه ماه را اشتباه قرار داده بود. این خطا باعث شد که او پس از خروج از ساختمان مکان خود را به درستی تشخیص ندهد. در نتیجه بارها از صخره ای یک طرفه عبور کرد و به مسیر قبلی برگشت.

بررسی آفلاین اطلاعات، نتیجه آزمایش را تغییر داد. کلود یادداشت های ذخیره شده خود را با متن اصلی جلسه قبل مقایسه کرد و در نهایت خطا را تشخیص داد. سپس فایل حافظه را با اطلاعات صحیح به روز کرد.

پس از تصحیح این خطا، ابر دوباره وارد کوه ماه شد و در نهایت به شهر سرولین رسید. در مقابل، نسخه ای که همچنان از اطلاعات اشتباه استفاده می کرد، بارها و بارها با همین مانع مواجه شد و هرگز به انتها نرسید.

Entropic همچنین بررسی کرد که آیا فرآیند تجسم می تواند مجموعه های بزرگی از اسناد را به پایگاه های دانش مرتبط تبدیل کند یا خیر. این سیستم ها ساختاری مشابه ویکی دارند و صفحات مجزای آن ها از طریق لینک های داخلی به اطلاعات مرتبط متصل می شوند.

یکی از آزمایشات با استفاده از حدود 350000 سند داخلی شرکت نرم افزار Stainless انجام شد. این مجموعه اسناد در مجموع تقریباً 420 میلیون توکن داشت.

در طول 128 جلسه، کلود به تدریج دایره المعارفی شبیه ویکی را بر اساس اطلاعات موجود در این اسناد ایجاد و بهبود بخشید. عملکرد مدل در پاسخگویی به 25 سؤال ارزشیابی نیز از 13 درصد به 48 درصد افزایش یافته است.

یک آزمایش جداگانه با اسناد مربوط به ادغام شرکت نیز نتایج قابل توجهی به همراه داشت. Cloud با استفاده از دایره المعارف ساخته شده توانست به سوالاتی که پاسخ آنها به اطلاعات چندین سند مختلف نیاز دارد با دقت 87 درصد پاسخ دهد. در مقابل، جستجوی مستقیم در میان اسناد به تنهایی تنها به دقت 73 درصد منجر شد.

فرآیند بازنگری همچنین می تواند اطلاعات را برای استفاده در جلسات آینده سازماندهی مجدد کند. ابر قادر است جزئیاتی را که بیشتر به آن نیاز دارد به قسمتی از حافظه که به راحتی در دسترس است منتقل کند و اطلاعات کمتر مهم را در فایل های قابل جستجو نگه دارد.

Entropic اذعان دارد که اجرای این روش همچنان نیازمند مدیریت دقیق است. نگهداری و بازبینی حافظه منابع محاسباتی را مصرف می‌کند و انباشت اطلاعات بیش از حد ممکن است با جلسات هوش مصنوعی آینده با مقادیر زیادی داده مواجه شود.

محققان معتقدند که عوامل هوش مصنوعی باید یاد بگیرند که چه زمانی اطلاعات را حفظ کنند و چه زمانی آن را بررسی و اصلاح کنند. نتایج آزمایش‌ها نشان می‌دهد که مدیریت بهتر حافظه می‌تواند به ابر کمک کند تا وظایف پیچیده‌تر و طولانی‌تر را در چندین جلسه متوالی با موفقیت‌تر انجام دهد.