Cloud حافظه خود را با ویژگی جدید “خواب” اصلاح و اصلاح می کند

شرکت آنتروپیک در آزمایشی جدید قابلیتی شبیه رویا را برای هوش مصنوعی کلود توسعه داده است تا این مدل بتواند خاطرات خود را بررسی و اصلاح کند.

به گزارش سرویس هوش مصنوعی مجردآنتروپیک در جدیدترین تحقیقات خود رویکردی به نام “رویاپردازی” را بررسی کرده است که به کلود هوش مصنوعی اجازه می دهد تجربیات گذشته خود را در دوره های عدم فعالیت مرور کند. این فناوری به مدل کمک می کند تا اطلاعات نادرست را شناسایی کند، حافظه خود را سازماندهی کند و آموخته های قبلی را در مکالمات آینده اعمال کند.

ایده رویا دیدن از نحوه عملکرد مغز انسان در هنگام خواب الهام گرفته شده است. در طول خواب، مغز انسان خاطرات را پردازش می کند و اطلاعات مهم را یکپارچه می کند. Entropic همچنین سعی کرده است فرآیند مشابهی را برای مدیریت حافظه هوش مصنوعی توسعه دهد. البته این قابلیت به معنای تجربه خواب یا رویا به شکل انسانی نیست و تنها به پردازش اطلاعات ذخیره شده اشاره دارد.

به گزارش وب سایت Interesting Engineering، محققان Entropic آزمایش های متعددی را برای بررسی تاثیر این رویکرد بر عملکرد کلود انجام داده اند. نتایج نشان می‌دهد که ذخیره‌سازی انتخابی اطلاعات و بازبینی منظم حافظه می‌تواند توانایی مدل را برای انجام وظایف پیچیده و طولانی‌مدت افزایش دهد.

یکی از مهمترین ویژگی های این سیستم امکان مقایسه اطلاعات ذخیره شده با متن اصلی مکالمات می باشد. با استفاده از این ویژگی، کلود می تواند خطاهای حافظه را تشخیص دهد و اطلاعات تصحیح شده را برای جلسات بعدی ذخیره کند. این روش همچنین از تجمع داده های غیر ضروری جلوگیری می کند و دسترسی به اطلاعات مهم را آسان می کند.

تست آنتروپیک با بازی پوکمون و بررسی عملکرد حافظه کلود

محققان Anthropic از بازی Pokémon Red برای بررسی عملکرد سیستم حافظه استفاده کردند. در این تست کلود باید در محیط بازی حرکت می کرد، مسیرهای مختلف را شناسایی می کرد و نشان های مورد نیاز را می گرفت. این وظایف مستلزم حفظ اطلاعات در مورد موقعیت ها، اهداف و تجربیات قبلی بود.

یکی از چالش های اصلی مدل های هوش مصنوعی، انتخاب اطلاعات مناسب برای ذخیره سازی است. حفظ تمام جزئیات تعاملات قبلی می تواند حافظه را با داده های غیر ضروری پر کند. در مقابل، حذف اطلاعات مهم ممکن است باعث شود مدل اشتباهات گذشته خود را در جلسات آینده تکرار کند.

برای ارزیابی این موضوع، Entropic عملکرد دو مدل Sonnet 3.7 و Claude Fable 5 را پس از حدود 10000 مرحله بازی مقایسه کرد. این دو مدل رویکردهای متفاوتی در مدیریت اطلاعات داشتند و نتایج آنها تفاوت معنی داری را نشان داد.

مدل Sonnet 3.7 تقریباً تمام اطلاعاتی را که در طول بازی می دید ذخیره کرد. حافظه این مدل شامل 413 فایل در 225 پوشه بود و میزان اطلاعات ثبت شده به حدود 978 هزار کاراکتر می رسید. با وجود این حجم عظیم داده، مدل تنها موفق به دریافت یک علامت شد.

در مقابل، Claude Fable 5 تنها 10 فایل را در سه مکان نگهداری می کرد. کل محتوای حافظه این مدل حدود 43400 کاراکتر بود. با این حال او توانست در همان آزمون چهار نمره بگیرد و عملکرد بهتری داشته باشد.

مدل دوم به جای ثبت همه رویدادها، استراتژی های مسیریابی و نکاتی را که از مراحل قبلی آموخته بود را ذخیره می کرد. همچنین دارای یک پرونده مرکزی برای حفظ اهداف جاری و اقدامات برنامه ریزی شده بود. این ساختار به مدل کمک کرد تا اطلاعات لازم را سریعتر پیدا کند.

نتایج آزمایش نشان داد که افزایش مقدار حافظه لزوماً عملکرد بهتر را تضمین نمی کند. مدلی که حافظه کمتری داشت با انتخاب دقیق اطلاعات توانست پیشرفت بیشتری در بازی داشته باشد. این روش همچنین نیاز به پردازش مکرر اطلاعات در رابط بازی را کاهش داد.

بیشتر بخوانید: Entropic ابزار تحلیل مالی Personal Finance را معرفی کرد

چگونه توانایی رویاپردازی خطاهای حافظه کلود را تصحیح می کند؟

یکی از مشکلات سیستم های حافظه هوش مصنوعی ذخیره اطلاعات نادرست است. چنین اطلاعاتی ممکن است در جلسات بعدی به عنوان واقعیت پذیرفته شود و بر تصمیم گیری مدل تأثیر بگذارد. Entropic برای بررسی این مشکل تست دیگری را در محیط بازی Pokemon انجام داد.

در این آزمایش، کلود یک مرکز درمان پوکمون را در نزدیکی منطقه کوهستان قرار می دهد. مون اشتباه ثبت کرده بود. این خطا باعث شد که مدل پس از خروج از ساختمان موقعیت خود را به درستی تشخیص ندهد.

کلود بارها از یک طرفه عبور کرد و به دلیل اطلاعات نادرست حافظه عقب نشینی کرد. این رفتار تکراری مانع از پیشرفت مدل در بازی شد و مانع از مسیر رسیدن به مقصد شد.

محققان از فرآیند رویا دیدن برای حل مشکل استفاده کردند. در مرحله بررسی آفلاین، کلود یادداشت های ذخیره شده را با متن اصلی جلسه قبل مقایسه کرد. این بررسی به مدل این امکان را داد که مکان نادرست مرکز درمان را شناسایی کند.

پس از تشخیص خطا، کلود اطلاعات صحیح را در فایل حافظه ثبت کرد. سپس مدل دوباره وارد منطقه کوهستان می شود. ماه و توانست به سفر خود ادامه دهد. این بار او در نهایت بدون گرفتار شدن در چرخه تکراری قبلی به شهر سرولین رسید.

در مقابل، نسخه ای که همچنان از حافظه اشتباه استفاده می کرد، بارها با همین مانع مواجه شد و نتوانست مسیر را کامل کند. این تفاوت نشان داد که بررسی اطلاعات گذشته می تواند تأثیر مستقیمی بر تصمیم گیری و عملکرد آینده مدل داشته باشد.

توانایی رویا دیدن در این آزمایش با اصلاح حافظه بدون نیاز به تکرار کامل مراحل قبلی مشکل را حل کرد. این موضوع اهمیت بررسی صحت اطلاعات ذخیره شده در سیستم های هوش مصنوعی با حافظه بلند مدت را نشان می دهد.

بیشتر بخوانید: Entropic محدودیت ساخت بازی های معروف با Claude Code را کاهش داد

با سازماندهی اسناد، دقت کلود را افزایش دهید

آنتروپیک در بخش دیگری از تحقیقات خود بررسی کرد که آیا قابلیت تجسم می تواند مجموعه های بزرگی از اسناد را به پایگاه های دانش مرتبط تبدیل کند یا خیر. این پایگاه‌های اطلاعاتی ساختار ویکی‌مانندی دارند و اطلاعات موضوعات مختلف را از طریق پیوندهای داخلی به یکدیگر متصل می‌کنند.

یکی از آزمایش ها با استفاده از حدود 350000 سند داخلی شرکت نرم افزار Stainless انجام شد. این مجموعه شامل تقریباً 420 میلیون نشانه داده بود و پردازش آن مستلزم سازماندهی دقیق داده ها بود.

در طول 128 جلسه، کلود اطلاعات موجود در اسناد را بررسی کرد و به تدریج یک ویکی ساخت. در جلسات بعدی، مدل محتوای این پایگاه دانش را اصلاح و تکمیل کرد تا اطلاعات مربوطه در یک ساختار منظم قرار گیرد.

برای سنجش عملکرد، محققان مجموعه ای از 25 سوال ارزیابی را در نظر گرفتند. نتایج نشان داد که عملکرد کلود در پاسخ به این سؤالات از 13 درصد به 48 درصد افزایش یافته است.

آزمایش دیگری با اسناد مربوط به ادغام شرکت ها انجام شد. در این آزمایش، مدل باید به سؤالاتی پاسخ می داد که اطلاعات مورد نیاز آنها در چندین سند مختلف بود.

کلود در هنگام استفاده از ویکی ایجاد شده توانست به این سوالات با دقت 87 درصد پاسخ دهد. در مقابل، جستجوی مستقیم در اسناد بدون استفاده از پایگاه دانش سازمان‌یافته 73 درصد دقت داشت.

این تفاوت نشان می دهد که اتصال اطلاعات مرتبط می تواند به مدل در پاسخ به سؤالات چند مرحله ای کمک کند. چنین سؤالاتی معمولاً به ترکیب داده های پراکنده نیاز دارند و فقط یافتن یک عبارت در اسناد برای پاسخ به آنها کافی نیست.

فرآیند چشم انداز همچنین به کلود اجازه می دهد تا اطلاعات را به تناسب نیازهای جلسات آینده مرتب کند. داده‌های پرکاربرد را می‌توان در بخش‌هایی قرار داد که سریع‌تر در دسترس هستند. اطلاعات کمتر مهم نیز در فایل های قابل جستجو باقی می ماند.

با این حال، Entropic تاکید کرده است که حفظ حافظه به منابع محاسباتی نیاز دارد. همچنین، ذخیره اطلاعات بیش از حد ممکن است باعث شود جلسات آینده با داده های غیرضروری بیش از حد بار شود.

محققان بر این باورند که عوامل هوش مصنوعی باید یاد بگیرند که چه اطلاعاتی را حفظ کنند و چه زمانی دوباره از آن بازدید کنند. آزمایش‌های آنتروپیک نشان می‌دهد که مدیریت بهتر حافظه می‌تواند توانایی کلود را برای انجام کارهای پیچیده در چندین نشست متوالی افزایش دهد.

بیشتر بخوانید: هوش مصنوعی Entropic سرنخ جدیدی از پازل زیست شناسی 40 ساله پیدا کرد