DeepMind گوگل از یک روش یادگیری ماشینی جدید به نام FunSearch رونمایی کرده است. این روش جدید از مدل های زبانی پیشرفته (LLM) برای کشف راه حل های جدید در زمینه های ریاضیات و علوم کامپیوتر استفاده می کند.
گزارش کردن تنها بر اساس مقاله ای در مجله علمی طبیعت منتشر شده، FunSearch یک استراتژی تکاملی است که ایده های خلاقانه با امتیاز بالا را شناسایی، ترویج و توسعه می دهد. این ایده ها به صورت برنامه های کامپیوتری نمایش داده می شوند و به صورت خودکار اجرا و ارزیابی می شوند.
در این سیستم، برخی از برنامه ها از مجموعه برنامه های فعلی انتخاب شده و به یک LLM تغذیه می شوند. LLM خلاقانه روی این برنامه ها کار می کند و برنامه های جدیدی تولید می کند که به طور خودکار دوباره ارزیابی می شوند. بهترین برنامه های حاصل دوباره به مجموعه موجود اضافه می شوند و یک چرخه مداوم از تکامل و بهبود ایجاد می کنند. FunSearch از Google’s Palm 2 استفاده می کند، اما با سایر LLM های مبتنی بر کد نیز سازگار است.
گوگل اعلام کرد که “FunSearch” قادر به محاسبه “مسائل پیچیده” است و می تواند مجموعه ای از “مسائل مرتبط با علوم ریاضی و کامپیوتر” را حل کند. این مدل توسط یک سیستم “ارزیابی” برای هوش مصنوعی آموزش داده شده است. هوش مصنوعی “روش های حل خلاقانه مشکل” و “روش های ارزیابی” را به عنوان خروجی ارائه می دهد. «پردازنده» نقش قضاوت در مورد روش حل مسئله ارائه شده توسط مدل را بر عهده دارد. پس از چندین دور تکرار، مدل هوش مصنوعی با قابلیتهای ریاضی پیشرفتهتر توسعه مییابد.
Google DeepMind برای آزمایش از مدل PalM 2 استفاده کرده است. تیم تحقیقاتی یک “مخزن کد” اختصاصی ایجاد کرد، سوالات را کدگذاری کرد و فرآیند ارزیابی را تنظیم کرد. سپس، در هر دور از تکرار، مدل به طور خودکار سؤالات را از مخزن کد انتخاب می کند، «راه حل های خلاقانه جدید» را ارائه می دهد و آنها را برای ارزیابی ارسال می کند. “بهترین راه حل” دوباره به مخزن کد اضافه می شود و دور دیگری آغاز می شود.
FUNSEARCH چگونه کار می کند؟
FunSearch با استفاده از یک فرآیند تکراری کار می کند. در ابتدا کاربر یک مشکل را در قالب کد تعریف می کند که شامل روشی برای ارزیابی برنامه ها و برنامه اولیه ای است که برای تولید مجموعه ای از برنامه ها استفاده می شود. در هر دور از فرآیند تکرار، سیستم برخی از برنامه ها را از مجموعه فعلی انتخاب می کند و آنها را به یک مدل زبان بزرگ (LLM) می فرستد. این LLM خلاقانه روی این برنامه ها کار می کند و برنامه های جدیدی ایجاد می کند که به طور خودکار ارزیابی می شوند. برنامه های برتر دوباره به استخر اضافه می شوند و یک چرخه خوددرمانی ایجاد می کنند. FunSearch از مدل Google’s Palm 2 استفاده میکند، اما با سایر مدلهای زبان آموزشدیده بر روی کد نیز سازگار است.
دانش جدید ریاضی را کشف کنید
کشف دانش و الگوریتم های جدید ریاضی در حوزه های مختلف اغلب فراتر از توانایی های بسیاری از سیستم های هوش مصنوعی پیشرفته است. در مواجهه با چنین مشکلات چالش برانگیزی، FunSearch چندین عنصر کلیدی را به کار می گیرد. این سیستم برنامههایی تولید میکند که نشان میدهد چگونه به راهحلها رسیدهاند، رویکردی شبیه به روش حل مسئله دانشمندان که اکتشافات یا پدیدهها را از طریق فرآیند تولیدشان توضیح میدهند.
FunSearch به دنبال یافتن راه حل هایی است که توسط برنامه های فشرده نمایش داده می شوند. راه حل هایی که می توانند اجسام بزرگ را با برنامه های کوتاه توصیف کنند. این اجازه می دهد تا FunSearch مقیاس پذیر باشد و مشکلات پیچیده ای را که فراتر از قابلیت های سیستم های هوش مصنوعی معمولی است، حل کند.
در یک بیانیه مطبوعاتی، محققان روشی را برای محاسبات مبتنی بر مدل در “مسائل سطح بالا” (که یک چالش بزرگ در ریاضیات هستند و شامل مفاهیمی مانند شمارش و جایگشت هستند) ارائه کردند. این نشان می دهد که FunSearch می تواند در حل مسائل پیچیده ریاضی که شامل محاسبات گسترده و تجزیه و تحلیل های دقیق است، بسیار کارآمد باشد.
FUNSEARCH و مشکل بسته بندی سطل زباله
برای آزمایش تطبیق پذیری آن، تیم تحقیقاتی FunSearch یک مشکل ریاضی دشوار دیگر، مسئله Bin Packing را هدف قرار داد. هدف از این مشکل یافتن حداقل تعداد جعبه (Bins) برای قرار دادن مجموعه ای از اشیاء با اندازه های مختلف است، به طوری که حجم هیچ یک از جعبه ها از حد معینی فراتر نرود.
محققان بخش هایی از برنامه را که به آنها نشان می داد چگونه مشکل را حل کنند، حذف کردند و اینجاست که FunSearch وارد عمل شد. سیستم کدی ناقص به Codey می دهد تا شکاف ها را پر کند و اساسا کدی را پیشنهاد می کند که مشکل را حل می کند. سپس الگوریتم دیگری پیشنهادات Codey را بررسی و امتیاز می دهد. بهترین پیشنهادها، حتی اگر کاملاً صحیح نباشند، ذخیره میشوند و به Codey بازگردانده میشوند تا دوباره برای تکمیل برنامه تلاش کند.
FunSearch یک راه حل “در زمان” را برای مشکل بسته بندی سطل ارائه می دهد و برنامه ای را ایجاد می کند که “به طور خودکار بر اساس حجم موجود مورد نیاز تنظیم می شود.” محققان بیان کردند که در مقایسه با سایر روشهای آموزشی هوش مصنوعی که از شبکههای عصبی برای یادگیری استفاده میکنند، کد خروجی مدل آموزشدیدهشده با روش FunSearch آسانتر بررسی و پیادهسازی میشود که استفاده از آن را در محیطهای صنعتی واقعی آسانتر میکند. او انجام می دهد.
FUNSEARCH و مشکلات با الهام از مجموعه
FunSearch در حل مسائل با الهام از مجموعه های ترکیبی برتری دارد. این شاخه از ریاضیات به مطالعه نحوه برشمردن ترتیبات ممکن مجموعه ها می پردازد. FunSearch به طور خودکار درخواستهایی را برای یک مدل زبان بزرگ (LLM) ایجاد میکند و از آن میخواهد برنامههای کامپیوتری کوتاهی بنویسد که قادر به تولید راهحلهایی برای سناریوهای خاص هستند. سپس، سیستم به سرعت بررسی می کند که آیا این راه حل ها بهتر از راه حل های موجود هستند یا خیر. در صورت شکست، بازخوردی را به LLM برای بهبود در دور بعدی ارائه می دهد.
برناردینو، محقق علوم کامپیوتر در DeepMind می گوید: «روشی که ما از LLM استفاده می کنیم این است که به عنوان موتور خلاقیت عمل کنیم. او اشاره می کند که همه برنامه های تولید شده توسط LLM خبرجو نیستند و برخی حتی قابل اجرا نیستند.
آنچه واقعاً هیجانانگیز است، فقط نتایج خاصی نیست که FunSearch به دست آورده است، بلکه چشماندازهایی است که این سیستم برای آینده تعامل انسان و ماشین در زمینه ریاضیات ایجاد میکند. FunSearch به جای ایجاد یک راه حل مشخص، برنامه ای می سازد که خود راه حل را جستجو می کند. این برنامه می تواند بینش عمیق تری در مورد فرآیند حل مسئله ارائه دهد که ممکن است به حل سایر مشکلات مرتبط در مقایسه با راه حل داده شده کمک کند.
این پیشرفت نشان می دهد که فناوری های پشت ChatGPT و برنامه های مشابه می توانند به اکتشافات علمی کمک کنند. محققان در زمینه هوش مصنوعی ادعا می کنند که با استفاده از این نوع فناوری اولین کشف علمی جهان را انجام داده اند. این نوع پیشرفت ها نشان دهنده گام های مهمی در توسعه هوش مصنوعی و کاربردهای آن در حل مسائل پیچیده علمی است و احتمالاً تأثیر قابل توجهی بر تعامل انسان و ماشین در زمینه های تحقیقاتی خواهد داشت.
نتیجه
FunSearch یک روش ابتکاری است که از مدلهای بزرگ زبانی (LLM) برای جستجو و یافتن راهحلهای جدید در ریاضیات و علوم کامپیوتر استفاده میکند. جزئیات این روش در یک مقاله علمی منتشر شده در مجله Nature که یکی از معتبرترین مجلات علمی است، توضیح داده شده است. FunSearch یک روش تکاملی است که ایده های با امتیاز بالا را در برنامه های کامپیوتری ترویج و توسعه می دهد. فرآیند پیاده سازی و ارزیابی این برنامه ها به صورت خودکار انجام می شود.
سیستم برخی از برنامه ها را از مجموعه فعلی انتخاب می کند و آنها را به یک LLM تغذیه می کند. FunSearch از مدل Google’s Palm 2 استفاده می کند، اما با سایر LLM هایی که از همان کد برای آموزش استفاده می کنند نیز سازگار است. این سیستم قابلیت بهبود الگوریتم های تولید را دارد که می تواند در زمینه هایی مانند بهینه سازی لجستیک و کاهش مصرف انرژی اعمال شود. این نوع فناوری نه تنها در توسعه علمی و تحقیقاتی پیشرفت می کند، بلکه می تواند اثرات مثبتی بر اقتصاد و محیط زیست نیز داشته باشد.
ارسال شده توسط DeepMind Google FunSearch را برای اولین بار در Tech Knock – اخبار دنیای فناوری معرفی می کند. ظاهر شد.
گفتگو در مورد این post