اجرای مدل های هوش مصنوعی به صورت محلی در مرورگر اپرا

به گفته اپرا، کاربران اکنون می توانند مدل های بزرگ زبان هوش مصنوعی را به صورت محلی در مرورگر این شرکت اجرا کنند.

اپرا اعلام کرد که به کاربران این امکان را می دهد که مدل های زبان بزرگ (LLM) را به صورت محلی بر روی رایانه های خود دانلود کرده و از آنها در مرورگر شرکت استفاده کنند. این ویژگی ابتدا برای کاربران مرورگر Opera One منتشر خواهد شد که به‌روزرسانی‌های جریان توسعه‌دهنده را دریافت می‌کنند و به کاربران امکان می‌دهد از بین بیش از 150 مدل از بیش از 50 خانواده انتخاب کنند.

این مدل ها عبارتند از Meta’s Llama، Google’s Gemma و Vicuna. ویژگی ذکر شده به عنوان بخشی از برنامه کاهش هوش مصنوعی اپرا در دسترس کاربران قرار خواهد گرفت تا دسترسی زودهنگام به برخی از ویژگی های هوش مصنوعی را برای آنها فراهم کند.

اپرا اضافه کرد که از چارچوب متن باز Ollama در مرورگر خود برای اجرای این مدل ها بر روی رایانه های کاربران استفاده می کند. در حال حاضر، تمام مدل‌های موجود زیرمجموعه‌ای از کتابخانه اوللاما هستند. اما اپرا در آینده به دنبال این است که مدل هایی از منابع مختلف را در خود جای دهد.

این شرکت خاطرنشان کرد که مرورگر اپرا بیش از 2 گیگابایت فضای ذخیره سازی را در سیستم های محلی کاربران برای اجرای هر مدل اشغال می کند. بنابراین، باید مراقب فضای خالی خود باشید تا فضای ذخیره سازی خود را پر نکنید. جان استاندال، معاون اپرا در بیانیه ای گفت:

برای اولین بار، Opera دسترسی مستقیم به مجموعه بزرگی از LLM های شخص ثالث محلی را مستقیماً در مرورگر فراهم می کند. انتظار می‌رود که اندازه آنها با تخصصی‌تر شدن برای کارهای مورد نظر کوچکتر شود.

اگر قصد دارید مدل های مختلف را به صورت محلی آزمایش کنید، این ویژگی خبرجو است. با این حال، اگر به دنبال صرفه جویی در فضای ذخیره سازی هستید، ابزارهای آنلاین زیادی برای کاوش وجود دارد، مانند Quora’s Poe و HuggingChat.

اپرا از سال گذشته با ویژگی های مبتنی بر هوش مصنوعی دست و پنجه نرم کرده است. در ماه می گذشته، این شرکت دستیار صوتی آریا را در نوار کناری راه اندازی کرد و در ماه آگوست آن را در اختیار کاربران iOS قرار داد.

ژانویه امسال، اپرا اعلام کرد که در حال توسعه یک مرورگر مبتنی بر هوش مصنوعی با موتور خود برای iOS است. زیرا قوانین بازارهای دیجیتال اتحادیه اروپا (DMA) اپل را ملزم می کند که الزامات موتور WebKit را برای مرورگرهای تلفن همراه کنار بگذارد.