اپل مدل های بزرگ زبان را به گوشی ها و لپ تاپ ها می آورد

اپل در نظر دارد مدل های زبان بزرگ (LLM) را روی حافظه فلش ذخیره کند تا این فناوری را به صورت یکپارچه به تلفن ها و لپ تاپ ها برساند.

به گزارش TechNock، به منظور تسهیل دسترسی به مدل های زبان بزرگ هوش مصنوعی (LLM) در میان دستگاه های مختلف، اپل در نظر دارد از حافظه های فلش برای ذخیره این فناوری ها استفاده کند.

در شرایط عادی، LLM ها به شتاب دهنده های هوش مصنوعی و حافظه DRAM با ظرفیت بالا نیاز دارند. با این حال، بر اساس گزارش ها TechPowerUpاپل سعی دارد از این فناوری در دستگاه هایی با ظرفیت حافظه کمتر استفاده کند.

اخیراً این شرکت مقاله ای را با هدف ارائه LLM برای دستگاه هایی با حافظه محدود منتشر کرده است. با توجه به اینکه آیفون ها نیز حافظه محدودی دارند، محققان اپل روش هایی را توسعه داده اند که از تراشه های فلش برای ذخیره اطلاعات مدل های هوش مصنوعی استفاده می کنند.

با توجه به فراوانی فلش مموری در آیفون ها و کامپیوترهای مک، استفاده از تکنیکی به نام windowing می تواند محدودیت های حافظه را دور بزند. این روش به مدل هوش مصنوعی اجازه می دهد تا از داده های پردازش شده قبلی استفاده مجدد کند. این امر نیاز به استفاده مداوم از حافظه را کاهش می دهد و روند را سرعت می بخشد.

تکنیک دیگری به نام “بسته بندی ردیف-ستون” وجود دارد که داده ها را به طور موثرتر گروه بندی می کند و امکان خواندن سریعتر از حافظه فلش را فراهم می کند و همچنین سرعت درک مدل هوش مصنوعی را افزایش می دهد.

با ذخیره سازی LLM بر روی حافظه فلش NAND، اپل قصد دارد یک مدل هزینه استنتاج ایجاد کند که با ویژگی های حافظه فلش و بهینه سازی سرب در دو زمینه اصلی سازگار باشد: 1. کاهش حجم داده های منتقل شده از حافظه فلش. 2. داده ها را در بلوک های بزرگتر و متوالی بخوانید.

اپل قصد دارد به جای ذخیره وزن های مدل در DRAM از حافظه های فلش برای ذخیره وزن ها استفاده کند و تنها در صورت نیاز آنها را به DRAM منتقل کند. این رویکرد می تواند نیاز به منابع سنگین را کاهش دهد و قابلیت استفاده از LLM ها را در دستگاه هایی با حافظه محدود بهبود بخشد.

این دو تکنیک در کنار روش‌های دیگر به مدل‌های هوش مصنوعی کمک می‌کنند تا با دو برابر میزان رم موجود در آیفون کار کنند و در نتیجه در پردازنده‌های استاندارد تا 5 برابر و در پردازنده‌های گرافیکی تا 25 برابر افزایش می‌یابند.

شواهد زیادی از این واقعیت حمایت می کند که اپل به طور جدی در حال توسعه هوش مصنوعی است. این تمرکز از طریق توسعه ربات چت داخلی آن به نام Apple GPT آشکار می شود.

علاوه بر این، گمانه زنی هایی وجود دارد مبنی بر اینکه آیفون 16 که قرار است سال آینده عرضه شود، به میکروفون های پیشرفته تری مجهز شود. استفاده از این میکروفون ها باعث گران شدن آیفون 16 برای اپل می شود. اما امکان ورودی صدای بهتر را به ارمغان می آورد و برای فعال کردن سیری برای انجام مجموعه ای از وظایف ضروری خواهد بود.

گفته می شود اپل قصد دارد نوعی هوش مصنوعی پیشرفته را در نسخه iOS 18 بگنجاند. این اقدام می تواند فاصله اپل با رقبایی مانند گوگل، آمازون و OpenAI را در حوزه هوش مصنوعی به میزان قابل توجهی کاهش دهد. پیش بینی می شود در سال 2024 شاهد تغییرات مهمی در این زمینه باشیم.

آوردن این فناوری ها به دستگاه هایی مانند آیفون و آی پد و مک با حافظه محدود می تواند مزیت رقابتی منحصر به فردی را برای این محصولات ایجاد کند. با این حال، عملکرد واقعی مدل های زبان بزرگ ذخیره شده در حافظه فلش باید در عمل مشاهده و بررسی شود تا نتایج دقیق تری از ظرفیت های آنها به دست آید.

The post اپل مدل های زبان بزرگ را به گوشی ها و لپ تاپ ها می آورد اولین بار در TechNock – اخبار دنیای فناوری پدیدار شد. ظاهر شد.