عوامل هوش مصنوعی در OpenRouter پنج برابر بیشتر مردم از توکن ها استفاده می کنند و بیشتر از ۸۵ درصد این مصرف مربوط به دستورهای ذخیره شده است.
به گزارش سرویس هوش مصنوعی مجرددانیل نیومن، مدیرعامل گروه Futurum در پستی در شبکه اجتماعی X نوشت: “هوش مصنوعی اکنون پنج برابر بیشتر از انسان ها توسط هوش مصنوعی استفاده می شود.” وی پیش بینی کرده است که این نسبت به 10 برابر و سپس به سطوح بالاتر برسد.
داده هایی که نیومن ذکر می کند از نمودار Andreessen Horowitz یا a16z در مورد آمار OpenRouter است.
استفاده از عوامل شش ماه پیش از انسان پیشی گرفت و از آن زمان تا کنون شکاف را بیشتر کرده است. با این حال، اکثر توکن های مصرف شده توسط نمایندگان شامل بازیابی اطلاعاتی است که قبلاً در اختیار آنها قرار گرفته است.
بر اساس دادههای OpenRouter که توسط a16z استناد شده است، بیش از 85 درصد از توکنهای عامل از اعلانهای کش میآیند.
رشد سریع مصرف توکن عوامل هوش مصنوعی
OpenRouter خود را به عنوان یکی از پلتفرم های پیشرو برای دسترسی و مسیریابی در بین مدل های هوش مصنوعی معرفی می کند.
پیتر واکر، مدیر بینش این شرکت، نموداری از میانگین مصرف توکن در طول هفت روز ارائه کرد که مصرف را بر اساس نوع کاربر تقسیم میکند.
بر اساس این دادهها، از زمانی که مصرف عامل از انسان در ماه فوریه گذشته است، استفاده نماینده از توکنها 14 برابر افزایش یافته است، در حالی که استفاده انسانی 2.8 برابر افزایش یافته است. نمودار a16z نیز همین داده ها را نشان می دهد.
OpenRouter هر کلید API را در یکی از سه گروه عامل، ترکیبی یا انسانی با استفاده از یک امتیاز ترکیبی وزنی بر اساس هفت سیگنال قرار می دهد.
نرخ تماس ابزارها، تعداد نوبت های مکالمه و فاصله زمانی بین تعاملات از جمله معیارهای مورد استفاده در این دسته است.
گروه ترکیبی که احتمالاً شامل رفتارهایی است که ترکیبی از فعالیت عامل و انسان را شامل می شود، در مدت مشابه 4.7 برابر رشد کرده است.
بنابراین میزان برتری عوامل بر انسان بستگی به نحوه تقسیم این تردد بین گروه ها دارد.
این داده ها مقدار توکن های خرج شده را اندازه گیری می کند، نه مقدار خرج شده را. همچنین داده ها فقط برای یک پلتفرم است و روند رشد کاملاً یکنواخت نبوده است.
استفاده از توکن در آوریل و جولای کاهش یافته است. با این حال، استفاده از عوامل هوش مصنوعی در بخشهای دیگر نیز رو به افزایش است.
در بررسی وضعیت هوش مصنوعی مک کینزی در سال 2026، 40 درصد از پاسخ دهندگان از سازمان های بزرگ گفتند که استفاده از عوامل هوش مصنوعی را در مقیاس بزرگ افزایش داده اند. این رقم در سال گذشته 27 درصد بود.
بیشتر بخوانید: عوامل هوش مصنوعی مسیر دشواری برای ورود به زندگی کاربران دارند
افزایش فشار روی حافظه سخت افزاری
به گفته a16z، تقریباً تمام رشد نسبی مصرف توکن مربوط به توکن های ذخیره شده است. این توکنها بسیار ارزانتر از پردازش یک درخواست از ابتدا هستند، اما همچنان باید در حافظه ذخیره شوند.
a16z، سرمایه گذار OpenRouter، این افزایش حجم داده را به افزایش تقاضا برای حافظه با پهنای باند بالا یا HBM نسبت می دهد.
مدل های هوش مصنوعی اطلاعات ذخیره شده از مکالمات و تعاملات قبلی را در بخشی به نام KV Cache ذخیره می کنند.
بر اساس گزارش های منتشر شده، اندازه KV Cache از ظرفیت حافظه HBM پردازنده های گرافیکی فراتر رفته است.
همین الگو در گزارش های یک شرکت مشاوره مرکز تماس مشاهده می شود که DeepSeek را روی سرورهای اجاره ای مجهز به پردازنده های Nvidia H200 آزمایش کرده است.
در داده های نمایندگان شرکت با استفاده از Claude Code در سپتامبر، 96 درصد از تمام ورودی ها شامل بازپخش مکالمات قدیمی بود.
ترکیب این دادهها با آمار OpenRouter نشان میدهد که تعداد توکنها ممکن است مقدار واقعی پردازش جدید را بیش از حد نشان دهد، زیرا بخش بزرگی از آنها از اطلاعات ذخیرهشده تشکیل شدهاند.
با این حال، هزینه سخت افزاری مورد نیاز برای ذخیره این اطلاعات در حافظه هنوز واقعی و قابل توجه است.
بیشتر بخوانید: اپل دسترسی عوامل هوش مصنوعی به دیسک مک را محدود می کند
















گفتگو در مورد این post