محققان روشی را بر اساس مطالعه نوسانات برق ارائه کرده اند که امکان ردیابی آموزش مخفی مدل های هوش مصنوعی در مراکز داده را بدون دسترسی به سیستم های داخلی آنها فراهم می کند.
به گزارش سرویس هوش مصنوعی تکناک، نظارت بر فعالیت مراکز داده بزرگ همواره یکی از چالش برانگیزترین موضوعات در حوزه قانون گذاری فناوری های نوین بوده است. اکنون گروهی از محققان راه حلی بسیار هوشمندانه ارائه کرده اند که می تواند تحول بزرگی در این زمینه ایجاد کند. ایده اصلی این تحقیق مبتنی بر یک واقعیت فیزیکی ساده است. هر زمان که یک مرکز داده مشغول آموزش مدل‌های هوش مصنوعی سنگین است، جریان مصرف انرژی آن یک الگوی متمایز و متمایز باقی می‌گذارد. ناظران خارجی با اندازه گیری این نوسانات می توانند فعالیت های آموزشی پنهان را تشخیص دهند.
بررسی این موضوع نشان می دهد که چگونه می توان استفاده از قابلیت های هوش مصنوعی را به صورت کاملا مستقل و بدون نیاز به دسترسی مستقیم به سیستم های داخلی شرکت ها بررسی کرد. اصل فنی این روش مبتنی بر نوسانات دوره ای جریان الکتریکی است. در طول مراحل آموزش مدل های هوش مصنوعی، مراحل پردازش بسیار سنگین به طور مداوم با دوره های تبادل داده بین GPU ها تغییر می کند. این چرخه پیوسته باعث می شود مصرف برق مرکز داده با ریتم خاصی تقریباً یک بار در ثانیه نوسان کند. اگرچه این ریتم کاملاً ثابت نیست و با توجه به حجم کار و وضعیت سخت افزار تغییر می کند، اما ویژگی های خاص خود را حفظ می کند.
با استفاده از تکنیک آشکارساز Viterbi
برای ردیابی این نوسانات در شرایط متغیر، محققان از تکنیکی به نام ردیاب Viterbi استفاده کرده اند. روشی پیشرفته که قبلاً در زمینه هایی مانند پردازش سیگنال برای شناسایی الگوهای زمانی استفاده شده است. ویژگی کلیدی این فناوری استقلال کامل آن از اپراتور مرکز داده است. از آنجایی که سنسورهای اندازه گیری خارج از کنترل شرکت ها نصب می شوند، نیازی به تکیه بر گزارش های داخلی یا اظهارات مدیران در مورد محاسبات در حال انجام نیست. این رویکرد به ناظران اجازه می‌دهد تا فعالیت‌های آموزشی پنهان را جدا و شناسایی کنند، حتی زمانی که چندین مدل هوش مصنوعی به صورت موازی در حال اجرا هستند.
دقت 96 درصد در تست های شبیه سازی
آزمایش های انجام شده بر روی بارهای کاری شبیه سازی شده در مراکز داده نشان داد که این روش قادر به شناسایی حداقل 96 درصد از فرآیندهای آموزشی است. البته به شرطی که اپراتور از اقدامات پیچیده و پرهزینه برای پنهان کردن این الگوها استفاده نکند. محققان هشت استراتژی مختلف را برای پنهان کردن این نوسانات آزمایش کردند، اما اجرای این استراتژی‌ها بسیار زمان‌بر و پرهزینه ارزیابی شد. نکته قابل توجه دیگر این است که میزان خطا در این سیستم تنها حدود 1 درصد است که دقت بالای آن را تایید می کند.
بر اساس این گزارش نوت بوک را چک کنیداین دستاورد علمی به یکی از اساسی ترین مشکلات در تنظیم هوش مصنوعی پاسخ می دهد. هنگامی که نهادهای نظارتی نمی توانند به گزارش های رسمی شرکت ها اعتماد کنند، اندازه گیری پارامترهای فیزیکی مانند مصرف برق یک راه حل قابل اعتماد و شفاف ارائه می دهد. ثبت دقیق تغییرات انرژی بدون نیاز به وارد کردن نرم‌افزار یا سرورهای شرکت، مسیر جدیدی را برای نظارت دقیق‌تر بر فعالیت‌های محاسباتی جهانی برای دولت‌ها و سازمان‌های نظارتی باز می‌کند.
گفتگو در مورد این post