تلاش مایکروسافت برای رمزگشایی مدل های هوش مصنوعی

مایکروسافت حق اختراع ابزار جدیدی را به ثبت رسانده است که برای بهبود مفهوم مدل های یادگیری عمیق مورد استفاده در تشخیص تصویر و هوش مصنوعی بصری طراحی شده است.

به گزارش TechNock، مایکروسافت برای درک بهتر فرآیندهای داخلی مدل های هوش مصنوعی به دنبال مدل هایی است که بتوانند روش های خود را برای دستیابی به نتایج توضیح دهند. این رویکرد به مقابله با سوء تفاهم ها کمک می کند و در نتیجه اعتماد کاربران را به فناوری افزایش می دهد.

برای دستیابی به این هدف، ردموندی ها به دنبال ثبت اختراع یک ابزار تشخیصی برای تشخیص شباهت مدل های یادگیری عمیق هستند. هدف فناوری مایکروسافت ارائه بینشی در مورد نحوه تصمیم گیری شبکه های عصبی، به ویژه در مدل های تشخیص تصویر و هوش مصنوعی بصری است.

مایکروسافت در پرونده ثبت اختراع خود بیان کرده است:

از آنجایی که این مدل‌ها اغلب مدل‌های یادگیری عمیق هستند (مثلاً 50 لایه) که با استفاده از مجموعه‌ای از تصاویر برچسب‌گذاری شده (برچسب‌شده) آموزش داده می‌شوند، تصمیمات مبتنی بر یادگیری ماشین عمدتاً به عنوان فرآیندهای جعبه سیاه تلقی می‌شوند. در نتیجه، تصمیمات مدل های یادگیری ماشین ممکن است بدون توضیح باقی بماند.

به نقل از وب سایت صعود روزانهسیستم مایکروسافت این بینش را با ایجاد یک نقشه برجسته یا نمایش بصری ارائه می دهد که نشان می دهد مدل هوش مصنوعی بصری چگونه تحت تاثیر داده های ورودی آن قرار می گیرد.

ابتدا شبکه عصبی طبقه بندی تصویر وظیفه خود را برای شناسایی و دسته بندی عناصر موجود در تصویر انجام می دهد. پس از انجام این کار، ابزار مایکروسافت وارد عمل شده و نقشه فعال سازی را برای هر لایه از شبکه عصبی تعیین می کند. این نقشه فعال سازی مشخص می کند که کدام مناطق خاص از تصویر نورون های خاصی را در لایه شبکه عصبی فعال کرده اند.

سپس این ابزار یک نقشه گرادیان برای آن لایه ایجاد می کند، که از گرادیان ها برای نشان دادن حساسیت مدل به قسمت های مختلف تصویر استفاده می کند. با ترکیب این دو نقشه، سیستم یک نقشه برجسته تولید می کند که تجزیه و تحلیل می کند که کدام بخش از تصویر بر نحوه تصمیم گیری مدل برای طبقه بندی یا شناسایی آن تأثیر می گذارد.

به عنوان مثال، اگر تصویر ورودی عکسی از یک اردک در حوضچه باشد که توسط مدل به عنوان تصویر پرنده طبقه بندی شده است، نقشه برآمدگی ممکن است به صورت یک شکل دایره ای شیب دار به طور خاص در اطراف اردک ظاهر شود و هر چیز دیگری را در تصویر محو کند.

یافتن راه‌هایی برای توضیح عملکرد مدل‌های هوش مصنوعی می‌تواند برای کشف زمانی که مدل‌ها پاسخ‌های اشتباه می‌دهند یا سوگیری‌ها را بازتولید می‌کنند، حیاتی باشد. با اجرای مکانیسم‌هایی که به هوش مصنوعی اجازه می‌دهد کار خود را انجام دهد، چنین فناوری‌هایی می‌توانند به توسعه‌دهندگان کمک کنند تا به سرعت مشکلات را شناسایی کرده و مدل‌هایی را برای رفع آن‌ها دوباره آموزش دهند. از آنجایی که پتنت جدید مایکروسافت به طور خاص بر روی مدل های بصری تمرکز دارد، به توسعه دهندگان کمک می کند تا تشخیص چهره و بینایی رایانه را دقیق تر کنند.

پتنت مایکروسافت تنها یکی از چندین پتنت در ماه های اخیر است که هدف آن رمزگشایی از آنچه در داخل مدل هوش مصنوعی می گذرد. اوراکل به دنبال ثبت اختراعی برای بینش های قابل درک برای انسان برای شبکه های عصبی است و اینتل به دنبال ثبت اختراعی برای ردیابی و توضیح سوء استفاده از هوش مصنوعی است. در همین حال، حتی بوئینگ نیز برای ثبت اختراع هوش مصنوعی توضیحی در ساخت و ساز درخواست داده است. همه این موارد موضوع اصلی یکسانی را در بخش‌ها منتقل می‌کنند: مردم معمولاً به هوش مصنوعی اعتماد ندارند.

بر اساس یک نظرسنجی جهانی از 17000 نفر در مورد اعتماد به هوش مصنوعی از KPMG، بیش از 60 درصد از شرکت‌کنندگان در مورد اعتماد به مدل‌های هوش مصنوعی محتاط بودند و حدود 75 درصد گفتند که اگر تدابیر و نظارت مناسب وجود داشته باشد، بیشتر به سیستم‌های هوش مصنوعی اعتماد خواهند کرد. توسعه و پیاده سازی ابزارهای تشخیصی بیشتر برای مدل های هوش مصنوعی می تواند به ایجاد این اعتماد کمک کند.

علاوه بر این، در حالی که پتنت بر روی هوش مصنوعی بصری تمرکز دارد، توضیح می تواند مربوط به مایکروسافت باشد. زیرا شرکت و OpenAI در یک نبرد قانونی با نیویورک تایمز بر سر نقض حق نسخه‌برداری قرار گرفته‌اند و ادعا می‌کنند که این شرکت‌ها از مقالات این نشریه برای آموزش مدل‌های زبان بزرگ پشت ChatGPT و Copilot استفاده کرده‌اند.

پست تلاش مایکروسافت برای رمزگشایی از مدل های هوش مصنوعی اولین بار در خبرجو – اخبار دنیای فناوری پدیدار شد. ظاهر شد.