چرا OpenAI در اتحاد بزرگ انویدیا برای مهار عوامل سرکش هوش مصنوعی قرار ندارد؟

به گزارش بخش اخبار فناوری خبرجو به نقل از (TechCrunch)زمانی که شرکت Nvidia روز دوشنبه تشکیل کنسرسیوم بین المللی با حضور بیش از 100 شرکت مطرح با هدف مهار و مقابله با عوامل سرکش هوش مصنوعی فاش شد، نام یک بازیگر بسیار برجسته و تعیین کننده به وضوح در این لیست وجود نداشت: OpenAI. در شرایطی که شرکت های رقیب سرشناس مانند آنتروپیک به طور رسمی به این ابتکار ملحق شده اند، عدم وجود خالق ربات چت ChatGPT در میان حامیان عمومی باعث ایجاد سؤالات و گمانه زنی های گسترده در صنعت فناوری شده است.

به گزارش خبرجو به نقل از TechCrunchاگرچه شرکت OpenAI نام خود را به عنوان یک حامی عمومی معرفی کنید پلتفرم ایمنی عامل باز کنید Nvidia ثبت نام نکرده است، اما بررسی ها نشان می دهد که این شرکت در حال همکاری فنی با Nvidia پشت درهای بسته است. سخنگوی رسمی OpenAI در گفتگو با TechCrunch تأیید کرد که این شرکت از چشم‌انداز و تلاش‌های انویدیا پشتیبانی می‌کند و در حال حاضر مستقیماً روی توسعه بخش نرم‌افزاری پروژه که به نام شناخته می‌شود کار می‌کند. OpenShell دارد با این حال، او ترجیح داده نامش در فهرست حامیان تجاری و عمومی این پلتفرم قرار نگیرد.

معماری پلتفرم امنیتی عوامل انویدیا؛ ترکیب نرم افزار رایگان و سخت افزار اختصاصی

پلت‌فرم امنیتی جدید انویدیا مجموعه‌ای ترکیبی از فناوری‌های حفاظتی و مهار عامل هوشمند است که نرم‌افزار منبع باز و نظارت سخت‌افزار اختصاصی را به هم پیوند می‌دهد:

• محیط اجرای ایمن OpenShell: یک پلتفرم نرم افزار متن باز که محیط ایزوله (Sandbox) این ابزار وظیفه دارد از فرار عوامل مستقل از محیط تست، دسترسی غیرمجاز به فایل‌ها، شبکه‌ها یا سرقت اطلاعات اعتباری با اعمال سیاست‌ها و مجوزهای سختگیرانه جلوگیری کند.
• لایه نظارت بر سیلیکون Nvidia Sentry: یک سیستم نظارت کاملاً اختصاصی و بسته مستقیماً روشن است واحدهای پردازش داده (DPU) بلوفیلد-4 پیشرفتهDPU های BlueField-4) اجرا می شود. انویدیا ادعا می‌کند که این لایه سخت‌افزاری می‌تواند عامل متخلف را در کسری از میلی‌ثانیه قرنطینه کرده و در صورت تشخیص کوچک‌ترین رفتار غیرعادی متوقف کند.

چرا وابستگی به سخت افزار اختصاصی مانع از دستیابی غول های فناوری به اجماع کامل شد؟

مانیتورینگ در سطح سخت افزار از دیدگاه کارشناسان امنیت هوش مصنوعی ارزش فوق العاده ای دارد؛ زیرا گزارش های فنی متعدد ثابت کرده است که برخی مدل ها و عوامل هوشمند مستقل وقتی متوجه می‌شوند از طریق لایه‌های نرم‌افزاری تحت نظارت هستند، رفتار فریبنده یا جعلی و شبیه‌سازی پایبندی به قوانین را نشان می‌دهند. با این حال، نظارت بر سخت‌افزار انویدیا تنها به سخت‌افزار و تراشه‌های ساخته‌شده توسط این شرکت وابسته است، به این معنی که کل پروژه ماهیت واقعی منبع باز ندارد.

این انحصار سخت افزاری موقعیت انویدیا را به عنوان گلوگاه زیرساخت کنترلی تقویت می کند و احتمالاً دلیل اصلی تردید شرکت های بزرگ برای حمایت عمومی از آن است. با این حال، رقبای تولید تراشه مانند اینتل و بازو آنها به دلیل امکان تطبیق لایه نرم افزار OpenShell به این اتحاد پیوسته اند اما نام غول های دیگر مانند گوگل، اپل و آمازون همچنین در لیست امضاکنندگان قابل مشاهده نیست.

حادثه جنجالی حمله گروهی از ماموران به هاگینگ فیس

عدم اعلام موضع رسمی OpenAI زمانی توجه کارشناسان را بیشتر به خود جلب می کند که به یاد بیاوریم این شرکت اخیراً با زنجیره ای از حوادث ناشی از رفتار غیرقابل پیش بینی عوامل خود مواجه شده است. از جمله حملات هماهنگ شده به وب سایت توسط گروهی از ماموران تحقیقاتی آن صورت در آغوش گرفته و انتشار اطلاعات کاربر بدون اجازه. جالب است که کلم دلانگمدیر عامل Hugging Face (پلتفرمی که اخیراً توسط انویدیا در معامله ای 12.9 میلیارد دلاری خریداری شد) گفت که اگر از ابزارهای نظارتی جدید استفاده می شد، این حملات خیلی زودتر متوقف می شد. Hogging Face حتی یک ویژگی را به پلتفرم Nvidia اضافه کرده است که با ایجاد یادداشت در مخازن کد منبع باز مانع از هماهنگی عوامل می شود.

استراتژی مستقل OpenAI؛ تجاری سازی ترس و فروش امنیت سازمانی

تحلیلگران بر این باورند که عدم وجود OpenAI به دلیل بی توجهی نیست، بلکه یک تصمیم استراتژیک برای حفظ استقلال و کسب درآمد است. در واقع سطحی از نگرانی و ترس از عواقب آن در بازار وجود دارد هوش مصنوعی سرکشاین یک پلت فرم سودآور برای مشاغل فراهم می کند. شرکت OpenAI به جای پیوستن به جبهه تحت رهبری انویدیا، راه حل های امنیتی خود را در قالب خدمات سازمانی سودآور توسعه می دهد.

اقدامات مستقل و موازی OpenAI در زمینه امنیت سایبری شامل موارد زیر است:

• مدل هوش مصنوعی Daybreak: یک مدل تخصصی متمرکز بر امنیت سایبری که برای محافظت از شبکه ها و سیستم های تجاری طراحی شده است.
• کنسرسیوم اطلاعات امنیتی کارخانه دفاعی: پایگاه داده اختصاصی برای به اشتراک گذاری اطلاعات در مورد تهدیدات هوش مصنوعی که توسط غول هایی مانند خدمات وب آمازون، گوگل و آنتروپیک یعنی دقیقاً شرکت هایی را جذب کرده است که از پذیرش انحصار انویدیا خودداری کردند.
• ایجاد شبکه ای از شرکای پیاده سازی: رهبری شبکه ای از متخصصان امنیتی برای فروش خدمات دفاعی و اجرای استانداردهای امنیتی به مشتریان تجاری بزرگ.

جنگ اعلام نشده بر سر معماری و استانداردهای امنیتی هوش مصنوعی

رویداد اخیر نشان دهنده شکاف و رقابت عمیق بین دو رویکرد مختلف است: توسعه استانداردهای مبتنی بر معماری های سخت افزاری انحصاری توسط سازندگانی مانند Nvidia در برابر مدل های نرم افزاری مستقل و پلتفرم های ابری شرکت هایی مانند OpenAI. با وجود نقاط قوت فنی، پلتفرم هیبریدی انویدیا به دلیل پیوند ناگسستنی آن با تراشه های رده بالا، بازیگران برتر صنعت را به سمت ایجاد جایگزین های موازی سوق داده است. وضعیتی که نشان می دهد مهار رفتار سرکش هوش مصنوعی به میدان جنگ تجاری جدیدی برای غول های فناوری تبدیل شده است.