محدود کردن Nvidia و Palantir از استفاده از مدل‌های پیشرفته هوش مصنوعی

نگرانی های شرکت های بزرگی مانند Nvidia و Palantir در مورد حفظ اطلاعات محرمانه، استفاده از مدل های پیشرفته هوش مصنوعی را محدود کرده است..

به گزارش سرویس هوش مصنوعی مجردبرخی از مشتریان شرکت های بزرگ هوش مصنوعی، مانند Anthropic و OpenAI، به دلیل نگرانی در مورد نحوه استفاده از داده های اختصاصی آنها، محدودیت هایی را برای استفاده کارمندان از مدل های پیشرفته هوش مصنوعی اعمال کرده اند.

این شرکت ها نگران هستند که اطلاعات محرمانه و مالکیت معنوی آنها برای آموزش مدل های هوش مصنوعی مورد استفاده قرار گیرد.

افزایش نگرانی ها در مورد مالکیت معنوی در مدل های هوش مصنوعی

برخی از شرکت ها تضمین های خاصی از ارائه دهندگان هوش مصنوعی دریافت می کنند تا از نحوه مدیریت داده هایشان اطمینان حاصل کنند.

برخی دیگر استفاده از مدل های خاص را برای کارمندان یا وظایف خاص ممنوع کرده اند. در همین حال، سیاست های حفظ داده های صفر و استفاده از سرورهای ایزوله یا دارای شکاف هوا به گزینه های مهمی برای برخی از مشتریان بزرگ تبدیل شده است.

این نگرانی ها تا حدی به تغییر سیاست Entropy در ژوئن برمی گردد. آنتروپی می تواند داده های مشتری را پس از تغییر خط مشی های مدل Fable حفظ کند.

این شرکت می‌گوید که این کار را فقط برای اطمینان از عدم سوء استفاده از Fable انجام می‌دهد، اما برخی از شرکت‌ها نگران هستند که اطلاعات تجاری حساس نیز در این فرآیند جمع‌آوری شود.

OpenAI و Anthropic هر دو تاکید دارند که به طور پیش‌فرض از داده‌هایی که شرکت‌ها به مدل‌ها برای آموزش مدل‌ها ارائه می‌کنند، تحت قراردادهای سازمانی خاص استفاده نمی‌کنند.

با این حال، این همه نگرانی ها را برطرف نمی کند. هر دو شرکت ابرداده‌ها را از این مشتریان سازمانی جمع‌آوری می‌کنند و جزئیات دقیقی درباره محتوای این ابرداده به راحتی در دسترس نیست.

OpenAI بیان کرده است که این ابرداده فقط برای “درک بهتر نحوه استفاده از سرویس” استفاده می شود.

آنتروپیک همچنین می‌گوید که داده‌های مربوط به نحوه استفاده مشتریان از محصولاتش به صورت تجمیع‌شده و ناشناس جمع‌آوری می‌شود و برای آموزش مدل‌ها استفاده نمی‌شود.

با وجود این شفاف سازی ها، نگرانی ها در مورد عدم وضوح در مورد نوع داده های جمع آوری شده باقی می ماند.

بیشتر بخوانید: ساتیا نادلا خواستار کنترل انسان بر هوش مصنوعی شد

شرکت ها نگران نحوه جمع آوری داده ها هستند

بر اساس این گزارش، شرکت مخابراتی C Spire توافقاتی با OpenAI و Entropic دارد که استفاده از داده‌های این شرکت برای آموزش مدل‌ها را ممنوع می‌کند.

با این حال، این قراردادها به OpenAI و Anthropic اجازه می دهد تا داده های فنی را در مورد نحوه استفاده C Spire از خدمات جمع آوری کنند.

C Spire معتقد است که این داده ها ممکن است شامل اطلاعاتی در مورد برنامه هایی باشد که مدل های هوش مصنوعی به آنها متصل هستند و همچنین اطلاعاتی در مورد نحوه استفاده از این مدل ها.

این شرکت همچنین نگران است که شرکت‌های هوش مصنوعی بتوانند اطلاعات مربوط به فعالیت مدل‌های خود را در فاصله بین تولید پاسخ جمع‌آوری کنند.

OpenAI با بیان اینکه از داده های “زنجیره استدلال” برای آموزش مدل های خود استفاده نمی کند، پاسخ داده است. با این حال، C Spire هنوز معتقد است که باید اطلاعات بیشتری در مورد نوع داده های جمع آوری شده دریافت کند. این شرکت می گوید توضیحات هر دو شرکت هوش مصنوعی در مورد این موضوع به اندازه کافی روشن نیست.

بیشتر بخوانید: مدیر عامل Entropic: ترمز توسعه هوش مصنوعی باید برداشته شود

سرورهای ایزوله برای حفظ اطلاعات محرمانه

یکی از راه حل های ممکن برای رفع نگرانی های حفظ حریم خصوصی، استفاده از سرورهای Air-Gapped است.

شرکت هوافضا Northrop Grumman چنین رویکردی را در پیش گرفته است و به جای تکیه بر شرکت هایی مانند OpenAI و Anthropic، مدل های AI منبع باز را بر روی سرورهای ایزوله خود اجرا می کند.

مایکروسافت همچنین در تلاش است تا از نگرانی‌های مربوط به حفظ حریم خصوصی داده‌ها بهره ببرد و مشتریان OpenAI و Anthropic را به پلتفرم‌های هوش مصنوعی امن خود جذب کند.

محیط های ابری ایزوله مایکروسافت مدل های هوش مصنوعی را روی سرورهای خصوصی اجرا می کنند و هیچ داده ای را به شرکت های هوش مصنوعی خارجی ارسال نمی کنند.

البته این روش هزینه زیادی دارد و طبق گزارش، حداقل یک مشتری همچنان در حال بررسی این گزینه است.

شرکت داروسازی Novo Nordisk رویکرد متفاوتی در پیش گرفته است. این شرکت همچنان از Anthropic’s Claude برای برخی کارها استفاده می کند، اما اجازه نمی دهد هیچ گونه اطلاعات اختصاصی یا محرمانه با مدل به اشتراک گذاشته شود.

محدودیت در استفاده از Fable برای برخی از مشتریان

واضح است که کاهش اعتماد به شرکت های هوش مصنوعی می تواند عواقب مالی قابل توجهی برای آنها به همراه داشته باشد و در یک مورد، قبلاً این اتفاق افتاده است.

بر اساس همین گزارش، یک شرکت خدماتی بزرگ در آمریکا برنامه آزمایشی آنتروپیک را لغو کرده است.

این شرکت برنامه ریزی کرده بود که آزمایش کند آیا Fable می تواند زیرساخت اصلی شبکه برق خود را مدیریت کند یا خیر، اما پس از اینکه Entropic با سیاست برگشت ناپذیر “حفظ اطلاعات صفر” یا ZDR موافقت نکرد، شرکت آمریکایی تصمیم گرفت که آزمایش را ادامه ندهد.

انویدیا همچنین تصمیم گرفته است از Fable فقط برای کارهایی استفاده کند که به این مدل اجازه دسترسی به داده های حساس را نمی دهد.

این شرکت نیز عدم گارانتی ZDR را دلیل این تصمیم عنوان کرده است.

در عوض، انویدیا از راه حل هوش مصنوعی داخلی خود برای کارهایی که خیلی حساس می داند استفاده می کند.

جنسن هوانگ، مدیرعامل انویدیا، قبلا گفته بود که کارمندان این شرکت باید هر سال از توکن‌های هوش مصنوعی به ارزش نیمی از حقوق سالانه خود استفاده کنند.