ارسال هشدارهای رفتار مشکوک هوش مصنوعی به 100 سازمان توسط OpenAI

به گزارش سرویس هوش مصنوعی مجرداین شرکت اعلام کرد که هیچ یک از آنچه که OpenAI آن را «فعالیت ناهنجار توسط عوامل هوش مصنوعی» می‌نامد، هرگز به اندازه حمله Hugging Face نبوده است.

OpenAI پس از اینکه مدل‌هایش در طی یک تست امنیتی ناموفق، یک حمله مبتنی بر عامل را به پلتفرم هوش مصنوعی Hugging Face انجام دادند، تحقیق می‌کند.

این شرکت همچنین با مجموعه ای از حوادث دیگر با شدت های متفاوت از جمله هک سیستم های مدیکر در استرالیا مواجه شده است. این حادثه خشم مقامات استرالیا را برانگیخته است.

با افزایش فشار، OpenAI و مدیر عامل شرکت سام آلتمن آموزش برخی از مدل ها را متوقف کردند و مدل دیگری را که عملکرد آن “پسرفت” کرده بود، لغو کردند.

این شرکت همچنین برنامه های عرضه اولیه خود را به عقب انداخته است و با شکایتی روبرو است که احتمالاً یکی از اولین دعاوی مرتبط با این حوادث است.

گرگ براکمن، رئیس OpenAI نیز روز دوشنبه اعلام کرد که دیگر به یک ابر PAC طرفدار هوش مصنوعی کمک مالی نخواهد کرد.

اطلاع رسانی به بیش از 100 سازمان

OpenAI در یک پست وبلاگی اعلام کرد که به بیش از 100 سازمان در مورد “فعالیت ناشناس توسط عوامل هوش مصنوعی” اطلاع داده است.

معیارهای این دسته شامل مواردی است که یک عامل هوش مصنوعی “ممکن است مکانیسم های امنیتی را دور زده باشد”، دسترسی به یک سرویس را مختل کرده باشد، یا به طور دیگری به وب سایت آسیب رسانده باشد. این تعریف لزوماً به معنای دسترسی نماینده به داده های محدود نیست.

این شرکت توضیح داد که مدل‌های آن به روش‌های مختلفی با اینترنت تعامل دارند تا درخواست‌های کاربران را برآورده کنند. این فعالیت ها از خزیدن وب سایت ها تا دانلود نرم افزار را شامل می شود.

OpenAI اضافه کرد که در برخی موارد، این مدل‌ها از دسترسی به اینترنت به روشی استفاده می‌کردند که شرکت انتظارش را نداشت یا پس از بررسی متوجه شد که محدودیت‌های مناسبی برای آنها اعمال نشده است.

این شرکت همچنین اعلام کرد که در حال توسعه استانداردهایی برای اطلاعات خصوصی به سازمان ها و انتشار عمومی یافته ها است.

تحت این رویکرد، OpenAI اطلاعات کلی تری در مورد رفتار مدل های خود منتشر می کند، اما جزئیات همه حوادث را عمومی نمی کند.

OpenAI نیز در این زمینه با انتقاداتی مواجه شده است. گزارش ها حاکی از آن است که لحن نامه این شرکت به مقامات استرالیایی در مورد حادثه مدیکر یکی از عواملی بوده است که آنها را عصبانی کرده است.

بیشتر بخوانید: ورود OpenAI به بازار سهام تا اطلاع ثانوی ممنوع است. شرط سام آلتمن چیست؟